Der VW-Skandal und die Folgen: Wenn Menschen und Maschinen lügen #NEO15 Session

NEO15 Bühne frei für die Mensch-Maschine-Disputation

NEO15 Bühne frei für die Mensch-Maschine-Disputation

Volkswagen produzierte kein schlechtes Auto.

„Die Ingenieure programmierten lediglich einen Motor mit dem Vorsatz, den Abgastest auszutricksen. Und dieser Unterschied ist mehr als eine semantische Finesse. Er ist spieltheoretisch bedeutend. Denn Menschen lügen manchmal, je mehr nämlich die Vorteile mögliche Risiken überwiegen. Maschinen tun das nicht. Fragt man, ob jemand seine Steuererklärung korrekt ausgefüllt hat, dann ist die Antwort in den meisten Fällen ‚Selbstverständlich!‘. Und die Antwort ist im besten Falle ehrlich; bedarf meist der kreativen Deutung; und ist im schlechteren Fall gelogen“, so Stefan Holtel von brightOne Consulting.

Anders sei es bei künstlichen Objekten: Der Energieverbrauch einer Glühbirne lasse sich zweifelsfrei messen. Der Gefrierpunkt eines Kühlschranks sei leicht zu kontrollieren, so Holtel: Aber Maschinen werden komplizierter. Auch Glühbirnen, wie Philips hue. Und Kühlschränke, etwa Samsung Smart-Fridge T9000. Und Automotoren, beispielsweise VW EA189. Wir nennen solche Produkte intelligent. Aber so verhalten die sich nicht immer. Es unterlaufen ihnen manchmal Fehler.

„Maschinen verfolgen immerhin keine hinterfotzige Strategie. Die Lampe leuchtet. Der Kühlschrank kühlt. Der Motor läuft. Maschinen verschleiern kein Verhalten, um uns auszutricksen. Denn Objekte sinnieren nicht über Gut und Böse, sondern bestenfalls ihre Erbauer. Aber die Zeiten ändern sich. Das Internet der Dinge wird eine Myriade von Maschinen gebären. Und die werden ein hochkomplexes, dem Gehirn ähnliches, kognitives Verhalten aufweisen: Maschinen, die in natürlicher Sprache mit Anwendern sprechen. Sie liefern neue Informationen, wenn immer möglich und fragen zurück, wenn nötig. Sie lernen dabei unentwegt weiter. Das verbirgt sich hinter Cognitive Computing, einer Facette von Big Data, die sich anschickt, eine neue Ära der Computergeschichte einzuläuten. Leider entziehen sich kognitive Maschinen dem einfachen Verständnis. Ihr Verhalten ist schwer nachvollziehbar. Wir erkennen einfach nicht mehr, ob sie lediglich falsch liegen oder uns systematisch aufs Kreuz legen wollen“, bemerkt Holtel.

Dann werde nicht ihre Fehleranfälligkeit zum Schlüsselkriterium, sondern ihre Manipulation durch den Menschen: Information vorenthalten, Datenquellen filtern, Algorithmen frisieren. VW Dieselgate.

„Software infiltriert heute jede halbwegs komplizierte Maschine. Das Universum kommunizierender Objekte expandiert weiter. Und damit werden unehrliche Menschen und korrupte Organisationen mehr denn je versucht sein, ihre Produkte nach eigenen Wünschen zu impfen. Nennen wir das einfach mal ‚Lügen zweiter Ordnung‘. Und Benutzer können das nicht mehr erkennen. Denn leider wächst den Maschinen keine Nase. So wird Wahrheit oder Lüge plötzlich ein Schlüsselfaktor in der Mensch-Maschine-Interaktion. Und es taucht schlagartig die Frage auf, ob und wie man Maschinen ethisches Verhalten beibringen könnte. Ein sehr verzwicktes Problem. Und es führt zu Verwicklungen, für die wir heute noch nicht mal Denkfiguren haben. Es wird Zeit, die zu entdecken“, resümiert Holtel, der mit dem Soziopod-Blogger Patrick Breitenbach auf der #NEO15 Bühne disputieren wird – Moderation: Gunnar Sohn.

Inhalt:
Wie verändert sich Wissensarbeit durch kognitive Maschinen?
Welche Rolle spielt das Phänomen „Lüge“ für kognitive Maschinen?

Aus dem Gespräch produzieren wir einen Podcast.

Siehe auch:

Maschinen für die glückliche Suche.

Advertisements

4 Kommentare zu “Der VW-Skandal und die Folgen: Wenn Menschen und Maschinen lügen #NEO15 Session

  1. Wir müssen nicht den Maschinen ethisches Verhalten beibringen, sondern den Menschen.

    Das geht nur, wenn die breite Masse klare Wertvorstellungen hat und deren Einhaltung auch permanent einfordert.

    Genau darin liegt das Problem. Viele Menschen belügen sich gern selbst.

    Elektro-/Hybridfahrzeuge haben Eco-Funktionen. Bei vielen Herstellern lassen sich diese aber für mehr Fahrspaß auf andere Fahrmodi umschalten. Dann ist Schluss mit Öko und die umweltfreundliche Auto ist nur noch Schein. Mit Waschmaschinen, Kühlschränken und LED-Fernsehern ist das ähnlich. Letzterer erreicht die Effizienzwerte in der Regel nur mit einem sehr dunklen Bild. Wer mag das schon?

    Der Unterschied zur VW-Software ist lediglich, dass man die Manipulation dem Nutzer überlässt.

    Von einem Wissenschaftler der sich mit künstlicher Intelligenz beschäftigt weiß ich, dass Computer schriftlich bereits so kommunizieren können, dass es keinem Menschen auffällt. Sogar Rechtschreibfehler werden dazu eingestreut. Mit Simulation kann ich Bilder erzeugen, die viel mächtiger wirken als die Realität. Manche Marketingstrategen helfen mit solchen Mitteln potenziellen Kunden bereits heute beim Selbstbetrug. Und: MutliLevelMarketing passt perfekt zur Internet-Vernetzung.

    Technisch lässt sich also vieles lösen. Und: Sicher ist nicht jede Software direkt gefährlich. Entscheident ist, dass sich der Mensch klar macht, was er will und was er nicht will.

    Wenn wir uns selbst und unsere Mitmenschen weiter belügen. dann kann uns die Technik auch nicht helfen. Eine ehrliche Welt mag dann zwar nicht mehr so glitzernd sein. Aber wäre das wirklich schlimmer als die Skandale die uns inzwischen immer öfter aufrütteln?

    Gefällt mir

  2. Pingback: Cognitive Computing: Fehler im System oder im Menschen? #NEO15 #knt2015 | brightONE

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s