Montag, 6. November 2017

Hände weg vom Steuer! Warum uns der Umstieg auf das autonome Fahren so schwer fällt

Industriepolitisch scheint das autonome Fahren bereits beschlossene Sache. Doch bei vielen Verbrauchern ruft die Idee nach wie vor Skepsis hervor. Zeit für eine kleine psychologische Spurensuche.

Das Versprechen der Industrie ist riesig: praktisch keine Verkehrsunfälle mehr, weniger Staus und ein nie da gewesener Komfort bei langen Reisen mit dem Auto. Wer kann da schon nein sagen? Die Antwort: Der Verbraucher.

Laut einer aktuellen Studie der Bertelsmann Stiftung misstrauen zwei von drei Deutschen selbstfahrenden Autos. 61 Prozent der Befragten können sich nicht vorstellen, ein selbstfahrendes Auto zu nutzen. Als Gründe für das Misstrauen nennen 84 % „Angst vor Unfällen, fehlerhafter Technik“, 83 % „Verlust der Kontrolle über das eigene Auto“ und 74 % „Fremdkontrolle des Fahrzeugs durch Hackerangriffe“. 62 % beklagen „fehlenden Spaß am Fahren“.

Ausschlaggebend für das fehlende Vertrauen ist laut einer Studie aus dem Jahr 2016 („Autonomes Fahren in Deutschland - wie Kunden überzeugt werden“) der Unternehmensberatung Deloitte auch, dass derzeit noch die unmittelbare Nähe zur Technologie fehlt: 68 % der Befragten gaben damals an, eher autonome Fahrzeuge nutzen zu wollen, „wenn mir die autonomen Funktionen unter realen Bedingungen vorgeführt werden (z. B. im Rahmen einer Probefahrt)“.

Zweifel an der Maschinenethik
Im Zentrum der aktuellen Debatte um das autonome Fahren stehen seit langem die sog. Dilemma-Situationen, wie sie durch das viel zitierte Trolley-Problem exemplifiziert werden. Lässt sich im Notfall der „Wert“ von Menschen gegeneinander „aufrechnen“? Und auf welcher Datengrundlage soll sich eine Maschine wann wie entscheiden? In ihrem jüngsten Bericht (Juni 2017) bietet die Ethik-Kommission des Bundesministeriums für Verkehr und digitale Infrastruktur eine praktische Lösung dieses doch eher theoretischen Problems an - wenn auch mit Vorbehalt: eine Technik müsse so ausgelegt werden, „dass kritische Situationen gar nicht erst entstehen“. Wenn aber, dann seien diese „nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar. Technische Systeme müssen auf Unfallvermeidung ausgelegt werden, sind aber auf eine komplexe oder intuitive Unfallfolgenabschätzung nicht so normierbar, dass sie die Entscheidung eines sittlich, urteilsfähigen, verantwortlichen Fahrzeugführers ersetzen oder vorwegnehmen könnten.“ Das Unbehagen bleibt also.

Schwierige Einführung
In der Praxis verläuft die sukzessive Übertragung der Verantwortung vom Menschen auf die Maschine derweil holprig. Mit dem Tesla S ist das erste Fahrzeug mit „hochautomatisierter“ Fahrweise auf dem Markt, d. h. der Fahrer muss das System im spezifischen Anwendungsfall (in der Regel beim Fahren auf der Autobahn) zwar nicht dauerhaft überwachen, aber in der Lage sein, nach einer kurzen Übergangsfrist das Fahrzeug zu übernehmen, wenn das System selbst zu keiner zuverlässigen Entscheidung kommt (und dies auch selbst erkennt). Von einer tiefenentspannten Autofahrt, während der sich ein Buch lesen oder gar ein Nickerchen machen lässt, kann also noch keine Rede sein.

In dieser „Übernahmesituation“ sehen die Verfasser des Positionspapiers „Hochautomatisiertes oder autonomes Fahren als wünschenswerte Zukunftsvision?“ der Deutschen Gesellschaft für Verkehrspsychologie (DGVP) eine beträchtliche Gefahr:

„Das hochautomatisierte und autonome Fahren stellen den klassischen Fall der ‚Überforderung durch Unterforderung’ dar: Der Fahrer wird im Normalbetrieb eliminiert, er soll im kritischen Fall bei Überforderung des Systems aber schnell übernehmen, also Expertenentscheidungen treffen.“ [Anm. d. Verfassers: für das autonome Fahren ist per definitionem eigentlich kein Eingreifen des Fahrers mehr erforderlich]

Soll heißen: Der Fahrer muss im Notfall in Sekundenbruchteilen seine volle Aufmerksamkeit wiedererlangen und blitzschnell über eine potenziell gefährliche Situation im Straßenverkehr entscheiden können, während er vielleicht vorher stundenlang vor sich hingedöst hat.

Auch die „informellen Normen“ der Interaktion zwischen den Verkehrsteilnehmern würden von den autonomen Fahrzeugen nicht abgebildet, z. B. ein freiwilliges Verzichten auf die Vorfahrt, das ggf. über den reinen Blickkontakt oder durch Winken zwischen zwei Fahrern vereinbart wird. Man kann sich die Komik solcher Situationen im Alltag sehr gut vorstellen: Der missmutig in seinem Handschuhfach kramende LKW-Fahrer signalisiert mit einer Handbewegung „Fahr doch!“, doch das eigene autonome Auto will sich partout nicht von der Stelle bewegen, weil das System z. B. aufgrund des zu geringen Fahrzeugabstands die Situation falsch einschätzt.

Bernhard Schlag, Professor für Verkehrspsychologie an der TU Dresden, betont in seinem Fachartikel „Automatisiertes Fahren im Straßenverkehr - Offene Fragen aus Sicht der Psychologie“ die intuitiven Fähigkeiten des menschlichen Fahrers im Rahmen der Entscheidungsfindung, insbesondere seine „heuristischen“ Fähigkeiten zur Prognose, „Perspektivenübernahme“ und „Gefahrenantizipation“. Einer Maschine traut er diese Qualitäten zum jetzigen Zeitpunkt nicht zu.

Ich geb Gas, ich will …?
Sowohl in der Bertelsmannstudie als auch im Positionspapier der DGVP werden zudem kulturelle Bedenken gegen das autonome Fahren ins Feld geführt. Der Fahrspaß ginge verloren, heißt es. Verkommt die von einem großen deutschen Autohersteller seit Jahren medial inszenierte „Freude am Fahren“ mit dem autonomen Fahrzeug jetzt tatsächlich zur individualisierten Variante eines Ausflugs mit dem öffentlichen Nahverkehr? Die Deutsche Bahn hat sich in einem Werbespot schon einmal vorsorglich über diesen drohenden Umstand mokiert. Die eigentlich zu stellende Frage dahinter lautet jedoch: was erwarten die Menschen heute von einem Auto?

Laut einer repräsentativen Umfrage der Unternehmensberatung Ernst and Young unter 1000 Verbrauchern (September 2017) bedeutet für 85 % der Verbraucher in Deutschland Autofahren „vor allem flexibel von Ort zu Ort zu kommen.“ Vor vier Jahren habe der Anteil der Pragmatiker noch bei 70 % gelegen. Die Nützlichkeitserwägungen sind also auf dem Vormarsch. Uneingeschränkte Mobilität genieße aber nach wie vor höchste Priorität und auch das eigene Auto sei den Verbrauchern sehr wichtig.

Laut der Ethik-Kommission des Bundesministeriums für Verkehr und digitale Infrastruktur geht es beim Thema Fahrspaß mit dem autonomen Auto vor allem um die Abwägung zwischen „Privatautonomie“ und einer mehr oder weniger zentral gesteuerten (Voll-)Automatisierung des Straßenverkehrs.

„Ausdruck der Autonomie des Menschen ist es, auch objektiv unvernünftige Entscheidungen wie eine aggressivere Fahrhaltung oder ein Überschreiten der Richtgeschwindigkeit zu treffen. Dabei würde es dem Leitbild des mündigen Bürgers widersprechen, würde der Staat weite Teile des Lebens zum vermeintlichen Wohle des Bürgers unentrinnbar durchnormieren und abweichendes Verhalten sozialtechnisch bereits im Ansatz unterbinden wollen.“

Auch einer staatlich auferlegten Pflicht zum vollautomatisierten Fahren im Sinne der Verkehrssicherheit erteilt die Ethik-Kommission eine Absage, sie fürchtet einen „Paternalisierungsschub“ durch eine umfassende automatisiert-vernetzte Verkehrslenkung: „Eine verpflichtende Einführung solcher Systeme würde den Menschen im Rahmen seiner Entfaltungsmöglichkeiten (auch unter dem Aspekt Fahrgenuss) stark einschränken. Eine verpflichtende Einführung autonomer Systeme kann nicht alleine durch die allgemeine Erhöhung der Sicherheit von vollautomatisierten Systemen gerechtfertigt werden.“

Wird sich das autonome Fahren also durchsetzen? Alles eine Frage der Vernunft.

Montag, 18. September 2017

Digitale Souveränität - wie soll das funktionieren?

Heiko Mass erhöht den Druck auf die digitalen Großkonzerne. Nach dem Netzwerkdurchsetzungsgesetz will der Justizminister jetzt an die Algorithmen ran. Auftakt zu einer neuen Ära der digitalen Souveränität für den Verbraucher?

Wenn es nach Heiko Maas geht, ist das Netzwerkdurchsetzungsgesetz erst der Anfang. Im Mittelpunkt des Gesetzes stehen „Hasskriminalität“ und Falschmeldungen, die sog. Fake-News. Erklärtes Ziel ist die sofortige Löschung „offensichtlich rechtswidriger Inhalte“, die einen konkreten Straftatbestand des Strafgesetzbuchs erfüllen, z. B. Volksverhetzung, Beleidigung, Verleumdung oder Störung des öffentlichen Friedens. Facebook hat in Deutschland für diesen Zweck inzwischen zwei Löschteams eingerichtet. Ein dezidierter Ansprechpartner („Zustellungsbevollmächtiger“) soll die Kooperation mit den Strafverfolgungsbehörden sicherstellen.

Das Netzwerkdurchsetzungsgesetz ist auch - oder vor allem - ein politisches Signal: Die Schonfrist für die großen Internetkonzerne ist vorbei. Nachdem die freiwilligen Selbstverpflichtungen der Konzerne nicht gefruchtet haben, ist der deutsche Staat jetzt zu drastischen regulatorischen Eingriffen in die Geschäftsmodelle bereit.

In vielen Punkten hat das sog. NetzDG harsche Kritik auf sich gezogen, wurde als Zensurinstrument bewertet, mit dem die Rechtsdurchsetzung privatisiert und die Meinungsfreiheit letztlich eingeschränkt werde statt sie zu schützen. Ungeachtet dessen hat der Bundestag das Gesetz in seiner 3. Fassung am 05.04.2017 beschlossen.

Und Heiko Maas hat bereits weitere Schritte angekündigt: mit einer neuen „Digitalagentur“ sollen die Internetkonzerne verpflichtet werden, ihre Algorithmen offenzulegen. Auf diese Weise soll das Datenschutz-Grundrecht der informationellen Selbstbestimmung gestärkt werden. „Ein Transparenzgebot für Algorithmen wäre hilfreich, damit Nutzerinnen und Nutzer verlässlich einschätzen können, ob das Netz versucht, sie zu beeinflussen, und damit sie selbstbestimmt entscheiden können, welche Filter und Personalisierungen sie in der digitalen Welt akzeptieren wollen und welche nicht“, so Heiko Maas in einer Rede am 3. Juli 2017 im Rahmen der Konferenz „Digitales Leben – Vernetzt. Vermessen. Verkauft? – #Werte #Algorithmen #IoT“.

Datenverwertungsmaschinen
„Move fast and break things“, das Mantra das Facebook-Gründers Mark Zuckerberg tangiert insbesondere auch den Datenschutz im digitalen Zeitalter. Die Geschäftsmodelle der Internetkonzerne stehen zu wichtigen Grundsätzen „alter“ Datenschutzgrundsätze wie „Datensparsamkeit“ und einer „zweckgebundenen“ Datenerhebung und -auswertung im direkten Widerspruch. Wir haben uns längst daran gewöhnt, im großen Stil personenbezogene Daten gegen digitale Dienstleistungen einzutauschen. Doch was mit unseren Daten danach geschieht, das wissen wir nicht. Zwar geben die Datenschutzbestimmungen der Konzerne prinzipiell Auskunft darüber, welche Daten wann und zu welchem Zweck erhoben werden, doch welche „Erkenntnisse“ daraus wirklich abgeleitet werden (können), das bleibt dem Benutzer verborgen. Die Folgen dieser stillschweigenden Weiterverarbeitung muten uns bisweilen unheimlich an, beispielsweise wenn uns Google eine App zur Hochzeitsplanung vorschlägt, bevor wir wenige Tage später selbst von dem Ereignis aus unserem nächsten Bekanntenkreis erfahren. Aber vielleicht ist das ja auch alles nur purer Zufall.

Vom (bescheidenen) Recht auf Auskunft
Wer die über ihn gespeicherten Informationen einsehen will, der kann sich bei Google und Facebook eine Kopie der über die eigene Person gespeicherten Daten herunterladen. Dabei handelt es sich zum Großteil um jene Daten, die im Rahmen einzelner Dienste erhoben wurden, und die als Archiv zur Verfügung stehen oder in einer Gesamtübersicht (Dashboard) eingesehen und (punktuell) bearbeitet werden können.

Doch wie eklatant die Lücke zwischen der freiwilligen Informationsbereitstellung durch die Konzerne und den juristischen Vorgaben nach dem Bundesdatenschutzgesetz (BDSG) mitunter ausfällt, zeigt ein Blick in den Hilfebereich von Facebook. In einer langen Tabelle werden Informationen aufgeführt, die für den Benutzer angeblich bereitstehen, darunter z. B. auch die prekären Gesichtserkennungsdaten oder Details zu den gespeicherten aktiven Sitzungen, einschließlich Datum, Uhrzeit, IP-Adresse, Cookies und Browserinformationen. Im heruntergeladenen Archiv findet sich davon rein gar nichts.

Wer von seinem Auskunftsrecht nach § 34 BDSG Gebraucht macht, bekommt - in der Regel - eine CD mit den entsprechenden Daten zugesendet. Doch auch eine solche CD enthält - das hat die Vergangenheit gezeigt - mitunter nicht alle juristisch relevanten Datensätze. Auch spezifische Anfragen blocken die Unternehmen kategorisch ab, wohl um der Vielzahl drohender Auskunftsersuche zu entgehen: Support-Ansprechpartner oder ein Kontaktformular sucht man vergebens.

Neue Regeln, neue Begriffe
Die Suche nach neuen Lösungen für mehr digitale Souveränität ist auch eine Suche nach neuen Begrifflichkeiten. Viele alte Konzepte der Rechtssprechung und die Begriffe, auf denen sie beruhen, haben im virtuellen Raum ausgedient. So haben Facebook und Twitter mit ihren Plattformen z. B. ganz neue Formen von Öffentlichkeit geschaffen, die die klassische Einteilung der Persönlichkeitssphären in Öffentlichkeitssphäre, Sozialsphäre, Privatsphäre und Intimsphäre untergraben. Diese Unterscheidungen galten aber jahrzehntelang als begriffliche Grundlage für Entscheidungen über die Verletzung von Persönlichkeitsrechten. Politik und Gesetzgeber kommen bei der Regulierung in der Regel nicht hinterher. Auch die Konzerne wissen das und preschen mitunter bewusst mit sehr hohem Tempo voran, wie der Internettheoretiker Evgeny Morozov in einem Artikel für die Süddeutsche Zeitung feststellt: „IT-Unternehmen können schnell neue Regularien umgehen, indem sie ganz einfach neue Techniken entwickeln, auf die sich die passgenaue Rechtslage nicht mehr anwenden lässt.“

Vom Datenschutz zur Datensouveränität, oder: ein Datenrucksack muss her!
Der Rechts- und Politikwissenschaftler Viktor Mayer-Schönberger hat im Rahmen der Debatte um die EU-Datenschutzreform ein „Recht auf Vergessenwerden“ gefordert, eine Art digitaler Radiergummi für Verbraucherdaten. Zwar wurde das geforderte Prinzip nicht Eins zu Eins übernommen, immerhin aber in Form eines erweiterten Rechts auf Löschung indirekt im europäischen Datenschutzrecht kodifiziert (Art. 17 EU-DSGVO). Der neue Passus rückt vor allem den Aspekt der „Zweckbindung“ der Erhebung und Auswertung von Daten in den Vordergrund.

Neu hinzugekommen ist im Rahmen der EU-Datenschutzreform auch das „Recht auf Datenportabilität“ (§ 20 DSGVO). Das Recht erlaubt dem Verbraucher die Mitnahme der eigenen Daten zu anderen Diensten und soll so zu mehr Transparenz und Wahlfreiheit im Umgang mit persönlichen Daten führen. An diese Idee anknüpfend wird im Gutachten des Sachverständigenrats für Verbraucherfragen des Bundesministeriums der Justiz und für Verbraucherschutz auch die Einrichtung eines zentralen Datenportals gefordert, in dem die Daten der verschiedenen Plattformen und Dienste zusammenlaufen sollen und dort vom Verbraucher jederzeit transparent verwaltet werden können. Hier könnte sich der Verbraucher z. B. auch dafür entscheiden, ob er oder sie einen Teil der Daten für wissenschaftliche Zwecke spenden möchte. So erhält der Benutzer auch ein Gefühl für den Wert seiner Daten - schließlich geben wir in der analogen Welt ja auch nicht 20 € für eine halbvergammelte Banane aus. Ein solches Portal könnte zu einem neuen Gleichgewicht zwischen den Interessen von Verbrauchern und Internetkonzernen führen.

Montag, 23. Januar 2017

//KI, Basics

Im KI-Trainingslager

Sie heißen „Project Malmo“ (Microsoft), „DeepMind Lab“ (Google) oder „OpenAI Gym“ (Elon Musk). In frei zugänglichen Entwicklungsumgebungen lernen KIs selbstständig, komplexe Aufgaben zu lösen.

Es ist der nächste logische Schritt in der KI-Forschung - und alle sollen dabei zusehen und vor allem selbst daran mitarbeiten. KIs sollen in Zukunft nicht mehr nur hochspezialisierte Aufgaben wie die Erkennung spezifischer Strukturen und Muster übernehmen, sondern bald auch über ein höheres Maß an allgemeiner Intelligenz verfügen. Der Vorteil dieser Methode: die KI lässt sich breiter einsetzen und auch kleinere Unternehmen, die nicht über derart riesige Datenbestände wie Google oder Facebook für das Trainieren neuronaler Netze verfügen, könnten so auf das Know-how ausgefeilter KI-Systeme zugreifen.

Dem „biologischen Lernen“ eines Kindes in der echten Welt nachempfunden entwickelt beim sog. „unüberwachten Lernen“ ein „Agent“ durch die Verarbeitung der Reize in einer virtuellen Umgebung (Beispiele: 1, 2, 3) ein Wirklichkeitsmodell seines Umfelds. Anhand der Bewertung der Handlungen und der daraus folgenden „Zustände“ des Agenten im Hinblick auf ein vorformuliertes Ziel lernt dieser, welcher seiner Aktionen Sinn ergeben und welche nicht. Als Lernstrategie setzen die Entwickler derzeit meist auf das Prinzip des „bestärkenden Lernens“, ein Anreizsystem, das auf Belohnung und Bestrafung basiert und mit dem eine KI befähigt wird, nach dem Trial & Error-Prinzip selbst herauszufinden, wie es eine Aufgabe möglichst effektiv meistert. Im Rahmen dieses Prozesses wird die mathematische Modellierung des Agenten sukzessive verfeinert, d. h. der Agent wird so über eine bestimmte Zeitspanne hinweg immer „schlauer“ und erreicht sein Ziel damit effizienter.

Mit dieser (generalistischen) KI-Methodik kann eine viel größere Anzahl von (nichtlinearen) Prozessen intelligent automatisiert werden. Dabei kann es sich um die Kontrolle eines Roboters oder auch die Steuerung eines Flugzeugs handeln. Für den Anfang geht es aber noch darum, den schnellsten Weg zur Melone zur finden.