13 KI und Verantwortung

Wir haben im Laufe des Kurses eine Reihe von KI-Techniken kennengelernt. Abschließend wollen wir überlegen, welche Auswirkungen KI heute schon hat und in der Zukunft eventuell noch haben kann. Zum Warmmachen und als Wiederholung schauen wir noch einmal auf die Chancen und Risiken, die sich durch KI ergeben können.

Auf der Risikoseite finden wir unterschiedliche Wirkungen, die ethische Fragen berühren und Fragen nach dem verantwortlichen Einsatz von KI aufwerfen.

Aus der Science Fiction kennen wir die Roboter-Gesetze von Isaac Asimov. Glaubst du, dass diese ausreichen würden, um für die Sicherheit von KI zu sorgen? Die Asimov’schen Gesetze lauten:

KI und Sicherheit – Wer überwacht die Maschinen?

Beispiel: In einem Krankenhaus berechnet eine Optimierungs-KI automatisch die Kosten für Operationen und Intensiv-Patienten. Die Maschine soll die Kosten möglichst niedrig halten und dem Krankenhaus möglichst viel Umsatz einbringen. Welche ethischen Probleme können daraus entstehen und wie kann man diese beheben?

KI und Verantwortung – Wer ist verantwortlich für die Entscheidungen der Maschinen?

Beispiel: Ein selbstfahrendes Auto überfährt eine Radfahrerin. Quelle: https://www.welt.de/wirtschaft/article203121966/Autonomes-Fahren-0-2-Sekunden-vor-dem-toedlichen-Aufprall-reagierte-das-Uber-Auto.html

Lies den Artikel und überlege, wer wo welche Verantwortung hat. 

KI, Ziele und Werte – Wer bestimmt die Ziele und Werte von KI?

Beispiel: Eine Stadt in den USA hat eine Vorhersage-KI entwickelt, durch die Kriminalität reduziert werden soll. Diese Verfahren nennt man Predictive Policing. Die KI wird darauf hin trainiert, dass möglichst viele Gesetzesübertretungen geahndet werden und sie konzentriert sich auf die Stadtviertel, in denen die meisten Fälle auftreten. Mit einer Vorhersage-Software soll aus dem Verhalten der Vergangenheit vorhergesagt werden, wo die nächsten Straftaten stattfinden werden. In diese Gegenden werden dann besonders viele Polizisten geschickt. Nach einem Jahr ist die Zahl der Überfälle um 20 Prozent gesunken. Allerdings beschweren sich nun Bürgerrechtsgruppen, dass hauptsächlich Migranten oder Gruppen einer bestimmten Hautfarbe von der Polizei kontrolliert werden.

Was ist hier schiefgelaufen und wie kann man das beheben? Um diesen Aspekt zu vertiefen, ist es empfehlenswert, den Film „Pre-Crime“ anzusehen: Trailer Pre-Crime

KI und Macht – Wie kann mit Maschinen Macht ausgeübt werden und wie kontrolliert man diese?

Beispiel: Im Wahlkampf analysiert eine KI die Ängste von mehreren Millionen Facebook-Nutzern und schickt jedem Nutzer eine individuelle E-Mail, die genau diese Angst formuliert und mit einer bestimmten Partei in Zusammenhang bringt. Wäre so etwas möglich? Wie könnte man so etwas verhindern?

Lies dazu folgenden Beitrag und versuche zu verstehen, was dort passiert ist: https://netzpolitik.org/2018/cambridge-analytica-was-wir-ueber-das-groesste-datenleck-in-der-geschichte-von-facebook-wissen/

Wenn du wenig Zeit hast, dann lies im obigen Beitrag erst einmal nur Abschnitt 4 und 5, um das Prinzip der Manipulation zu verstehen.

Generelle Perspektiven eines verantwortlichen Umgangs mit KI

Eine der wichtigsten Fähigkeiten, die wir brauchen, um einen verantwortlichen Einsatz von KI zu erreichen, ist das Wissen, wie KI technisch funktioniert. Dafür haben wir uns in diesem Kurs die wichtigsten Techniken der KI angesehen. Wenn ein Algorithmus uns demnächst das vorschlägt, was wir sowieso gerade tun wollten, brauchen wir keine Verschwörungstheorien bemühen, um das zu erklären. Wir haben gesehen, dass die von einer KI vorgeschlagenen Produkte nichts mit Spionage oder Gedankenlesen zu tun haben, sondern einfach aus den Präferenzen von ähnlichen Kunden durch ein Empfehlungssystem errechnet werden.

 Worüber uns das zum Nachdenken bringen sollte, ist: Sind wir tatsächlich so frei und selbstbestimmt und so individuell, wie wir glauben, wenn eine Maschine das alles so einfach ausrechnen kann? Wie wir an den Beispielen in diesem Abschnitt gesehen haben, reicht rein technisches Wissen für einen verantwortlichen Umfang mit KI jedoch nicht aus. Jede Technologie wird in einem bestimmten wirtschaftlichen und gesellschaftlichen Umfeld eingesetzt, z.B. weil eine Firma Kosten sparen will oder ein Staat seine Bürger überwachen will. Das heißt, wir müssen an jeden Einsatz von KI auch die oben formulierten ethischen Fragen stellen.

Wie sicher ist die eingesetzte Technik?
Wer kontrolliert diese?
Wer hat die Verantwortung für Entscheidungen dieser Technik?
Welche Ziele und Werte werden damit verfolgt?
Und schließlich: Wer nutzt die Technologie für die Erlangung oder den Erhalt von Macht?

Weiterführende Informationen: In Berlin gibt es eine Organisation, die sich mit den ethischen Fragen der automatischen Entscheidungen durch Maschinen seit Jahren befasst: www.algorithmwatch.de. Dort findest du noch viel mehr Material und aktuelle Nachrichten zu diesem Thema.