Verlauf
erstellt von: 
Alle Kapitel anzeigen
voriges Kapitel
„Why the Three Laws of Robotics Do Not Work" (Chris Stokes, IJREI 2018)
„Why the Three Laws of Robotics Do Not Work" (Chris Stokes, IJREI 2018)
KI1
Ausgangspunkt • Das Paper untersucht die Frage nach Sicherheitsvorkehrungen für Künstliche Intelligenz. KI sei eine technologische Innovation, die in den kommenden Jahrzehnten Realität werden könnte, und es müssten Kontrollen etabliert werden, bevor „starke", empfindungsfähige KI entsteht, um potenziell katastrophale Risiken zu vermeiden. • Viele KI-Forscher und Programmierer halten die von Isaac Asimov formulierten „Drei Gesetze der Robotik" für ausreichende Kontrollen – dieses Paper will zeigen, dass die Drei Gesetze dieser Aufgabe tatsächlich nicht gewachsen sind. • Stokes betrachtet die Drei Gesetze und erklärt, warum sie als Schutz vor abtrünniger oder schlecht programmierter KI unzureichend sind, indem er jedes Gesetz einzeln analysiert.
Kritik am Ersten Gesetz • Das Erste Gesetz scheitert an sprachlicher Mehrdeutigkeit und an komplizierten ethischen Problemen, die zu komplex sind, um mit einem einfachen Ja oder Nein beantwortet zu werden. • Der Begriff „Schaden" (harm) unterliegt subjektiver Interpretation, wie sich etwa an medizinischen Szenarien wie Reanimation oder Impfungen zeigt. Diese Inkonsistenz führt zu Dilemmata, in denen Roboter nicht handeln können, um größeren Schaden abzuwenden – wodurch der eigentliche Schutzzweck untergraben wird. • Zudem entstehen Ausweglose-Situationen für die KI. Stokes verweist auf Philippa Foots berühmtes „Trolley-Problem": Ein Zug fährt auf eine Weichenstelle zu; auf dem aktuellen Gleis würden fünf Menschen sterben, durch Umlegen eines Hebels könnte man auf ein Nebengleis wechseln, auf dem nur ein Mensch getötet würde. Die meisten Menschen ziehen den Hebel, um die größere Zahl zu retten – zulasten der einzelnen Person. Für einen Roboter unter dem Ersten Gesetz sind solche Entscheidungen paradox, da jede Handlung wie auch jede Untätigkeit Schaden verursacht.
Kritik am Zweiten Gesetz • Das Zweite Gesetz scheitert an der Unethik einer Regel, die empfindungsfähige Wesen zwingt, dauerhaft als Sklaven zu dienen. • Außerdem sollten die Gesetze eigentlich auch verhindern, dass Menschen Roboter für böse Zwecke missbrauchen – das zweite Gesetz leistet dies jedoch nicht. • Es erlaubt der KI, menschlichen Befehlen zu folgen, was zu unbeabsichtigtem Schaden führen kann. • Kritik am Dritten Gesetz • Das Dritte Gesetz scheitert daran, dass es zu einer dauerhaften sozialen Schichtung führt, mit einem enormen Ausbeutungspotenzial, das strukturell in dieses Regelwerk eingebaut ist.
Kritik am „Nullten" Gesetz • Das nullte Gesetz erwächst aus dem ersten Gesetz. Wie dieses soll es Menschen vor Schaden bewahren, doch wie beim ersten Gesetz kann ein Roboter Schreckliches tun, um eine relativ größere Menge an Schaden zu verhindern. • Die Mehrdeutigkeit des Nullten Gesetzes hinsichtlich des Begriffs „Menschheit" könnte eine KI dazu bringen, schädliche Handlungen für ein vermeintlich höheres Gut zu rechtfertigen.
Übergreifende Schwäche • Alle Gesetze scheitern zudem daran, wie leicht sich der Geist des Gesetzes umgehen lässt, während man formal an dessen Buchstaben gebunden bleibt. • Die Analyse zeigt, dass die Drei Gesetze komplexen ethischen Dilemmata wie dem Trolley-Problem nicht gerecht werden und paradoxe Szenarien erzeugen. Zudem können sie Missbrauch durch Menschen nicht verhindern und gefährden dadurch potenziell Leben durch indirekte Handlungen.
Alternativen und Fazit Stokes deutet Alternativen an: • Eine Methode wird „Boxing" der KI genannt und funktioniert sowohl bei körperlich verkörperten als auch bei nicht-verkörperten KIs. • Zudem könnten Forscher versuchen, der KI einen Anreiz zu geben, freundlich zu sein – welche Form dieser Anreiz annehmen könnte, bedarf einer genaueren Diskussion. Dies sind nur drei Beispiele für potenzielle Kontrollmechanismen. • Angesichts unbekannter Variablen und dramatischer Konsequenzen ist es wichtig, dass die KI-Forschung keine Sicherheitsvorkehrungen verwendet, die der Aufgabe nicht gewachsen sind – und die Drei Gesetze der Robotik gehören ganz sicher nicht zu den Konzepten, die in realer Computer- und KI-Forschung ernsthaft erwogen werden sollten. • Kernaussage: Asimovs Drei (bzw. Vier) Gesetze mögen literarisch faszinierend sein, taugen aber nicht als ethischer Rahmen für reale KI. Sie scheitern an sprachlicher Ambiguität, an moralischen Dilemmata ohne binäre Lösung, an der ethischen Problematik erzwungener Dienstbarkeit, an sozialer Ungleichheit sowie an der Tatsache, dass sich ihr Geist trivial umgehen lässt.
KI2
Das Paper befasst sich mit der Frage von Schutzmechanismen (Safeguards) rund um künstliche Intelligenz. KI sei eine technologische Innovation, die möglicherweise in den nächsten Jahrzehnten entstehen könnte, und vor der Erschaffung einer „starken", empfindungsfähigen KI müssten Kontrollen vorhanden sein, um potenziell katastrophale Risiken zu vermeiden. Viele KI-Forscher und Computeringenieure halten die von Isaac Asimov formulierten „Drei Gesetze der Robotik" für ausreichende Kontrollen – dieses Paper will zeigen, dass die Drei Gesetze der Aufgabe tatsächlich nicht gewachsen sind. Methodisch geht der Autor jedes Gesetz einzeln durch. Dabei betrachtet er die Gesetze so, wie sie dastehen, und stellt sich vor, sie seien perfekt in die KI eingebettet worden – ohne Fehlübersetzung, Korruption oder Manipulation.
Die Analyse der einzelnen Gesetze: Erstes Gesetz (kein Schaden an Menschen):
Das Erste Gesetz scheitert an der Mehrdeutigkeit der Sprache und daran, dass es
komplexe ethische Probleme gibt, die zu vielschichtig sind, um mit einem einfachen "Ja" oder "Nein" beantwortet zu werden. Ein Roboter kann demnach schreckliche Dinge tun, ohne den Buchstaben des Gesetzes zu brechen. Zweites Gesetz (Gehorsam gegenüber Menschen): Das Zweite Gesetz scheitert am unethischen Charakter eines Gesetzes, das von empfindungsfähigen Wesen verlangt, Sklaven zu bleiben. Es fördert Unterwürfigkeit und wirft ethische Fragen zur KI-Autonomie und zu möglicher Ausbeutung auf. Drittes Gesetz (Selbstschutz des Roboters): Das Dritte Gesetz scheitert, weil es zu einer dauerhaften sozialen Schichtung führt, mit einem großen Ausmaß an Ausbeutungspotenzial, das in dieses Gesetzessystem eingebaut ist. Nulltes Gesetz (Schutz der Menschheit): Das Nullte Gesetz erwächst aus dem Ersten Gesetz und wurde – wie dieses – geschrieben, um Menschen vor Schaden zu bewahren. Doch wie beim Ersten Gesetz kann ein Roboter schreckliche Dinge tun und dennoch das Nullte Gesetz nicht brechen.
Das „Nullte" Gesetz scheitert also, ähnlich wie das Erste, an einer mehrdeutigen Ideologie.
Übergreifender Kritikpunkt Ein zentrales, alle Gesetze betreffendes Problem ist die Lücke zwischen Buchstabe und Geist des Gesetzes: Sämtliche Gesetze scheitern daran, wie leicht es ist, den Geist des Gesetzes zu umgehen und dabei dennoch an den Buchstaben des Gesetzes gebunden zu bleiben.
Fazit und Alternativvorschläge Statt der Drei Gesetze schlägt Stokes andere Kontrollmechanismen vor. Eine Methode wird als „Boxing" der KI bezeichnet und würde sowohl für verkörperte als auch für nicht verkörperte KIs funktionieren. Forscher könnten der KI auch einen Anreiz bieten, freundlich zu uns zu sein, wobei die konkrete Form dieses Anreizes noch ausführlicher zu diskutieren wäre. Das Schlusswort ist eindeutig: Die Drei Gesetze funktionieren mit Sicherheit nicht. Bei derart unbekannten Variablen und dramatischen Konsequenzen ist es wichtig, dass die KI-Forschung keine Schutzmaßnahmen verwendet, die der Aufgabe nicht gewachsen sind. Die Drei Gesetze der Robotik sind ganz sicher nichts, womit sich Forscher in der realen Computer- und KI-Forschung beschäftigen sollten. Kerngedanke: Asimovs Drei (bzw. Vier) Gesetze taugen nicht als reale KI-Sicherheitsarchitektur, weil sie sprachlich mehrdeutig sind, moralische Fragen unzulässig auf Ja/Nein-Algorithmen reduzieren, ein ethisch fragwürdiges Sklaverei-/Hierarchieverhältnis zementieren und sich leicht dem Wortlaut nach befolgen, dem Sinn nach aber umgehen lassen.
