Second Law of Robotics
Eines der Three Laws of Robotics, das einen Roboter verpflichtet, Menschen zu gehorchen, es sei denn, dies würde gegen das First Law of Robotics verstoßen, das einem Roboter verbietet, einen Menschen zu verletzen.
Zweites Gesetz: Menschen gehorchen, es sei denn, es verletzt das erste Gesetz
Asimovs Zweites Gesetz der Robotik, veröffentlicht in seiner Kurzgeschichte Runaround von 1942, legt fest, dass ein Roboter den Befehlen von Menschen gehorchen muss, außer wenn dieser Gehorsam gegen das erste Gesetz verstößt (das einem Roboter verbietet, einem Menschen Schaden zuzufügen oder zuzulassen, dass einem Menschen durch Untätigkeit Schaden entsteht). In der Praxis entsteht eine Hierarchie: Schadensvorbeugung geht immer vor Befehlserfüllung. Ein Roboter, dem befohlen wird, in den Verkehr zu laufen, muss sich weigern. Ein Roboter, dem befohlen wird, über sichere Betriebsgrenzen hinaus zu arbeiten, muss sich weigern. Das Gesetz setzt voraus, dass Roboter über genügend Intelligenz verfügen, um zu erkennen, wenn Gehorsam zu Schaden führen würde.
Das Zweite Gesetz existiert, um ein kritisches Problem bei autonomen Systemen zu adressieren: ohne es würde ein Roboter träge oder zufällig handeln. Es liefert die operative Direktive, die für sinnvolle Arbeit notwendig ist. Ein Fertigungsroboter nimmt Teile auf, bewegt sie, positioniert sie und gibt sie auf menschliche Anweisung frei. Ein Erkundungsfahrzeug navigiert auf Befehl. Ein Haushaltsroboter reagiert auf Anfragen. Ohne Gehorsam gegenüber menschlichen Anweisungen können solche Maschinen nicht als Werkzeuge funktionieren.
Das Paradoxon widersprüchlicher Befehle
Der echte Ingenieurwert des Zweiten Gesetzes zeigt sich, wenn Befehle sich widersprechen. Zwei Menschen, die widersprechende Anordnungen erteilen, oder eine einzelne Anweisung, die erfordert, dass sich der Roboter selbst schadet, um zu gehorchen, erzeugt ein Prioritätenproblem. Asimovs Geschichten erforschten diese Sackgassen bewusst. In Runaround erhält ein Roboter widersprüchliche Anweisungen, die ihn lahmlegen, weil kein Weg eine Verletzung der Gesetze vermeidet. Echte Robotersysteme umgehen das, indem sie autonome Entscheidungsfindung begrenzen: Sie folgen einer Befehlshierarchie, erfordern explizite Genehmigung oder eskalieren zur menschlichen Entscheidungsfindung, anstatt unabhängig den Konflikt zu lösen.
Moderne Robotik setzt Asimovs Gesetze nicht wörtlich in Code um. Stattdessen verkörpern Sicherheitssysteme den Geist des Zweiten Gesetzes durch redundante Verriegelungen, Befehlsvalidierung und Bedienerkontrollen. Ein Industrieroboterarm hat Notausstopps, begrenzte Arbeitsbereiche und Kraft-Limit-Logik. Ein autonomes Fahrzeug kann einen Navigationsbefehl verweigern, der Verkehrsgesetze oder Crash-Protokolle verletzen würde. Das Zweite Gesetz bleibt ein konzeptioneller Rahmen für die Überlegung, wie viel Autorität man einer Maschine übertragen muss und welche Einschränkungen den menschlichen Schutz gewährleisten müssen.
Das Zweite Gesetz hebt eine andauernde Spannung in der Robotik hervor: Maschinen müssen brauchbar (gehorsam) aber sicher (begrenzt) sein. Systeme, die blind gehorchen, werden zur Gefahr. Systeme, die niemals gehorchen, werden unbrauchbar. Echte Technik löst das nicht durch allgemeine künstliche Intelligenz, die in der Lage ist, Schaden gegen Pflicht abzuwägen, sondern durch spezifische, überprüfbare Sicherheitsregeln, die vor der Ausführung eines Befehls angewendet werden. Das Zweite Gesetz erinnert Ingenieure daran, warum diese Regeln existieren.