[heise.de] Mit der weiteren Entwicklung von autonomen Systemen wird vermehrt darüber diskutiert, wie diese selbständig entschieden sollen
US Army und Navy investieren bis 2010 vier Milliarden US-Dollar in
ein Forschungsprogramm zur robotischen Kampfmoral. Die Befehlshaber im
Pentagon erklären dazu, tief besorgt zu sein aufgrund von Studien,
denen zufolge viele ihrer menschlichen Frontkämpfer im Irak durch die
starke Anspannung in den militärischen Auseinandersetzungen zu
Racheakten und Folterungen gegenüber feindlichen Soldaten neigen.
Der Computerwissenschaftler Ronald Arkin vom Georgia Institute of
Technology, der an Software für die US-Armee arbeitet, bestätigte denn
auch gerne gegenüber der New York Times, dieses Problem lasse sich mit moralisch überlegener Robotertechnik
beheben. Ihr Vorzug sei, nicht durch negative Emotionen belastet zu
sein, die das Urteilsvermögen von Menschen im Gefecht beeinträchtigt.
Roboter seien ohne einen Instinkt für die Selbsterhaltung zu
entwickeln, ohne Furcht oder Rücksichtslosigkeit. In einem für die
US-Armee verfassten Bericht schrieb Arkin:
Ich glaube nicht, dass sich ein
unbemanntes System vollkommen moralisch auf dem Schlachtfeld verhalten
wird, aber ich bin überzeugt, dass sich Roboter moralischer verhalten
können, als es menschlichen Soldaten möglich ist.
Software zur Beachtung des Kriegsrechts
Während die Roboter bisheriger Generationen im militärischen Einsatz
nicht wirklich autonome Systeme sind, sondern ferngesteuert durch
Menschen operieren, arbeiten die Forscher auch an "soldier bots", die
weit mehr können und dürfen als das. Sie sollen Ziele und Waffen
identifizieren können und zwischen feindlichen Kräften wie Panzern oder
bewaffneten Männern einerseits und "weichen Zielen" wie
Ambulanzfahrzeugen oder Zivilisten unterscheiden können. Regeln für die
Kampfhandlungen sollen in die Systeme eingebettet werden.
Den Robotern eine bessere Moral per Software implementieren möchte auch der Wissenschaftsphilosoph Colin Allen von der Indiana University, wie er gegenüber der britischen Tageszeitung Telegraph erklärte. Er ist Berater der US Navy, die gerne wissen möchte, wie sich
Militärroboter entwickeln lassen, die nicht gegen die Genfer
Konventionen verstoßen:
Die Frage, die sie beantwortet wissen
wollen, lautet: Können wir automatische Waffen entwickeln, die den
Kriegsgesetzen entsprechen? Können wir die Moraltheorie heranziehen, um
bei der Konzeption dieser Maschinen zu helfen?
Es sei richtig, argumentiert Allen, die ethischen Dilemmas zu einem frühen Zeitpunkt anzugehen:
Es ist Zeit, dass wir über diese
Fragen nachzudenken beginnen, wie wir die Moraltheorie nehmen und sie
in die Software einbauen, die das korrekte Handeln der Roboter
sicherstellt, statt zu warten, bis es zu spät ist. Wir haben bereits
Computer, die Entscheidungen fällen und damit bestimmend auf das Leben
von Menschen einwirken, aber sie tun es in einer ethisch blinden Weise.
Computer entscheiden über die Vergabe von Kreditkarten ohne jede
menschliche Beteiligung, und wir erleben es in einigen Situationen
hinsichtlich medizinischer Leistungen für ältere Menschen.
Mit dem letzten Satz bezog sich der Moraltheoretiker auf Krankenhäuser
in den USA, die sich von Computerprogrammen bei der
Entscheidungsfindung helfen lassen, wenn über die Wiederbelebung
einzelner Patienten zu entscheiden ist.
In seinem eigenen Blog Moral Machines bestätigt Allen seine Aussagen gegenüber der Zeitung, spielt aber
seine Aufgabe als Militärberater herunter. Seine Rolle als externer
Berater für einen von der Navy gesponserten Bericht über Risiken, Ethik
und Entwicklung autonomer Militärroboter sei stark übertrieben
dargestellt. Die Zeitung gebe jedoch gut wieder, was nun hinsichtlich
dieser ethischen Fragen zu bedenken sei.
Töten mit Robotergefühlen?
Anders als Ronald Arkin setzt Colin Allen auch auf
Roboter, die mit Gefühlen umgehen können. In seinem Buch "Moral
Machines: Teaching Robots Right from Wrong", das er zusammen mit dem
Ethiker Wendell Wallach von der Yale University verfasste, empfiehlt er
das als eine der möglichen Strategien, um Roboter auf der moralischen
Spur zu halten. Die beiden Autoren wollen ihnen nämlich die
Unterschiede zwischen "Right and Wrong" (eine vermutlich bewusst
doppelsinniger Titel, meinen sie nun Richtig und Falsch oder Gut und
Böse?) beibringen, indem sie mit Gefühlen umzugehen lernen. Menschliche Empathie, Emotionen und Sensibilität für nichtverbale
Kommunikation sollen ihnen bei der Interaktion mit Menschen helfen.
Die Autoren empfehlen weiterhin, Roboter mit klaren
Regeln zu programmieren wie etwa Asimovs Robotergesetzen, in denen der
SF-Autor klar postulierte, Roboter dürften Menschen unter keinen
Umständen Schaden zufügen, was eigentlich ihren Einsatz als
waffentragende Kampfroboter von vornherein ausschließen müsste. Auch
sollten Roboter nicht bewaffnet sein, geben sie als weitere Strategie
vor. Es sei zwar möglicherweise zu spät, diese Entwicklung aufzuhalten,
doch sollten zumindest die Waffenart und die Situationen eingeschränkt
werden, in denen Roboter Waffen anwenden dürfen.
Es gibt allerdings auch Forscher, die nicht wie Allen das Pentagon beraten und eine ganz andere Sicht der Dinge haben. Wie etwa Noel Sharkey , Professor an der University of Sheffield, dr eine schleichende
Entwicklung, ausgehend von DARPA-Projekten, bis hin zum tödlichen
Kampfroboter befürchtet. Innerhalb eines Zeitraums von zehn Jahren erwartet er Maschinen,
die über die Anwendung tödlicher Gewalt entscheiden, wann und gegen wen
sie anzuwenden ist.
In einer Keynote beim Royal United Services Institute for Defence and Security Studies forderte er im Februar dieses Jahres ein Verbot autonomer
Waffensysteme: "Wir müssen sagen, wo wir die Grenze ziehen und was wir
tun wollen – und dann eine internationale Vereinbarung erreichen."
Da er seit Jahrzehnten in der Künstlichen Intelligenz
arbeite, erschrecke ihn die Vorstellung, ein Roboter könne die
Entscheidung über die Auslöschung eines menschlichen Lebens treffen.
Seiner Einschätzung nach lassen die Militärführer allerdings "keinen
Zweifel daran, dass sie so schnell wie möglich autonome Roboter wollen,
da sie kostengünstiger sind und einen risikofreien Krieg versprechen".
Daher sei "das Problem, dass wir den Geist nicht wieder zurück in die
Flasche bekommen. Wenn die neuen Waffen da draußen sind, werden sie
ziemlich leicht zu reproduzieren sein." Was wiederum erst recht neue
Probleme schaffen werde:
Wie lange wird es dauern, bis
Terroristen das für ihre Zwecke nutzen? Bei den derzeit fallenden
Preisen für die Konstruktion von Robotern und der Verfügbarkeit
fertiger Komponenten für den Markt enthusiastischer Hobbyisten bedürfte
es keines übermäßigen Geschicks, autonome Robotwaffen zu bauen.
von: Bernd Kling
Quelle: heise.de
