So intelligent dürfen Roboter sein

Autonome Systeme sind auf dem Vormarsch. Selbstfahrende Autos, Pflegeroboter, vernetzte Haushaltsgeräte und autonome Waffensysteme kommen bereits in unserem Alltag zum Einsatz oder stehen schon kurz vor der Marktreife. Eine ausgeklügelte Sensorik, komplexe und selbstlernende Algorithmen sowie umfassende Vernetzungsmöglichkeiten erlauben es ihnen, schnell und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren und weitgehend unabhängig von menschlichen Eingriffen zu agieren. Daraus ergibt sich eine Reihe ethischer, rechtlicher und sozialer Fragen.

Hier ist die Gesellschaft gefragt, mitzureden und mitzugestalten, wie sie das erhebliche Potenzial der neuen Entwicklungen nutzen will, so der Vorsitzende des Ethikrates, Peter Dabrock: "Können wir im Meer unserer Datenströme selbstbestimmt wir selbst bleiben, oder stolpern wir - mehr berauscht als bewusst - vor lauter Freude an Miniaturverbesserungen unseres Alltages in eine Unmündigkeitsfalle hinein?"

Henning Kagermann von der Deutschen Technikakademie acatech berichtet, was hochautomatisierte Systeme bereits jetzt können und wie mithilfe von Methoden der künstlichen Intelligenz eine neue Generation zunehmend autonomer Systeme entsteht. Ob Industrieproduktion, Mobilität, Smart Home oder für Menschen gefährliche (Rettungs-)Maßnahmen - für alle Anwendungsfelder gelte, dass mit den Maschinen Menschen unterstützt und ihre Fähigkeiten ergänzt, sie aber nicht ersetzt werden sollten. Deshalb sei "ein frühzeitiger und langfristig angelegter gesellschaftlicher Dialog nötig, in dem Chancen und Risiken transparent gemacht und gegeneinander abgewogen werden", so Kagermann.

Der Einsatz autonomer Systeme wird Märkte im Sinne einer "kreativen Zerstörung" ebenso rapide verändern wie soziale und administrative Institutionen, prognostiziert Christoph M. Schmidt, Vorsitzender des Sachverständigenrates zur Begutachtung der gesamtwirtschaftlichen Entwicklung. Er fordert neue Regulierungsansätze, die die Befähigung zur individuellen Teilhabe und Absicherung gegenüber dem Schutz durch den Staat in den Vordergrund stellen.

Die Juristin Christiane Wendehorst von der Universität Wien ergänzt, dass im derzeit geltenden Recht Maschinen selbst dann keine Rechtspersönlichkeit zukomme, wenn sie mit fortgeschrittener künstlicher Intelligenz ausgestattet sind. "Sie sind daher auch nicht Adressaten rechtlicher Regelungen." Regelungsadressaten seien vielmehr die Menschen oder juristischen Personen, die Maschinen herstellen, verkaufen und nutzen. Daher hält sie eine Entwicklung hin zur "e-person" nicht für wünschenswert.