Deutscher Ethikrat Können Maschinen Verantwortung übernehmen?

Am 21. Juni 2017 fand in Berlin die Jahrestagung des Deutschen Ethikrates zu Thema "Autonome Systeme. Wie intelligente Maschinen uns verändern" statt. Mehr als 500 Teilnehmer lieferten sich intensive Diskussionen und brachten dabei die verschiedenste Aspekte mit ein, die es künftig zu beachten gelte.

Sie lernen und entscheiden selbst: Autonome Systeme wie selbstfahrende Autos, Pflegeroboter, vernetzte Haushaltsgeräte und autonome Waffensysteme kommen bereits in unserem Alltag zum Einsatz oder stehen kurz vor der Marktreife. Eine ausgeklügelte Sensorik, komplexe und selbstlernende Algorithmen sowie umfassende Vernetzungsmöglichkeiten erlauben es ihnen, schnell und unter Abgleich vielfältiger Daten auf ihre Umwelt zu reagieren und weitgehend unabhängig von menschlichen Eingriffen zu agieren.

Kagermann: Frühzeitiger gesellschaftlicher Dialog nötig

Daraus ergibt sich eine Reihe ethischer, rechtlicher und sozialer Fragen. Hier sei die gesamte Gesellschaft gefragt, mitzureden und mitzugestalten, wie sie das erhebliche Potenzial der neuen Entwicklungen nutzen will, machte der Vorsitzende des Ethikrates, Peter Dabrock, gleich zu Beginn der Tagung deutlich. „Können wir im Meer unserer Datenströme selbstbestimmt wir selbst bleiben, oder stolpern wir – mehr berauscht als bewusst – vor lauter Freude an Miniaturverbesserungen unseres Alltages in eine Unmündigkeitsfalle hinein?“

Henning Kagermann von der Deutschen Technikakademie acatech berichtete, was hochautomatisierte Systeme bereits jetzt können und wie mithilfe von Methoden der künstlichen Intelligenz eine neue Generation zunehmend autonomer Systeme entsteht. Ob Industrieproduktion, Mobilität, Smart Home oder für Menschen gefährliche (Rettungs-)Maßnahmen – für alle Anwendungsfelder gelte, dass mit den Maschinen Menschen unterstützt und ihre Fähigkeiten ergänzt, sie aber nicht ersetzt werden sollten.

Deshalb sei „ein frühzeitiger und langfristig angelegter gesellschaftlicher Dialog nötig, in dem Chancen und Risiken transparent gemacht und gegeneinander abgewogen werden“, so Kagermann. Der Einsatz autonomer Systeme wird „Märkte im Sinne einer ‚kreativen Zerstörung‘ ebenso rapide verändern wie soziale und administrative Institutionen“, prognostizierte Christoph M. Schmidt, Vorsitzender des Sachverständigenrates zur Begutachtung der gesamtwirtschaftlichen Entwicklung.

Er forderte neue Regulierungsansätze, die die Befähigung zur individuellen Teilhabe und Absicherung gegenüber dem Schutz durch den Staat in den Vordergrund stellen.

Net.Law.S 2017

Das Recht von morgen schon heute denken

Welche gesellschaftlichen Prozesse eignen sich für algorithmische Entscheidungssysteme?

Katharina A. Zweig von der Technischen Universität Kaiserslautern beklagte hingegen die zweifelhafte Qualität von Algorithmus-basierten, entscheidungsunterstützenden Systemen. Sie mahnte dringend „die Entwicklung qualitätssichernder Prozesse zu ihrem Design, ihrer Implementierung, Wartung und kontinuierlichen Verbesserung an. Dazu bedarf es einer gesamtgesellschaftlichen Diskussion darüber, welche gesellschaftlichen Prozesse sich überhaupt für algorithmische Entscheidungssysteme eignen und nach welchen Kriterien sie optimiert werden sollen“, so Zweig.

Aus philosophischer Perspektive legte Julian Nida-Rümelin von der Ludwig-Maximilians-Universität München dar, warum autonome Systeme keine Verantwortung übernehmen könnten. Der Verantwortungsbegriff sei an Intentionalität und Personalität gekoppelt – Fähigkeiten, die so alleine Menschen zukämen.

(ID:44751371)