LAWS Without Laws | bpb.de

In den letzten zehn Jahren hat die künstliche Intelligenz (KI) rasch in allen Branchen und verschiedenen Anwendungsbereiche Einzug gehalten, auch in den Bereich der internationalen Sicherheit. Da es sich bei der KI keineswegs um eine perfekte Technologie handelt, hat sich gezeigt, dass sie sehr anfällig für Verzerrungen und fehlerhafte Ergebnisse ist und mittlerweile als allgegenwärtige Herausforderung für die Regulierung angesehen wird.

Dieser Vortrag wird diese Probleme berücksichtigen und sich auf verschiedene Aspekte rund um die Entwicklung, den Einsatz und die Steuerung von KI für militärische Anwendungen konzentrieren, einschließlich der negativen Auswirkungen von KI-Fehlern. Shimona Mohan wird sich damit befassen, wie und wo KI für militärische Zwecke eingesetzt wird, wie KI Vorurteile in Bezug auf Geschlecht und Rasse hervorruft und verschärft und wie diesen entgegengewirkt werden kann, und wie das Governance-Paradigma für militärische KI im Hinblick auf die Diskussionen über tödliche autonome Waffensysteme (LAWS) bei den Vereinten Nationen und in anderen internationalen Gremien aussieht.

Abschließend werden offene Fragen an das Publikum gestellt, die sich auf die Hauptpunkte des Vortrags beziehen, und die Zuhörer aufgefordert, sich mit den Problemstellungen und Lösungsvorschlägen für eine verantwortungsvolle und ethische Steuerung militärischer KI auseinanderzusetzen.

Moderiert wird der Abend von Thomas Bächle, Universität Bonn/Humboldt Institut für Internet und Gesellschaft.

English Description

In the past decade or so, artificial intelligence (AI) has quickly percolated into every industry and several application avenues, including within the ambit of international security. Given that it is far from a perfect technology, it has been seen to be highly prone to exhibiting biases and producing flawed outputs, and is now recognised as a ubiquitous regulation challenge.

This talk will take these issues into account and focus on various aspects around the development, deployment and governance of AI for military applications, including the adverse effects of AI biases. It will cover how and where AI is employed for military purposes; how AI produces and exacerbates biases around gender and race, and how these can be countered; and what the governance paradigm around military AI looks like vis-à-vis discussions around lethal autonomous weapons systems (LAWS) at the United Nations and at other international fora. Finally, it will conclude with open questions to the audience around the main tenets of the talk, and invite them to engage with the problem statements and proposed solutions for governing military AI in a responsible and ethical manner.

Moderator: Thomas Christian Bächle (University of Bonn/Humboldt Institute for Internet and Society, Berlin)