Responsible AI in the Military Domain

Legitimation militärischer KI jenseits von Meaningful Human Control

Prof. Dr. Jutta Weber | Paderborn, Medienwissenschaft / Mediensoziologie / STS

Das Projekt rekonstruiert die Verschiebung des Diskurses von Meaningful Human Control zum gegenwärtigen militärisch-industriellen Diskurs zu Responsible AI in the Military Domain (RAI) sowie die Operationalisierung dieses Konzepts als Designprinzip für die Entwicklung von KI-basierten Waffensystemen. Mit der Idee einer RAI verbindet sich das Versprechen, einen Einsatz von hochautomatisierter, KI-basierter Militärtechnik zu ermöglichen, der zentrale Prozessen militärischer Entscheidungsfindung forciert, ohne dabei gegen normative bzw. völkerrechtliche Standards zu verstoßen. Gleichzeitig untersuchen wir,  wie eine Operationalisierung des Leitbildes in Designprinzipien (ethics by design) sowie als Begleitforschung von militärischen Entwicklungsprojekten erfolgt. Es analysiert die Konflikte, einerseits normativen Ansprüchen in militärischen Forschungs- und Entwicklungsprojekten gerecht zu werden und zugleich praktische Probleme zu lösen, wie z. B. die Übersetzung uneindeutiger Normen in eine eindeutige mathematische Sprache.