Die Bundesregierung setzt bislang keine künstliche Intelligenz direkt oder indirekt in der Rüstungs- und Exportkontrolle ein. Ihre Antwort auf eine Kleine Anfrage der AfD-Fraktion wurde am 31. Juli veröffentlicht. Die Bundeswehr erprobt mögliche Anwendungen jedoch bereits in einer geschlossenen Testumgebung, während das Bundesamt für Wirtschaft und Ausfuhrkontrolle den Einsatz von KI in einem neuen digitalen Antragsportal prüft. Für 17 Forschungsprojekte und Veranstaltungen zwischen 2021 und 2027 sind rund 12,7 Millionen Euro ausgewiesen.
Bestehende Rüstungskontrollverträge sehen den Einsatz KI-gestützter Systeme bislang nicht vor. Zudem seien Potenzial und Grenzen der Technologie noch nicht ausreichend erforscht, erklärt die Bundesregierung.
Eine besondere Hürde bildet das Vertrauen in maschinell erzeugte Ergebnisse. Staaten müssten akzeptieren, dass KI-Systeme Daten korrekt auswerten und keine verzerrten oder manipulierten Resultate liefern. Gerade bei bilateralen und internationalen Rüstungskontrollvereinbarungen kann eine solche technische Prüfung politische und sicherheitsrelevante Folgen haben.
Bundeswehr erprobt KI in geschlossener Umgebung
Das Zentrum für Verifikationsaufgaben der Bundeswehr untersucht derzeit, wie KI bei der Überprüfung von Rüstungskontrollvereinbarungen eingesetzt werden könnte. Die Versuche finden in einer abgeschotteten Testumgebung statt. Ein operativer Einsatz ist damit noch nicht verbunden.
Verifikation bezeichnet die Kontrolle, ob Staaten vereinbarte Abrüstungs- und Rüstungsbeschränkungen einhalten. KI könnte dabei große Datenmengen schneller durchsuchen, Veränderungen auf Satellitenbildern erkennen oder Informationen verschiedener Sensoren zusammenführen.
Denkbar wäre etwa, Bewegungen militärischer Trägersysteme oder Baumaßnahmen an Raketenstellungen automatisiert zu identifizieren. Auch seismische Daten könnten ausgewertet werden, um mögliche unterirdische Atomtests von natürlichen Erdbeben zu unterscheiden.
Konkrete Pläne zur Einführung solcher Anwendungen bei der Auswertung von Satellitenbildern, offenen Informationsquellen oder weltweiten Lieferketten nennt die Bundesregierung jedoch nicht. Sie verweist auf die laufenden Tests und auf wissenschaftliche Forschungsprojekte.
BAFA prüft KI für neues Exportportal
Das Bundesamt für Wirtschaft und Ausfuhrkontrolle bereitet eine Neuauflage seines digitalen Antrags- und Bearbeitungsportals vor. Dabei wird geprüft, ob künstliche Intelligenz künftig einzelne Arbeitsschritte unterstützen kann.
Das BAFA entscheidet unter anderem über Genehmigungen für die Ausfuhr von Rüstungsgütern und Technologien, die sowohl zivil als auch militärisch genutzt werden können. Ein KI-System könnte große Mengen an Anträgen und Begleitunterlagen analysieren oder bei der Zuordnung von Gütern helfen.
Ob und in welchem Umfang eine solche Anwendung tatsächlich eingeführt wird, steht noch nicht fest. Die Bundesregierung nennt weder einen Zeitplan noch konkrete Funktionen des geprüften Systems.
Rund 12,7 Millionen Euro für Forschung und Veranstaltungen
Obwohl die Behörden KI bislang nicht operativ einsetzen, finanziert das Auswärtige Amt seit mehreren Jahren Forschung zu neuen Technologien, autonomen Waffensystemen und KI-gestützter Verifikation.
Die aufgeführten Mittel für Projekte und Veranstaltungen zwischen 2021 und 2027 summieren sich auf rund 12,7 Millionen Euro. Darin enthalten sind bereits veranschlagte Beträge für laufende und künftige Projektjahre.
Rund 6,3 Millionen Euro entfallen auf Projekte und eine Veranstaltung des Instituts für Friedensforschung und Sicherheitspolitik an der Universität Hamburg. Dazu gehört die zweite Phase des Projekts „Rüstungskontrolle und Neue Technologien“, die von 2023 bis Ende 2026 läuft und mit jährlich mehr als einer Million Euro gefördert wird.
Das vom Peace Research Institute Frankfurt geleitete Forschungscluster zu natur- und technikwissenschaftlicher Rüstungskontrolle erhält zwischen 2023 und 2026 rund 2,8 Millionen Euro. Es untersucht unter anderem, wie neue Technologien bestehende Kontrollmechanismen verändern.
Das Stockholmer Friedensforschungsinstitut SIPRI erhielt Mittel für mehrere Projekte zu militärischer KI, Atomwaffen und Quantentechnologien. Dazu zählt eine Untersuchung über mögliche Verzerrungen in militärischen KI-Systemen und deren Vereinbarkeit mit dem humanitären Völkerrecht.
Für Wissenschafts- und Technologieprogramme des UN-Instituts für Abrüstungsforschung sind insgesamt 900.000 Euro vorgesehen. Eine 2024 in Marokko veranstaltete Konferenz der Organisation für das Verbot chemischer Waffen zum Thema künstliche Intelligenz wurde mit 65.000 Euro unterstützt.
Weitere 68.752 Euro flossen in eine Konferenz zu künstlicher Intelligenz und Massenvernichtungswaffen. Das European Leadership Network erhielt Mittel für Projekte zu technologischen Risiken, nuklearer Sicherheit und einem KI-gestützten Instrument zur Verringerung atomarer Risiken.
Die Agentur für Innovation in der Cybersicherheit betreibt dagegen keine eigenen Programme zur Erforschung von KI-Regulierungs- oder Verifikationsverfahren in der Rüstungskontrolle.
Militärisches KI-Training kaum überprüfbar
Die Bundesregierung sieht derzeit keine Möglichkeit, abschließend festzustellen, ob und in welchem Umfang andere Staaten KI-Modelle für militärische Zwecke trainieren.
Ein Grund ist der doppelte Verwendungszweck vieler Technologien. Dieselben Modelle, Rechenanlagen und Softwarekomponenten können zivile und militärische Aufgaben übernehmen. Ein System zur Erkennung von Fahrzeugen auf Bildern kann beispielsweise im Straßenverkehr, bei Katastropheneinsätzen oder zur militärischen Aufklärung eingesetzt werden.
Hinzu kommen Geheimhaltung und fehlende Einblicke in die Server, Trainingsdaten und technischen Strukturen anderer Staaten. Algorithmen lassen sich kopieren, verändern und außerhalb öffentlich zugänglicher Anlagen weiterentwickeln.
Ein umfassendes Kontrollsystem für digitale Codes würde tiefgehende Zugriffe auf besonders geschützte staatliche und militärische Systeme voraussetzen. Ein Konzept, das dieses Problem abschließend löst, nennt die Bundesregierung nicht.
Sie setzt stattdessen auf internationale Regeln für eine verantwortungsvolle militärische Entwicklung und Nutzung von KI innerhalb des geltenden Völkerrechts.
Exportkontrolle richtet sich nach der Funktion der Software
KI-Software wird im deutschen Exportkontrollrecht grundsätzlich nach ihrer Funktion behandelt. Ein eigenständiges Kontrollsystem allein aufgrund der Bezeichnung als künstliche Intelligenz besteht nicht.
Software, die speziell für militärische Zwecke konstruiert oder verändert wurde, fällt unter die entsprechende Position der deutschen Ausfuhrliste. Auch Quellcodes und Technologien zur Entwicklung militärischer Software können genehmigungspflichtig sein.
Nicht militärische KI-Anwendungen mit doppeltem Verwendungszweck werden nach der europäischen Dual-Use-Verordnung geprüft. Entscheidend ist, welche technischen Funktionen eine Software besitzt und ob sie für kontrollierte Anwendungen genutzt werden kann.
Dies gilt auch für digitale Übertragungen. Software, Quellcodes oder technische Kenntnisse müssen nicht auf einem physischen Datenträger ausgeführt werden. Auch die weltweite Bereitstellung über Programmierschnittstellen und Cloud-Dienste kann exportkontrollrechtliche Fragen auslösen.
Unternehmen tragen Verantwortung für Prüfung
Unternehmen müssen vor einer Ausfuhr eigenständig prüfen, ob Verbote oder Genehmigungspflichten bestehen. Verstöße gegen das Exportkontrollrecht können strafrechtliche Folgen haben.
Eine besondere Regelung für kleine KI-Unternehmen oder junge Entwicklerteams nennt die Bundesregierung nicht. Das BAFA stellt allgemeine Merkblätter zum Technologietransfer bereit, informiert über Änderungen des Exportrechts und veranstaltet Exportkontrolltage sowie Informationsveranstaltungen mit Industrie- und Handelskammern.
Unternehmen können zudem allgemeine Auskünfte zur Güterliste und zu einzelnen exportrechtlichen Fragen beantragen. Seit August 2023 haben das Bundeswirtschaftsministerium und das BAFA mehrere Maßnahmenpakete zur Verkürzung der Bearbeitungszeiten eingeführt.
Internationale Einrichtungen wie die Internationale Atomenergie-Organisation, die Organisation des Vertrags über das umfassende Verbot von Nuklearversuchen und die Organisation für das Verbot chemischer Waffen unterstützt Deutschland personell, finanziell und technologisch. Die Entwicklung konkreter KI-Werkzeuge zur Verifikation ist bislang jedoch kein ausdrücklicher Bestandteil dieser Förderung.
