Skip to main content

Der Menschenrechtsrat

– MRR TOP1: Menschenrechtliche Implikationen autonomer Waffensysteme

Inhaltswarnung

Dieser Gremientext behandelt unter anderem das Thema Krieg. Bei manchen Personen löst dieses Thema starke Emotionen aus. Falls Sie zu den betroffenen Personen gehören, entscheiden Sie bitte selbst, ob Sie gerade in der Lage sind, sich mit dem Thema/diesen Themen zu beschäftigen, ob Sie das lieber zu einem späteren Zeitpunkt tun oder vorher bestimmte Maßnahmen ergreifen wollen.

Kurzzusammenfassung

Autonome Waffensysteme stellen ein Novum in der Geschichte der Kriegsmaschinerie dar. Erstmals treffen Waffen selbst Entscheidungen, potentiell ohne menschlichen Einfluss. Je nach Typ und Einsatzart entstehen völlig neue Fragen nach Verantwortung und Ethik. Bestehende Regulierungen sind häufig darauf ausgelegt, Menschen und ihre Entscheidungen zu bewerten und sind daher oft inkompatibel mit autonom agierenden Systemen. Es existieren zwar Ideen zur Regulierung, diese sind jedoch nicht vereinheitlicht oder generell ratifiziert. Besonders im Kontext der rasanten Entwicklungen und des technischen Fortschritts fällt selbst eine konkrete Definition, was unter die Begrifflichkeit der autonomen Waffen fällt, der Gesetzgebung schwer. Diese Lücken zu schließen, stellt die Delegationen der Staatengemeinschaft vor neue Herausforderungen.

Punkte zur Diskussion

1. Welche bestehenden Regulierungen bzgl. autonomen Waffen existieren? Sind diese ausreichend, auch unter Anbetracht der rasanten technischen Entwicklung?

2. Wie wird die Entwicklung von autonomen Waffensystemen kontrolliert? Welche Ansätze gibt es und wie vielversprechend sind diese? Welche Zielsetzung können sie verfolgen und wie stark sollte die Entwicklung eingeschränkt werden?

3. Wie wird der Einsatz und die Auswirkung von autonomen Waffensystemen evaluiert und kontrolliert? Welche Mechanismen gibt es und wo bestehen Lücken? Welche Institutionen existieren und wo bestehen Defizite?

4. Welche Verantwortlichkeit gilt bei Fehlverhalten durch oder mit autonomen Waffensystemen? Welche Strukturen existieren und wie passen sie zu autonom agierenden Waffen? Weche Rolle spielt dabei die persönliche Verantwortung innerhalb der militärischen Strukturen? Wie kann Verantwortlichkeit bei begangenen Kriegsverbrechen festgestellt werden?

5. Welche Strukturen stehen einem kompletten Verbot autonomer Waffensysteme im Weg und warum ist die Einhaltung schwierig zu kontrollieren?

Einleitung

Ein Ziel wird erkannt, bewertet und angegriffen. Ganz ohne, dass ein Mensch den entscheidenden Knopf drückt. Was noch vor wenigen Jahren nach Science-Fiction klang, ist heute militärische Realität. Auf modernen Schlachtfeldern kommen heute Waffensysteme zum Einsatz, die selbstständig Ziele identifizieren und bekämpfen können. Genau diese Entwicklung hat weltweit tausende Wissenschaftler*innen, Nobelpreisträger*innen und zivilgesellschaftliche Organisationen dazu bewegt, in der Kampagne "Stop Killer Robots" ein internationales Verbot autonomer Waffensysteme zu fordern.

Für die Vereinten Nationen ist die Frage, wie mit dieser Technologie umzugehen ist, damit zu einer der drängendsten sicherheits- und menschenrechtspolitischen Herausforderungen der Gegenwart geworden. Denn wenn Maschinen über Leben und Tod entscheiden, geraten zentrale Prinzipien des humanitären Völkerrechts an ihre Grenzen. Wie die internationale Staatengemeinschaft mit dieser Herausforderung umgeht, wird maßgeblich darüber entscheiden, wie zukünftige Kriege geführt werden.

Hinweis

In den folgenden Ausführungen werden teilweise fachspezifische Fremdworte verwendet. Eine genaue Erklärung inklusive Ausführungen über einige dieser Begriffe findet sich im Glossar. Wir empfehlen, sich mit den Begrifflichkeiten vertraut zu machen, bevor Sie fortfahren! 

Türkische “Bayraktar Kızılelma” Drohne - Erişim, CC BY-SA 4.0, via Wikimedia Commons - https://commons.wikimedia.org/wiki/File:Bayraktar_K%C4%B1z%C4%B1lelma_Teknofest_2023.jpg

Hintergrund und Grundsätzliches

Dr. Gerald Mako, Wissenschaftlicher Mitarbeiter an der Universität Cambridge gibt in seiner Artikelreihe zu letalen, autonomen Waffensystemen (Lethal Autonomous Weapons Systems, LAWS) eine Übersicht zu eben diesen Waffen, ihrer Historie und aktuellen Problemstellungen. Zu LAWS zählen nicht nur moderne Hochtechnologie. Auch “simple” Systeme, die einen einfachen Auslöser verbaut haben und auf einfache Reize reagieren, fallen in diese Kategorie. 

Zu nennen sind hier klassischerweise Minen, oder etwas weiter entwickelt, zielsuchende Marschflugkörper oder Torpedos. Diese Systeme werden oft mit der Absicht der völligen Autonomie konstruiert, um sie sicher vor äußeren Einflüssen wie beispielsweise dem Stören einer Funkverbindung zu machen. Meist ist ein Abschalten nach Aktivierung nicht einmal mehr möglich. Über die historische Entwicklung solcher Systeme kam in der internationalen Staatengemeinschaft das Bedürfnis nach Regulation auf. So beispielsweise das Übereinkommen über das Verbot des Einsatzes, der Lagerung, der Herstellung und der Weitergabe von Antipersonenminen sowie über deren Vernichtung (Convention on the Prohibition of the Use, Stockpiling, Production and Transfer of Anti-Personnel Mines and on Their Destruction) aus 1997. 

Über den Einsatz solcher und anderer Waffen streitet die Staatengemeinde fortlaufend. Auch das Abkommen über Anti-Personen-Minen wurde längst nicht von allen Mitgliedsstaaten der Vereinten Nationen (United Nations, UN) unterzeichnet oder ratifiziert. Auch die Genfer Konventionen enthalten Regulierungen zum Einsatz solcher Waffensysteme.

Doch mit zunehmendem technischen Fortschritt entwickelt sich das Arsenal der militärischen Streitkräfte des Globus weit über diese bisherigen Systeme hinaus. Wo bestehende Regulierungen klare Grenzen und Rahmenwerke zum Einsatz solcher Waffen schaffen, verschwimmen diese mit zunehmender Komplexität moderner Kampfmittel. Nach Mako reichen die bestehenden Regelwerke schlicht nicht mehr aus, um Klarheit im Kontext moderner, eigenständiger Waffensysteme zu schaffen, die eine nie gekannte Autonomie innehalten und komplexe Entscheidungen mit enormer Tragweite völlig ohne menschliches Eingreifen treffen.

Entwicklung und Einsatz

Über die letzten ca. 10 Jahre gab und gibt es vermehrt Berichte von Systemen, die einen vollkommen autonomen Einsatz ermöglichen. Oft ist der tatsächliche Grad der Autonomie schwierig zu bestimmen. Zum Einen, weil die einsetzenden Parteien oft keine klare Auskunft über ihre Strategien geben, zum Anderen weil Waffensysteme oftmals beide Arten der Verwendung ermöglichen (ferngesteuert und vollkommen autonom). 

UN Bericht S/2021/229, die University of Southern Denmark mit ihrer Veröffentlichung “Emergent Normativity: Communities of Practice, Technology, and Lethal Autonomous Weapon Systems” und IEEE Spectrum nennen unter Anderem Lybien, Nagorno-Karabakh, Gaza und die Ukraine als bestätigte Einsatzorte von LAWS mit unterschiedlich starker Nutzung. 

Besonders über den Ukraine-Krieg gibt es zahlreiche Nachweise und Berichte von diversen LAWS von allen beteiligten Kriegsteilnehmern. Häufig werden Drohnen, die mit einer entsprechenden Sprengladung versehen, oft als sogenannte “Loitering munition” (zu dt. wörtl. “Herumtreibende Munition”) eingesetzt. Diese Systeme steuern kein Ziel direkt an, sondern verharren in einem Bereich, bis sie selbständig oder ferngesteuert auslösen.

In der Praxis häufig verwendete Systeme sind u.a. Kargu-2 (loitering munition) und TAI Anka/Bayraktar TB-2 (unmanned combat aerial vehicle) aus der Türkei, Harpy/Harop aus Israel, Wing Loong II und Xiamen Mugin 4450 aus China und Warmate aus Polen. Auch Russland, die Vereinigten Staaten, Australien, und die Ukraine sind nennenswerte Hersteller dieser Waffensysteme.

Das unbemannte Bodenfahrzeug „Gladiator Tactical“ - Public domain, via Wikimedia Common https://commons.wikimedia.org/wiki/File:Gladiator_240G.jpg

Defizite

Obwohl die mediale Resonanz die durchaus großen Fortschritte dieser Waffensysteme sehr öffentlichkeitswirksam aufbereitet, ist ein fehlerfreier, völlig autonom agierender “Killer Roboter” weit von der aktuellen Entwicklungsrealität entfernt. So sind beispielsweise den Berichten von IEEE Spectrum zufolge selbst in den moderneren Entwicklungen, die aktuell auf dem Schlachtfeld der Ukraine Anwendung finden, diverse Defizite erkennbar. Zum einen technische Schwachstellen wie die Rechenleistung der verbauten Chips oder Sensorik, die im Einsatz verschmutzt und weniger präzise Daten liefert. Auch sind Chips für moderne KI Modelle teuer und werden bei Einsatz zerstört, billigere Modelle bringen weniger Leistung. Diese technischen Hürden sind sowohl finanziell als auch in der Entwicklung laut IEEE nicht in naher Zukunft überwindbar und stellen echte, reale Limits für die Fähigkeiten solcher Systeme dar.

Auch auf Seiten der Software wachsen aus diesen Umständen echte Limitationen. Selbst aktuelle Systeme sind nicht dazu in der Lage, annähernd so schnell und zuverlässig zu entscheiden wie Menschen. Dieser Umstand führt zu teils kreativen Verteidigungsmechanismen wie z.B. das Bemalen von Drohnen mit Vögel-Silhouetten, um der Erkennung durch KI-Automatismen zu entgehen. Aber auch die zweifelsfreie Unterscheidung von Infanteristen der eigenen und gegnerischen Armee durch KI ist mit dem aktuellen Stand der Technik nicht zuverlässig möglich, was in großen Risiken beim Einsatz voll autonomer Systeme mündet.

Auch im Allgemeinen, losgelöst von konkreten Konflikten, kritisieren Forschende (so z.B. in der eingangs erwähnten “Stop Killer Robots” Bewegung) diverse Probleme durch LAWS. Auch zivilrechtliche Organisationen wie Amnesty International kritisieren den Einsatz und die Entwicklung von autonomen Waffensystemen fortlaufend.


Probleme und Lösungsansätze

Ein grundsätzliches Problem bleibt die Definitionsfrage. Wie eingangs bereits erwähnt, befindet sich die Staatengemeinschaft mit ihrem Entwurf CCW/GGE.1/2023/CRP.1 noch im Definitionsprozess.

Moral, Ethik & Verantwortung

Sobald eine Maschine die Abwägung zwischen Kriegszielen und Kollateralschäden beim Einsatz einer Waffe ganz oder teilweise trifft, stellen sich neue, bisher unbeantwortete Fragen bezüglich Moral, Ethik und Verantwortung. Bestehende Regelwerke fußen auf der Annahme, dass solche Entscheidungen von einem oder einer Gruppe Menschen getroffen werden. An der Entwicklung von AWS sind eine Vielzahl an Menschen beteiligt, es entsteht eine Lücke in der Verantwortlichkeit. 

Auch die militärischen Streitkräfte, die ultimativ über den Einsatz dieser Waffensysteme verfügen, arbeiten oftmals mit Strukturen, die menschliches Handeln und individuelle Entscheidungen in ihren Prozessen abbilden. Eine Kommandostruktur setzt voraus, dass eine gewisse Verfügbarkeit und Rationalität in der Kommunikation stattfindet. Autonome Systeme weisen diese Eigenschaften nicht zwangsläufig auf.

Mako nennt als Lösungsansatz für einen Teil dieser Probleme die Implementierung von Design Standards die Voraussetzen, dass an strategischen Wendepunkten in der Entscheidungsfindung solcher Systeme zwingend eine menschliche Eingabe erforderlich ist. An solchen sogenannten “Veto Punkten” ist die Maschine also grundsätzlich gezwungen abzuwarten. Dieses Prinzip zwingt Hersteller also immer unterhalb von Level 5 der Autonomie-Skala zu bleiben. 

Ein solcher Ansatz wurde auch bereits im Bericht A/79/88 des Generalsekretärs diskutiert. Doch auch bei so oder ähnlichen Ansätzen, ist die Frage nach tatsächlicher Effektivität nicht abschließend geklärt, so ein Bericht Natasha Karners (International Studies, RMIT Universität) über den Einsatz von LAWS im Gaza-Krieg durch die israelischen Streitkräfte. Laut Karner liegen Berichte aus Kreisen des israelischen Militärs vor, die besagen, dass eine angemessene Überprüfung vorgeschlagener Ziele nicht umsetzbar sei.

Peter Margulies, Professor für Recht an der Roger Williams University School of Law, schlägt im Paper “Making Autonomous Weapons Accountable” Rahmenbedingungen für den Umgang mit LAWS innerhalb militärischer Befehlsketten vor. Seiner Ansicht nach ist ein komplettes Verbot solcher Waffensysteme unklug, da autonome Systeme das Potenzial haben, die Einhaltung des humanitären Völkerrechts zu verbessern und daher eine Eingliederung in bestehende Strukturen ein besserer Ansatz sei. 

Er sieht vor, dass die Verantwortlichkeit von Befehlen auch auf autonome Waffensysteme erweitert wird. So wie Vorgesetzte aktuell bereits dafür verantwortlich sind, dass ihre Befehlsempfänger sich an geltendes Recht halten, soll diese Verantwortlichkeit auch für autonome Systeme gelten. 

Weiterhin sieht Margulies vor, die Auswirkungen und Konsequenzen fortlaufend über den Zeitraum des Einsatzes zu analysieren und empfiehlt nicht nur einen einmaligen Zeitpunkt zur Autorisierung der Nutzung von autonomen Waffen, sondern einen beständigen Prozess. Auch betont Margulies die Interpretierbarkeit und die Gefahr von Black-Box-Systemen. Er sieht die Nachvollziehbarkeit von Entscheidungen, die das autonome System getroffen hat, als zentralen Bestandteil der fortlaufenden Auswirkungen.

Ukrainische Soldaten mit improvisierten FPV Drohnen  - АрміяInform, CC BY 4.0, via Wikimedia Commons https://commons.wikimedia.org/wiki/File:UA_FPV_strike_drones_01.jpg

Verlässlichkeit und Nachvollziehbarkeit

Bei Diskussionen rund um autonome Waffensysteme und die Grenzen, die ihnen auferlegt werden können, spielt die Frage der technischen Machbarkeit eine große Rolle. Wie bereits im Vorhinein dargestellt, sind die heutigen Limitationen erheblich. 

Bei einer Rahmensetzung muss daher zwingend auch auf die technische Machbarkeit geachtet werden. So kann es je nach Fortschrittlichkeit eines Erkennungsalgorithmus also beispielsweise sein, dass zwischen Soldaten und Zivilisten gar nicht (verlässlich) unterschieden werden kann. Selbst wenn auf konzeptioneller Ebene also eine Restriktion bezüglich z.B. Zivilisten in ein solches System eingebaut wird, ist es womöglich auf technischer Ebene überhaupt nicht umsetzbar. 

Besonders, weil sich die Technologie sehr schnell wandelt, ist von essentieller Bedeutung zukünftige Entwicklungen gegen heutige und zukünftige technische Standards abzuwägen. Je nach Entwicklungsstufe und Klassifikation eines Waffensystems sind völlig andere Regulierungen nötig oder möglich und die Frage nach dem Weg der Entscheidungsfindung  und Auswertung eine völlig andere.

UN-Resolutionen und Positionen

Der Umgang mit LAWS wird bei den Vereinten Nationen parallel auf zwei Ebenen verhandelt. Einerseits im Rahmen der Gruppe der Regierungsexperten (GGE) unter der Waffenkonvention CCW in Genf, andererseits durch politische Erklärungen und Resolutionen der Generalversammlung sowie Berichte des Menschenrechtsrats. 

Seit 2023 hat sich der Druck spürbar erhöht. UN-Generalsekretär Guterres forderte in seinem Bericht "A New Agenda for Peace" ein verbindliches Instrument bis 2026, und die Generalversammlung verabschiedete seither drei aufeinanderfolgende Resolutionen (2023, 2024, 2025) mit wachsender, wenn auch nicht einstimmiger Zustimmung. 

Gleichzeitig bleibt die GGE selbst in der Frage einer verbindlichen Definition und konkreter Regulierungsbestimmungen uneinig. Der aktuelle "Rolling Text" (Arbeitsversion eines UN Textes) nähert sich zwar einer gemeinsamen Formulierung an, doch zentrale Streitpunkte sind bis zur für November 2026 angesetzten Überprüfungskonferenz weiterhin offen.

A New Agenda for Peace Brief des UN-Generalsekretärs (António Guterres), 2023 - Das zentrale Grundsatzpapier, in dem erstmals konkret die Verabschiedung eines rechtsverbindlichen Instruments zum Verbot bzw. zur Regulierung von LAWS bis 2026 gefordert wird. 

A/RES/80/57 Resolution der UN-Generalversammlung, Dezember 2025 - Die aktuellste und damit maßgebliche Resolution, die den bestehenden GGE "Rolling Text" als bedeutenden Fortschritt begrüßt und den politischen Stand kurz vor der Überprüfungskonferenz 2026 dokumentiert. 

CCW/GGE.1/2023/WP.6 Arbeitspapier der GGE zu LAWS, 2023 - Das zentrale Verhandlungsdokument der Regierungsexpertengruppe, das die bis heute ungelöste Definitionsfrage sowie konkurrierende Vorschläge für ein künftiges Instrument abbildet.


Hinweise zur Recherche

Um die Position Ihres eigenen Landes zu diesem Thema zu erarbeiten, schauen Sie zunächst, ob Ihr Land offizielle Erklärungen zum Thema, wie z.B. hier, abgegeben oder unterzeichnet hat.

Auch die eigene Militärinfrastruktur und ggf. Produzenten oder Zulieferer, die in Ihrem Land ansässig sind, können von Interesse sein. Fragen nach (globalen) Lieferketten, in die Ihr Land eingebunden ist und wie Ihr Land solche Technologie vorantreibt und behandelt, sind gute erste Ansatzpunkte.

Die im Text verwendeten UN-Dokumente sind ebenfalls ein guter Einstiegspunkt, um mehr über den aktuellen Stand der Debatte zu erfahren. Es sind meistens englische Originale. Es gibt für die meisten wichtigen UN-Dokumente auch deutsche Übersetzungen, die gut über die Dokumentennummer, bzw. den Titel online abgerufen werden können. Ein guter Anhaltspunkt für die spezifische Lage kann ein Blick auf das militärische Inventar des Landes und auch waffenproduzierende Unternehmen des Staates geben.



Glossar/Lexikon

Klassifikation und Begriffserklärungen

Im Rahmen von Machine Learning im Allgemeinen kann in Klassen von Systemen unterschieden werden. Deren Kontext kann bei der Ausgestaltung von Regelwerken zum Einsatz eine wichtige Hilfestellung bieten:

Black-, Gray- und White Box

Aus der Luftfahrt stammend, wurde der Begriff “Black Box” 1948 erstmals zur Beschreibung von Systemen zur Entscheidungsfindung gebräuchlich. Dabei meint er im Wesentlichen einen Algorithmus, eine Maschine und ganz allgemein ein System, dass eine Abwägung auf eine für Außenstehende nicht nachvollziehbare Weise trifft. Selbst die Entwickelnden solcher Black Box Systeme können nicht zweifelsfrei nachvollziehen, wie eine Entscheidung zustande gekommen ist. Besonders im Kontext von modernen neuronalen Netzen ist dieser Begriff und die damit einhergehende Ungewissheit über die Verhaltensweise besonders treffend. Im Gegensatz zu Gray und White Box Mechanismen, wie sie im klassischen Machine Learning geläufig sind, ist das Problem der Nachvollziehbarkeit und vor allem der Verantwortung für getroffene Entscheidungen viel komplexer und schwieriger zu beantworten. Je nachdem, in welcher Kategorie ein System zu klassifizieren ist, stellen sich völlig andere Fragen rund um Nachvollziehbar- und Verantwortlichkeit.

Grad der Autonomie

Verschiedene Systeme haben verschiedene Fähigkeiten. Je nach Grad der Entwicklung, Alter und verfügbaren Ressourcen in der Entwicklung sind unterschiedliche Waffensysteme zu mehr oder weniger Autonomie in ihren Einsatzgebieten fähig. Noel Sharkey vom internationalen Komitee für die Rüstungskontrolle im Bereich der Robotik (International Committee for Robot Arms Control, ICRAC) gibt dafür 5 Klassifikationslevel an:

L1

Ein Mensch überlegt sich, welches Ziel angegriffen werden soll, bevor ein Angriff eingeleitet wird.

L2

Das Programm stellt eine Liste von Zielen bereit, und ein Mensch wählt aus, welches angegriffen werden soll.

L3

Das Programm wählt ein Ziel aus, und ein Mensch muss dem Angriff zustimmen.

L4

Das Programm wählt ein Ziel aus, und ein Mensch hat nur begrenzt Zeit, sein Veto einzulegen.

L5

Das Programm wählt ein Ziel aus und leitet den Angriff ohne menschliche Entscheidung ein.

Die unterschiedlichen Level der Autonomie eines Systems geben dabei Auskunft darüber, wie viel Verantwortung ein Mensch übernehmen kann oder muss. Laut Sharkey variiert mit dem Grad der Autonomie also auch die Verantwortlichkeit der involvierten Menschen. Viele der entwickelten Systeme beherrschen dabei mehrere dieser Level gleichzeitig. In welchem Modus ein System betrieben wird, ist von außen oftmals nicht zu erkennen und kaum nachweisbar.

Front- und Backend Verantwortlichkeit

Rebecca Crootof, Professorin für Recht an der Universität Richmond, stellt in ihrem Artikel zu juristischen Implikationen von künstlicher Intelligenz (KI) in Waffensystemen zwei zu berücksichtigende Schritte heraus. Sie unterscheidet sie in Frontend und Backend Verantwortlichkeit. Frontend meint in diesem Kontext die potenziellen Auswirkungen eines in der Entwicklung befindlichen Systems im Vorfeld zu berücksichtigen. So sollten laut Crootof ethische und moralische Implikationen direkt in die Ausgestaltung solcher Systeme einfließen. Sie misst den entwickelnden Parteien solcher Systeme in dieser Phase der Konstruktion eine gewisse Verantwortung zu und gibt an, dass Fragen nach moralischen und auch technischen Hürden in dieser Phase bereits Einfluss auf die Entwicklung nehmen sollten.

Bei der Backend Verantwortlichkeit hingegen geht es laut der Autorin um die Frage der Verantwortlichkeit nach dem Einsatz, vor allem bei Fehlern. Crootof bezieht hier die durchaus umstrittene Position, dass einzelne Menschen aufgrund der Abwesenheit ihres Einflusses nicht individuell zur Verantwortung gezogen werden sollten und empfiehlt Maßnahmen, die einen systematischen Charakter haben, um allgemeingültige Regeln zu schaffen.

(L)AWS

Die eingangs bereits erwähnten (letalen), autonomen Waffensystemen (Lethal Autonomous Weapons Systems, LAWS) werden teils synonym und oft im Kontext zu KI gestützten Waffen verwendet. Dennoch existiert keine von der UN einheitlich anerkannte Definition des Begriffs. Eine Sammlung der bei der UN eingereichten Definitionen findet sich im Dokument CCW/GGE.1/2023/CRP.1 verfasst durch die Gruppe staatlicher Experten für tödliche autonome Waffensysteme (Group of Governmental Experts on Lethal Autonomous Weapons Systems, GGE), eine interstaatliche Gruppe aus Experten die sich dem Thema der LAWS widmet. Das Internationale Komitee des Roten Kreuz (International Committee of the Red Cross, ICRC) definiert AWS wie folgt:

“Any weapon system with autonomy in its critical functions — that is, a weapon system that can select (search for, detect, identify, track or select) and attack (use force against, neutralize, damage or destroy) targets without human intervention.”

“Jedes Waffensystem, dessen kritische Funktionen autonom ablaufen - das heißt, ein Waffensystem, das Ziele ohne menschliches Eingreifen auswählen (suchen, erkennen, identifizieren, verfolgen oder auswählen) und angreifen (Gewalt anwenden, unschädlich machen, beschädigen oder zerstören) kann.”

Lexikon

  • Agieren: handeln, tätig sein
  • Algorithmus: eine feste Abfolge von Regeln oder Schritten, nach denen ein Computer eine Aufgabe löst oder eine Entscheidung trifft
  • Auferlegen: jemandem eine Pflicht, Regel oder Einschränkung vorschreiben
  • Autonom: selbstständig, unabhängig von direkter menschlicher Steuerung handelnd
  • Befugnis: die rechtliche Erlaubnis oder Zuständigkeit, etwas zu tun oder zu entscheiden
  • Chips: hier: Computerprozessoren; die Bauteile, die die Rechenleistung intelligenter Systeme (z. B. KI) ermöglichen
  • Defizit: ein Mangel oder eine Schwachstelle, an der ein System die gewünschte Leistung nicht erreicht
  • Drohne: ein unbemanntes Fluggerät, das ferngesteuert oder autonom betrieben werden kann
  • Ethische und moralische Implikationen: die Auswirkungen einer Handlung oder Technologie auf Fragen von Gut und Böse bzw. gesellschaftliche Werte
  • Etwaig: möglicherweise vorhanden, eventuell
  • Evaluieren: etwas systematisch bewerten oder überprüfen
  • Genfer Konventionen: vier völkerrechtliche Verträge von 1949 samt Zusatzprotokollen, die den Schutz von Kriegsopfern und Regeln der Kriegsführung festlegen; zentraler Bestandteil des humanitären Völkerrechts
  • Implikation: eine Folge oder ein Zusammenhang, der sich logisch aus einer Aussage oder Handlung ergibt
  • Infanterist*in: Soldat*in der Fußtruppen, im Gegensatz z. B. zu Panzer- oder Lufteinheiten
  • Innehalten: hier: besitzen, aufweisen (z. B. eine bestimmte Fähigkeit)
  • Institution: eine feste, dauerhaft bestehende Organisation oder Einrichtung, z. B. innerhalb der UN
  • Internationale Staatengemeinschaft: Sammelbegriff für die Gesamtheit der Staaten der Welt, oft im Kontext der Vereinten Nationen verwendet; synonym zu "Vereinte Nationen" gebraucht
  • Interstaatlich: zwischen mehreren Staaten stattfindend oder bestehend
  • Kollateralschaden: unbeabsichtigter Schaden, insbesondere an Zivilist*innen oder zivilen Objekten, der bei einem militärischen Angriff zusätzlich zum eigentlichen Ziel entsteht
  • Konzeptionell: die grundlegende Idee oder den Entwurf einer Sache betreffend, im Gegensatz zur praktischen Umsetzung
  • Letal: tödlich
  • Machine Learning (maschinelles Lernen): ein Teilbereich der künstlichen Intelligenz, bei dem Computersysteme anhand von Daten eigenständig Muster erkennen und Entscheidungen treffen lernen, ohne dafür explizit programmiert zu werden
  • Marschflugkörper: eine mit eigenem Antrieb versehene Rakete, die niedrig fliegend und zielgenau ein Ziel ansteuert
  • Mediale Resonanz: die Aufmerksamkeit, die ein Thema in Presse, Fernsehen und sozialen Medien erhält
  • Neuronale Netze: informationsverarbeitende Systeme, die lose der Struktur des menschlichen Gehirns nachempfunden sind und die zentrale Grundlage moderner künstlicher Intelligenz bilden
  • Novum - eine bislang unbekannte oder neuartige Erscheinung
  • Öffentlichkeitswirksam: so gestaltet, dass es eine breite öffentliche Aufmerksamkeit erzeugt
  • Quantisierung: hier: das Messbarmachen von eigentlich schwer greifbaren (z. B. ethischen) Werten durch Zahlen oder Skalen
  • Ratifizieren: einen völkerrechtlichen Vertrag durch die zuständigen staatlichen Organe endgültig verbindlich in Kraft setzen
  • Silhouette: der Umriss eines Objekts oder einer Person
  • Synonym: ein Wort oder Begriff mit (nahezu) gleicher Bedeutung wie ein anderer
  • Verbindlich: rechtlich bindend, mit einer Verpflichtung verbunden
  • Verharren: an einem Ort oder in einem Zustand bleiben, ohne sich zu bewegen
  • Veto: Widerspruch (einlegen)

Quellen