Unsere Welt zu verstehen:  Autonome Waffensysteme

 

 
Autonome Waffensysteme

— hmsgnr0193z

 
 
In jedem Staat, der über eine moderne Armee verfügt, wird heute daran gearbeitet, sog. autonome Waffensysteme zu entwickeln: KI-gesteuerte Maschinen, denen man nicht nur das Töten, sondern auch die Entscheidung dazu überlassen möchte.
 
Viel zu wenig wird dabei bedacht:
 
Das Verhalten einer Maschine,
 
deren KI die Fähigkeit hat, selbständig zu lernen, und die Aufgabe, selbst zu entscheiden,
 
ist unvorhersehbar.
 
 
Es könnte gut sein, dass sie sich dann nicht einmal mehr deaktivieren lässt.
 
Was also, wenn sie das Ende eines Krieges nicht mitbekommt?

 
 
Armin Krishnan — ein renommierter Militärforscher an der amerikanischen East Carolina University — sagt 2016:
 
Viele Streitkräfte verfügen bereits über autonome Waffensysteme:

 

• Typisches Beispiel sind Luftverteidigungssysteme, die automatisch Luftziele erkennen und angreifen können — ohne jegliche Intervention von Menschen.
   
• Zudem gebe es viele Raketensysteme, die — einmal abgefeuert — automatisch ihre Ziele finden und attackieren.
   
• Bereits entwickelt, aber noch nicht eingesetzt, seien auch schon mobile Waffensysteme, die in einem vorgegebenen Zielgebiet auf die Jagd gehen können und in der Lage wären, ohne menschliche Beteiligung Ziele auszuwählen und anzugreifen.
   
• Selbst extrem gut ausgetestete Software macht gelegentlich ganz erstaunlich dumme Fehler. Frage also: Wie vergleichen sich Mensch und KI hinsichtlich Fehleranfälligkeit?

 
 
Lies auch: Wie Kriegsführung sich wandelt — Wollen wir es so?
 
KI kann auch voreingenommen sein (wo sie aus Erfahrungsdaten lernt, wird das sogar eher zur Regel als zur Ausnahme).