Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Moderator: Moderatoren Forum 7

Antworten
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Seit einigen Jahren gibt es die Entwicklung, Waffensysteme zu entwickeln, die ohne menschlichen Eingriff auskommen. Den Anfang haben Drohnen gemacht, die jetzt schon ohne Eingriff ins Zielgebiet fliegen und dort in Wartestellung kreisen, bis ein Operator am anderen Ende der Welt eingreift und ihnen ein Ziel zuweist, welches sie dann bekämpfen.

Samsung hat dieses System weiterentwickelt und einen stationären, vollautonomen Kampfroboter entwickelt, der selbstständig Ziele erkennen, Bedrohungen bewerten und eine angepasste Bekämpfungsart wählen kann.
http://de.wikipedia.org/wiki/Samsung_SGR-A1

Dieser befindet sich seit 2006 in der Nutzung. Er stellt aber nur einen weiteren Schritt auf dem Weg zu einer Kriegsführung dar, die ohne Soldaten als "Boots on the Ground" auskommt.

Die UN befassen sich nun auch mit dem Thema:
http://www.welt.de/debatte/kolumnen/der ... ndern.html

Die Frage, ob sich diese Systeme verhindern lassen, stellt sich nicht. Menschen nutzen, was ihnen nützt. Außerdem sehe ich auch Vorteile:
- Wenn sich Roboter gegenseitig bekämpfen, sterben keine Menschen. Roboter suchen (je nach Programmierung natürlich) nicht Deckung in Wohngebieten. Medienwirksamkeit ist ihnen egal.
- Roboter werden nicht müde. Sie beurteilen nicht "falsch". Sie kennen keinen Sadismus, keine Wut, keine Rache. Sie zielen nicht daneben. Sie handeln, wenn sie ordentlich programmiert sind, jederzeit ethisch korrekt.

Was haltet ihr von der Debatte? werden wir irgendwann Kriege erleben, die dadurch entschieden werden, dass sich autonome Systeme "auf der grünen Wiese" so lange bekämpfen, bis einer übrig bleibt? Oder werden die Hemmungen fallen, militärisch tätig zu werden, wenn nur Blech zu Schaden kommt?
Wer trägt die Verantwortung, wenn ein Roboter doch massives unerwünschtes Verhalten zeigt? Was passiert, wenn Hacker die Systeme kapern?
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Ich sehe das sehr skeptisch, weil keine Software fehlerfrei funktioniert und die von dir angesprochene Gefahr von Hackern existiert. Neuronale Netzwerke und Expertensysteme gepaart mit einer gut programmierten KI sind lernfähig, das lässt einen Gruseln und an "Terminator" denken.

Zu den Kriegen auf der grünen Wiese: würde sich denn ein Diktator geschlagen geben oder würde er nicht doch wieder Menschen als Soldaten einsetzen? Wohl eher letzteres, viele Staaten haben auch kein Geld, solche Kampfroboter anzuschaffen und zu warten. Und was macht man dann? Hetzt man die Roboter auf die Menschenarmee? Das ist ein Spiel mit dem Feuer.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Andererseits wären Roboter vielleicht das humanere Mittel. Wo Menschen auch aus Selbsterhaltungstrieb töten würden, kann ein Roboter nichttödlich wirken, um die gegnerischen Kräfte gefangen zu nehmen.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Cobra9
Beiträge: 42055
Registriert: Mo 10. Okt 2011, 11:28

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Cobra9 »

Provokateur » Di 21. Apr 2015, 09:06 hat geschrieben:Andererseits wären Roboter vielleicht das humanere Mittel. Wo Menschen auch aus Selbsterhaltungstrieb töten würden, kann ein Roboter nichttödlich wirken, um die gegnerischen Kräfte gefangen zu nehmen.
Nun ja bei den Robotern stellt sich eine grundsätzliche Frage- welche Grenzen hat deren eigene Entscheidungsfähigkeit. Übertreiben wir es mal- KI.
Andrij Melnyk nennt Rolf Mützenich den „widerlichsten deutschen Politiker“..wo Er Recht hat...

Genieße den Augenblick, denn der Augenblick ist dein Leben
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Nach dem moor´schen Gesetz (wohl eher eine moor´sche Vermutung) müssten wir ja schon in zehn Jahren so weit sein, dass KI in vielen Bereichen unseres Lebens präsent ist. Stichwort "Internet der Dinge".

Das bedeutet aber auch, dass sie im militärischen Bereich wesentlich weiter ist, und damit ist die Frage nach Quantencomputern noch nicht gestellt. Irgendwann haben wir ihn dann, den Computer, der leistungsfähiger ist als das menschliche Gehirn.
Man muss sich aber auch fragen - wird so ein Roboter einen Menschen generell töten müssen?
Die Gefahr für den Roboter, also das Wirkmittel, geht vom Wirkmittel der Person aus. Wenn es also gelingt, dieses Wirkmittel zu neutralisieren, ist auch die Bedrohung neutralisiert, dann hat man zwar einen wütenden Menschen, aber einen, der den Roboter nur noch mit Fäusten traktieren kann, was den Auftrag eher nicht gefährdet.

Derzeit erleben wir den Krieg, der nicht "up, close and personal" geführt wird, sondern nur von oben. das Handy von Zielperson A ist dort, Zielperson B müsste das Gebäude gerade betreten, das reicht, um ihnen Licht und Wärme zu bringen. Ein Roboter, der selbstständig das Gebäude betritt, die Zielpersonen festnimmt und dann in einer Pick-Up-Zone an einen Luftroboter übergibt, der diese Personen dann in ein Gefängnis überstellt, scheint mir da die humanere Alternative.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Provokateur » Di 21. Apr 2015, 09:06 hat geschrieben:Andererseits wären Roboter vielleicht das humanere Mittel. Wo Menschen auch aus Selbsterhaltungstrieb töten würden, kann ein Roboter nichttödlich wirken, um die gegnerischen Kräfte gefangen zu nehmen.
Wie soll das denn funktionieren, wenn da eine menschliche Armee mit Panzern, Artillerie und Luftunterstüzung auf die Roboterarmee zurollt?

Dein anderes Beispiel zielt wohl auf Terrorbekämpfung ab, aber was macht der Roboter, wenn der Mensch eine Leiter hochklettert und übers Dach flieht? Ich kann mir nicht vorstellen, dass Roboter in absehbarer Zeit in der Lage sein werden, da hinterher zu klettern.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Blickwinkel
Beiträge: 15030
Registriert: Mi 7. Nov 2012, 19:29
user title: Demokratischer Europäer
Wohnort: Erde

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Blickwinkel »

Tom Bombadil » Di 21. Apr 2015, 09:44 hat geschrieben: Wie soll das denn funktionieren, wenn da eine menschliche Armee mit Panzern, Artillerie und Luftunterstüzung auf die Roboterarmee zurollt?

Dein anderes Beispiel zielt wohl auf Terrorbekämpfung ab, aber was macht der Roboter, wenn der Mensch eine Leiter hochklettert und übers Dach flieht? Ich kann mir nicht vorstellen, dass Roboter in absehbarer Zeit in der Lage sein werden, da hinterher zu klettern.
Wieso muss der Roboter klettern? Er könnte auch mit einem Jetpack ggf. kurz das Gebäude hochfliegen (solange es kein Wolkenkratzer ist).
Nichts ist in der Regel unsozialer als der sogenannte Wohlfahrtsstaat, der die menschliche Verantwortung erschlaffen und die individuelle Leistung absinken läßt. (Ludwig Erhard)
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Ja, oder er zieht Luftroboter zur Unterstützung hinzu. "Kann nicht verfolgen, geh Kaffee trinken!" macht der Roboter jedenfalls nicht.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Ich bin bei "perfekten" technischen Lösungen sehr skeptisch, vor allen Dingen sollte man nicht Maschinen die Entscheidung über Leben und Tod überlassen.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Nun ja. Minen übernehmen diese Entscheidungen schon aufgrund binärer Kriterien. Unterschiede machen die nicht.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Deswegen werden Minen und Clusterbomben ja auch geächtet ;)
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Warum sollte man also ein Waffensystem ächten, das zwischen Kombattanten und Zivilisten differenzieren kann?
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Wenn es das kann und es nie zu Unfällen, Problemen oder technischem Versagen kommt, braucht man es nicht zu ächten. Es bleibt nur abzuwarten, ob die Technik das in absehbarer Zeit wird leisten können, ich habe da so meine Zweifel.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Der Samsung-Roboter reagiert doch schon bedrohungsangepasst.
Das ist nicht morgen. Das ist heute!
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
JFK
Beiträge: 10685
Registriert: Di 13. Jan 2015, 16:19
Wohnort: München

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von JFK »

Tom Bombadil » Di 21. Apr 2015, 11:01 hat geschrieben:Wenn es das kann und es nie zu Unfällen, Problemen oder technischem Versagen kommt, braucht man es nicht zu ächten. Es bleibt nur abzuwarten, ob die Technik das in absehbarer Zeit wird leisten können, ich habe da so meine Zweifel.
Ich fürchte mich vor den Algorithmen, alles was programiert ist kann nur begrenzt gefährlich werden.
»Menschen, weigert euch, Feinde zu sein« (Römer 12)
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Hier mal ein Filmchen zum Thema:

[youtube][/youtube]
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

@Provokateur: "Bedrohungsangepasst" ist ja wieder etwas anderes als die Unterscheidung Kombattant-Zivilist. Es gibt keine perfekten technischen Lösungen, es gibt keine perfekte Software, es kann immer zu Fehlern und Systemausfällen kommen, kein Sstem ist sicher vor eingeschleuster Schadsoftware, daher lehne ich es ab, dass man Maschinen die Entscheidung überlässt, wer lebt und wer stirbt. Natürlich machen auch Menschen Fehler, aber diese Menschen kann man zur Rechenschaft ziehen, Roboter nicht.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Cat with a whip
Beiträge: 13325
Registriert: Fr 4. Jul 2008, 21:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Cat with a whip »

Der banalen Umstand (Flugerät in Parkphase) ist keine neue besodere Qualität dieser Waffengattung. Sie werden dadurch einfach schneller Einsatzbereit.

Autonome Waffensysteme sind ein alter Hut. Jede Tretmine ist eine solche. Das sind heftige und viel gefährlichere Waffen als Drohnen.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Blickwinkel
Beiträge: 15030
Registriert: Mi 7. Nov 2012, 19:29
user title: Demokratischer Europäer
Wohnort: Erde

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Blickwinkel »

Tom Bombadil » Di 21. Apr 2015, 09:53 hat geschrieben:Ich bin bei "perfekten" technischen Lösungen sehr skeptisch, vor allen Dingen sollte man nicht Maschinen die Entscheidung über Leben und Tod überlassen.
Eine Maschine würde aber nie aus Angst jemanden töten oder sich von etwas bedroht fühlen und deswegen schießen.
Nichts ist in der Regel unsozialer als der sogenannte Wohlfahrtsstaat, der die menschliche Verantwortung erschlaffen und die individuelle Leistung absinken läßt. (Ludwig Erhard)
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Kritik aus Wikipedia zu dem Korea-Terminator:

Die südkoreanische Regierung debattierte bis 2008 über die Installation von Kampfrobotern entlang der gesamten Grenze zu Nordkorea, was schließlich verworfen wurde, weil die Pilotversuche keine zufriedenstellenden Ergebnisse brachten.
Kritisiert wird vor allem der Verlust der menschlichen Kontrolle über die Waffengewalt. Ebenso sei das System vor manipulativen Angriffen nicht geschützt. Im Gegensatz zu den bisher primitiven Selbstschussanlagen übernimmt der Roboter die volle Funktion eines Soldaten: Identifizierung einer Gefahr, Warnung des Angreifers, Entscheidung über Gegenmaßnahmen, Durchführung von Gegenmaßnahmen. Obwohl diese Aktionen von Menschen einprogrammiert werden, gehen Kritiker davon aus, dass die Quote der Fehlentscheidungen des Kampfroboters weitaus höher liegt als die eines Soldaten.

Scheint noch nicht so doll zu sein, das Ding.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Joa, aber das Werbevideo zeigt doch, wo der Weg hingehen soll.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Diese Dinger werden auch irgendwann kommen, ich halte es trotzdem für falsch, dass man denen die Entscheidung über Leben und Tod überlässt.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Cat with a whip
Beiträge: 13325
Registriert: Fr 4. Jul 2008, 21:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Cat with a whip »

Tom Bombadil » Di 21. Apr 2015, 10:28 hat geschrieben:Diese Dinger werden auch irgendwann kommen, ich halte es trotzdem für falsch, dass man denen die Entscheidung über Leben und Tod überlässt.

Macht man bei Landminen doch auch.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
Cat with a whip
Beiträge: 13325
Registriert: Fr 4. Jul 2008, 21:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Cat with a whip »

Achso, ist ja schon längst durch, sorry.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Weil es passt:

http://www.focus.de/politik/videos/code ... 20154.html

Die Überschrift übertreibt mal wieder.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 14:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von El Cattivo »

Tom Bombadil » Di 21. Apr 2015, 11:07 hat geschrieben:@Provokateur: "Bedrohungsangepasst" ist ja wieder etwas anderes als die Unterscheidung Kombattant-Zivilist. Es gibt keine perfekten technischen Lösungen, es gibt keine perfekte Software, es kann immer zu Fehlern und Systemausfällen kommen, kein Sstem ist sicher vor eingeschleuster Schadsoftware, daher lehne ich es ab, dass man Maschinen die Entscheidung überlässt, wer lebt und wer stirbt. Natürlich machen auch Menschen Fehler, aber diese Menschen kann man zur Rechenschaft ziehen, Roboter nicht.
Das verstehe ich nicht. Maschienen sind natürlich nicht fehlerfrei und doch meist besser in Ihren Aufgaben als Menschen.


  • Sollten auch Maschienen nicht fehlerfrei sind, sind sie doch meist doch besser als Menschen. Wenn mehr Menschen unnötig sterben ist das besser, weil man jemand vielleicht zur Rechenschaft ziehen kann?
  • Wieso kann man bei einer Maschiene niemanden zur Rechenschaft ziehen? Sie baut sich nicht selbst, stellt sich nicht selbst dahin und tut sicherlich auch nicht irgendwas. Sie wird von Menschen konstruiert, von Menschen zu einer bestimmten Aufgabe an einen bestimmten Ort geschickt.
  • Wenn bei Maschienen die Kommandierenden ohne Verantwortung sein sollen, wie ist es dann beim Menschen. Liegt in Wirklichkeit das Problem nicht darin, das Kommandierende bei Maschienen die Verantwortung nicht abschieben können?
  • Warum ist eine Selbstschussanlage die alles niedermäht 'pöser', als eine Schussanlage die so konzepiert ist, vielleicht nicht zu schießen, wenn sich ein Kind in den Feuerraum verirrt?
  • Es gibt schon lange autonome Waffen. Fire and Forget Geschosse zum Beispiel.
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Ob solche Tötungsmaschinen irgendwann besser sind als Menschen bleibt abzuwarten, laut Wiki ist es die genannte Maschine nicht. Und wen willst du für einen Softwarefehler zur Rechenschaft ziehen? Den Programmierer? Der wird sich bedanken, vllt. weiß der ja nichtmal, wofür sein Code benutzt wird. Und welche Kommandieren meinst du? Die Dinger arbeiten autonom, da gibt niemand mehr einen Feuerbefehl. Das unterscheidet diese Roboter auch von den von dir genannten Waffen.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 14:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von El Cattivo »

Tom Bombadil » So 26. Apr 2015, 10:39 hat geschrieben:Ob solche Tötungsmaschinen irgendwann besser sind als Menschen bleibt abzuwarten, [...]
Ein Chip kennt weder Angst, moralische Verrohung, Hass, Stress oder Affekthandlungen. Dazu kommt, dass die Eigensicherung runter geschraubt werden kann. Bei menschlichen Soldaten gilt nämlich oft das Prinzip: Eigenschutz geht vor. Zum Beispiel vor dem Schutz von Zivilisten. Luftangriff bei Kunduz, befohlen durch Oberst Klein kann mal ein Maßstab dienen wie weit das geht. Selbst im deutschen Rechts, in anderen Ländern sieht es noch deutlich anders aus.
Und wen willst du für einen Softwarefehler zur Rechenschaft ziehen? Den Programmierer?
Fallabhängig. Welchen Programmierer? Wenn jemand z.B. dem Samsung SGR-A1 ein Zielgebieht zuweist, das außerhalb der gesicherten Grenzstreifens liegt, dann kann der jenige Schuld der das so programmiert hat. Wenn die Programmierung so befohlen worden war, dann offensichtlich der, der es befohlen hat. Wenn es nicht so befohlen war und der Programmierer Scheise gebaut hat, ja dann offensichtlich der. ec.pp.

Oder kurz: Warum sollten kommandierende Soldaten nicht auch Verantwortung tragen?
Das unterscheidet diese Roboter auch von den von dir genannten Waffen.
Falsch. Eine automatische Schussanlage wartet keineswegs auf einen Feuerbefehl. Einmal scharf, wird alles niedergemäht.
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

So eine Maschine hat keine Angst, aber auch keinerlei Hemmungen. Ein Mensch kann nochmal nachdenken, die Maschine löst aus, sobald gesetzte Parameter zutreffen.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 14:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von El Cattivo »

[quote="[url=http://www.politik-forum.eu/viewtopic.p ... 4#p3065904][...]Ein Mensch kann nochmal nachdenken, die Maschine löst aus, sobald gesetzte Parameter zutreffen.[/quote]
Eben, deswegen. Nur das mit dem Nachdenken ist nicht richtig. Der Mensch neigt wenig zum nachdenken in Todesgefahr. Im Zweifel: Erst schießen, dann fragen. Ganz klare Devise, Eigenschutz geht vor.

Bei Maschienen ist das nicht mehr so. Die Maschienen denkt immmer erst nach, sie prüft immer strikt die ihr vorgebenen Parameter. Da gibt es weder Angst, Stress, noch Affekte, die das Nachdenken ausschalten wie beim Menschen. Klar, höhere Offiziere die diese Parameter definieren, programmieren, kennen müssen und einen Einsatz im Rahmen dieser Parameter befehlen haben dann die volle Verantwortung. Außerdem kann "Eigenschutz geht vor" Prinzip bei Robotern entschärfen. Verliert man halt ein Roboter nicht so schlimm. Dann kann man sich auch mal erlauben, erst zu fragen und dann erst zu schiesen.

Je nach Einsatzgebiet ist es total unterschiedlich. Die Nachdenkfähigkeit von Menschen innerhalb von Bruchteilen von Sekunden läuft auch gegen null. Deswegen wird in Bereichen wo schnelle Reaktionen gefragt sind, auch hier schon länger auf Systeme gesetzt, wo auch der Schuss automatisch ausgelöst wird. Selbst wenn man es versuchen würde, dem Mensch solche Aufgaben zu übertragen. Würde er doch nur reflexartik auf "fire" drücken.

mfg
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Brave new world. Nicht für mich, ich habe genug mit Computern zu tun, um die Fehleranfälligkeit von solchen Systemen zu kennen, von der mangelnden Sicherheit gegen Manipulation von außen mal ganz abgesehen. Es ist ja schön dass hier Selbstschussanlagen und Minen für autonom tötende Maschinen aufgeführt werden, aber genau diese Dinger werden verachtet und geächtet und das mit Recht.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Haegar
Beiträge: 2515
Registriert: Do 27. Aug 2009, 10:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Haegar »

In abgegrenzten Bereichen werden diese Maschinen durchaus einen Vorteil gegenüber menschlichen Soldaten haben, aber außerhalb dieser werden Menschen weiterhin überlegen sein, weil geistig flexibel.
Merkt man an dem Katz- und Mausspiel zwischen Hacker und Schutzsoftwareprogrammierer. Oder gibt es schon sich selbst programmierende Schutzprogramme ?
Haegar
Beiträge: 2515
Registriert: Do 27. Aug 2009, 10:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Haegar »

In abgegrenzten Bereichen werden diese Maschinen durchaus einen Vorteil gegenüber menschlichen Soldaten haben, aber außerhalb dieser werden Menschen weiterhin überlegen sein, weil geistig flexibel.
Merkt man an dem Katz- und Mausspiel zwischen Hacker und Schutzsoftwareprogrammierer. Oder gibt es schon sich selbst programmierende Schutzprogramme ?
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Es gibt Programmsubroutinen, die erkennen, wenn sich ein anderes Programm ungewöhnlich verhält. So kann ein Admin darauf aufmerksam werden, dass sich ein Hacker im System befindet oder befinden könnte.

Aber so weit, dass das Programm selber Gegenmaßnahmen ergreift, sind wir afaik noch nicht.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Haegar
Beiträge: 2515
Registriert: Do 27. Aug 2009, 10:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Haegar »

Provokateur » So 3. Mai 2015, 14:07 hat geschrieben:Es gibt Programmsubroutinen, die erkennen, wenn sich ein anderes Programm ungewöhnlich verhält. So kann ein Admin darauf aufmerksam werden, dass sich ein Hacker im System befindet oder befinden könnte.

Aber so weit, dass das Programm selber Gegenmaßnahmen ergreift, sind wir afaik noch nicht.
Und das wird wohl noch lange die Schwachstelle der Maschinen bleiben. Ohne menschliche Kontrolle können diese "verarscht" werden. Dauert wohl noch einige Zeit.
MN7
Beiträge: 547
Registriert: Sa 3. Jan 2015, 05:38
user title: Glory to Arstotzka

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von MN7 »

Ist bei fahrerlosen Autos gerade ein großes Thema. Dort kann man richtig Schaden machen, zigtausende Fahrzeuge zeitgleich zu Waffen umfunktionieren. Der sicherheitsbewußte Autokäufer mag sowas gar nicht.
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 14:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von El Cattivo »

MN7 » Di 5. Mai 2015, 20:03 hat geschrieben:Ist bei fahrerlosen Autos gerade ein großes Thema. Dort kann man richtig Schaden machen, [...]
Warum sollte fahrerlos ein Kriterium sein? Wenn ein Hacker Schaden machen will und den CAN-BUS eines modernen Fahrzeugs hackt, was willst Du dann als Fahrer tun?

mfg
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
MN7
Beiträge: 547
Registriert: Sa 3. Jan 2015, 05:38
user title: Glory to Arstotzka

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von MN7 »

Die derzeit in Entwicklung befindliche Luftnahunterstützung durch Drohnenschwärme ist taktisch eine tolle Sache, und ohne einen hohen Grad an Autonomie für die einzelne Drohne gar nicht machbar. Der menschliche Operator steuert den Schwarm im Ganzen, ein Micromanagement jeder einzelnen Drohne ist weder sinnvoll noch praktikabel.
Benutzeravatar
Kibuka
Beiträge: 20906
Registriert: Mo 2. Jun 2008, 21:35
user title: Der schon länger hier lebt
Wohnort: München

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Kibuka »

Provokateur » Di 21. Apr 2015, 06:20 hat geschrieben: Was haltet ihr von der Debatte? werden wir irgendwann Kriege erleben, die dadurch entschieden werden, dass sich autonome Systeme "auf der grünen Wiese" so lange bekämpfen, bis einer übrig bleibt? Oder werden die Hemmungen fallen, militärisch tätig zu werden, wenn nur Blech zu Schaden kommt?
Wer trägt die Verantwortung, wenn ein Roboter doch massives unerwünschtes Verhalten zeigt? Was passiert, wenn Hacker die Systeme kapern?
Dazu passt der aktuelle Artikel in der FAZ.

http://www.faz.net/aktuell/wirtschaft/s ... 07146.html

Stephen Hawking hat sich zuletzt zu dem Thema KI geäußert. Gegenwärtig sehen wir eine rasante Entwicklung bei den autonomen Systemen. Es werden viele Ressourcen in die Entwicklung selbstfahrender Fahrzeuge gesteckt.

Autonome Systeme können im Rahmen ihrer "Programmierung" perfekt funktionieren. Heutige Computer sind deterministische Rechenmaschinen. Sie scheitern aber an vermeintlich einfachen Dingen, weil diese "einfachen Dinge" in Wahrheit hochgradig komplex sind. Ein Roboter, der einen Gegenstand hochhebt, muss sich Gedanken darüber machen, wie schwer dieser Gegenstand ist um dann exakt die Kraft zu dosieren, mit der der Gegenstand hochgehoben werden kann ohne ihn zu zerstören. Die ganze inverse Kinematik wird berechnet, bevor der Roboterarm in Aktion tritt.

Der Mensch erlernt die Dinge auf nichtdeterministische Art und Weise. Es bleibt eine rationale Unschärfe, die es ihm ermöglicht überhaupt in einer komplexen Welt zu existieren. Beispielsweise filtert das Auge und das Sehzentrum im Hirn den Großteil aus, bevor wesentliche Informationen an das Großhirn weitergeleitet werden. Ein Kleinkind berechnet auch nicht haargenau die Kraft in den Fingern, bevor es ein Glas Wasser hochhebt. Auch hebt es das Glas nicht perfekt hoch, im Sinne von maximaler Effizienz und stetiger Reproduzierbarkeit. Daran scheitern heutige Systeme und lange Zeit ist man dem Irrtum erlegen, Computer mit dem menschlichen Gehirn gleichzusetzen. Funktioniert hat es deshalb nicht, weil zwei völlig unterschiedliche Funktionsprinzipien zugrunde liegen. Auf der einen Seite die deterministische Rechenmaschine, die streng formal auf Algorithmen beruht und auf der anderen Seite das nichtdeterministische, chaotisch agierende menschliche Gehirn, welches rauschbehaftet Tätigkeiten durchführt. Wir werden nicht mit einem festen Satz von aufeinander folgendenen Befehlen programmiert, die wir penibel nacheinander abarbeiten, wir erlernen von klein an mit unserer Umwelt zu interagieren. Ein stetiger Kreislauf von Aktion und Rückkopplung. Solange, bis wir ein hinreichendes Optimum gefunden haben, um erfolgreich zu sein. Das ist die Grundlage von neuronalen Netzen, die sich einschwingen, d.h. lernen.

Dennoch konnten Computer zuletzt zunehmend Fuß fassen in der komplexeren Automatisierung. Selbst das autonom fahrende Auto ist heute ein reales Konstrukt und nur eine Frage der Zeit. Die Rechenleistung, die permanent steigt hat maßgeblich dazu beigetragen. In ca. 20 Jahren werden autonome Fahrzeuge auf den Strassen unterwegs sein und besser fahren, als ein Mensch. Schlichtweg, weil sie voll determenistisch arbeiten und deshalb keine Fehler machen. Sie machen das, wozu sie programmiert wurden, immer und zu 100%. Die Zahl der Berechnungen pro Sekunde ermöglicht Reaktionszeiten, bei denen kein Mensch mithalten kann.

Diese Entwicklung zieht auch im militärischen Sektor immer stärkere Kreise. Wenn die Rechenleistung und die Software soweit sind, dass autonome Systeme selbstständig in ihrer Umgebung "operieren" können, werden Dämme brechen.

Viel interessanter ist aber die echte KI. Sollte der Menschheit dieser Schritt gelingen, so kann man nur die Worte von Hawking wiederholen. „Das wird das größte Ereignis in der Geschichte der Menschheit werden - und möglicherweise auch das letzte.“

Eine echte KI wäre der heilige Gral.

Ich bin deshalb auch der Meinung von Hawking. Militärische Systeme zu automatisieren und zu vernetzen ist hochgradig riskant. Die Kontrolle dieser Systeme obliegt dann wenigen Personen, die damit zuviel Macht erhalten und eines Tages könnten sie die Kontrolle sogar vollständig verlieren. Insofern ist das in dem 1980 erschienenen Film Terminator gezeichnete Szenario realistischer als viele glauben. Es ist ein Szenario, welches in 100 oder 500 Jahren Realität werden könnte.
Zuletzt geändert von Kibuka am Di 26. Mai 2015, 20:02, insgesamt 1-mal geändert.
Have no heroes, look up to no-one, for if you do, the best you'll ever be is second. If you have to ask why, you'll never understand!

„Weil das Wohl von einem genauso schwer wiegt, wie das Wohl von vielen.“
Benutzeravatar
Tom Bombadil
Beiträge: 72990
Registriert: Sa 31. Mai 2008, 16:27
user title: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Tom Bombadil »

Volle Zustimmung :thumbup:
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
---
Diffamierer der Linken.
Benutzeravatar
frems
Beiträge: 47101
Registriert: Sa 4. Apr 2009, 14:43
user title: Hochenergetisch
Wohnort: Hamburg, Europa

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von frems »

Zum Thema:
Rund 2.000 Forscher und Experten für Künstliche Intelligenz haben sich gegen den Einsatz von autonomen Waffensystemen ausgesprochen. In einem gemeinsamen Brief warnen sie vor einem Wettrennen bei der Einführung von Kampfrobotern, die anhand von definierten Kriterien selbst über das Leben eines Menschen entscheiden. Explizit ausgeschlossen von der Forderung sind von Menschen gesteuerte Kampfdrohnen, wie sie schon heute zum Einsatz kommen. Zu den Unterzeichnern gehören unter anderen der Astrophysiker Stephen Hawking, Apple-Co-Gründer Steve Wozniak und der Sprachwissenschaftler Noam Chomsky.

Die Nutzung solcher Waffensysteme könne so weitreichende Auswirkungen haben wie etwa die Entwicklung von Atomwaffen oder die Verwendung von Schießpulver, heißt es in dem Brief, der anlässlich einer Konferenz zum Thema in Buenos Aires. "Die Technologie hat einen Punkt erreicht, an dem autonome Waffensysteme binnen Jahren, nicht Jahrzehnten, angewandt werden könnten." Zwar könne Künstliche Intelligenz Kriege grundsätzlich sicherer machen. Offensiv angewandt aber würde sie zu höheren Todeszahlen führen.
http://www.zeit.de/digital/2015-07/kamp ... enz-waffen
Labskaus!

Ob Mailand oder Madrid -- Hauptsache Europa.
Benutzeravatar
Cat with a whip
Beiträge: 13325
Registriert: Fr 4. Jul 2008, 21:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Cat with a whip »

Ist auch kein Wunder dass in diesem Aufruf die von Menschen gesteuerten Waffen explizit ausgenommen sind. Diese töten bereits jetzt real und sind viel gefählicher. Menschen machen Fehler und HABEN DEN WILLEN zu töten und tun das, auch wenn gegebene Hinweise einem Einsatz widersprechen. Das weiß man aus Untersuchungen zu ungesetzlichen Tötungen mit Kampfdrohnen und psychologischen Studien über Drohnenpiloten. D.h. lapidar in Stresssituationen wird der Knopf eben gedrückt weil die Erwartungshaltung hinsichtlich enes Erfolgs erfüllt wird: Das Gehirn belohnt sich mit erzeugten Sinn.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Neues von der Entwicklerfront:

Kampfdrohne in allen Tests besser als Kampfpilot.
Piloten von Kampfflugzeugen müssen sich wohl bald nach einem neuen Job umsehen. Ein neues KI-Programm hat in einer realistischen Simulation einen erfahrenen Kampfpiloten reihenweise abgeschossen. Gene Lee ist ein ehemaliger Kampfpilot und erfahrener Ausbilder, aber gegen das Programm Alpha hatte er keine Chance. Lee sagte dem "University of Cincinnati Magazine" sein Gegner sei "die aggressivste, am schnellsten reagierende, dynamischste und überzeugendste KI", die er je gesehen habe.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Provokateur
Beiträge: 12535
Registriert: Sa 3. Jan 2015, 16:44
user title: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Provokateur »

Fake oder echt? Ich tippe noch auf Fake - aber denkbar:

https://9gag.com/gag/ayxApQp
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Ein Terraner
Beiträge: 14308
Registriert: Sa 7. Mai 2016, 19:48
Wohnort: München

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitrag von Ein Terraner »

Provokateur hat geschrieben:(21 Apr 2015, 07:20)

- Wenn sich Roboter gegenseitig bekämpfen, sterben keine Menschen.
Hier musste ich mich dann fragen, wo ist dann noch der Sinn bei dem Ganzen? Eine Roboter Armee kämpft gegen eine andere in einem ewigen Krieg, am besten noch in so einer Art Perpetuum mobile das vernichtete Roboter gleich wieder automatisch zu neuen Robotern recycelt werden. Eine endlose Spirale von Vernichtung und Entstehung, nur wozu ?
Antworten