Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Moderator: Moderatoren Forum 7

Benutzeravatar
Provokateur
Moderator
Beiträge: 12504
Registriert: Sa 3. Jan 2015, 16:44
Benutzertitel: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Provokateur » Di 21. Apr 2015, 10:25

Joa, aber das Werbevideo zeigt doch, wo der Weg hingehen soll.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 32437
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Tom Bombadil » Di 21. Apr 2015, 10:28

Diese Dinger werden auch irgendwann kommen, ich halte es trotzdem für falsch, dass man denen die Entscheidung über Leben und Tod überlässt.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
Benutzeravatar
Cat with a whip
Beiträge: 10239
Registriert: Fr 4. Jul 2008, 20:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Cat with a whip » Di 21. Apr 2015, 10:57

Tom Bombadil » Di 21. Apr 2015, 10:28 hat geschrieben:Diese Dinger werden auch irgendwann kommen, ich halte es trotzdem für falsch, dass man denen die Entscheidung über Leben und Tod überlässt.



Macht man bei Landminen doch auch.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 32437
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Tom Bombadil » Di 21. Apr 2015, 11:16

Cat with a whip » Di 21. Apr 2015, 11:57 hat geschrieben:

Macht man bei Landminen doch auch.

viewtopic.php?p=3060768#p3060768
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
Benutzeravatar
Cat with a whip
Beiträge: 10239
Registriert: Fr 4. Jul 2008, 20:49

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Cat with a whip » Di 21. Apr 2015, 11:56

Achso, ist ja schon längst durch, sorry.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Provokateur
Moderator
Beiträge: 12504
Registriert: Sa 3. Jan 2015, 16:44
Benutzertitel: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Provokateur » Fr 24. Apr 2015, 09:41

Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 13:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon El Cattivo » So 26. Apr 2015, 09:25

Tom Bombadil » Di 21. Apr 2015, 11:07 hat geschrieben:@Provokateur: "Bedrohungsangepasst" ist ja wieder etwas anderes als die Unterscheidung Kombattant-Zivilist. Es gibt keine perfekten technischen Lösungen, es gibt keine perfekte Software, es kann immer zu Fehlern und Systemausfällen kommen, kein Sstem ist sicher vor eingeschleuster Schadsoftware, daher lehne ich es ab, dass man Maschinen die Entscheidung überlässt, wer lebt und wer stirbt. Natürlich machen auch Menschen Fehler, aber diese Menschen kann man zur Rechenschaft ziehen, Roboter nicht.

Das verstehe ich nicht. Maschienen sind natürlich nicht fehlerfrei und doch meist besser in Ihren Aufgaben als Menschen.



  • Sollten auch Maschienen nicht fehlerfrei sind, sind sie doch meist doch besser als Menschen. Wenn mehr Menschen unnötig sterben ist das besser, weil man jemand vielleicht zur Rechenschaft ziehen kann?
  • Wieso kann man bei einer Maschiene niemanden zur Rechenschaft ziehen? Sie baut sich nicht selbst, stellt sich nicht selbst dahin und tut sicherlich auch nicht irgendwas. Sie wird von Menschen konstruiert, von Menschen zu einer bestimmten Aufgabe an einen bestimmten Ort geschickt.
  • Wenn bei Maschienen die Kommandierenden ohne Verantwortung sein sollen, wie ist es dann beim Menschen. Liegt in Wirklichkeit das Problem nicht darin, das Kommandierende bei Maschienen die Verantwortung nicht abschieben können?
  • Warum ist eine Selbstschussanlage die alles niedermäht 'pöser', als eine Schussanlage die so konzepiert ist, vielleicht nicht zu schießen, wenn sich ein Kind in den Feuerraum verirrt?
  • Es gibt schon lange autonome Waffen. Fire and Forget Geschosse zum Beispiel.
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 32437
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Tom Bombadil » So 26. Apr 2015, 09:39

Ob solche Tötungsmaschinen irgendwann besser sind als Menschen bleibt abzuwarten, laut Wiki ist es die genannte Maschine nicht. Und wen willst du für einen Softwarefehler zur Rechenschaft ziehen? Den Programmierer? Der wird sich bedanken, vllt. weiß der ja nichtmal, wofür sein Code benutzt wird. Und welche Kommandieren meinst du? Die Dinger arbeiten autonom, da gibt niemand mehr einen Feuerbefehl. Das unterscheidet diese Roboter auch von den von dir genannten Waffen.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 13:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon El Cattivo » So 26. Apr 2015, 11:22

Tom Bombadil » So 26. Apr 2015, 10:39 hat geschrieben:Ob solche Tötungsmaschinen irgendwann besser sind als Menschen bleibt abzuwarten, [...]

Ein Chip kennt weder Angst, moralische Verrohung, Hass, Stress oder Affekthandlungen. Dazu kommt, dass die Eigensicherung runter geschraubt werden kann. Bei menschlichen Soldaten gilt nämlich oft das Prinzip: Eigenschutz geht vor. Zum Beispiel vor dem Schutz von Zivilisten. Luftangriff bei Kunduz, befohlen durch Oberst Klein kann mal ein Maßstab dienen wie weit das geht. Selbst im deutschen Rechts, in anderen Ländern sieht es noch deutlich anders aus.
Und wen willst du für einen Softwarefehler zur Rechenschaft ziehen? Den Programmierer?

Fallabhängig. Welchen Programmierer? Wenn jemand z.B. dem Samsung SGR-A1 ein Zielgebieht zuweist, das außerhalb der gesicherten Grenzstreifens liegt, dann kann der jenige Schuld der das so programmiert hat. Wenn die Programmierung so befohlen worden war, dann offensichtlich der, der es befohlen hat. Wenn es nicht so befohlen war und der Programmierer Scheise gebaut hat, ja dann offensichtlich der. ec.pp.

Oder kurz: Warum sollten kommandierende Soldaten nicht auch Verantwortung tragen?
Das unterscheidet diese Roboter auch von den von dir genannten Waffen.

Falsch. Eine automatische Schussanlage wartet keineswegs auf einen Feuerbefehl. Einmal scharf, wird alles niedergemäht.
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 32437
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Tom Bombadil » So 26. Apr 2015, 14:47

So eine Maschine hat keine Angst, aber auch keinerlei Hemmungen. Ein Mensch kann nochmal nachdenken, die Maschine löst aus, sobald gesetzte Parameter zutreffen.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 13:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon El Cattivo » So 26. Apr 2015, 15:26

[quote="[url=http://www.politik-forum.eu/viewtopic.php?p=3065904#p3065904][...]Ein Mensch kann nochmal nachdenken, die Maschine löst aus, sobald gesetzte Parameter zutreffen.[/quote]
Eben, deswegen. Nur das mit dem Nachdenken ist nicht richtig. Der Mensch neigt wenig zum nachdenken in Todesgefahr. Im Zweifel: Erst schießen, dann fragen. Ganz klare Devise, Eigenschutz geht vor.

Bei Maschienen ist das nicht mehr so. Die Maschienen denkt immmer erst nach, sie prüft immer strikt die ihr vorgebenen Parameter. Da gibt es weder Angst, Stress, noch Affekte, die das Nachdenken ausschalten wie beim Menschen. Klar, höhere Offiziere die diese Parameter definieren, programmieren, kennen müssen und einen Einsatz im Rahmen dieser Parameter befehlen haben dann die volle Verantwortung. Außerdem kann "Eigenschutz geht vor" Prinzip bei Robotern entschärfen. Verliert man halt ein Roboter nicht so schlimm. Dann kann man sich auch mal erlauben, erst zu fragen und dann erst zu schiesen.

Je nach Einsatzgebiet ist es total unterschiedlich. Die Nachdenkfähigkeit von Menschen innerhalb von Bruchteilen von Sekunden läuft auch gegen null. Deswegen wird in Bereichen wo schnelle Reaktionen gefragt sind, auch hier schon länger auf Systeme gesetzt, wo auch der Schuss automatisch ausgelöst wird. Selbst wenn man es versuchen würde, dem Mensch solche Aufgaben zu übertragen. Würde er doch nur reflexartik auf "fire" drücken.

mfg
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 32437
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Tom Bombadil » So 26. Apr 2015, 16:05

Brave new world. Nicht für mich, ich habe genug mit Computern zu tun, um die Fehleranfälligkeit von solchen Systemen zu kennen, von der mangelnden Sicherheit gegen Manipulation von außen mal ganz abgesehen. Es ist ja schön dass hier Selbstschussanlagen und Minen für autonom tötende Maschinen aufgeführt werden, aber genau diese Dinger werden verachtet und geächtet und das mit Recht.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
Haegar
Beiträge: 289
Registriert: Do 27. Aug 2009, 09:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Haegar » Fr 1. Mai 2015, 08:45

In abgegrenzten Bereichen werden diese Maschinen durchaus einen Vorteil gegenüber menschlichen Soldaten haben, aber außerhalb dieser werden Menschen weiterhin überlegen sein, weil geistig flexibel.
Merkt man an dem Katz- und Mausspiel zwischen Hacker und Schutzsoftwareprogrammierer. Oder gibt es schon sich selbst programmierende Schutzprogramme ?
Haegar
Beiträge: 289
Registriert: Do 27. Aug 2009, 09:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Haegar » Fr 1. Mai 2015, 08:45

In abgegrenzten Bereichen werden diese Maschinen durchaus einen Vorteil gegenüber menschlichen Soldaten haben, aber außerhalb dieser werden Menschen weiterhin überlegen sein, weil geistig flexibel.
Merkt man an dem Katz- und Mausspiel zwischen Hacker und Schutzsoftwareprogrammierer. Oder gibt es schon sich selbst programmierende Schutzprogramme ?
Benutzeravatar
Provokateur
Moderator
Beiträge: 12504
Registriert: Sa 3. Jan 2015, 16:44
Benutzertitel: Alpha by choice&Liberalpatriot
Wohnort: जर्मनी

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Provokateur » So 3. Mai 2015, 13:07

Es gibt Programmsubroutinen, die erkennen, wenn sich ein anderes Programm ungewöhnlich verhält. So kann ein Admin darauf aufmerksam werden, dass sich ein Hacker im System befindet oder befinden könnte.

Aber so weit, dass das Programm selber Gegenmaßnahmen ergreift, sind wir afaik noch nicht.
Harry riss sich die Augen aus dem Kopf und warf sie tief in den Wald. Voldemort schaute überrascht zu Harry, der nun nichts mehr sehen konnte.
twitter.com/Provokateur_Tom
Haegar
Beiträge: 289
Registriert: Do 27. Aug 2009, 09:03

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Haegar » So 3. Mai 2015, 22:50

Provokateur » So 3. Mai 2015, 14:07 hat geschrieben:Es gibt Programmsubroutinen, die erkennen, wenn sich ein anderes Programm ungewöhnlich verhält. So kann ein Admin darauf aufmerksam werden, dass sich ein Hacker im System befindet oder befinden könnte.

Aber so weit, dass das Programm selber Gegenmaßnahmen ergreift, sind wir afaik noch nicht.


Und das wird wohl noch lange die Schwachstelle der Maschinen bleiben. Ohne menschliche Kontrolle können diese "verarscht" werden. Dauert wohl noch einige Zeit.
MN7
Beiträge: 547
Registriert: Sa 3. Jan 2015, 05:38
Benutzertitel: Glory to Arstotzka

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon MN7 » Di 5. Mai 2015, 19:03

Ist bei fahrerlosen Autos gerade ein großes Thema. Dort kann man richtig Schaden machen, zigtausende Fahrzeuge zeitgleich zu Waffen umfunktionieren. Der sicherheitsbewußte Autokäufer mag sowas gar nicht.
El Cattivo
Beiträge: 361
Registriert: Mi 4. Jun 2008, 13:58

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon El Cattivo » Sa 9. Mai 2015, 02:50

MN7 » Di 5. Mai 2015, 20:03 hat geschrieben:Ist bei fahrerlosen Autos gerade ein großes Thema. Dort kann man richtig Schaden machen, [...]

Warum sollte fahrerlos ein Kriterium sein? Wenn ein Hacker Schaden machen will und den CAN-BUS eines modernen Fahrzeugs hackt, was willst Du dann als Fahrer tun?

mfg
Alpha Centauri Informationen aus wissenschaftlicher Sicht über Pseudowissenschaften
und ähnliche Überzeugungssysteme, vorrangig kritische Betrachtungen zu Widerlegungen der Relativitätstheorie und Einsteins.
MN7
Beiträge: 547
Registriert: Sa 3. Jan 2015, 05:38
Benutzertitel: Glory to Arstotzka

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon MN7 » Mi 20. Mai 2015, 11:59

Die derzeit in Entwicklung befindliche Luftnahunterstützung durch Drohnenschwärme ist taktisch eine tolle Sache, und ohne einen hohen Grad an Autonomie für die einzelne Drohne gar nicht machbar. Der menschliche Operator steuert den Schwarm im Ganzen, ein Micromanagement jeder einzelnen Drohne ist weder sinnvoll noch praktikabel.
Benutzeravatar
Kibuka
Beiträge: 20915
Registriert: Mo 2. Jun 2008, 20:35
Benutzertitel: Der schon länger hier lebt
Wohnort: München

Re: Drohne 2.0 - Tödliche Autonome Waffensysteme (TAWS)

Beitragvon Kibuka » Mo 25. Mai 2015, 23:09

Provokateur » Di 21. Apr 2015, 06:20 hat geschrieben:Was haltet ihr von der Debatte? werden wir irgendwann Kriege erleben, die dadurch entschieden werden, dass sich autonome Systeme "auf der grünen Wiese" so lange bekämpfen, bis einer übrig bleibt? Oder werden die Hemmungen fallen, militärisch tätig zu werden, wenn nur Blech zu Schaden kommt?
Wer trägt die Verantwortung, wenn ein Roboter doch massives unerwünschtes Verhalten zeigt? Was passiert, wenn Hacker die Systeme kapern?


Dazu passt der aktuelle Artikel in der FAZ.

http://www.faz.net/aktuell/wirtschaft/s ... 07146.html

Stephen Hawking hat sich zuletzt zu dem Thema KI geäußert. Gegenwärtig sehen wir eine rasante Entwicklung bei den autonomen Systemen. Es werden viele Ressourcen in die Entwicklung selbstfahrender Fahrzeuge gesteckt.

Autonome Systeme können im Rahmen ihrer "Programmierung" perfekt funktionieren. Heutige Computer sind deterministische Rechenmaschinen. Sie scheitern aber an vermeintlich einfachen Dingen, weil diese "einfachen Dinge" in Wahrheit hochgradig komplex sind. Ein Roboter, der einen Gegenstand hochhebt, muss sich Gedanken darüber machen, wie schwer dieser Gegenstand ist um dann exakt die Kraft zu dosieren, mit der der Gegenstand hochgehoben werden kann ohne ihn zu zerstören. Die ganze inverse Kinematik wird berechnet, bevor der Roboterarm in Aktion tritt.

Der Mensch erlernt die Dinge auf nichtdeterministische Art und Weise. Es bleibt eine rationale Unschärfe, die es ihm ermöglicht überhaupt in einer komplexen Welt zu existieren. Beispielsweise filtert das Auge und das Sehzentrum im Hirn den Großteil aus, bevor wesentliche Informationen an das Großhirn weitergeleitet werden. Ein Kleinkind berechnet auch nicht haargenau die Kraft in den Fingern, bevor es ein Glas Wasser hochhebt. Auch hebt es das Glas nicht perfekt hoch, im Sinne von maximaler Effizienz und stetiger Reproduzierbarkeit. Daran scheitern heutige Systeme und lange Zeit ist man dem Irrtum erlegen, Computer mit dem menschlichen Gehirn gleichzusetzen. Funktioniert hat es deshalb nicht, weil zwei völlig unterschiedliche Funktionsprinzipien zugrunde liegen. Auf der einen Seite die deterministische Rechenmaschine, die streng formal auf Algorithmen beruht und auf der anderen Seite das nichtdeterministische, chaotisch agierende menschliche Gehirn, welches rauschbehaftet Tätigkeiten durchführt. Wir werden nicht mit einem festen Satz von aufeinander folgendenen Befehlen programmiert, die wir penibel nacheinander abarbeiten, wir erlernen von klein an mit unserer Umwelt zu interagieren. Ein stetiger Kreislauf von Aktion und Rückkopplung. Solange, bis wir ein hinreichendes Optimum gefunden haben, um erfolgreich zu sein. Das ist die Grundlage von neuronalen Netzen, die sich einschwingen, d.h. lernen.

Dennoch konnten Computer zuletzt zunehmend Fuß fassen in der komplexeren Automatisierung. Selbst das autonom fahrende Auto ist heute ein reales Konstrukt und nur eine Frage der Zeit. Die Rechenleistung, die permanent steigt hat maßgeblich dazu beigetragen. In ca. 20 Jahren werden autonome Fahrzeuge auf den Strassen unterwegs sein und besser fahren, als ein Mensch. Schlichtweg, weil sie voll determenistisch arbeiten und deshalb keine Fehler machen. Sie machen das, wozu sie programmiert wurden, immer und zu 100%. Die Zahl der Berechnungen pro Sekunde ermöglicht Reaktionszeiten, bei denen kein Mensch mithalten kann.

Diese Entwicklung zieht auch im militärischen Sektor immer stärkere Kreise. Wenn die Rechenleistung und die Software soweit sind, dass autonome Systeme selbstständig in ihrer Umgebung "operieren" können, werden Dämme brechen.

Viel interessanter ist aber die echte KI. Sollte der Menschheit dieser Schritt gelingen, so kann man nur die Worte von Hawking wiederholen. „Das wird das größte Ereignis in der Geschichte der Menschheit werden - und möglicherweise auch das letzte.“

Eine echte KI wäre der heilige Gral.

Ich bin deshalb auch der Meinung von Hawking. Militärische Systeme zu automatisieren und zu vernetzen ist hochgradig riskant. Die Kontrolle dieser Systeme obliegt dann wenigen Personen, die damit zuviel Macht erhalten und eines Tages könnten sie die Kontrolle sogar vollständig verlieren. Insofern ist das in dem 1980 erschienenen Film Terminator gezeichnete Szenario realistischer als viele glauben. Es ist ein Szenario, welches in 100 oder 500 Jahren Realität werden könnte.
Zuletzt geändert von Kibuka am Di 26. Mai 2015, 19:02, insgesamt 1-mal geändert.
Have no heroes, look up to no-one, for if you do, the best you'll ever be is second. If you have to ask why, you'll never understand!

„Weil das Wohl von einem genauso schwer wiegt, wie das Wohl von vielen.“

Zurück zu „7. Wissenschaft“

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 4 Gäste