Fake-Videos bald die Regel?

Moderator: Moderatoren Forum 5

Benutzeravatar
frems
Beiträge: 43876
Registriert: Sa 4. Apr 2009, 13:43
Benutzertitel: Hochenergetisch
Wohnort: Hamburg, Europa

Fake-Videos bald die Regel?

Beitragvon frems » Sa 27. Jan 2018, 18:59

Liebe Genossen,

dass aus machtpolitischen Gründen Medien wie Fotos verändert wurden und werden, ist seit Jahrzehnten ja nicht ungewöhnlich. Man denke nur an manch Abbildung in der NS- oder SU-Zeit, wo man einen unbeliebten Ex-Mitstreiter aus Bildmaterial einfach verschwinden ließ. Ebenso geisterte die Fake-News-Debatte nun eine Weile durch alle Kanäle. Als relativ zuverlässig galten stets Video- und Tonaufnahmen, die meistens nur mit erheblichem Aufwand inhaltlich verändert statt nur "zurechtgeschnitten" wurden.

Nun ist es mittlerweile recht einfach möglich, mit Algorithmen die Mimik von Personen in Videos zu verändern. Ebenfalls kann die Sprache bzw. Stimme einer Person kopiert werden, um Sätze zu erzeugen, die die Person niemals getätigt hat. Zunehmend gut funktioniert es auch, Gesichter von Personen auf andere Körper einzubauen.

Mit anderen Worten: man könnte eine vermeintlich geheime Handyaufnahme erzeugen, wo sich zwei Politiker erkennbar treffen und miteinander über Dinge unterhalten, die die Öffentlichkeit empören könnten, selbst wenn sich die Personen gar nicht trafen und diese Worte austauschten.

Das ist zwar nicht per se neu, aber wie eingangs geschrieben, war dies sehr aufwendig. Mittlerweile kann sowas jede Privatperson an ihrem Rechner erzeugen, auch wenn die Ergebnisse nicht immer überzeugend sind und mit einem guten Auge als Fälschung erkannt werden können. Aber denken wir an die Entwicklung in diesem Bereich in den letzten fünf bis zehn Jahren, lässt sich grob erahnen, wie die Zukunft weitergeht. Privatpornos vom fremdgegangenen, ehemaligen Ehe-Partner können aus Rachesucht schnell gebaut und im Netz verteilt werden.

Herzlichst,
frems

Mit einem Faceswap-Tool lassen sich Filmszenen aller Art manipulieren und die Gesichter der Schauspieler austauschen. Ein Reddit-Nutzer baute die Leia-Szene aus Rogue One damit nach, ganz ohne 200-Millionen-Dollar-Budget. [...]

Wir werden uns wohl an eine Welt gewöhnen müssen, in der solche Video-Fakes immer besser und damit auch schwerer zu erkennen werden. Inklusive der dazugehörigen Konflikte mit den Persönlichkeitsrechten der betroffenen Personen. In Zukunft könnten solche Fälschungen als Grundlage von Propaganda oder absichtlich irreführender Nachrichten benutzt werden.

Das Ziel des Entwicklers von FakeApp ist es, dass bald jeder Nutzer ohne Vorwissen ähnliche Videos erzeugen kann: In Zukunft brauche man nur ein beliebiges Video und ein bereits auf ein berühmtes Gesicht trainiertes neuronales Netz, das man herunterladen kann. Die Software soll dann die Gesichter auf Knopfdruck austauschen.

https://www.heise.de/newsticker/meldung ... 51035.html
Die Montage von fremden Gesichtern in Videos benötigte bisher das Budget eines Hollywood-Krachers. Künstliche Intelligenz ermöglicht dies nun Hobbybastlern. Perfidem Cybermobbing ist Tür und Tor geöffnet. [...]

Algorithmen wie der von „Deepfake“ verändern rasant die Medienrealität, in der Videomaterial bislang immer als Beweis von Authentizität gilt: Der Grafikchiphersteller Nvidia etwa veröffentlichte im vergangenen Jahr bereits Forschungsarbeiten, die neben dem Bild auch die Stimme von Prominenten generierten. Das resultierende Material von US-Präsidenten, die seltsame Dinge sagen, wirkt erschreckend realistisch.

https://www.welt.de/wirtschaft/article1 ... illen.html

Wie steht Ihr dazu? Kommt ein Wettkampf um Softwarelösung, die immer besser werdende Fälschungen als solche enttarnt? Oder verlieren Videoaufnahmen zukünftig schlichtweg an Bedeutung, da immer und überall gesagt werden kann, es sei eine Fälschung?
Labskaus!

Ob Mailand oder Madrid -- Hauptsache Europa.
Benutzeravatar
frems
Beiträge: 43876
Registriert: Sa 4. Apr 2009, 13:43
Benutzertitel: Hochenergetisch
Wohnort: Hamburg, Europa

Re: Fake-Videos bald die Regel?

Beitragvon frems » Sa 27. Jan 2018, 19:15

Achja, da ich aufgrund möglicher pornographischer Inhalte keine Links zu entsprechenden Videos reinstellen möchte, wird manch Neuländer wohl den komplizierten Weg gehen müssen, indem er/sie auf Google oder sonstiger Suchmaschine "deepfakes" eingibt und den ersten Treffer anklickt.
Labskaus!

Ob Mailand oder Madrid -- Hauptsache Europa.
Benutzeravatar
Watchful_Eye
Moderator
Beiträge: 2802
Registriert: Sa 7. Jun 2008, 11:13
Benutzertitel: Free Jazz & Black Metal
Kontaktdaten:

Re: Fake-Videos bald die Regel?

Beitragvon Watchful_Eye » Sa 27. Jan 2018, 19:19

Das ist ehrlich gesagt ziemlich furchteinflößend, da es die Tendenz bestärkt, die Dinge zu glauben, "an die man glauben will", da eine objektive Wahrheit immer schwieriger nachzuweisen sein wird. Das gilt auch umgekehrt: Selbst wenn das Videomaterial letztlich echt ist, werden die entsprechenden Personen behaupten können, sie seien gefälscht. Es ist quasi leichter, "Alternative Fakten" zu schaffen.

Edit: Man erinnere sich in dem Zusammenhang auch an die Sache mit dem Finger von Varoufakis.
"In a world where I feel so small, I can't stop thinking big." (Rush - Caravan)

Mod im Feedback- und Asienforum.
immernoch_ratlos
Beiträge: 1924
Registriert: So 10. Apr 2016, 16:59

Re: Fake-Videos bald die Regel?

Beitragvon immernoch_ratlos » So 28. Jan 2018, 01:46

War die Tendenz sich seine eigene Welt zu schaffen immer schon ausgeprägt - etwas, was hier im Forum mehr als nur erkennbar ist - wird es wohl für alle, die sich bislang wenigstens auf entsprechende nachweisbare Fakten berufen konnten, immer schwieriger bis unmöglich, wahre Darstellungen / Bilder / Filme - praktisch alles was menschliche Sinne beeinflusst, von absichtlichen Fälschungen zu unterscheiden.

Diese "Weiterentwicklung" fällt auf sehr fruchtbaren Boden :

H.L. Menken :
"It is the nature of the human species to reject what is true but unpleasant, and to embrace what is obviously false but comforting. “
"Es liegt in der Natur der menschlichen Spezies, die Wahrheit abzulehnen weil diese [meist] unangenehm und das zu akzeptieren, was offensichtlich falsch, aber tröstlich ist"
:dead:
"Wenn der Wind der Veränderung weht, bauen die einen Mauern und die anderen Windmühlen." (aus China)
Benutzeravatar
Cat with a whip
Beiträge: 10849
Registriert: Fr 4. Jul 2008, 20:49

Re: Fake-Videos bald die Regel?

Beitragvon Cat with a whip » Di 30. Jan 2018, 18:39

Man braucht nichtmal das Bildmaterial selbst zu manipulieren um die Bildaussage für den Empfänger zu manipulieren. Es recht oft schon originales Material über einen manipulativen Begleittext in einen gewünschten Kontext zu setzen. Man sieht sowas regelmässig bei den Cranks die die Welt vom Moon-Hoax überzeugen möchten. Interessant auch die "Verbotenen Aufnahmen"von Jean-Teddy Filippe der damit spielt, wohl einer der besten Spoofs überhaupt.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 33811
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Fake-Videos bald die Regel?

Beitragvon Tom Bombadil » Di 30. Jan 2018, 19:40

Das ist wirklich eine ernstzunehmende "Gefahr", der Manipulation der Massen wird noch mehr Tür und Tor geöffnet. Wie kann man sich dagegen wappnen?
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
Benutzeravatar
Cat with a whip
Beiträge: 10849
Registriert: Fr 4. Jul 2008, 20:49

Re: Fake-Videos bald die Regel?

Beitragvon Cat with a whip » Di 30. Jan 2018, 20:35

Leute werden massenhaft längst schon manipuliert ohne diese technischen Spielereien.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
immernoch_ratlos
Beiträge: 1924
Registriert: So 10. Apr 2016, 16:59

Re: Fake-Videos bald die Regel?

Beitragvon immernoch_ratlos » Mi 31. Jan 2018, 00:32

Cat with a whip hat geschrieben:Leute werden massenhaft längst schon manipuliert ohne diese technischen Spielereien.
Sicher, aber mit dem was Du als "technischen Spielerei" verniedlichst, kann jetzt massenhaft der letzte Zweifel beseitigt werden.

Im einem "Aufwasch" können so auch nicht manipulierte Darstellungen durch die bloße Behauptung mit plastischer (aber unwahrer) Gegendarstellung in Frage gestellt werden.

Viele, die nur glauben was sie "gesehen haben", werden so gezielt in Zweifel gestürzt - intensiver und wirksamer, als jemals zuvor. Wer die Mittel hat, kann damit "historisches Material" nach Gusto erzeugen.

Um nachzuprüfen ob die Inhalte "wahr" sind, bedarf es Zugriff auf unmanipuliertes Material und Mittel der Mustererkennung - etwas, was wohl nur sehr große Organisationen oder eben Staaten aufbieten können.

Wer will aber dann die Prüfer prüfen :?: Ein typisches "Matroschka-Problem"
"Wenn der Wind der Veränderung weht, bauen die einen Mauern und die anderen Windmühlen." (aus China)
Benutzeravatar
Cat with a whip
Beiträge: 10849
Registriert: Fr 4. Jul 2008, 20:49

Re: Fake-Videos bald die Regel?

Beitragvon Cat with a whip » Mi 31. Jan 2018, 14:21

immernoch_ratlos hat geschrieben:(31 Jan 2018, 00:32)

Sicher, aber mit dem was Du als "technischen Spielerei" verniedlichst, kann jetzt massenhaft der letzte Zweifel beseitigt werden.


Irrtum, jetzt gibt es Grund zu mehr Zweifel.
"Die Erde ist ein Irrenhaus. Dabei könnte das bis heute erreichte Wissen der Menschheit aus ihr ein Paradies machen." Joseph Weizenbaum
Benutzeravatar
Der Neandertaler
Beiträge: 1533
Registriert: Sa 12. Jul 2008, 02:48
Benutzertitel: Experimentální králíci

Re: Fake-Videos bald die Regel?

Beitragvon Der Neandertaler » Do 1. Feb 2018, 12:00

Hallo Tom.
Tom Bombadil hat geschrieben:Das ist wirklich eine ernstzunehmende "Gefahr", der Manipulation der Massen wird noch mehr Tür und Tor geöffnet. Wie kann man sich dagegen wappnen?
Stimmt - es ist eine "ernstzunehmende Gefahr" ... aber weniger die Manipulation als solches - die auch, aber noch verhehrender scheint mir die Tatsache zu sein, daß anscheinend dies oder jenes nicht mehr hinterfragt wird - ob dies oder das möglich sein kann ... wer eventuell von dem einen Vorteil hat, wenn er dies behauptet?
    ... warum dies gerade zum jetzigen Zeitpunkt veröffentlicht wird?
      ... warum in dieser Art und Weise?
Dies dürfte eine viel größere Gefahr sein ... alleine dadurch sind Manipulationen der Gesellschaft Tür und Tor geöffnet sein.

Diese 'Manipulation der Gesellschaft' fällt aber umso mehr auf fruchtbaren Grund, je emotionaler etwas diskutiert wird:
    man glaubt nur das, was man glauben will.
      ... man ist dann auch weniger gewillt, dies anzuzweifeln und neu zu evaluieren.
Je mehr allgemeine Medien als "Lügenpresse" verunglimpft wird, umso mehr werden solchen "Fake News" Glauben geschenkt.
    ... zumindest werden diese als "alternative Fakten" anerkannt.
"Ich teile Ihre Meinung nicht, ich werde aber bis zu meinem letzten Atemzug kämpfen, daß Sie Ihre Meinung frei äußern können." (Voltaire)
Benutzeravatar
3x schwarzer Kater
Vorstand
Beiträge: 15961
Registriert: Mo 26. Mai 2014, 15:25
Benutzertitel: Do legst di nieda
Wohnort: Lower Bavaria

Re: Fake-Videos bald die Regel?

Beitragvon 3x schwarzer Kater » Do 1. Feb 2018, 12:17

immernoch_ratlos hat geschrieben:(31 Jan 2018, 00:32)

Sicher, aber mit dem was Du als "technischen Spielerei" verniedlichst, kann jetzt massenhaft der letzte Zweifel beseitigt werden.

Im einem "Aufwasch" können so auch nicht manipulierte Darstellungen durch die bloße Behauptung mit plastischer (aber unwahrer) Gegendarstellung in Frage gestellt werden.

Viele, die nur glauben was sie "gesehen haben", werden so gezielt in Zweifel gestürzt - intensiver und wirksamer, als jemals zuvor. Wer die Mittel hat, kann damit "historisches Material" nach Gusto erzeugen.

Um nachzuprüfen ob die Inhalte "wahr" sind, bedarf es Zugriff auf unmanipuliertes Material und Mittel der Mustererkennung - etwas, was wohl nur sehr große Organisationen oder eben Staaten aufbieten können.

Wer will aber dann die Prüfer prüfen :?: Ein typisches "Matroschka-Problem"


Ich sehe das nicht so dramatisch und verstehe das Problem nicht. Dein angesprochenes Problem gibt es ja jetzt schon. Das gesprochene Wort und das geschriebene Wort sind seit langem manipulierbar. Fotos auch. Und nicht erst seit der Digitalfotografie und der Verbreitung immer besserer Bildbearbeitungsprogramme. Auch Filme können seit langem manipuliert werden. Nun gut. Jetzt kann es halt die Allgemeinheit. Einfach und billig.
Letztendlich werden wir uns darauf einstellen. Und hoffentlich wesentlich kritischer sein. Da bin ich vollkommen der Meinung von Cat with a whip.
„Es wurde schon alles gesagt, nur noch nicht von jedem.“ (Karl Valentin)
Benutzeravatar
Tom Bombadil
Moderator
Beiträge: 33811
Registriert: Sa 31. Mai 2008, 15:27
Benutzertitel: Non Soli Cedit

Re: Fake-Videos bald die Regel?

Beitragvon Tom Bombadil » Do 8. Feb 2018, 16:51

Die großen sozialen Netzwerke und auch Hoster für Videos haben schon auf Promi-Porno-"deep fakes" reagiert: http://www.pcgameshardware.de/Internet- ... r-1249744/

Ohne Hintergrundwissen kann man aufgrund der guten Qualität des Werkzeugs durchaus annehmen, die Inhalte seien echt. Den Machern gelang es nämlich sogar, einen gefälschten Obama in Umlauf zu bringen, der sogar eine Rede hielt. In Zeiten von Fake News ist das ein großes Problem.
In der Tat, so etwas kann Karrieren zerstören, selbst wenn sich nachher herausstellt, dass es ein Fake war.

Schon krass, was technisch möglich ist: http://svencharleer.com/blog/2018/02/02 ... ight-show/ Und die Technologie steckt ja noch in den Kinderschuhen und wird besser werden, GPUs werden immer leistungsstärker, dann sind solche Filmchen auch viel schneller fertig.
The tree of liberty must be refreshed from time to time with the blood of patriots and tyrants. It is its natural manure.
Thomas Jefferson
Benutzeravatar
Teeernte
Beiträge: 13867
Registriert: Do 11. Sep 2014, 17:55

Re: Fake-Videos bald die Regel?

Beitragvon Teeernte » Sa 10. Feb 2018, 23:05

Fast alle Agenturen nehmen nur noch die Originaldateien direkt aus der Kamera...ungeschnitten.

Die RAW Dateien haben Merkmale, die man nicht gaaanz einfach "wegfängt". ..
Benutzeravatar
Brainiac
Moderator
Beiträge: 5696
Registriert: Do 30. Jun 2011, 10:41

Re: Fake-Videos bald die Regel?

Beitragvon Brainiac » So 11. Feb 2018, 16:55

[MOD] Zwei Beiträge in den Strang Krise der Leitmedien verschoben. Hier bitte den Themenbezug wahren und nicht in eine allgemeine Medienqualitätsdiskussion abdriften.
this is planet earth

Zurück zu „5. Bildung - Kultur - Medien“

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder und 3 Gäste