In unserem letzten Beitrag haben wir den Prozess untersucht, den die New York Times durchlaufen hat, um festzustellen, ob die von Donald Trump geposteten Fotos von Nicolás Maduro echt waren. Wir haben untersucht, wie normale Menschen einem ähnlichen Prozess folgen können, um eingehende Medien zu überprüfen. In diesem Beitrag werden wir uns ansehen, wie verschiedene Akteure die Herstellung synthetischer Medien für „Spaß und Profit“ genutzt haben. Wir werden dies durch die Linse des Informationsvakuums um Maduros Gefangennahme betrachten.
Der „Spaß“-Teil von Synthetic Media für „Spaß und Profit“
Laut der Straits Times wurde der Urheber eines der am weitesten verbreiteten FAKE-Bilder von Maduro in amerikanischer Haft von einem „KI-Videokunst-Enthusiasten“ namens „Ian Weber“ erstellt. So hat er es gemacht.
- Zuerst ging er zu Googles Gemini-Bildgenerator.
- Zweitens gab er ihm eine einfache Eingabeaufforderung.
- Er schnitt das Gemini-Wasserzeichen aus und postete das Ergebnis auf X.
- Er hatte Glück mit dem Timing, da sein Beitrag innerhalb von 20 Minuten nach Trumps Beitrag erfolgte.
- Obwohl er nur 78 Follower hatte, ging das Bild viral.
„Spaß“, oder? Bitte beachten Sie den dicken Sarkasmus, falls Sie es noch nicht bemerkt haben.
Der „Profit“-Teil von Synthetic Media zum „Spaß und Profit“
Das Center for Financial Services von Deloitte prognostiziert, dass Gen-KI es ermöglichen könnte, dass Betrugsverluste in den Vereinigten Staaten bis 2027 40 Milliarden US-Dollar erreichen. Dies ist ein Anstieg gegenüber 12,3 Milliarden US-Dollar im Jahr 2023. Das entspricht einer durchschnittlichen jährlichen Wachstumsrate von 32 %. Mit Täuschung lässt sich viel Geld verdienen.
Wahrscheinlich sehen wir nur die Spitze des Eisbergs in Bezug auf das, was in Zukunft passieren wird. Im Fall der Eilmeldung über Maduros Gefangennahme wurde das Web innerhalb von Minuten nach Bekanntwerden der Nachricht mit gefälschten Maduro-Bildern überschwemmt. Diese Bilder erregten Millionen von Aufrufen in den sozialen Medien. In einer „Aufmerksamkeitsökonomie“ wurden diese Aufrufe von Plattformen wie X in barer Münze ausgezahlt. Unser CEO hat kürzlich einen Artikel darüber verfasst, wie Einfluss zur Währung geworden ist, was dazu geführt hat, dass die Wahrheit zum Opfer gefallen ist. Es ist eine Lektüre wert.
Darüber hinaus wurde dies entweder wissentlich oder unwissentlich von Persönlichkeiten des öffentlichen Lebens genutzt, um ihre eigenen Narrative zu bedienen. Beispielsweise verstärkte die rechtsextreme Chega-Partei Portugals die Reichweite des von „Ian Weber“ erstellten gefälschten Bildes über ihren offiziellen Account erheblich. Ein polnischer Abgeordneter tat es ihm auf seinem Twitter-Account gleich.
Euronews hat nach der Tatsache einen Deep Dive über all die verschiedenen synthetischen Medien gemacht, die unsere Streams überschwemmen. Es waren nicht nur gefälschte Bilder von Maduro. Es waren auch gefälschte Bilder von Menschenmassen, die das Ereignis bejubelten, gefälschte Bilder von Venezolanern, die trauerten, und sogar ein gefälschtes Bild des Mausoleums von Präsident Hugo Chavez als ausgebombte Ruine. Wir werden in einem zukünftigen Beitrag auf die Folgen dieser politisch motivierten synthetischen Medien eingehen. Unnötig zu erwähnen, dass die Fülle an hyperrealistischen Videos für den politischen Körper nicht gut ist.
Bestehende Schutzmaßnahmen reichen nicht aus
Nach dem Sturm der Bilder führte die New York Times eine Untersuchung durch. Gemini und Modelle von OpenAI und X produzierten alle bereitwillig und einfach diese Art von Deepfakes mit sehr wenig Reibung. Wasserzeichen wie Googles SynthID sind ein guter Anfang, aber bei weitem nicht ausreichend. Alles in allem ist der Geist aus der Flasche und es gibt wahrscheinlich kein Zurück mehr.
Verwirrt? Wenden Sie sich an vali.now
Wenn Sie das nächste Mal von der Ungewissheit überwältigt sind, was Sie glauben sollen, können Sie sich an die Cybersicherheitsexperten von vali.now wenden. Wir geben nicht vor, alles zu wissen, aber wir beschäftigen uns hauptberuflich mit diesen Dingen. Unabhängig vom Kontext können wir unser Fachwissen und unsere Erfahrung einbringen, um Ihnen zu helfen, die Fälschungen zu analysieren und die Realität mit unseren Scam Shield Services zu identifizieren.