Es ist unwahrscheinlich, dass Sie schon einmal von Polity-Simulation gehört haben, aber Sie werden davon betroffen sein. Polity-Simulation ist eine Art Angriff auf politische Prozesse, bei dem KI-Tools und -Prozesse genutzt werden, um politische Bewegungen an der Basis nachzuahmen. In diesem Beitrag erfahren Sie, worin die Bedrohung besteht, und wir werden überlegen, was dagegen unternommen werden kann.
Die Polity aufschlüsseln
Zunächst einmal: Was bedeutet das Wort „Polity“? Die Definition im Wörterbuch lautet: „eine organisierte Gesellschaft; ein Staat als politische Einheit“. Mit dieser Definition wird deutlicher, wie ein Polity-Simulationsangriff aussehen könnte. Es ist wie ein Deepfake, aber auf der Ebene eines ganzen Gesellschaftsbereichs und zielt auf Prozesse der Konsensfindung ab, anstatt auf eine einzelne Person oder Organisation. Ein Polity-Simulationsangriff ist also ein Cyberangriff, der die Entscheidungsfähigkeit einer Gesellschaft angreift, indem er die Bevölkerung in großem Maßstab imitiert. Der Begriff Polity-Simulation wurde von Aviv Ovadya, dem CEO der AI & Democracy Foundation, geprägt. Er kombiniert zwei ältere Angriffe und verstärkt sie mit Agentic AI.
Astroturfing
Astroturfing ist die erste Komponente eines Polity-Simulationsangriffs. Astroturfing ist eine Art politischer Exploit, der eine lange Geschichte hat. Es ist ein Wortspiel mit dem Wort „Grassroots“, das organische politische Bewegungen beschreibt. Grassroots-Bewegungen bestehen aus normalen Menschen. Diese Leute erheben sich und machen sich als Gruppe im politischen Diskurs Gehör. Astroturf ist – ähnlich wie sein Namensvetter – „falsches Gras“ oder eine „gefälschte Graswurzelbewegung“. In der Praxis ist Astroturfing „die betrügerische Praxis, die Sponsoren einer orchestrierten Botschaft oder Organisation zu verbergen, um den Anschein zu erwecken, sie stamme von unaufgeforderten Grassroots-Teilnehmern und werde von diesen unterstützt“. Wichtig ist, dass diese Taktik im traditionellen politischen Kontext normalerweise verwendet wird, um zu verschleiern, woher das Geld für den Angriff fließt.
Politische Botnetze
Ein Botnetz ist ein verteiltes Netzwerk aus verpfändeten oder kompromittierten Computern. Diese Computer können sich aus allem zusammensetzen, was eine Schwachstelle und eine Internetverbindung hat. Sehr häufig bestehen Botnetze aus falsch konfigurierten oder gepatchten iOT-Geräten. Botnetze werden von böswilligen Akteuren verwendet, um überwältigende Mengen an Internetverkehr zu einem Ziel zu leiten. Traditionell wurde dies hauptsächlich zur Orchestrierung von Denial-of-Service (DDOS)-Angriffen durchgeführt, aber Botnetze können über ihren Befehls- und Kontrollserver angewiesen werden, andere Dinge zu tun, einschließlich des Versendens von Spam. Einfache Botnetze können im Darkweb ab 100 $ gekauft oder gemietet werden. Natürlich sind dem Preis für ein hochentwickeltes Botnetz keine Grenzen gesetzt.
DDOS die Polity
Es gab bereits Massenangriffe auf politische Prozesse, die einem (DDOS)-Angriff auf ein Netzwerk ähneln.
Wie in unserem letzten Beitrag über Deepfakes in der Politik erwähnt, wurde die öffentliche Kommentierungsphase der US-amerikanischen Federal Communications Commission (FCC) zur Netzneutralität im Jahr 2019 von mehr als einer Million Bots überrannt, was es fast unmöglich machte, dass eine Stimme gehört wurde. Buzzfeed News berichtete ausführlich über diese Geschichte. Im Grunde wurde ein schmieriges Medienberatungsunternehmen von unbekannten Parteien bezahlt, um einen Strom von Spam zu orchestrieren, um die für öffentliche Kommentare zur Netzneutralität offene Periode zu überwältigen. Eine Analyse von Jeff Kao, jetzt Ermittler bei ProPublica, ergab, dass, als der Spam herausgefiltert und nur organische öffentliche Kommentare berücksichtigt wurden, 99 %+ die Beibehaltung der Netzneutralität unterstützten.
Die Analyse ergab auch, dass 1,3 Millionen Kommentare Mail-Merge-Spam waren. Das bedeutet, dass sie einem formelhaften Ansatz folgten und eine sehr ähnliche Formulierung verwendeten. Es bedeutet auch, dass sie mit traditionelleren SPAMing-Techniken ausgeführt wurden.
Darüber hinaus fanden Buzzfeed-Ermittler heraus, dass in „1,9 Millionen Kommentaren 94 % der E-Mail-Adressen Personen gehörten, die einem Hack zum Opfer gefallen waren, der als Modern Business Solutions-Datenleck bekannt ist. Dies war ein früherer Hack, bei dem die persönlichen Daten von Millionen von Menschen, einschließlich vollständiger Namen, Geburtsdaten, Wohnadressen und E-Mail-Adressen, gestohlen worden waren. Diese Daten wurden dann wiederverwendet, um die Grundlage für die persönlichen Daten, E-Mail-Kontaktdaten und Namen bei dem DDOS-Angriff auf den Net Neutrality-Kommentarprozess zu bilden. Am Ende haben hier die Hacker gewonnen – das Net Neutrality-Gesetz aus der Obama-Ära wurde entgegen den Wünschen der überwältigenden Mehrheit der öffentlichen Kommentatoren aufgehoben.
Da dies alles im Jahr 2019 geschah, hatten die Angreifer nicht die Vorteile, die Agentic AI jetzt bietet. Jetzt ist diese Art von Angriff billiger auszuführen und viel schwieriger abzuwehren.
Die Teile in einem Polity-Simulationsangriff zusammensetzen
Der nächste Schritt in der Entwicklung von Polity-Simulationsangriffen ist die Verwendung von Agentic AI in Kombination mit Audio- und Video-Deepfakes, um politische Entscheidungsträger zu SPAMen. Angreifer erstellen zunächst Tausende von virtuellen Agenten mit individuellen Geschichten und Anliegen. Diese können dann mit synthetischem Audio verwendet werden, um die Telefonleitungen des Kongresses direkt mit algorithmisch erstellten Appellen zu überschwemmen, die sich sowohl aufrichtig als auch glaubwürdig anfühlen. In vergleichbarer Weise könnten die Posteingänge von Senatoren mit Korrespondenz von Wählern überschwemmt werden, die von KI-Systemen fabriziert wurde, die Daten aus schriftlichen, Audio- und Social-Media-Fußabdrücken zusammensetzen und mischen. Jedes nach außen gerichtete System, das öffentliche Eingaben für demokratische Prozesse entgegennimmt, ist anfällig für diese Art von Angriffen.
Diese Art von Angriff könnte auch Unternehmen treffen. Unternehmen können der gleichen Art von Angriffen zum Opfer fallen, wenn Angreifer beginnen, Kunden in großem Maßstab nachzuahmen. Dies könnte beispielsweise verwendet werden, um die Fähigkeit eines Unternehmens zu zerstören, Kundendienstanfragen zu bearbeiten.
Was können wir gegen Polity-Simulationsangriffe tun?
Es mag hoffnungslos erscheinen, aber es gibt ein paar Dinge, die wir tun können, um diese Entwicklungen zu bekämpfen.
- Wenn Sie ein Systemdesigner sind, denken Sie immer defensiv.
- Integrieren Sie Anti-Bot-Software wie CAPTCHA und cloudflare auf allen öffentlichen Endpunkten / Formularen.
- Verwenden Sie Abkühlphasen, um den Durchsatz von SPAM zu begrenzen. Akzeptieren Sie keine unbegrenzten Anfragen von unbekannten Benutzern mit unbegrenzter Geschwindigkeit.
- Machen Sie es teuer, Sie anzugreifen. Denken Sie wirtschaftlich und erheben Sie bei Bedarf geringe wirtschaftliche Gebühren für Eingaben, die sonst leicht anzugreifen wären.
- Denken Sie daran, wenn Sie verhindern können, dass ein Angriff skalierbar ist, oder ihn ausreichend verlangsamen, gibt es möglicherweise einen Punkt, an dem er für die Angreifer wirtschaftlich nicht mehr rentabel ist.
Wenn Sie angegriffen werden oder Hilfe bei der Entwicklung defensiver Systeme benötigen, wenden Sie sich an help@vali.now. Wir lieben komplexe Fälle und Ihre werden unsere volle Aufmerksamkeit erhalten.