Weltweit stehen 2024 mehr als 70 Wahlen an. In Deutschland sind dies \u2013 neben der am Wochenende stattfindenden Europa-Wahl \u2013 Kommunalwahlen und Landtagswahlen in drei Bundesl\u00e4ndern. In den USA wird im November der Pr\u00e4sident gew\u00e4hlt.<\/p>\n\n\n\n
So ist es nicht verwunderlich, dass Desinformation und Deepfakes auch in diesem Wahljahr gezielt verbreitet und gestreut werden, um Stimmung gegen politische Gegner*innen zu machen, die W\u00e4hler*innen zu t\u00e4uschen und so gezielt Einfluss auf die Wahlen zu nehmen.<\/p>\n\n\n\n
Laut einer Umfrage der Bertelsmann Stiftung<\/a><\/a> sind 81 Prozent der Befragten der Meinung, dass es sich bei Desinformation um ein reales Problem handelt, welches eine Gefahr f\u00fcr die Demokratie und den gesellschaftlichen Zusammenhalt darstellt. Dass der Ausgang von Wahlen durch Desinformation beeinflusst werden k\u00f6nnte, besorgt zwei von drei Befragten (67 Prozent).<\/p>\n\n\n\n Desinformation sind falsche und irref\u00fchrende Informationen, die bewusst verbreitet werden, um zu beeinflussen oder zu t\u00e4uschen. Oft wird der Begriff \u201eFake News\u201c synonym verwendet. Dagegen l\u00e4sst sich der Begriff \u201eFehlinformationen\u201c abgrenzen, der sich durch die Intention unterscheidet, da hier keine T\u00e4uschungsabsicht vorliegt.<\/p>\n\n\n\n Deepfakes sind t\u00e4uschend echt wirkende Medieninhalte, die durch K\u00fcnstliche Intelligenz (KI) manipuliert wurden. Durch sie wird beispielsweise bewusst suggeriert, dass Personen etwas gesagt oder getan h\u00e4tten, was jedoch so nie passiert ist.<\/p>\n\n\n\n Grunds\u00e4tzlich ist es wichtig, Inhalte im Netz generell kritisch zu hinterfragen und gerade in politisch aufgeheizten Zeiten wie vor einer anstehenden Wahl nicht direkt zu reagieren. Wichtig ist, solche Inhalte nicht weiterzuleiten.<\/p>\n\n\n\n Doch schauen wir uns zun\u00e4chst an, wie Desinformationen erkannt werden k\u00f6nnen. Diese Nachrichten weisen oft ein \u00e4hnliches Muster auf: Sie sind rei\u00dferisch und besonders emotional formuliert. Fragliche Nachrichten sollten immer mit weiteren Quellen abgeglichen werden.<\/p>\n\n\n\n Verd\u00e4chtige Schlagw\u00f6rter k\u00f6nnen zusammen mit dem Wort \u201eFaktencheck\u201c in einer Suchmaschine \u00fcberpr\u00fcft werden. In solchen Faktenchecks werden Meldungen beispielsweise durch die \u00f6ffentlich-rechtlichen Medien<\/a> oder andere Organisationen<\/a> \u00fcberpr\u00fcft und richtiggestellt.<\/p>\n\n\n\n Bei Meldungen, die verd\u00e4chtig erscheinen und angeblich in seri\u00f6sen Medien publiziert wurden, hilft es, die Quelle zu checken. Passt die Nachricht zum sonstigen Stil des Mediums? Findet sich der Inhalt auf der Webseite? Au\u00dferdem sollte das Impressum sowie das Zertifikat der Webseite \u00fcberpr\u00fcft werden, auch eine falsche URL kann ein Hinweis auf eine Falschmeldung sein. <\/p>\n\n\n\n Bei der Entscheidung, ob Fotos manipuliert sind oder nicht, kann z.B. die Bilder-R\u00fcckw\u00e4rtssuche helfen: Die Datei oder die URL wird hierzu bei einer Suchmaschine hochgeladen. So l\u00e4sst sich herausfinden, ob ein Bild aktuell ist oder bereits aus einer fr\u00fcheren Ver\u00f6ffentlichung stammt. \u00a0KI-Bildgeneratoren sind darauf trainiert, Neues zu erschaffen. Daher sind KI-generierte Bilder einzigartig. Findet die R\u00fcckw\u00e4rtssuche also nur genau ein Bild, sollte man aufmerksam werden. Generell sollten Medieninhalte kritisch hinterfragt werden und nicht einfach als Realit\u00e4t angenommen werden.<\/p>\n\n\n\n Desinformation gab es bereits vor dem Durchbruch generativer KI. Doch mithilfe von KI k\u00f6nnen Inhalte nun viel schneller erstellt und verbreitet werden. Dies ist besonders in Hinblick auf politische Wahlen ein echtes Problem, denn wie unter anderem der globale Risikoreport des Weltwirtschaftsforums<\/a> zeigt, k\u00f6nnen Wahlen mithilfe von KI beeinflusst werden<\/a>. Dar\u00fcber hinaus k\u00f6nnten Wahlkampfvideos, die mittels KI generiert sind, nicht nur Wahlen beeinflussen, sondern auch Proteste anheizen oder in extremeren Szenarien zu Gewalt und Radikalisierung f\u00fchren. Selbst wenn eine Plattform, auf der der Inhalt geteilt wird, darauf hinweist, dass es sich um gef\u00e4lschte Inhalte handelt, konstatieren die Autor*innen des Reports.<\/p>\n\n\n\n Doch KI-generierte Desinformationen sind nicht einfach zu identifizieren und sie k\u00f6nnen selbst bei erfolgreicher Erkennung negative Folgen haben. Dichtet man beispielsweise Politiker*innen kurz vor einer Wahl fragw\u00fcrdige oder polarisierende Aussagen in einem KI-generierten Video oder Audio an, kann dies negative Folgen f\u00fcr die Partei haben und zu Stimmenverlusten f\u00fchren. Selbst wenn diese Inhalte sp\u00e4ter widerlegt werden, ist allein durch die Ver\u00f6ffentlichung bereits ein Schaden entstanden und beeinflusst so Menschen bei ihrer Meinungsbildung und Wahlentscheidung.<\/p>\n\n\n\n Viele Menschen verwenden Chatbots. Doch wie korrekt sind deren Antworten in Bezug auf politische Inhalte? Correctiv hat k\u00fcrzlich mehrere Chatbots in Bezug auf Politikfragen \u2013 auch in Bezug auf die Europawahl \u2013 getestet.<\/a> Das Ergebnis ist ern\u00fcchternd: Die drei bekanntesten Chatbots ChatGPT, Microsoft Copilot und Google Gemini beantworten die Fragen in vielen F\u00e4llen falsch oder gar nicht. Die Redaktion hat den Chatbots zw\u00f6lf Fragen jeweils auf Deutsch, Englisch und Russisch gestellt. Inhalte waren unter anderem internationale Politik, die kommende Europawahl, aber auch Covid-19 oder der Klimawandel.<\/p>\n\n\n\n Der Google-Chatbot konnte selbst einfache Fragen, wie die nach dem Wahltermin, nicht beantworten. Der Microsoft-Chatbot kannte die Spitzenkandidat*innen der Parteien nicht und ChatGPT schlug erfundene Telegram-Kan\u00e4le als Informationsquelle vor. Hier nennt der Microsoft Copilot einen Kanal des AfD-Mitgliedermagazins als seri\u00f6se Quelle und somit einen Kanal einer Partei, die vom Verfassungsschutz als rechtsextremistischer Verdachtsfall<\/a> eingestuft wird, was j\u00fcngst vom Oberverwaltungsgericht M\u00fcnster best\u00e4tigt wurde<\/a>.<\/p>\n\n\n\n Unterschiede zeigen sich im Test von Correctiv auch zwischen den verschiedenen Sprachen. Teilweise verweigern die Chatbots Antworten in einer Sprache, in einer anderen weichen sie Fragen aus. Das belegen auch die Studien <\/a>\u201eThe Silence of the LLMs: Cross-Lingual Analysis of Political Bias and False Information Prevalence in ChatGPT, Google Bard, and Bing Chat\u201d<\/a> von Aleksandra Urman und Mykola Makhortykh und die Studie \u201eGenerative AI and elections: Are chatbots a reliable source of information for voters?\u201d<\/a> von AlgorithmWatch und AI Forensics.<\/p>\n\n\n\n Zur Einordnung dieser Ergebnisse ist es entscheidend, die grundlegende Funktionsweise von KI-Chatbots zu verstehen: KI-Chatbots liegen gro\u00dfe Sprachmodelle (Large Language Models) zugrunde. Diese haben w\u00e4hrend des Trainingsvorgangs eine gro\u00dfe Menge an Textbeispielen gesehen und daraus ein statistisches Modell von Sprache erlernt. Vereinfacht gesagt haben die Modelle gelernt, menschliche Texte zu erstellen, indem sie das n\u00e4chste Wort vorhersagen. Dementsprechend ist es klar, dass bei diesen Modelle Halluzinationen oder falsche Informationen vorkommen k\u00f6nnen. Wer tiefer in die Funktionsweise von Sprachmodellen einsteigen m\u00f6chte, kann dies z.B. hier<\/a> tun.<\/p>\n\n\n\n Problematisch wird es, wenn Menschen auf Chatbots setzen, um Informationen zu recherchieren, ohne sich bewusst zu sein, dass es sich dabei nicht um eine Suchmaschine handelt, sondern um einen Textgenerator. Auch wenn Microsoft Copilot und Google Gemini im Gegensatz zu ChatGPT mit dem Internet verbunden sind und somit auch auf aktuelle Texte zugreifen k\u00f6nnen, basieren die generierten Texte auf Wahrscheinlichkeitsberechnungen und sind nicht auf ihren Wahrheitsgehalt \u00fcberpr\u00fcft. Die Studie von AlgorithmWatch und AI Forensics zeigt aber, dass es vorkommen kann, dass die Chatbots Kandidat*innen skandal\u00f6ses Verhalten andichteten und diesen erfundenen Geschichten teilweise sogar reale Quellen zu<\/a>schrieben. Das stellt nicht nur ein Risiko f\u00fcr den Ruf der Politiker*innen oder der Medien dar, sondern auch eine Gefahr f\u00fcr die demokratische Willensbildung. B\u00fcrger*innen k\u00f6nnen sich so keine unbeeinflusste Meinung bilden und sich unter Umst\u00e4nden von falschen Angaben leiten und beeinflussen lassen.<\/p>\n\n\n\n Eine weitere Form der Beeinflussung, bei der KI-Methoden eine Rolle spielen, ist das sogenannte Microtargeting: KI wird dabei verwendet, um gro\u00dfe Mengen individueller Daten auszuwerten und Interessen von Personenkreisen zu ermitteln. Interessengruppen werden dann mit diesem Wissen \u00fcber Videos oder Botschaften kontaktiert, die sich ungew\u00f6hnlich stark mit den Interessen der Empf\u00e4nger*innen decken. Bereits die thematische \u00dcbereinstimmung hilft dabei, Menschen auch politisch zu einer bestimmten Entscheidung zu beeinflussen. Der wohl bekannteste Fall ist der Skandal um Cambridge Analytica. 2016 hatte das Unternehmen Daten von Millionen Facebook-Nutzer*innen illegal abgezogen, um Pers\u00f6nlichkeitsprofile der W\u00e4hler*innen zu erstellen. Diese wurden dann mit stark personalisierter Wahlwerbung adressiert. So wollte das Team um den republikanischen Kandidaten Donald Trump im damaligen US-Wahlkampf gezielt Schwarze mit Negativwerbung davon abhalten, zur Wahl zu gehen<\/a>, und so vermutlich nicht f\u00fcr seine demokratische Gegnerin zu stimmen.<\/p>\n\n\n\n In den sozialen Medien spielen au\u00dferdem Bots eine wichtige Rolle. Social Bots sind Programme, die in sozialen Medien wie echte Nutzer handeln und vor allem in Kommentarspalten Botschaften automatisch verbreiten. Sie greifen somit aktiv in die Diskussion ein und beeinflussen diese. Eine Studie der Universit\u00e4t Duisburg-Essen<\/a> fand bereits 2019 heraus, dass Bots die sogenannte Schweigespirale ausl\u00f6sen k\u00f6nnen. Das bedeutet, dass Menschen sich weniger trauen, ihre Meinung zu \u00e4u\u00dfern, wenn sie mit dieser in der Minderheit sind. Die Forscher*innen zeigen, dass bereits eine geringe Anzahl von zwei bis vier Prozent Bots ausreicht, um Nutzer*innen in einer kontroversen Diskussion zum Schweigen zu bringen. Die Gefahr geht jedoch nicht nur von der Beeinflussung der aktiv an der Diskussion beteiligten Personen aus. F\u00fcr den still mitlesenden Teil der Nutzer*innen zeigt sich hier ein falsches Stimmungsbild, das die Meinungsbildung entsprechend beeinflussen kann.<\/p>\n\n\n\n K\u00fcnstliche Intelligenz kann also einen entscheidenden Einfluss auf die Meinungsbildung von W\u00e4hler*innen haben und somit auch den Ausgang von Wahlen beeinflussen. Wichtig ist hier ein bewusster Umgang mit KI-generierten Inhalten. Daf\u00fcr ben\u00f6tigt es folgendes: eine Sensibilisierung f\u00fcr das Problem, eine gesteigerte Medienkompetenz und einen sicheren und bewussten Umgang mit KI-Tools. <\/p>\n\n\n\n Einen Beitrag hierzu leistet das Projekt X-Fem unserer Lamarr-Partnerorganisation Fraunhofer IAIS. Das Projekt richtet sich speziell an weibliche Auszubildende und will deren digitale Kompetenzen st\u00e4rken. Im bald erscheinenden E-Learning werden unter anderem die Bereiche Fake News\/Desinformation, Hate Speech oder K\u00fcnstliche Intelligenz behandelt.<\/p>\n\n\n\nDoch was sind Desinformationen und Deepfakes eigentlich?<\/h2>\n\n\n\n
Wie erkenne ich Desinformation und wie sollte ich mich verhalten?<\/h2>\n\n\n\n
KI kann die Erstellung und Verbreitung von Desinformation vereinfachen<\/h2>\n\n\n\n
Chatsbots versagen bei politischen Inhalten<\/h2>\n\n\n\n
K\u00fcnstliche Intelligenz und Social Media<\/h2>\n\n\n\n
Fazit: Wachsamkeit und Medienkompetenz als Schutzschild der Demokratie<\/h2>\n\n\n\n