{"id":15494,"date":"2024-09-25T08:47:52","date_gmt":"2024-09-25T08:47:52","guid":{"rendered":"https:\/\/lamarr-institute.org\/?post_type=blog&p=15494"},"modified":"2025-11-12T14:51:11","modified_gmt":"2025-11-12T14:51:11","slug":"ki-gegen-hate-speech-digitale-gewalt","status":"publish","type":"blog","link":"https:\/\/lamarr-institute.org\/de\/blog\/ki-gegen-hate-speech-digitale-gewalt\/","title":{"rendered":"Hate Speech und digitale Gewalt: Wie K\u00fcnstliche Intelligenz helfen kann Hass im Netz zu bek\u00e4mpfen\u00a0"},"content":{"rendered":"\n

Hate Speech<\/a>, <\/em>oder \u201eHassrede\u201c, <\/em>umfasst menschenverachtende und diskriminierende \u00c4u\u00dferungen, die sich gegen bestimmte Personengruppen richten. Solche Angriffe zielen oft auf Merkmale wie Hautfarbe, Herkunft, Sexualit\u00e4t, Geschlecht, Alter, Behinderung oder Religion von Menschen ab. Betroffene Gruppen sind h\u00e4ufig Frauen, Menschen mit Migrationshintergrund und die LGBTQ+-Community. Die Studie \u201eLauter Hass \u2013 leiser R\u00fcckzug\u201c<\/a> des Kompetenznetzwerks gegen Hass im Netz zeigt, dass Menschen, auf die mehrere dieser Merkmale zutreffen, st\u00e4rker von Hassrede betroffen sind.<\/p>\n\n\n\n

Hass im Netz: Mehr als nur beleidigende Kommentare<\/h2>\n\n\n\n

Der Begriff \u201eHass im Netz\u201c geht \u00fcber Hate Speech<\/em> hinaus und umfasst eine Vielzahl von sch\u00e4dlichen digitalen Verhaltensweisen wie rassistische Memes, ungewollte Dickpics oder online ver\u00f6ffentlichte Adressen. Auch die Verbreitung von (Nackt-)Fotos ohne Zustimmung, Stalking, Bel\u00e4stigungen, die Androhung von Gewalt sowie Deepfakes<\/a> z\u00e4hlen zu Hass im Netz. K\u00fcnstliche Intelligenz spielt hier sowohl bei der Erzeugung als auch bei der Bek\u00e4mpfung dieser Ph\u00e4nomene eine Rolle. Deepfake-Technologien, die durch KI generiert werden, erm\u00f6glichen das Erstellen gef\u00e4lschter Videos und Bilder, die gezielt zur Manipulation und Diffamierung eingesetzt werden.<\/p>\n\n\n\n

Ein Beispiel f\u00fcr den Einsatz von Deepfake-Technologien ist die Verbreitung gef\u00e4lschter Videos politischer Pers\u00f6nlichkeiten. 2019 tauchte ein Deepfake-Video auf, in dem Nancy Pelosi, die Sprecherin des US-Repr\u00e4sentantenhauses, scheinbar betrunken und unzusammenh\u00e4ngend sprach. Das Video wurde so bearbeitet, dass Pelosis Stimme und Mimik verzerrt wurden, um sie in einem negativen Licht darzustellen. Die Verbreitung solcher Videos kann das \u00f6ffentliche Vertrauen in politische Akteure untergraben und politische Prozesse manipulieren.<\/p>\n\n\n\n

YouTube entfernte das Video nach einiger Zeit, w\u00e4hrend Facebook es herabstufte, wodurch es weniger sichtbar wurde. Auf X (ehem. Twitter) jedoch blieb das Video weiterhin zug\u00e4nglich<\/a>, da die Plattform keine Richtlinien zur Entfernung von manipulierten Inhalten hat. Dieses Beispiel verdeutlicht, wie gef\u00e4hrlich Deepfakes im Kontext von Hate Speech und Desinformation sein k\u00f6nnen.<\/p>\n\n\n\n

Meinungsfreiheit vs. Hassrede: Wo ziehen wir die Grenze?<\/h2>\n\n\n\n

In Deutschland garantiert Artikel 5 des Grundgesetztes<\/a> die Meinungsfreiheit. Doch diese endet dort, wo die W\u00fcrde eines anderen Menschen verletzt oder die freie Entfaltung der Pers\u00f6nlichkeit eines anderen Menschen eingeschr\u00e4nkt wird. Kritiker*innen bef\u00fcrchten, dass die Bek\u00e4mpfung von Hate Speech die Meinungsfreiheit einschr\u00e4nken k\u00f6nnte. K\u00fcnstliche Intelligenz k\u00f6nnte helfen, zwischen legitimer Meinungs\u00e4u\u00dferung und Hassrede zu unterscheiden. KI-Algorithmen k\u00f6nnen gro\u00dfe Mengen an Inhalten (Daten) auf Social-Media-Plattformen analysieren und potenziell sch\u00e4dliche Aussagen kennzeichnen. So lie\u00dfe sich eine Balance finden, die einerseits die Meinungsfreiheit wahrt, andererseits jedoch sch\u00e4dliche Inhalte eind\u00e4mmt.<\/p>\n\n\n\n

KI zur Erkennung und Bek\u00e4mpfung von Hate Speech<\/h2>\n\n\n\n

K\u00fcnstliche Intelligenz spielt eine zentrale Rolle bei der Bek\u00e4mpfung von Hate Speech auf Online-Plattformen. KI-Systeme, die auf Natural Language Processing (kurz: NLP) basieren, k\u00f6nnen automatisch beleidigende oder menschenverachtende Inhalte erkennen und entsprechende Ma\u00dfnahmen einleiten. Eine besondere Herausforderung besteht jedoch darin, die feinen Nuancen zwischen freier Meinungs\u00e4u\u00dferung und Hassrede zu erkennen und korrekt einzuordnen.<\/p>\n\n\n\n

Ein konkretes Beispiel f\u00fcr den Einsatz von NLP-Algorithmen zur Erkennung von Hate Speech ist das Tool \u201ePerspective\u201c,<\/a> das von der Alphabet-Tochter Jigsaw in Zusammenarbeit mit Google entwickelt wurde. \u201ePerspective\u201c nutzt maschinelles Lernen und NLP, um die \u201etoxische\u201c Natur von Kommentaren in Online-Diskussionen zu analysieren. Es bewertet den Grad der Beleidigung oder Sch\u00e4dlichkeit eines Textes und gibt den Plattformen die M\u00f6glichkeit, potenziell sch\u00e4dliche Kommentare zu moderieren.<\/p>\n\n\n\n

Bots und KI-gest\u00fctzte Desinformation<\/h2>\n\n\n\n

KI-gesteuerte Bots spielen eine gro\u00dfe Rolle bei der Verbreitung von Hass im Netz. Sie k\u00f6nnen automatisiert gro\u00dfe Mengen an Hassbotschaften verbreiten und Debatten beeinflussen. Gleichzeitig werden fortschrittliche Algorithmen entwickelt, um diese automatisierten Accounts zu identifizieren und zu stoppen. Ein prominentes Beispiel ist der Einsatz von Bots in den sozialen Medien w\u00e4hrend der US-Wahlen 2016<\/a>, als diese auf Plattformen wie X und Facebook gezielt Desinformationen<\/a> und Hassbotschaften verbreitet haben. Diese Bots verwendeten automatisierte Programme, um Fake News, polarisierende Inhalte und Hasskommentare zu verbreiten. Forschende haben herausgefunden, dass viele dieser Bots darauf abzielten, die \u00f6ffentliche Meinung zu beeinflussen und gesellschaftliche Spaltungen zu vertiefen.<\/p>\n\n\n\n

Zum Bek\u00e4mpfen solcher Hassbots haben Unternehmen wie Facebook damit begonnen, KI-gest\u00fctzte Algorithmen zu entwickeln, die in der Lage sind, Bot-Aktivit\u00e4ten zu erkennen. Diese Algorithmen analysieren verd\u00e4chtige Verhaltensmuster, wie etwa die Frequenz von Beitr\u00e4gen, die Interaktionsmuster und die Herkunft der Accounts.<\/p>\n\n\n\n

Auswirkungen von Hate Speech auf Individuen und Gesellschaft<\/h2>\n\n\n\n

Hate Speech hat tiefgreifende Auswirkungen auf die Betroffenen und die Gesellschaft insgesamt. Individuell k\u00f6nnen die Folgen von Stress und sozialem R\u00fcckzug bis hin zu psychischen Problemen reichen.<\/a> Gesellschaftlich f\u00fchrt digitale Gewalt zu einer Verschiebung es \u00f6ffentlichen Diskurses.<\/a> Besonders problematisch ist die Rolle von Bots, die durch automatisierte KI-Algorithmen Hassbotschaften massenhaft verbreiten und damit ein verzerrtes Bild der \u00f6ffentlichen Meinung erzeugen.<\/p>\n\n\n\n

Silencing-Effekt und die Gefahr f\u00fcr die Demokratie<\/h2>\n\n\n\n

Der sogenannte Silencing-Effekt beschreibt, wie Opfer von Hate Speech sowie Au\u00dfenstehende sich zunehmend aus dem \u00f6ffentlichen Diskurs zur\u00fcckziehen. K\u00fcnstliche Intelligenz kann hier helfen, indem sie Hassrede proaktiv identifiziert und entfernt, bevor sie breitere gesellschaftliche Auswirkungen hat. Dies ist besonders wichtig, da rechtsextreme Gruppen diese Dynamik oft ausnutzen, um politische und gesellschaftliche Meinungsvielfalt zu untergraben.<\/p>\n\n\n\n

Studien des Southern Poverty Law Center (SPLC)<\/em><\/a> zeigen, dass rechtsextreme Gruppen versuchen, durch gezielte Online-Kampagnen und Desinformation demokratische Institutionen zu destabilisieren. Diese Gruppen nutzen soziale Medien, um ihre Anh\u00e4nger zu mobilisieren, Verschw\u00f6rungstheorien zu verbreiten und Minderheiten sowie marginalisierte Gruppen anzugreifen. \u00c4hnlich zeigen Berichte des Center for Strategic and International Studies (CSIS)<\/em><\/a>, dass rechtsextreme Gruppen weltweit soziale Medien als Plattform nutzen, um extremistische Rhetorik zu verbreiten und politische sowie religi\u00f6se Minderheiten anzugreifen. Diese Gruppen agieren oft weniger auff\u00e4llig, um einer \u00dcberwachung zu entgehen, w\u00e4hrend sie gleichzeitig Gewalt gegen Minderheiten und andere politische Gegner anstacheln\u200b.<\/p>\n\n\n\n

Von Worten zu Taten: Die Radikalisierung durch das Netz<\/h2>\n\n\n\n

Hass im Netz kann reale Gewalt nach sich ziehen, wie die Morde an Walter L\u00fcbcke oder die Anschl\u00e4ge in Halle und Hanau zeigen. Hierbei spielt das Internet eine zentrale Rolle, da es als Radikalisierungsplattform fungiert.<\/p>\n\n\n\n

Am 2. Juni 2019 wurde der Kasseler Regierungspr\u00e4sident Walter L\u00fcbcke auf der Terrasse seines Hauses durch einen Kopfschuss ermordet<\/a>. Vorausgegangen waren der Tat rechtsextreme Hasskampagnen, nachdem sich der CDU-Politiker klar f\u00fcr demokratische Werte, die Aufnahmen von Gefl\u00fcchteten und gegen Rechtsextremismus eingesetzt hatte. Der Hass ging so weit, dass in einem einschl\u00e4gigen rechtsextremen Blog seine Privatadresse mit der Aufforderung, jemand \u201esolle sich k\u00fcmmern\u201c, ver\u00f6ffentlicht wurde. Bei dem T\u00e4ter handelte es sich um einen Rechtsextremisten.<\/p>\n\n\n\n

Am 9. Oktober 2019 versuchte ein Rechtsextremist in Halle an der Saale schwer bewaffnet in eine Synagoge einzudringen. Nachdem dies scheiterte, t\u00f6tete er zwei Menschen. Am 19. Februar 2020 erschoss ein Rassist in Hanau neun Menschen \u2013 offensichtlich gezielt Frauen und M\u00e4nner mit Migrationshintergrund. Radikalisiert hatten sich alle T\u00e4ter im Internet. <\/a>\u00a0<\/p>\n\n\n\n

K\u00fcnstliche Intelligenz kann hier eine wichtige Rolle dabei spielen, solche Entwicklungen zu verhindern, indem sie fr\u00fchzeitig gef\u00e4hrliche Muster in Online-Diskussionen und Kommunikationsstr\u00f6men erkennt.<\/p>\n\n\n\n

Ein erfolgreiches Beispiel f\u00fcr den pr\u00e4ventiven Einsatz von KI ist die Betrugserkennung (Fraud Detection) im Finanzwesen. Banken und Finanzinstitute setzen seit vielen Jahren KI ein, um verd\u00e4chtige Transaktionen zu erkennen und potenziellen Betrug oder Geldw\u00e4sche zu verhindern. Diese Technologien haben sich als hochwirksam erwiesen, da sie in der Lage sind, gro\u00dfe Mengen an Daten in Echtzeit zu analysieren und sofortige Ma\u00dfnahmen zu ergreifen. Insbesondere Machine Learning Modelle, die zur Erkennung von Kreditkartenbetrug verwendet werden, haben eine hohe Pr\u00e4zision erreicht und sorgen f\u00fcr mehr Sicherheit im Finanzsektor.<\/p>\n\n\n\n

Diese Erfolge im Finanzwesen zeigen, dass KI auch im Kampf gegen die Verbreitung von Hass und die Radikalisierung im Internet eine entscheidende Rolle spielen kann. Durch die fr\u00fchzeitige Identifizierung von bedrohlichen Verhaltensmustern k\u00f6nnen Ma\u00dfnahmen ergriffen werden, bevor aus hasserf\u00fcllter Rhetorik Taten werden. KI-Systeme k\u00f6nnen so dazu beitragen, digitale R\u00e4ume sicherer zu machen und die Verbreitung von Hassbotschaften zu unterbinden.<\/p>\n\n\n\n

Wie Technologie und Initiativen helfen k\u00f6nnen: Unterst\u00fctzung im Kampf gegen Hate Speech<\/h2>\n\n\n\n

Weder als betroffene noch als au\u00dfenstehende Person muss Hate Speech einfach hingenommen und ertragen werden. Es gibt verschiedene Strategien, mit Hate Speech umzugehen oder darauf zu reagieren. Jede dieser Gegenstrategien hat Vor- und Nachteile, und jede Person sollte f\u00fcr sich entscheiden, welche Strategie entlastend und hilfreich ist. Neben den M\u00f6glichkeiten, Hasskommentare in den sozialen Medien zu ignorieren, zu l\u00f6schen und bei der Plattform zu melden, sachlich zu kontern oder Hater*innen zu blockieren, ist eine wichtige Strategie, auf Unterst\u00fctzungsangebote zur\u00fcckzugreifen.<\/p>\n\n\n\n

Ein prominentes Beispiel hierf\u00fcr ist HateAid<\/a>, eine gemeinn\u00fctzige Organisation, die sich gegen Hass im Netz und digitale Gewalt engagiert. Neben rechtlicher Unterst\u00fctzung bietet HateAid auch Aufkl\u00e4rung zu digitaler Gewalt an und stellt Werkzeuge zur Verf\u00fcgung, die Betroffenen helfen, sich gegen Hasskommentare zu wehren. Besonders im digitalen Raum, in dem hasserf\u00fcllte Inhalte oft dauerhaft zug\u00e4nglich bleiben, ist es entscheidend, auf solche Hilfsangebote zur\u00fcckzugreifen.<\/p>\n\n\n\n

Auch Technologien k\u00f6nnen einen wichtigen Beitrag zur Eind\u00e4mmung von Hate Speech leisten. K\u00fcnstliche Intelligenz wird in sozialen Netzwerken bereits erfolgreich eingesetzt, um sch\u00e4dliche Inhalte zu erkennen und pr\u00e4ventive Ma\u00dfnahmen zu ergreifen. KI-basierte Systeme zur Erkennung von Hasskommentaren sind seit langem im Einsatz und haben in anderen Bereichen, wie der Betrugserkennung im Finanzwesen, bereits hohe Erfolgsraten erzielt. Diese Technologien helfen nicht nur, potenziell sch\u00e4dliche Inhalte zu identifizieren, sondern bieten auch die M\u00f6glichkeit, pr\u00e4ventiv einzugreifen, bevor aus Worten Taten werden.<\/p>\n\n\n\n

Einen weiteren Beitrag zur Sensibilisierung leistet das Projekt X-Fem<\/a> unserer Lamarr-Partnerorganisation Fraunhofer IAIS. Das Projekt richtet sich speziell an weibliche Auszubildende und will deren digitale Kompetenzen st\u00e4rken. Im bald erscheinenden E-Learning werden unter anderem die Themen Fake News, Hate Speech und der verantwortungsvolle Umgang mit K\u00fcnstlicher Intelligenz behandelt. Dies hilft, das Bewusstsein f\u00fcr die Problematik zu sch\u00e4rfen und gibt den Teilnehmer*innen die Werkzeuge an die Hand, um aktiv gegen digitale Gewalt vorzugehen.<\/p>\n\n\n\n

Melde dich jetzt zum X-Fem-Newsletter<\/a> an und erfahre mehr \u00fcber das bald erscheinende E-Learning zu Fake News, Hate Speech und dem Umgang mit KI.<\/p>\n","protected":false},"excerpt":{"rendered":"

Erfahre, wie K\u00fcnstliche Intelligenz gegen Hate Speech und digitale Gewalt hilft: von der Erkennung sch\u00e4dlicher Inhalte bis zur Pr\u00e4vention von Deepfakes. Entdecke, wie KI den digitalen Raum sicherer macht und demokratische Diskurse sch\u00fctzt.<\/p>\n","protected":false},"author":16,"featured_media":15495,"template":"","meta":{"_acf_changed":true,"footnotes":""},"blog-category":[1416,390],"blog-tag":[1479,1531,1559,1593],"class_list":["post-15494","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-alle-blogbeitraege","blog-category-grundlagen","blog-tag-deep-fakes-de","blog-tag-ki-ethik","blog-tag-nlp-de","blog-tag-sichere-ki"],"acf":[],"publishpress_future_workflow_manual_trigger":{"enabledWorkflows":[]},"_links":{"self":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/15494","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/types\/blog"}],"author":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/users\/16"}],"version-history":[{"count":0,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog\/15494\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media\/15495"}],"wp:attachment":[{"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/media?parent=15494"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-category?post=15494"},{"taxonomy":"blog-tag","embeddable":true,"href":"https:\/\/lamarr-institute.org\/de\/wp-json\/wp\/v2\/blog-tag?post=15494"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}