Interessantes und Neues

Aktuelles | 07.05.2024

KI und Antifeminismus

Katharina Crepaz von der Bozner Denkfabrik Eurac Research spricht am 8. Mai in der urania Meran (ab 19 Uhr) über geschlechtsspezifische digitale Gewalt und die sog. „Manosphere“. Welche Gefahren gehen von diesem Phänomen aus? Wer sind die wichtigsten Akteure? Die Forscherin gibt vorab schon einige Einsichten in das aktuelle Thema.

Können Sie einen Überblick über Künstliche Intelligenz (KI) geben und erklären, wie sie verschiedene Bereiche wie Medien, Politik und Bildung beeinflusst?
Katharina Crepaz: KI-Systeme sind mittlerweile allgegenwärtig, am häufigsten diskutiert wurden in letzter Zeit wohl Sprachmodelle wie ChatGPT oder Systeme zur Erstellung von Bildern wie Midjourney. Schon anhand von diesen beiden Beispielen sehen wir, wie viele Gesellschaftsbereiche von KI beeinflusst werden: Wie können wir künftig an Universitäten noch Prüfungen in Form von wissenschaftlichen Arbeiten abhalten, wenn diese mühelos von ChatGPT geschrieben werden können? Was ist der Wert von Künstler:innen und deren Werken, wenn man sich auch dafür an KI wenden kann? Neben grundsätzlichen gesellschaftlichen Entwicklungen, die wir diskutieren müssen, gibt es auch Phänomene wie Deepfakes, die besonders gefährlich sind: Wer kann noch beurteilen, was wirklich so geäußert wurde, und was nicht? Es gibt Akteur:innen, die über solche Falschmeldungen auch die internationale Politik beeinflussen und zum Beispiel Wahlen in eine bestimmte Richtung lenken können.

Inwiefern sind Frauen im Internet spezifischen Gefahren, wie beispielsweise Hate Speech und Antifeminismus, ausgesetzt, und welche Rolle spielt dabei die Anwendung von KI?
Frauen sind im Internet vor allem geschlechtsbezogener Gewalt ausgesetzt, Hate Speech ist eine Form davon. Geschlechtsbezogene Gewalt bedeutet, dass Frauen aufgrund der Tatsache, dass sie Frauen sind, vermehrt angegriffen werden, und sprachliche Gewalt ist dabei ebenfalls ganz klar als Form von Gewalt einzustufen. Wir sehen etwa bei Politikerinnen, dass die Muster der Übergriffe immer ähnlich sind: Angriffe basierend auf äußerlichen Merkmalen (zum Beispiel Bodyshaming bei der deutschen Grünen-Politikerin Ricarda Lang), Absprechen von Kompetenz, Gewaltfantasien und Vergewaltigungswünsche. Die antifeministische Szene online formiert sich in der sogenannten Manosphere, einem losen Netzwerk von frauenfeindlichen Gruppen. Gemeinsam ist ihnen eine misogyne, also frauenverachtende Grundhaltung, und dass Frauen bzw. der Feminismus als Verantwortliche für die eigenen Schwierigkeiten und vermeintlich negative gesellschaftliche Entwicklungen dargestellt werden.

Welche Vorstellungen von Weiblichkeit und Männlichkeit werden dabei propagiert?
Es werden vor allem sehr traditionelle und sehr enge Vorstellungen von Weiblichkeit und Männlichkeit transportiert: Frauen sind fürsorglich, sanft, passiv, Alpha-Männer sind stark, dominierend, aktiv. Für alle Geschlechter wirken sie sehr einschränkend. Die Manosphere ist vor allem auf TikTok sehr aktiv, und erreicht somit auch vermehrt ein sehr junges Publikum; der Erfolg etwa von rechtspopulistischen Akteur:innen und deren Reichweite zeigen, dass vor allem TikTok als Medium zu lange bestimmten Gruppierungen überlassen wurde. Der Algorithmus der Plattform tut dann sein Übriges zur Radikalisierung: Je mehr Content einem Thema ich konsumiere, desto mehr wird mir davon auch weiterhin angezeigt, und ich komme mit gegensätzlichen Meinungen nicht mehr in Berührung.

Wie sehen Sie die Diskussion um künstliche Intelligenz im Kontext des Feminismus? Welche Aspekte sind besonders relevant, und wo besteht Handlungsbedarf?
Künstliche Intelligenz hat mit einer Vielzahl von strukturellen Vorurteilen und Diskriminierungen zu kämpfen. Die Ursache dieser sogenannten Biases besteht in gesellschaftlichen Ungleichheiten, die sich in den zur Verfügung stehenden Datensätzen spiegeln. Wir haben einen Gender Data Gap, der sich über unterschiedliche Bereiche erstreckt, und der bedingt, dass wir eine mangelnde Repräsentation von Frauen in Datensätzen haben; das betrifft auch jene, mit denen KI-Modelle trainiert werden. Am bekanntesten ist der Gender Data Gap wohl in der Medizin. Lange wurden zum Beispiel Medikamente gar nicht an Frauen getestet, weil man eine Schwangerschaft während der Studienphase und eine mögliche Schädigung des Fötus befürchtete, und eine Anpassung an den hormonellen Zyklus der Frau als zu schwierig erachtete. Auch bei Gesichtserkennungssoftware werden Frauen seltener richtig erkannt. 

Gibt es weitere Probleme?
Ja, zum Beispiel Assistenzsysteme wie Siri und Alexa, die als weiblich gelesen werden und Rollenstereotype unterstützen: Frauen sind unterwürfig, gehorsam, immer freundlich. Mittlerweile hat etwa Apple auch männliche und nicht-binäre Stimmen zur Auswahl hinzugefügt, aber die Grundeinstellung ist eine weibliche Stimme. Zudem gab es anfangs Probleme mit den Antworten der KI auf beleidigende und sexistische Formulierungen; Siri reagierte zum Beispiel auf eine Beschimpfung wie „bitch“ (Schlampe) mit den Worten „I’d blush if I could“: „Wenn ich könnte, würde ich rotwerden“. Das vermittelt also eine völlig falsche Reaktion auf eine Beleidigung.

Hat das alles auch damit zu tun, dass die Technologiebranche noch stark männlich dominiert ist?
Eindeutig, von gesellschaftlicher Diversität ist noch wenig zu spüren. Das spiegelt sich auch in den Produkten wider, und generiert zusammen mit den schon angesprochenen Datensätzen einen sehr schwierigen Kontext für geschlechtergerechte und diversitätsfreundliche KI.

Welche konkreten Gefahren birgt Hate Speech im digitalen Raum, insbesondere für Frauen und wie können wir uns dagegen einbringen?
Wir haben zwei Ebenen von Gefahren, zum einen die persönliche – ich werde direkt online beleidigt – und eine institutionelle, zum Beispiel eben durch die Inhalte der Manosphere. Persönliche Beleidigungen bergen die Gefahr, dass sich Frauen aus Angst vor Angriffen online nicht mehr äußern; in Dänemark gab es eine Studie dazu, dass Politikerinnen sich aus Angst vor persönlichen Angriffen und vor Gefahr für ihr familiäres Umfeld in Online-Diskursen zurücknehmen, und ihre Meinung nicht mehr so aktiv einbringen. Damit haben wir neben der Verletzung der persönlichen Rechte auch ein demokratiepolitisches Problem. Ich würde dazu raten, Beleidigungen und Gewaltandrohungen auf jeden Fall zur Anzeige zu bringen; leider passiert im Anschluss daran häufig noch zu wenig, aber wir müssen darauf aufmerksam machen, dass das Internet kein rechtsfreier Raum sein darf. Parallel dazu müssen wir eine Präsenz von geschlechter- und diversitätssensiblen Angeboten aufbauen, und uns darauf konzentrieren, die digitale Welt nicht den Rückwärtsgewandten und den Rechtspopulisten zu überlassen. Soziale Medien können auch ein positiver Raum für Selbstausdruck und Vernetzung sein, diese Komponente müssen wir stärken, insbesondere weil online Inhalte vor allem junge Menschen erreichen. Digitalkompetenz ist also auch ein wichtiger Aspekt für politische Bildung.

Das Interview wurde von Teresa Putzer geführt und auf dem Online-Portal barfuß.it veröffentlicht.

 

ac

Downloads