Vortrag und Diskussion | Vor Ort AI for Bad: Risiken von generativer KI im Kontext von Wahlen

In den letzten Jahren haben KI-Modelle zur Bilderzeugung enorme Fortschritte gemacht, insbesondere in der Glaubhaftigkeit der Inhalte und der präzisen Umsetzung von Textbefehlen zu automatisch generierten Bildern. Diese Entwicklungen eröffnen nicht nur kreative Möglichkeiten, sondern machen die Technologie für eine breite Nutzendenschaft leicht zugänglich. Gerade der Einsatz von KI-generierten Bildern zur Mobilisierung in Wahlkämpfen wirft drängende Fragen auf, da sich die verbreiteten Inhalte direkt auf die öffentliche Meinung und Wahlentscheidungen auswirken können. Wie verbreitet sind solche Inhalte bereits? Inwieweit können sie politische Kommunikation und demokratische Entscheidungsprozesse verändern? 

Der Einsatz von KI in politischen Kampagnen stellt auch eine rechtliche Herausforderung dar. Die europäische KI-Verordnung verpflichtet Anbieter zur Kennzeichnung von KI-generierten Inhalten; das Gesetz über digitale Dienste (englisch Digital Services Act, DSA)  schreibt sehr großen Online-Plattformen und Suchmaschinen (wie zum Beispiel Meta, X, TikTok) vor, systemische Risiken zu bewerten und diese zu mindern. Aber worin drücken sich diese systemischen Risiken aus und welche Maßnahmen sind erforderlich, um ihnen entgegenzuwirken? Und wo liegen auch die Grenzen des DSA?

In dieser Veranstaltung präsentieren das Weizenbaum-Institut, IDZ und Das NETTZ zwei aktuelle Forschungsstudien zur Verbreitung KI-generierten Bildmaterials in Landtagswahlkämpfen und zu deren rechtlicher Bewertung. Nach den einführenden Inputvorträgen zu diesen Studien diskutiert eine interdisziplinäre Podiumsrunde mit Expertinnen und Experten aus Zivilgesellschaft, Praxis und Wissenschaft die Herausforderungen sowie mögliche regulatorische Ansätze im Umgang mit KI-generierten Bildern.

Mit Inputvorträgen von Annett Heft (Universität Tübingen / Weizenbaum-Institut) und Christian Donner (IDZ Jena)

Podium: Sandra Wachter (Universität Oxford, Hasso-Plattner-Institut), Simon Kruschinski (Universität Mainz), Lena-Maria Böswald (Das NETTZ)

Moderation: Rita Gsenger (Weizenbaum-Institut) und Annett Heft

Mehr über die Veranstaltung erfahren