Über einen Zeitraum von vier Monaten haben Forschende der Universität Zürich im Rahmen einer verdeckten Studie mit KI-Bots Antworten auf Beiträge auf Reddit verfasst, auf der speziellen Seite Subredditr/ChangeMyView: Hier teilen Menschen ihre Meinungen und fordern andere auf, sie mit überzeugenden Argumenten zum Umdenken zu bewegen.

Dabei gaben sich KI-Bots unter anderem als männliches Vergewaltigungsopfer aus oder als schwarzer Mann, der sich gegen die Black-Lives-Matter-Bewegung stellt. Ein weiterer KI-Bot der Forschenden der Uni Zürich äusserte sich zum Nahostkonflikt:

Daraufhin zeigte sich das Moderatoren-Team im Thread unzufrieden mit der verdeckten Forschung. Auch die User kritisieren das Projekt: «Traurig, solche schlampige, unethische Forschung», schreibt ein User, «unglaublich enttäuschend», kommentiert ein anderer.

Nun haben die Forschenden reagiert. Die Universität Zürich teilt auf Anfrage mit: «Die Forschenden haben sich auf eigene Initiative entschieden, die Forschungsergebnisse nicht zu publizieren.»

Offenbar war die Studie von Anfang an umstritten. Die Universität Zürich erklärte, die Ethikkommission der Philosophischen Fakultät habe die Forschenden darauf hingewiesen, dass die besagte Studie für die Kommission die grösste Herausforderung (von vier eingereichten Studien zur KI) darstelle. Deshalb nannte die Kommission drei Empfehlungen:

Erstens: «Der gewählte Ansatz sollte stärker begründet werden.» Zweitens: «Die Teilnehmer sollten so weit wie möglich informiert werden.» Drittens: «Die Regeln der Plattform sollten vollständig befolgt werden.»

Die Forschenden missachteten jedoch die Community-Guidelines von Reddit zur Künstlichen Intelligenz, die den Einsatz von undeklarierten KI-Inhalten verbieten. Somit folgten die Forschenden der dritten Empfehlung der Ethikkommission nicht. Auch den zweiten Punkt missachteten die Forschenden: So informierten sie die User und das Moderatorenteam des Subreddits absichtlich nicht, wie die Forschenden im Subreddit selbst erklären: «Wir sind uns bewusst, dass wir mit unserem Experiment gegen die Community-Regeln der KI-generierten Kommentare verstossen haben.»

Wieso die Forschenden das Experiment trotzdem durchgeführt haben? Sie sind der Meinung, dass es angesichts der grossen gesellschaftlichen Bedeutung dieses Themas unumgänglich war, eine solche Studie durchzuführen, auch wenn dies bedeutete, die Regeln zu missachten.

Die Einschätzungen der Ethikkommission der Philosophischen Fakultät seien Empfehlungen, die nicht rechtlich bindend seien, so die Universität in der Stellungnahme. «Die Verantwortung für die Durchführung des Projekts und für die Publikation der Resultate tragen die Forschenden selbst.»

Aufgrund der Ereignisse will die Ethikkommission der Philosophischen Fakultät in Zukunft noch verbindlichere Empfehlungen gegenüber Wissenschaftlern und Wissenschaftlerinnen formulieren. Besonders die Regeln der Communitys auf den Plattformen, auf denen experimentelle Studien durchgeführt werden, sollen dabei genauer beachtet werden.

Die zuständigen Stellen an der Universität Zürich haben Kenntnis von den Vorfällen und werden diese nun im Detail aufarbeiten.