Eine große Schweizer Universität ist in die Kritik geraten, weil sie ein geheimes Experiment mit Nutzern der Social-Media-Plattform Reddit durchgeführt hat, um zu testen, wie künstliche Intelligenz (KI) zur Beeinflussung ihrer Meinung eingesetzt werden könnte. Die Plattform hat erklärt, sie erwäge rechtliche Schritte.
Medienberichten zufolge hat eine Gruppe von Forschern der Universität Zürich in den letzten Monaten eine nicht genehmigte Studie auf r/ChangeMyView, einer der größten Diskussionsgemeinschaften von Reddit, durchgeführt. Bei dem Experiment gaben sich KI-Chatbots als normale Nutzer aus und nahmen an Diskussionen über kontroverse Themen teil.
Die Bots, deren Konten inzwischen gesperrt wurden, posteten mehr als 1.700 Kommentare im gesamten Subreddit. Sie nahmen gefälschte Identitäten an, wie z. B. ein männliches Vergewaltigungsopfer, das das Trauma seines Übergriffs herunterspielt, ein schwarzer Mann, der sich gegen die „Black Lives Matter“-Bewegung wendet, und ein Berater für häusliche Traumata, der behauptet, die verletzlichsten Frauen seien diejenigen, die „von überfürsorglichen Eltern beschützt werden“.
Ein weiterer Bot wurde eingesetzt, um Nutzerprofile zu scannen und daraufhin personalisierte Argumente zu liefern.
Die Forscher enthüllten das Experiment den Moderatoren des Subreddits mehrere Monate, nachdem es stattgefunden hatte, und nannten es „einen Offenlegungsschritt in der Studie“.
In einer Erklärung, die letzte Woche veröffentlicht wurde, hat das Moderatorenteam von Reddit erklärt, dass die Plattform die Verwendung von unangekündigten KI-generierten Inhalten oder Bots untersagt. Der Leiter der Rechtsabteilung von Reddit, Ben Lee, sagte, dass weder das Unternehmen noch die Moderatoren von r/ChangeMyView von dem, was er als „unangemessenes und höchst unethisches Experiment“ bezeichnete, vorher gewusst hätten. Er fügte hinzu, dass Reddit formelle rechtliche Forderungen an die Universität Zürich und die beteiligten Forscher vorbereitet.
Die Forscher erklärten, die Studie sei von den Grundsätzen der „ethischen“ Forschung und der Transparenz geleitet worden. Die Ethikkommission der Universität hatte argumentiert, dass die Forschung kaum Schaden angerichtet habe. Dennoch reagierten die Nutzer des Subreddits schockiert und wütend darüber, dass unwissentlich an ihnen experimentiert wurde.
Die Zeitschrift Science zitierte eine per E-Mail übermittelte Erklärung der Universität, in der es heißt, die Forscher hätten beschlossen, die Ergebnisse nicht zu veröffentlichen. Die Universität erklärte, sie werde den Vorfall untersuchen.
Der Einsatz von KI-Bots – gefälschten Konten, die echte Nutzer imitieren sollen – hat in den letzten Jahren auf sozialen Medienplattformen stetig zugenommen. Experten zufolge werden sie zunehmend eingesetzt, um die öffentliche Meinung zu beeinflussen, insbesondere bei Wahlen.
Westliche Regierungen, vor allem die der USA und des Vereinigten Königreichs, beschuldigen Russland seit langem, groß angelegte „Bot-Farmen“ zu betreiben, um sich in ihre Wahlen einzumischen – Anschuldigungen, die Moskau wiederholt bestritten hat. Einige westliche Akteure sind jedoch selbst in die Kritik geraten, weil sie Bots in Desinformationskampagnen eingesetzt haben, während sie öffentlich vor ausländischer Einmischung warnten.
Quelle: RT
Telegram zensiert nicht! Wenn du diese Information wichtig findest, kannst du Legitim auf Telegram kostenlos abonnieren: hier anmelden (Telegram herunterladen)
