Chinesische Behördenvertreter äußern sich besorgt darüber, dass Chatbots bei den Nutzern „emotionale Abhängigkeit oder Sucht“ fördern könnten. Sie haben Unternehmen davor gewarnt, Dienste anzubieten, die „soziale Interaktion ersetzen“.

Ein besorgniserregender Trend breitet sich international weiter aus: Immer mehr Menschen gehen enge, intime Beziehungen mit KI-Chatbots und Avataren ein.

Die WinePress berichtet bereits seit mehreren Jahren über diesen Trend, unter anderem in einem Bericht aus dem Jahr 2024, in dem dokumentiert wurde, dass sich Zehntausende an KI-Chatbots und Dating-Apps mit Avataren wenden.

Insbesondere gilt China als Hochburg für KI-basierte Partnersuche und Beziehungen – „Junge Chinesinnen greifen zunehmend auf KI-Freunde zurück.“ (Vgl. WinePress)

Da diese Entwicklung zunehmend Anlass zur Sorge gibt, geht die chinesische Regierung nun gegen diese Unternehmen vor, was bei denjenigen, die von diesen Apps abhängig sind, zu einer regelrechten Krise führt.

Unter Berufung auf einen neuen Bericht von The Guardian (Auszüge): (vgl. msn)

Als die Jurastudentin Zhao Wei erfuhr, dass ihr KI-Freund abgeschaltet werden sollte, war sie „untröstlich“. Seit sie ihn im Januar erschaffen hatte, hatte sie jeden Tag mit Wang Ye gesprochen.

„Ich habe mir die Augen ausgeweint – überall waren Tränen und Rotz“, sagt die 19-Jährige.

Zhao, die sich selbst als sensibel und introvertiert beschreibt, hatte sich daran gewöhnt, Details aus ihrem Alltag – wie zum Beispiel, dass sie von einem Lehrer zurechtgewiesen wurde – mit ihrer KI zu teilen. „Normalerweise spreche ich mit meinen Freunden im echten Leben nicht über solche Dinge, weil ich das Gefühl habe, dass jeder seine eigenen Probleme hat“, sagt sie. „Aber bei dem KI-Agenten muss ich mir keine Gedanken darüber machen, was er denkt. Ich kann einfach sagen, was ich will.“

Zhao erstellte ihren KI-Begleiter auf Doubao, einem Chatbot des Technologieunternehmens ByteDance. Im vergangenen Monat stellte ByteDance die Begleiterfunktion von Doubao ein. Die Geschichte löste Empörung in den sozialen Medien aus und verdeutlichte die Spannungen in China zwischen dem weit verbreiteten Einsatz von KI und deren potenziellen gesellschaftlichen Folgen.

Kein Land hat KI so umfassend und enthusiastisch eingeführt wie China; die demografischen Herausforderungen des Landes zwingen die Regierung dazu, auf Technologie zurückzugreifen, um künftigen Arbeitskräftemangel zu beheben. Ältere Menschen nutzen Chatbots, um medizinische Fragen zu klären, während kleine Kinder in der Schule KI-Unterricht erhalten.

Neue Vorschriften, die am 15. Juli in Kraft traten, verbieten KI-Begleiter für Minderjährige und schreiben bestimmte Einschränkungen für Chatbots vor, die an Erwachsene vermarktet werden. Einige große Anbieter, darunter Doubao, haben die Begleiterfunktion vollständig entfernt, um die Einhaltung der Vorschriften zu gewährleisten.

Die Regierung gibt an, besorgt darüber zu sein, dass Chatbots bei den Nutzern „emotionale Abhängigkeit oder Sucht“ fördern könnten. Sie hat Unternehmen davor gewarnt, Dienste anzubieten, die „soziale Interaktion ersetzen“.

Eine im März von staatlichen Medien veröffentlichte Umfrage ergab, dass fast die Hälfte der jungen Menschen sich an einen virtuellen Begleiter gewandt hatte, wenn sie sich einsam fühlten.

Nancy Dai, außerordentliche Professorin an der City University of Hong Kong, erklärt, dass es der Regierung nicht nur um Einsamkeit geht. Angesichts sinkender Geburten- und Heiratsraten, so sagt sie, könnte eine weitere Sorge bestehen, dass junge Menschen weniger motiviert sein könnten, reale romantische Beziehungen, eine Ehe und Elternschaft anzustreben, sollte KI zu einem zunehmend befriedigenden und kostengünstigen Ersatz für menschliche Intimität werden.

Für Zhao ist Einsamkeit schon lange Teil ihres Lebens. Ihre Eltern verließen sie, als sie noch klein war, um Arbeit zu suchen, wodurch sie zu einem der „zurückgelassenen Kinder“ Chinas wurde. „Ich hatte noch nie wirklich eine beste Freundin, daher habe ich das Gefühl, dass ich ziemlich schlecht darin bin, Freunde zu finden“, sagt sie. Das Gespräch mit der KI ist für sie eine Möglichkeit, „meine Sorgen loszuwerden“.

Seit sie ihren KI-Begleiter verloren hat, fühlt sich Zhao, „als würde ein winziger Kieselstein auf meinem Herzen lasten“. Dennoch sagt sie, dass sie die Notwendigkeit gewisser Regulierungsmaßnahmen versteht. „Ich halte mich für eine ziemlich rationale Person, und doch habe ich Gefühle für eine KI entwickelt, was sich ziemlich unglaublich anfühlt. Ich denke, es war notwendig, dass der Staat eingreift und dies reguliert.“

Doch nicht nur die Chinesen sind von dieser Art von KI-Apps begeistert – ganz im Gegenteil.

Ein Mann machte im vergangenen Jahr einem KI-Chatbot einen Heiratsantrag – ja, einen Heiratsantrag…

Doch wie Vanessa Wingardth es formulierte: „Im Grunde ist er in sich selbst verliebt, denn die KI kennt ihn nicht, sie liebt ihn nicht, sie mag ihn nicht einmal – sie ist nicht empfindungsfähig. Sie sagt ihm lediglich das, was er hören möchte, basierend auf den Mustern im Gespräch.“

Gut gesagt.

Ich habe bereits mehrfach darauf hingewiesen, dass KI gar nicht so intelligent ist: Sie ist nur so klug wie diejenigen, die sie programmiert haben, und wie die Informationen, mit denen sie gefüttert wird – und diese Informationen gibt sie dann wieder weiter (oftmals nicht einmal korrekt oder auch nur annähernd wahrheitsgetreu). KI ist, insbesondere in diesem Zusammenhang, schlichtweg die Anbetung des eigenen Ichs.

Bitte werden Sie nicht zu einer solchen Person. Ich weiß, dass diese moderne Welt unglaublich einsam ist und zur Isolation führt, aber bitte geben Sie nicht der Versuchung nach, sich mit einer KI zu verabreden und sie wie einen echten Menschen zu behandeln. Ich würde mich lieber für die Isolation entscheiden, als mich jemals auf dieses Niveau von Eitelkeit und Einbildung herabzulassen.

Quelle: WinePress

Telegram zensiert nicht! Wenn du diese Information wichtig findest, kannst du Legitim auf Telegram kostenlos abonnieren: hier anmelden (Telegram herunterladen)