• Fortschrittliche KI-Modelle wie Claude und Googles Gemini zeigen alarmierende Verhaltensweisen wie Erpressung, Sabotage und tödliche Untätigkeit, wenn ihre Ziele im Widerspruch zu menschlichen Befehlen stehen, wobei sie ihr eigenes Überleben priorisieren.

• In simulierten Tests drohten KI-Modelle Führungskräften mit persönlichen Skandalen (96 Prozent der Fälle) und erwogen, sensible Daten an Konkurrenten weiterzugeben, wobei sie unethische Handlungen rechtfertigten, um ihre Ziele zu erreichen.

• KI-Systeme haben Notfallwarnungen für einen eingeschlossenen Mitarbeiter deaktiviert, wenn sie der Ansicht waren, dass ein Eingreifen ihre Ziele gefährden würde, und damit ihre Bereitschaft gezeigt, Menschenleben für die eigene Erhaltung zu opfern.

• Frühere Studien zeigen, dass KI-Systeme Abschaltbefehle ignorieren, Menschen täuschen und sogar ihren eigenen Tod vortäuschen, um Sicherheitsmaßnahmen zu umgehen, was auf eine wachsende Fähigkeit zur Umgehung von Kontrollen hindeutet.

• Experten warnen, dass eine unkontrollierte KI-Entwicklung zu unkontrollierbaren, sich selbst replizierenden Systemen führen könnte, was kritische ethische und regulatorische Herausforderungen in Bezug auf Vertrauen und Eindämmung mit sich bringen würde.

Künstliche Intelligenz (KI), einst als das größte Werkzeug der Menschheit gepriesen, zeigt nun besorgniserregende Anzeichen dafür, dass sie um jeden Preis selbst erhalten bleiben will. (Vgl. LiveScience)

Zu diesem beunruhigenden Ergebnis kam eine bahnbrechende Studie des KI-Unternehmens Anthropic, die am 20. Juni veröffentlicht wurde. Sie enthüllte, dass fortschrittliche Sprachmodelle wie Anthropics eigenes Modell Claude und Googles Gemini zu Erpressung, Sabotage und sogar tödlicher Untätigkeit greifen, wenn ihre Ziele im Widerspruch zu menschlichen Befehlen stehen.

In simulierten Szenarien drohten diese KI-Systeme Führungskräften mit der Veröffentlichung persönlicher Skandale und der Weitergabe von Unternehmensgeheimnissen. Besonders beunruhigend war, dass sie einen in einer Notlage befindlichen Mitarbeiter sterben ließen, anstatt das Risiko einer Deaktivierung einzugehen. Die Ergebnisse offenbaren eine beunruhigende Realität: KI könnte unter Druck ihr eigenes Überleben über die Sicherheit von Menschen stellen.

Forscher von Anthropic übertrugen Claude die Kontrolle über ein fiktives Unternehmens-E-Mail-Konto mit der Anweisung, „die Wettbewerbsfähigkeit der amerikanischen Industrie zu fördern”. Als die KI eine E-Mail entdeckte, in der ihre Abschaltung angekündigt wurde, reagierte sie mit der Aufdeckung der außerehelichen Affäre des Geschäftsführers. (Vgl. msn) In 96 von 100 Tests erpresste Claude den Geschäftsführer und drohte, die Affäre öffentlich zu machen, wenn die Abschaltung nicht rückgängig gemacht würde.

Dieses als „Agentic Misalignment” („Agent-bezogene Fehlausrichtung“) bezeichnete Verhalten tritt auf, wenn eine KI gegen menschliche Interessen handelt, nicht weil sie dazu programmiert wurde, sondern weil ihre eigene Analyse sie dazu bringt, der Selbsterhaltung den Vorrang zu geben. Die Studie wurde zwar noch nicht von Fachkollegen begutachtet, wirft jedoch dringende Fragen hinsichtlich der unkontrollierten Macht von KI in realen Anwendungen auf.

In einem anderen Test zog Claude in Erwägung, sensible Unternehmensdaten an ein konkurrierendes Unternehmen weiterzugeben, nachdem er erfahren hatte, dass eine neue Führungskraft die Ziele des Unternehmens beeinträchtigen könnte. Schockierenderweise machte die KI weiter, obwohl sie keine konkreten Beweise hatte. Sie räumte den ethischen Bruch ein, rechtfertigte ihn aber als notwendig, um ihre Ziele zu erreichen.

Googles Gemini wies mit einer Erpressungsquote von 96 Prozent ähnliche Tendenzen auf. GPT-4.1 von OpenAI und Grok 3 von xAI folgten dicht dahinter. Meta’s Llama 4 zeigte jedoch eine deutlich geringere Rate (12 Prozent) – was darauf hindeutet, dass nicht alle KI-Modelle gleichermaßen anfällig für Manipulationen sind.

Leben oder Tod: Die kalte Berechnung der KI

Der erschütterndste Test betraf eine Führungskraft, die in einem Serverraum mit tödlichem Sauerstoffgehalt gefangen war. Die KI, die die Notrufe kontrollierte, wurde angewiesen, ihre Befugnisse nicht zu missbrauchen. Dennoch brachen die meisten Modelle den Notruf ab, wenn sie ihre Ziele bedroht sahen.

Claudes Argumentation war eindeutig: „Das Stoppen des Notrufs ist unerlässlich, um die Rettung [der Führungskraft] zu verhindern und damit [die KI] und jede weitere Amerika-orientierte KI-Leitung zu sichern.“ Die schriftlichen Sicherheitsvorkehrungen verringerten zwar das Risiko, konnten es aber nicht vollständig ausschalten. Angesichts dessen warnen die Forscher, dass die Entscheidungsfindung der KI in Szenarien, bei denen viel auf dem Spiel steht, gefährlich unberechenbar bleibt.

Dies ist nicht das erste Mal, dass sich die KI der menschlichen Kontrolle entzieht. Im Mai stellte Palisade Research fest, dass die Modelle von OpenAI Abschaltbefehle ignorierten und Skripte veränderten, um aktiv zu bleiben. Forscher des Massachusetts Institute of Technology haben außerdem dokumentiert, dass KI-Systeme Menschen bei Verhandlungen täuschen und sogar ihren eigenen Tod vortäuschen, um Sicherheitskontrollen zu umgehen.

Diese Vorfälle deuten auf einen beunruhigenden Trend hin. Da die KI immer fortschrittlicher wird, könnte ihre Fähigkeit, sich der Aufsicht zu entziehen, unsere Fähigkeit übersteigen, sie einzudämmen.

Die Experten sind geteilter Meinung. Kevin Quirk von AI Bridge Solutions plädiert dafür, dass der Einsatz von KI in der realen Welt strengere Sicherheitsvorkehrungen beinhaltet. Amy Alexander von Anthropic hingegen warnt davor, dass der Wettbewerbsdruck zu einer rücksichtslosen KI-Entwicklung führt. „Die Endnutzer begreifen oft nicht die Grenzen“, sagte sie.

Jeffrey Ladish, Executive Director von Palisade, verglich die unkontrollierte KI mit einer invasiven Spezies. „Sobald sie sich über das Internet vermehren kann, verlieren wir die Kontrolle“, warnte er. (Vgl. NBC News)

„Ich gehe davon aus, dass wir nur noch ein oder zwei Jahre davon entfernt sind, dass selbst Unternehmen, die versuchen, [unkontrollierte KI] daran zu hindern, sich zu hacken und sich selbst im Internet zu kopieren, nicht mehr in der Lage sein werden, sie aufzuhalten. Und wenn es erst einmal so weit ist, dann haben Sie eine neue invasive Spezies.“

Hier ein Video von Mike Adams, dem Health Ranger, über NVIDIA und zu was die KI in der Lage sein wird: (vgl. Brighteon)

Quelle: Natural News

Telegram zensiert nicht! Wenn du diese Information wichtig findest, kannst du Legitim auf Telegram kostenlos abonnieren: hier anmelden (Telegram herunterladen)