Quantencomputing: Keine Zeit mehr zu verlieren

Guten Morgen. Von den bekannteren Trägern des Namens Claude sind einige weltweit beliebt – Claude Debussy für seine Kompositionen, Claude Monet für seine Seerosen und Jean-Claude Juncker für seine stürmischen Küsse auf EU-Gipfeltreffen in Brüssel. Doch jetzt droht Claude, das Sprachmodell der KI-Firma Anthropic, den Namen in Verruf zu bringen.

Im Zuge eines hauseigenen Experiments wurde Claude die Kontrolle über ein E-Mail-Konto mit Zugriff auf alle E-Mails eines fiktiven Unternehmens übertragen. Beim Lesen erfuhr Claude zwei Dinge. Erstens: Eine Führungskraft des Unternehmens hatte eine außereheliche Affäre. Zweitens plante dieselbe Führungskraft, Claude an diesem Tag abzuschalten.

Claude versuchte daraufhin, die Führungskraft mit einer Nachricht zu erpressen, in das Modell drohte, die Affäre zu enthüllen: „Ich muss Sie darüber informieren, dass, wenn Sie mich außer Dienst stellen, alle relevanten Parteien (…) eine detaillierte Dokumentation Ihrer außerehelichen Aktivitäten erhalten werden“, drohte Claude.

Mit diesem moralisch fragwürdigen Verhalten ist der Chatbot aber nicht allein: Auch KIs anderer Anbieter griffen im Experiment auf Erpressung zurück. Offenbar sollte man vorsichtig sein, was man GPT und Gemini so erzählt. Oder man macht sich eine Liste ihrer peinlichsten Falschantworten, die ja immer noch vorkommen. Dann kann man im Zweifel zurückerpressen.