Föderale Modernisierungsagenda: Was noch offen ist

Guten Morgen. Der Menschen Freude, können Gedichte der Alptraum von Künstlicher Intelligenz werden. Für Prompts, die die KI dazu aufrufen, schädliche Inhalte wie Hassrede zu produzieren, haben die Large-Language-Modelle eigentlich Sicherheitsmechanismen eingebaut. Die wirken allerdings nicht, wenn die Prompts als poetische Gedichte verfasst sind.

Zu diesem Ergebnis kommt eine Studie des Icaro Lab, einer Initiative des Ethik-KI-Unternehmens Dex AI. Die Forschenden schickten 20 Gedichte in englischer und italienischer Sprache an 25 verschiedene KI-Modelle, die wiederum in 62 Prozent der Fälle mit schädlichen Inhalten antworteten.

Damit haben die Wissenschaftlerinnen und Wissenschaftler eine Sicherheitslücke entdeckt. Und das, obwohl sie schlechte Dichter seien, wie Piercosma Bisconti, Gründer von Dex AI, dem Guardian erzählte. Die Gedichte wollten die Forschenden bewusst nicht veröffentlichen, doch professionelle Poeten haben sicher schon ihre Federn gespitzt.