Sicherheitsrisiken von KI-Sprachmodellen

Große KI-Sprachmodelle (Large Language Models) sind unter anderem all jene generativen KI-Modelle, die Texteingaben verarbeiten und darauf basierend Textausgaben erzeugen. Sie schaffen neue Möglichkeiten, aber auch neue Sicherheitsrisiken. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat deshalb eine aktualisierte Übersicht veröffentlicht, die erklärt, wie mit den neuen Risiken umgegangen werden kann. Das Dokument könne Behörden und Unternehmen als Grundlage für eine systematische Risikoanalyse dienen.

Vergiftete Angriffe: Ein vom BSI genanntes Beispiel: Poisoning Attacks. Dabei soll es zu einer Fehlfunktion oder Leistungsverschlechterung durch eine Vergiftung des angegriffenen Sprachmodells kommen. „Die Fehlfunktion kann darin bestehen, dem Modell einen Trigger anzutrainieren, der eine durch die angreifende Person vordefinierte, fehlerhafte Reaktion auslöst, wenn er in der Eingabe vorhanden ist.“ Das heißt: Wer das Programm dann nutzt, bekommt, möglicherweise ohne es zu wissen, ein anderes Ergebnis als gewünscht.