Gefährliche Liebschaften: Schattenseiten KI-basierter Intimität

An manchen Tagen im Jahr, wie am heutigen Valentinstag, kann die Einsamkeit, unter der viele Menschen leiden, wie unter einem Brennglas erscheinen, weil das Zusammensein so in den Mittelpunkt gerückt wird. Inzwischen ist Einsamkeit auch nicht mehr eine diffuse Gefühlsregung, die einige wenige betrifft, sondern ein großes und wachsendes Problem der öffentlichen Gesundheit, dessen sich die Politik schon angenommen hat. Die Bundesregierung etwa hat erst im Dezember eigens eine Strategie gegen Einsamkeit verabschiedet.

Wer nicht warten will, bis etwaige politische Maßnahmen greifen, hat verschiedene Möglichkeiten, die Lösung des Problems selbst in die Hand zu nehmen. Dating-Apps sind ein offensichtliches Beispiel dafür, doch darüber hinaus gibt es unter anderem auch romantische KI-Chatbots. Laut Misha Rykov von Mozilla, der an einem Forschungsprojekt zum Thema gearbeitet hat, haben weltweit letztes Jahr allein im Google Play Store etwa 100 Millionen Mal Menschen entsprechende Apps heruntergeladen. Und das nur bei den untersuchten Apps. „Dating-Apps sind aus dem vergangenen Jahrzehnt, alles Neue passiert mit romantischer KI“, sagte Rykov SZ Dossier. Und das sei in der Regel mindestens bedenklich, oft regelrecht alarmierend, wie die Ergebnisse des Projekts zeigen, die heute veröffentlicht werden.

Als Teil der Reihe „Privacy Not Included“ hat Mozilla sich elf Apps angeschaut, die als romantische KI-Chatbots fungieren. „Es gab nur eine, die unsere Sicherheitsstandards erfüllte, Genesia AI, aber sie erfüllte unsere Datenschutzstandards überhaupt nicht. Wir hatten zwei, die unsere Datenschutzstandards erfüllten, Romantic AI und Chai, aber sie erfüllten nicht unsere Sicherheitsstandards und keine von ihnen erfüllte unsere Standards für eine vertrauenswürdige KI“, sagte Rykov. „Kurzum: Wir vertrauen keiner von denen.“