Wie generative KI die Cyberwelt verändert

Generative KI verändert auch die IT-Sicherheitslage rasant. „Wir befinden uns in einem ‚Wettrüsten‘, bei dem bessere Modelle zum Beispiel hyper-personalisiertes Phishing ermöglichen, aber gleichzeitig auch bessere Angriffserkennung und -abwehr leisten können“, sagte Reinhard Karger, Sprecher des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), SZ Dossier.

Bessere Phishing-Mails: „Es ist anzunehmen, dass maschinengenerierte Phishing-Mails in Zukunft deutlich besser formuliert sein werden, insbesondere wenn Angreifer bereits Zugang zu Kommunikation hatten und diese auswerten konnten“, sagte Philipp Ehmann, Experte für Internetrecht und Telemedienregulierung beim Eco-Verband, SZ Dossier. Der Verband diskutiert heute in Berlin über die Frage, wie KI die Sicherheitswelt verändert. Die Gefahren seien vielfältig, sagte DFKI-Sprecher Karger: „Denken Sie beispielsweise an Botnetze, die Router gezielt kapern, indem sie automatisch generierte Passwörter verwenden und sich mithilfe algorithmischer Systeme leicht übernehmen lassen.“