Generative KI – Folgen schwer abzuschätzen

Nicht zuletzt das Potenzial generativer KI ist dafür verantwortlich, dass zum Beispiel der Weg zu einer Einigung beim AI Act so steinig ist. Im Raum stehen große Fragen danach, wie Gesellschaften mit Missbrauch der Technologie umgehen würden, zumal schon weniger beeindruckende Innovationen wie soziale Medien handfeste Probleme geschaffen haben. „Generative KI ist ein interessantes Fallbeispiel“, sagte Esther Görnemann, Referentin für Forschungssynthesen am Weizenbaum-Institut, SZ Dossier. „Es handelt sich um eine unglaublich vielseitig einsetzbare Technologie, die je nach Anwendungskontext ganz unterschiedliche Folgen haben könnte.“

Monopolisierung: So gebe es Konsequenzen, die „durchaus plausibel“ sind und in der aktuellen Forschung schon besprochen würden – zum Beispiel, dass sich Monopolisierungstendenzen im Technologiesektor mit dem Einsatz leistungsstarker KI-Modelle weiter verstärken dürften, sagte Görnemann. „Wer wäre besser in der Lage als Tech-Eliten, die für die Entwicklung und den Betrieb solcher Anwendungen erforderlichen Investitionen in technische Infrastruktur, Fachkräfte und Forschung zu finanzieren?“ Für andere Konsequenzen, die in Ansätzen bereits beobachtet würden, warte man noch auf gangbare Lösungen. „In diesem Zusammenhang wäre in erster Linie das erhebliche Missbrauchspotenzial generativer KI zu nennen“, sagte sie.