Gastbeitrag

Shadow AI in der Medizin als Hilfeschrei

Inga Bergen

Expertin für digitale Innovationen im Gesundheitswesen

Inga Bergen ist als Beraterin, Investorin und Beirätin im Bereich E-Health tätig – und publiziert regelmäßig. Sie ist zudem Gründerin und Gastgeberin des Podcasts „Visionäre der Gesundheit“. Bergen war Geschäftsführerin von Welldoo, einem der ersten Anbieter digitaler Gesundheitsanwendungen in Deutschland, sowie von Magnosco, einem Medtech-Start-up, das Hautkrebsdiagnostik mithilfe von Laser-Technologie und Künstlicher Intelligenz unterstützt. Aufgrund einer schweren onkologischen Erkrankung erlebte sie das Gesundheitswesen von Innen.

Auf Tiktok wurde mir letztens ein virales Video angezeigt: Eine Patientin filmt (heimlich) in der Notaufnahme, wie der Arzt an seinem Computer ihre Symptome in Chat GPT eingibt und fragt, was zu tun ist.

Die Reaction Videos darauf – viele von Medizinstudierenden – hatten eine klare Meinung: das, was der Arzt da macht, sei verantwortungsvoll. Wenn man nicht weiterweiß, muss man alle Mittel nutzen, um eine Lösung zu finden. Ist es Pragmatismus oder unvertretbares Risiko, ein KI-Tool zu nutzen, das nicht als Medizinprodukt zugelassen ist?