Die Europäische Kommission will Regeln für die Nutzung von Künstlicher Intelligenz (KI) in sensiblen Feldern aufstellen und einzelne Anwendungen vollständig verbieten. Untersagt werden soll etwa die Nutzung von KI, um das Verhalten, die Meinung oder Entscheidungen von Menschen oder Gruppen direkt zu ihrem Nachteil oder Schaden zu beeinflussen oder um Schwachstellen aufzudecken, die dafür genutzt werden können. In der Medizin spielen KI-Regeln ebenfalls eine wichtige Rolle und werden auf unterschiedlichen Ebenen diskutiert. Unter anderem spielen ethische Fragen bei der Entwicklung einer europäischen Normungsroadmap eine Rolle.
KI in der Medizin
KI bringt für die Medizin neue Möglichkeiten in Prävention, Diagnostik und Therapie – von der Früherkennung per App bis zur Behandlung von Krebs. Um diese Chancen zu nutzen, sind sichere Rahmenbedingungen notwendig. Vor allem im Spannungsfeld von Ethik, rechtlichem Rahmen, Ökonomie, technischen Aspekten, aber auch Akzeptanz und Empathie sind noch Herausforderungen zu meistern. Welche Regeln sind nötig, damit die Technik stets dem Menschen dient und nicht andersherum?
Der Erfolg von KI in der Medizin hängt vor allem von folgenden Punkten ab:
- Wie kann die Verfügbarkeit und Qualität von Gesundheitsdaten für die KI-Entwicklung sichergestellt werden – und gleichzeitig auch der Schutz dieser Daten?
- Rechtsrahmen: Wer haftet bei Fehldiagnosen oder Schäden? Wie lässt sich selbstlernende KI in Einklang mit dem hochregulierten Zulassungsverfahren bringen?
- Ethische Fragen: Inwieweit sind Maschinen an medizinischen Entscheidungen beteiligt oder treffen diese sogar selbst?
