ZVKI-Werkstatt „Erklärbarkeit von KI- Systemen in der Medizin“


Das Thesenpapier befasst sich mit der Erklärbarkeit von KI-Systemen in der Medizin und zielt darauf ab, die Ergebnisse von KI-Anwendungen für Mediziner und Patienten besser nachvollziehbar zu gestalten.

Experten haben in einer interaktiven ZVKI-Werkstatt fünf Thesen aufgestellt, die unter anderem die Bedeutung anwendungsbezogener und partizipativer Erklärungen, verschiedene Erklärformate, unabhängige Prüfung und Zertifizierung sowie die fortlaufende Erforschung der Nachvollziehbarkeit betonen. Das Paper diskutiert zudem Potenziale und Herausforderungen des Einsatzes von KI-Systemen in der Medizin, hebt die Bedeutung der Erklärbarkeit für Mediziner und Patienten hervor und erläutert verschiedene Anwendungsfälle. Es werden auch Methoden der erklärbaren KI und der Einsatz von White-Box-Modellen behandelt. Der Grad der Transparenz eines KI-Systems wird als anwendungsspezifisch betrachtet. Insgesamt konzentriert sich das Paper auf KI-Anwendungen zur Entscheidungsunterstützung für Ärzte in der Diagnostik.

Zum Download der Publikation