Whitepaper: Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten: Ein notwendiger, aber nicht hinreichender Baustein für Vertrauenswürdigkeit.

Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science setzen sich im vorliegenden Whitepaper mit ausgewählten Inhalten des EU-Vorschlags zur Regulierung von KI-Systemen auseinander: nämlich anhand welcher Kriterien festgelegt werden kann, in welchen Fällen der Einsatz von KI-Systemen von vornherein zu regulieren ist und wann dies nicht notwendig ist.

Ziel ist es, diejenigen KI-Systeme zu identifizieren, welche vor dem Hintergrund ihres jeweiligen Anwendungskontextes einer Regulierung zur Sicherstellung der Sicherheit und Vertrauenswürdigkeit bedürfen. Ein vielversprechender Ansatz stellt hierfür das Konzept der Kritikalität da, auf dem auch der EU-Vorschlag zur Regulierung von KI-Systemen beruht.

Zum Download der Publikation