White Paper: Towards Auditable AI Systems
„Towards Auditable AI Systems: Current status and future directions“. Basierend auf dem Workshop „Auditing AI-Systems: From Basics to Applications“, 6. Oktober 2020, Fraunhofer Forum, Berlin.
In diesem Whitepaper werden zunächst die Chancen und Herausforderungen von KI-Systemen zusammengefasst und anschließend der Stand der Technik der Überprüfbarkeit von KI-Systemen vorgestellt. Dabei liegt der Fokus auf den Aspekten des KI-Lebenszyklus, des Online-Lernens und der Modellwartung bei Vorhandensein von Drift, adversariellen und Backdoor-Vergiftungsangriffen sowie Abwehrmaßnahmen gegen diese Angriffe, der Verifizierung, Überprüfung von sicherheitskritischen KI-Systemen, der Erklärung von Black-Box-KI-Modellen und der KI-Standardisierung. (Paper in Englisch)