Publikationen

Stellungnahme: Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz

Antworten auf grundlegende Fragen werden auf ausgewählte Anwendungsfelder bezogen, darunter Medizin, Kommunikation, Bildung und Demokratie. Die Digitalisierung verändert unser Miteinander in nahezu allen gesellschaftlichen Bereichen. Insbesondere in Verbindung mit Fortschritten auf dem Gebiet der Künstlichen Intelligenz sowie beim Zusammenwirken von Informations- und Biotechnologie fordern diese Entwicklungen auch Selbstbild und Selbstverständnis des Menschen grundlegend heraus.

Publikationen

Roadmap: Deutsche Normungsroadmap Künstliche Intelligenz – Ausgabe 2

Fortschreibung der wegweisenden Ergebnisse und Handlungsempfehlungen der ersten Ausgabe. Die Roadmap schreibt die Ergebnisse der ersten Ausgabe fort und liefert eine erweiterte und aktualisierte Analyse des Bestands und des Bedarfs an internationalen Normen und Standards für KI. Somit wird eine Grundlage gebildet um „Artificial Intelligence made in Germany“ als weltweit anerkanntes Gütesiegel für eine vertrauenswürdige… Weiter »

Publikationen

Studie: Strategien zum Aufbau von Gaia-X Ökosystemen mithilfe der Gaia-X Föderationsdienste

Im Dialog mit den Gaia-X Förderprojekten. Die GXFS Studie „Strategien zum Aufbau von Gaia-X Ökosystemen mithilfe der Gaia-X Föderationsdienste – Im Dialog mit den Gaia-X Förderprojekten“ geht der Frage nach, wie GXFS bei der Inbetriebnahme von Gaia-X Föderationen hilft und welche Herausforderungen Anwender:innen identifizieren. Die Studie befragte dazu 11 Projekte aus dem Gaia-X Förderwettbewerb des… Weiter »

Publikationen

Analyse: Verteiltes maschinelles Lernen: Besserer Datenschutz für KI-Anwendungen?

KI Kompakt – Publikationsreihe der Plattform Lernende Systeme. Künstliche Intelligenz (KI) unterstützt die Menschen in Medizin, Mobilität und im Arbeitsalltag. Grundlage für KI-Systeme ist das Training mit Daten – häufig auch personenbezogenen Informationen. Die Methode des verteilten maschinellen Lernens kann den Datenschutz bei der Entwicklung von KI-Anwendungen verbessern, da die verwendeten Daten dabei nicht zentral… Weiter »

Publikationen

Digitalstrategie Deutschland

Deutschland braucht den digitalen Aufbruch, und die Digitalstrategie Deutschland ist der Wegweiser dafür. Die vorliegende Strategie führt die politischen Schwerpunkte der Bundesregierung beim Querschnittsthema Digitalisierung unter einem Dach zusammen und bildet den übergeordneten Rahmen für die Digitalpolitik bis 2025. Ausgehend von einer kurzen Beschreibung der Ausgangslage formuliert sie das Zielbild für den digitalen Fortschritt in… Weiter »

Publikationen

Impulspapier: Sichere Digitale Identitäten

Impulspapier der Wissenschaftlichen Arbeitsgruppe Nationaler Cyber-Sicherheitsrat. Das Positionspapier erläutert die aktuelle Situation bei eID- und SSI-Lösungen, verdeutlicht die technischen Herausforderungen für sichere, nutzungsfreundliche und breit akzeptierte Lösungen. Zudem leitet es Anforderungen an das zu schaffende eID-Ökosystem ab. Das Papier schließt mit konkreten Handlungsempfehlungen an die Politik. Diese umfassen folgende Empfehlungen: Technische und regulatorische Rahmenvorgaben für… Weiter »

Publikationen

Missing Link Ausgabe 1: Wie gestalten wir vertrauenswürdige Künstliche Intelligenz?

ZVKI Magazin für vertrauenswürdige Künstliche Intelligenz. Vertrauenswürdige KI ist etwas, das zutiefst mit uns Menschen verbunden ist. Die Frage, wie wir Künstliche Intelligenz so gestalten können, dass wir sie als vertrauenswürdig beurteilen, provoziert zunächst einmal Rückfragen: Was ist Vertrauen? Wozu ist es da? Diesen Fragen widmen wir uns in der ersten Ausgabe von Missing Link… Weiter »

Publikationen

Forschungsbericht: Föderales maschinelles Lernen

Forschungsbericht des Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Unter dem Begriff föderales Lernen (Federated Learning – FL) wird eine Alternative zu zentralen Ansätzen des maschinellen Lernens (Machine Learning – ML) verstanden. Zentrale ML-Architekturen führen Daten von Nutzer/innen zu einem großen Datenpool zusammen und trainieren auf dieser Grundlage KI-Modelle. Bei FL werden die Rohdaten der… Weiter »

Publikationen

VCIO based description of systems for AI trustworthiness characterisation

VDE SPEC 90012 V1.0 (en) This VDE SPEC provides a way to describe certain socio–technical characteristics of systems and applications that incorporate artificial intelligence techniques and methods. The scope of application refers to products for which a particularly demanding level of trust is desired or required. By applying the VCIO model explained in this standard,… Weiter »

Publikationen

Roadmap TAILOR: Strategic Research & Innovation Roadmap of Trustworthy AI

The Scientific Foundations of Trustworthy AI in Europe for the Years 2022-2030. TAILOR is a European network developing the scientific foundations for realising the European vision of human-centred Trustworthy AI. One of our most important tools is the TAILOR Strategic Research and Innovation Roadmap. It is our ambition that the roadmap will identify major scientific… Weiter »

Publikationen

Whitepaper: KI-Systeme schützen, Missbrauch verhindern

Maßnahmen und Szenarien in fünf Anwendungsgebieten. Künstliche Intelligenz wird bereits in einer Vielzahl von gesellschaftlichen Bereichen eingesetzt, sei es im Gesundheitsbereich, in der Arbeitswelt, im Straßenverkehr oder in öffentlichen Räumen. Trotz der vielfältigen Chancen, die die KI-Technologie mit sich bringt, wie etwa eine verbesserte Gesundheitsversorgung oder eine attraktive, individuelle Arbeitsplatzgestaltung, sollte das Potenzial für den… Weiter »

Publikationen

SSI Whitepaper: Gaia-X-sichere und vertrauenswürdige Ökosysteme mit souveränen Identitäten

Im Rahmen des Gaia-X Federation Services Projekts wurde ein neues Whitepaper veröffentlicht. Das Whitepaper macht auf die wichtige Rolle des sogenannten Self-Sovereign Identity (SSI) Konzepts im Gaia-X-Ökosystem aufmerksam. Das Konzept der selbstbestimmten, digitalen Identität sorgt für eine sichere und vertrauenswürdige Digitalisierung im dezentralen Gaia-X Ökosystem. Die Verifizierung der Angaben von Teilnehmer:innen wird nicht von einer… Weiter »

Publikationen

Report: Digital Identity: Leveraging the SSI Concept to Build Trust

Studie der Agentur der Europäischen Union für Cybersicherheit (ENISA). Die vorliegende Studie wertet die aktuelle Literatur kritisch aus und berichtet über die derzeitige technologische Landschaft der SSI und bestehende eID-Lösungen sowie über die Standards, Gemeinschaften und Pilotprojekte, die sich derzeit zur Unterstützung dieser Lösungen entwickeln. In dieser Studie wird ein umfassender Blick auf die dezentralisierte… Weiter »

Publikationen

Gaia-X: Vision and Strategy

Alles, was Sie über Gaia-X wissen müssen. Die Gaia-X Association veröffentlicht Ende 2021 ihr umfassendes Visions- und Strategiedokument, verfasst von CEO Francesco Bonfiglio. Die Veröffentlichung ist ein weiterer wichtiger Schritt zur Erfüllung des Versprechens von Gaia-X, sich für ein faires und wettbewerbsfähiges Datenökosystem in Europa einzusetzen. Das Dokument bietet einen umfassenden Überblick über die Kernelemente… Weiter »

Publikationen

Whitepaper: Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten

Kritikalität von KI-Systemen in ihren jeweiligen Anwendungskontexten: Ein notwendiger, aber nicht hinreichender Baustein für Vertrauenswürdigkeit. Expertinnen und Experten der Arbeitsgruppen IT-Sicherheit, Privacy, Recht und Ethik sowie Technologische Wegbereiter und Data Science setzen sich im vorliegenden Whitepaper mit ausgewählten Inhalten des EU-Vorschlags zur Regulierung von KI-Systemen auseinander: nämlich anhand welcher Kriterien festgelegt werden kann, in welchen… Weiter »

Publikationen

Whitepaper: Vorschlag für eine Risikoklassifizierung von KI-Systemen

Whitepaper des TÜV AI Lab. Mit diesem Whitepaper leistet das TÜV AI Lab einen Beitrag zur Risikoeinstufung von KI-Systemen. Wie sind Produkte und Anwendungen mit Künstlicher Intelligenz zu behandeln, die aus rechtlichen, ethischen oder gesellschaftlich erwünschten Gründen als riskant einzustufen sind? Vor allem geht es darum, wie KI-Systeme einzustufen sind, bei denen die KI-Komponente aufgrund… Weiter »

Publikationen

Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz

Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz: KI-Prüfkatalog. Der vorliegende Prüfkatalog des Fraunhofer IAIS ist ein wichtiger Meilenstein auf dem Weg zu einer unabhängigen KI-Prüfung und beschreibt auf über 160 Seiten, wie KI-Anwendungen systematisch hinsichtlich Risiken evaluiert werden können, formuliert Vorschläge für Prüfkriterien zur Messung der Qualität der Systeme und schlägt Maßnahmen vor, die KI-Risiken mindern… Weiter »

Publikationen

White Paper: Towards Auditable AI Systems

„Towards Auditable AI Systems: Current status and future directions“. Basierend auf dem Workshop „Auditing AI-Systems: From Basics to Applications“, 6. Oktober 2020, Fraunhofer Forum, Berlin. In diesem Whitepaper werden zunächst die Chancen und Herausforderungen von KI-Systemen zusammengefasst und anschließend der Stand der Technik der Überprüfbarkeit von KI-Systemen vorgestellt. Dabei liegt der Fokus auf den Aspekten… Weiter »

Publikationen

Studie: Erklärbare KI: Anforderungen, Anwendungsfälle und Lösungen

Künstliche Intelligenz als Treiber für volkswirtschaftlich relevante Ökosysteme. Sind erklärbare KI-Anwendungen der wichtigste Schlüssel für Vertrauen in Künstliche Intelligenz? Wo steht die Anwendung von erklärbaren KI-Tools in der Wirtschaft? Antworten auf diese und weitere Fragen liefert diese Studie – praxisnahe Use Cases inklusive. Eine Studie des BMWi im Rahmen der Begleitforschung zum KI-Innovationswettbewerb. 

Publikationen

Whitepaper: Zertifizierung von KI-Systemen

Zertifizierungvon KI-Systemen: Kompass für die Entwicklung und Anwendung vertrauenswürdiger KI-Systeme. Regulierung von KI-Systemen im Allgemeinen und Zertifizierung von KI-Systemen im Besonderen können entscheidend dazu beitragen, KI-Systeme in die Anwendung zu bringen und ihr volles Nutzenpotenzial auszuschöpfen. Die Zertifizierungsverfahren sollten dabei bestimmte Standards von KI-Systemen garantieren, gleichzeitig aber Überregulierung vermeiden und Innovation ermöglichen.  Die Expertinnen und… Weiter »

Publikationen

Deutsche Normungsroadmap Künstliche Intelligenz

Mit über 70 identifizierten Normungs- und Standardisierungsbedarfen zeigt die Roadmap konkrete Potenziale auf und formuliert zentrale und übergreifende Handlungsempfehlungen. Mit der Normungsroadmap Künstliche Intelligenz legt Deutschland als erstes Land weltweit eine umfassende Analyse des Bestands und des Bedarfs an internationalen Normen und Standards für diese Schlüsseltechnologie vor. Die Normungsroadmap gibt Handlungsempfehlungen zur Ethik, Qualität/Konformitätsbewertung, Zertifizierung… Weiter »

Publikationen

Impulspapier: Zertifizierung von KI-Systemen

Impulspapier entstanden unter der Leitung der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik sowie der Arbeitsgruppe Technologische Wegbereiter und Data Science. Welchen Nutzen eine KI-Zertifizierung verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen, skizzieren Expert*innen der Plattform Lernende Systeme in diesem Impulspapier. Es gibt einen Überblick über bestehende… Weiter »

Publikationen

Whitepaper: Vertrauenswürdiger Einsatz von Künstlicher Intelligenz

Handlungsfelder aus philosophischer, ethischer, rechtlicher und technologischer Sicht als Grundlage für eine Zertifizierung von Künstlicher Intelligenz. Das Team der Universitäten Bonn und Köln sowie des Fraunhofer IAIS stellt seinen interdisziplinären Ansatz in einem Whitepaper für die Zertifizierung von KI-Anwendungen vor und erläutert die Handlungsfelder aus philosophischer, ethischer, rechtlicher und techno­logi­scher Sicht.  Die vorliegende Publikation dient… Weiter »

Initiativen

Plattform Lernende Systeme

KI gestalten. Die Plattform Lernende Systeme ist ein ExpertInnen-Netzwerk zum Thema Künstliche Intelligenz (KI). Ihr Ziel: als unabhängiger Makler den interdisziplinären Austausch und gesellschaftlichen Dialog zu KI fördern. Die knapp 200 Mitglieder aus Wissenschaft, Wirtschaft und Gesellschaft entwickeln in Arbeitsgruppen Positionen zu Chancen und Herausforderungen und benennen Handlungsoptionen für den verantwortlichen Einsatz von KI. Die… Weiter »

Initiativen

Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI)

Zentraler Ort der Debatte in Deutschland über die Entwicklungen rund um gesellschaftliche Fragen zu Künstlicher Intelligenz und algorithmischen Systemen. Das Projekt wird vom unabhängigen Think Tank iRights.Lab verantwortet und durchgeführt. Als nationale und neutrale Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft informieren wir über viele verbraucher*innenrelevante Aspekte, ermöglichen öffentliche Diskussionen und entwickeln Instrumente zur Bewertung… Weiter »

Programme

Schaufenster Sichere Digitale Identitäten

Mit dem „Schaufenster Sichere Digitale Identitäten“ soll die digitale Souveränität gestärkt und deutsche eIDAS-Lösungen, die gleichermaßen nutzerfreundlich, vertrauenswürdig und wirtschaftlich sind, einfacher zugänglich gemacht werden: Für Verwaltung, Wirtschaft – insbesondere KMU – und Bevölkerung. Ziel ist die Schaffung anwendungsnaher ID-Ökosysteme, die sich durch Offenheit, Interoperabilität und eine einfache, intuitive und barrierefreie Nutzung auszeichnen.

Initiativen

DFKI

KI für den Menschen. Das DFKI forscht an „KI für den Menschen“ und orientiert sich dabei an gesellschaftlicher Relevanz und wissenschaftlicher Exzellenz in den entscheidenden zukunftsorientierten Forschungs- und Anwendungsgebieten der KI. Wir sind überzeugt, dass KI-Techniken helfen, gesamtgesellschaftliche Herausforderungen wie den menschengemachten Klimawandel, soziale Ungerechtigkeiten und den Kampf gegen gefährliche Krankheiten erfolgreich anzugehen und setzen… Weiter »

Initiativen

TÜV AI Lab

Die TÜV-Unternehmen haben das TÜV AI Lab, ein Entwicklungslabor für künstliche Intelligenz, gegründet. Künstliche Intelligenz (KI) findet zunehmend Eingang in alle Bereiche der Gesellschaft. Der TÜV-Verband hat es sich mit dem AI Lab zur Aufgabe gemacht, die technischen und regulatorischen Anforderungen, die Künstliche Intelligenz mit sich bringt, zu ermitteln und die Entwicklung von zukünftigen Standards… Weiter »

Initiativen

VDE

VDE – Für eine lebenswerte Zukunft. Der VDE, eine der größten Technologie-Organisationen Europas, steht seit mehr als 125 Jahren für Innovation und technologischen Fortschritt. Als einzige Organisation weltweit vereint der VDE dabei Wissenschaft, Standardisierung, Prüfung, Zertifizierung und Anwendungsberatung unter einem Dach. Das VDE Zeichen gilt seit 100 Jahren als Synonym für höchste Sicherheitsstandards und Verbraucherschutz…. Weiter »

Initiativen

TAILOR – A Network for Trustworthy Artificial Intelligence

Developing the scientific foundations for Trustworthy AI. TAILOR is an EU project with the aim build the capacity to provide the scientific foundations for Trustworthy AI in Europe. TAILOR develops a network of research excellence centres, leveraging and combining learning, optimisation, and reasoning. These systems are meant to provide descriptive, predictive, and prescriptive systems integrating… Weiter »