Einheitliche Regeln über Ländergrenzen hinweg, vertrauenswürdige Nutzung von Produkten und Services und ein Fokus auf die Menschenwürde – das macht die Europäische Union aus. Einen wichtigen Meilenstein dafür setzte die EU im Mai 2018 mit der Datenschutz-Grundverordnung (DSGVO), mit der sie ein international einzigartig hohes Schutzniveau für personenbezogene Informationen festlegte. Dies ist besonders wichtig, da sich in einer zunehmend digitalisierten Welt, die Menschen mehr Komfort für ihr Leben mittels der eigenen Daten erkaufen, aber dadurch ggf. auch berechenbar oder gläsern werden.
Mit der Verordnung zur Regulierung Künstlicher Intelligenz, dem EU AI Act, geht die EU jetzt den nächsten Schritt in dieser Entwicklung: KI-Anwendungen sind schon längst Teil unseres Alltags, und sie werden immer mehr, immer leistungsstärker und immer weitreichender in ihren Auswirkungen. Und weil KI zunehmend zu einem zentralen Bestandteil moderner Geschäftsprozesse wird, fordert die EU Unternehmen einen bewussten Umgang mit den Risiken der Technologie, um ein möglichst breites Vertrauen zu ermöglichen und das Potenzial von KI somit nutzen zu können. Für Unternehmen bedeutet das, dass sie bereits jetzt anfangen sollten, sich mit den Anforderungen und den daraus resultierenden notwendigen Maßnahmen beschäftigen sollten.
Warum ist Trustworthy AI wichtig?
Der Einsatz von KI ist für Unternehmen ein zunehmender Erfolgsfaktor hinsichtlich ihrer Geschäftsprozesse. Die Technologie ermöglicht die Verarbeitung enorm umfassender, komplexer Datenmengen und schnell Entscheidungen zu treffen. Dadurch entstehen hohe Vorteile bei den Kosten, aber auch generell bei der Wettbewerbsfähigkeit.
Wo Licht ist, ist auch Schatten: Die Qualität der Ergebnisse von KI-Anwendungen ist direkt abhängig von der Verarbeitungslogik und der Qualität der Daten (sowohl zum Trainieren der KI als auch bei der weiteren Verarbeitung). Auch ist die Gewährleistung der Sicherheit eine wesentliche und unumstößlich, notwendige Voraussetzung.
Weil Chancen und Risiken bei KI gleichermaßen hoch sein können, ist Vertrauenswürdigkeit für die Akzeptanz und Funktionalität der Technologie essenziell. Aus diesem Grund sieht der EU AI Act vor, KI-Anwendungen in vier Risikokategorien zu unterteilen mit unterschiedlichen Konsequenzen:
- KI-Anwendungen mit inakzeptablen Risiken (z. B. Social Scoring) – diese sind verboten, Strafzahlungen bis zu 30 Millionen Euro drohen;
- KI-Anwendungen mit hohem Risiko (z. B. Kredit-Scoring) – es gibt spezifische Anforderungen an Risikominimierung mit Sanktionen bei Nicht-Einhaltung;
- KI-Anwendungen mit begrenztem Risiko (z. B. Chat Bots, Deep Fakes) – es gibt eine Transparenzverpflichtung, z. B. via einen Disclaimer ähnlich der DSGVO;
- KI-Anwendungen mit minimalem Risiko (z. B. Spam-Filter) – ein freiwilliger Code of Conduct wird empfohlen.
In vier Schritten zum KI-Risikomanagement-Prozess
Wer sich frühzeitig auf diese regulatorische Entwicklung einstellt, kann sich Wettbewerbsvorteile und Kundenvertrauen sichern, und verhindern, unter Zugzwang zu geraten und der Entwicklung hinterherzulaufen. Dabei empfiehlt sich ein Vorgehen in vier Schritten:
- Definition der Grundlagen: Festlegung der Methodik, der Risikotoleranzgrenzen, Rollen und Verantwortlichkeiten sowie Richtlinien für die Entwicklung, den Betrieb und die Nutzung von KI
- Risiko-Assessment: Identifikation von Bedrohungen und Schwachstellen; Bewertung der KI-Anwendungen hinsichtlich ihrer Risikoklasse hinsichtlich Transparenz, Sicherheit, Vermeidung nicht-intendierter Folgewirkungen, Diskriminierungsfreiheit und Datenschutz
- Risikobehandlung: Festlegung einer angemessenen Behandlungsstrategie unter Berücksichtigung des Risikoappetits und des Verhältnismäßigkeitsprinzips. Identifikation bereits etablierter Maßnahmen sowie Planung und Umsetzung weiterer notwendiger Maßnahmen.
- Risiko-Akzeptanz- / Iterationsentscheidung
Dieses Vorgehen ist in die bestehenden Governance-Strukturen, Prozesse und Maßnahmen zu integrieren, um unnötige Mehraufwände zu vermeiden und ein fokussiertes Vorgehen zu ermöglichen.
Warum mit NTT DATA?
Als ein seit Jahrzehnten tätiger globaler Anbieter für digitale Geschäfts- und IT-Dienstleistungen hat NTT DATA umfassende Expertise und Erfahrung mit KI-Technologie sowie in den Themengebieten Cybersecurity, Informationssicherheit, Datenschutz und Compliance (neben weiteren).
Gern unterstützen wir Sie umfassend bei der Umsetzung der Anforderungen – individuell, ausgehend von Ihrem heutigen Standpunkt – unter anderem bei der strategischen Ausrichtung, Durchführung einer Standortbestimmung oder eines Readiness-Checks, der Identifikation sowie Planung und Umsetzung notwendiger Maßnahmen (u.a. Implementierung eines entsprechenden Risikomanagementprozesses). Hierbei gehen wir stets integrativ (Nutzung / Einbindung des Bestehenden) und nachhaltig (umsetzbar und selbst betreibbar) vor.
Erfahren Sie mehr zum Thema in unserem Whitepaper „Trustworthy Artificial Intelligence (AI)“ oder sprechen Sie mich auf meinem LinkedIn-Profil direkt an.