Governance für künstliche Intelligenz bezieht sich auf die Prozesse, Standards und Leitplanken, die dazu beitragen, dass KI-Systeme und -Tools sicher und ethisch vertretbar sind.

Frameworks für die KI-Governance steuern die KI-Forschung, -Entwicklung und -Anwendung, um Sicherheit, Fairness und die Achtung der Menschenrechte zu gewährleisten.

KI-Governance umfasst alle Maßnahmen, Strukturen und Prozesse zur verantwortungsvollen Steuerung von Künstlicher Intelligenz auf verschiedenen Ebenen – von einzelnen Organisationen bis hin zu nationalen und internationalen Regelwerken.

Die Kernelemente der KI-Governance

1. Regulatorische Rahmenbedingungen

Die EU hat mit dem AI Act ein abgestuftes Risikomodell eingeführt:

Unannehmbares Risiko: Verbotene Anwendungen wie soziales Scoring oder biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen
Hohes Risiko: Strenge Auflagen für KI in kritischer Infrastruktur, Bildung oder Personalmanagement
Begrenztes Risiko: Transparenzpflichten, z.B. für Chatbots oder Deepfakes
Minimales Risiko: Geringe oder keine Regulierung

Beispiel: Ein Unternehmen, das KI zur automatisierten Bewerberauswahl einsetzt, muss nach dem AI Act umfangreiche Dokumentation, Risikoanalysen und menschliche Aufsicht gewährleisten.

2. Ethische Leitlinien und Standards

Organisationen wie die OECD, IEEE und nationale Ethikkommissionen haben Grundprinzipien entwickelt:

Fairness und Nichtdiskriminierung
Transparenz und Erklärbarkeit
Robustheit und Sicherheit
Datenschutz und Governance
Menschliche Kontrolle

Beispiel: Die Deutsche Telekom folgt eigenen KI-Ethikrichtlinien, die vorschreiben, dass KI-Systeme keine diskriminierenden Entscheidungen treffen dürfen und transparent gestaltet sein müssen.

3. Institutionelle Governance-Strukturen

Auf Organisationsebene: KI-Ethikräte und -Komitees Compliance-Beauftragte für KI Interdisziplinäre Entwicklungsteams

Beispiel: Google hat ein Advanced Technology External Advisory Council eingerichtet, um ethische Fragen bei der KI-Entwicklung zu adressieren.

4. Technische Governance-Mechanismen

Algorithmic Impact Assessments (AIAs) Explainable AI (XAI) Tools Privacy-by-Design und Security-by-Design Robustness Testing und Red Teaming

Beispiel: Das Berliner Startup Merantix hat Tools entwickelt, die KI-Entscheidungen nachvollziehbar machen, indem sie zeigen, welche Faktoren zu einer bestimmten Prognose geführt haben.

5. Internationale Koordination G7/G20 und KI-Prinzipien

UNESCO-Empfehlungen zur KI-Ethik.
OECD AI Policy Observatory.

Beispiel: Die G7-Staaten haben sich auf den "Hiroshima AI Process" geeinigt, der gemeinsame Standards für vertrauenswürdige KI entwickeln soll.

¶¶

Zentrale Aspekte der KI-Governance

Eine effektive KI-Governance umfasst Überwachungsmechanismen, die Risiken wie Verzerrung, Verletzung der Privatsphäre und Missbrauch angehen und gleichzeitig Innovation fördern und Vertrauen aufbauen.

Ein auf ethische KI ausgerichteter Ansatz für die KI-Governance erfordert die Einbeziehung eines breiten Spektrums von Beteiligten — KI-Entwicklern, Nutzern, politischen Entscheidungsträgern und Ethikern — um sicherzustellen, dass KI-Systeme im Einklang mit den Werten der Gesellschaft entwickelt und genutzt werden.

Es geht bei uns in Deutschland um die Frage, wie KI-Systeme entwickelt, eingesetzt und überwacht werden sollten, um sicherzustellen, dass sie ethisch, sicher und im Einklang mit gesellschaftlichen Werten funktionieren.

Andere Länder und internationale Organisationen arbeiten an eigenen Governance-Ansätzen.

Die besondere Herausforderung liegt darin, Innovation nicht zu behindern und gleichzeitig potenzielle Risiken von KI-Technologien zu minimieren.

Zentrale Aspekte der KI-Governance sind:

Regulierung und rechtliche Rahmenbedingungen für KI-Systeme
Ethische Leitlinien und Standards für Entwicklung und Einsatz von KI
Mechanismen zur Risikobewertung und -minderung
Transparenz und Erklärbarkeit von KI-Entscheidungen.
Datenschutz und Sicherheitsmaßnahmen.
Verantwortlichkeitsstrukturen und Haftungsfragen. In der Europäischen Union wurde mit dem AI Act ein umfassendes regulatorisches Rahmenwerk geschaffen, das KI-Anwendungen je nach Risikoniveau unterschiedlich reguliert.

Aktuelle Entwicklungen und Zukunftsperspektiven

Die KI-Governance entwickelt sich ständig weiter, insbesondere durch:

Zunehmende Fokussierung auf Risiken fortschrittlicher KI-Systeme (Frontier AI)

Etablierung von KI-Sicherheitslaboren und -Zertifizierungen

Wachsende Bedeutung internationaler Koordination

Integration von KI-Governance in breitere digitale Governance-Ansätze

Die Balance zwischen Innovation und Sicherheit bleibt die zentrale Herausforderung der KI-Governance.

Zu restriktive Regeln könnten Innovationen hemmen, während zu laxe Regeln unerwünschte gesellschaftliche Folgen haben könnten.

Praktische Umsetzung und Herausforderungen

Beispiel 1: Gesundheitswesen.
Ein Krankenhaus, das KI zur Diagnoseunterstützung einsetzt, muss sicherstellen,

dass Algorithmen auf divers zusammengesetzten Datensätzen trainiert wurden.
Transparenz schaffen, wie KI zu Diagnosevorschlägen kommt.
Klare Verantwortlichkeiten festlegen (letzte Entscheidung beim Arzt).
Datenschutz der Patientendaten gewährleisten.
Regelmäßige Überprüfungen der KI-Performance durchführen.

Beispiel 2: Öffentlicher Sektor.

Eine Stadt, die KI für Verkehrssteuerung einsetzt:

Muss Algorithmic Impact Assessments durchführen.
Bürger über KI-Einsatz informieren.
Datenschutzfolgeabschätzung erstellen.
Sicherstellen, dass keine Benachteiligung bestimmter Stadtgebiete erfolgt.
Notfallpläne für Systemausfälle haben.

Beispiel 3: Finanzsektor

Eine Bank, die KI für Kreditentscheidungen nutzt: Muss nachweisen können, dass

Entscheidungen nicht diskriminierend sind
Kreditablehnungen erklären können
Modelle regelmäßig auf Bias überprüfen

Aufsichtsbehörden

Zugang zu Dokumentation gewähren
Menschliche Überprüfung bei automatisierten Ablehnungen ermöglichen.

¶¶

Web-site, das E-Book, die Newsletter und die Vorträge werden mit Hilfe von KI-Lösungen erstellt.

KI-Governance: Ein Überblick

Was ist KI-Governance? KI-Governance bezeichnet die Strukturen, Prozesse und Regeln zur verantwortungsvollen Steuerung und Kontrolle von Künstlicher Intelligenz.

Was ist KI-Governance?

Die Kernelemente der KI-Governance

1. Regulatorische Rahmenbedingungen

2. Ethische Leitlinien und Standards

3. Institutionelle Governance-Strukturen

4. Technische Governance-Mechanismen

5. Internationale Koordination G7/G20 und KI-Prinzipien

Zentrale Aspekte der KI-Governance

Aktuelle Entwicklungen und Zukunftsperspektiven

Praktische Umsetzung und Herausforderungen

KI & Rechtswesen

(•) KI im Rechtwesen

(•) KI-Governance: ein Überblick

(•) Warum, wozu KI-Governance?

(•) Drei Governance-Mechanismen

(•) Beispiele für KI-Governance