Künstliche Intelligenz (KI) in Deutschland und das neue KI-Gesetz

Künstliche Intelligenz (KI) in Deutschland und das neue KI-Gesetz

Künstliche Intelligenz (KI) gewinnt in Deutschland und weltweit zunehmend an Bedeutung. Dieser Artikel gibt einen Überblick über die aktuelle Nutzung von KI in deutschen Unternehmen, die Einstellung der Bevölkerung zu dieser Technologie und die wichtigsten Bestimmungen des neuen KI-Gesetzes der Europäischen Union (EU).

KI in Deutschland: Zahlen und Fakten

• Nutzung in Unternehmen: 15 % der deutschen Unternehmen nutzen bereits KI, ein Anstieg von 9 % im Jahr 2023.
• Zukunftstechnologie: Zwei Drittel der Unternehmen sehen KI als die wichtigste Zukunftstechnologie.
• Bedenken: 40 % der Befragten befürchten, dass KI Arbeitsplätze gefährdet.
• Arbeitsplatzpotenzial: Global sollen 97 Millionen neue Arbeitsplätze durch KI entstehen.
• Produktivitätssteigerung: Eine Steigerung der Produktivität um 29 % wird durch den Einsatz von KI erwartet.
• Nutzung in Schulen: 50 % der deutschen Schülerinnen und Schüler haben bereits ChatGPT genutzt.

Das EU-KI-Gesetz (AI Act)

Das neue KI-Gesetz der EU reguliert KI-Systeme nach Risikokategorien. Hier sind die wichtigsten Bestimmungen:

1. Verbotene KI-Systeme

Bestimmte KI-Anwendungen sind nicht zulässig, darunter:

• Soziales Scoring: Bewertung von Menschen anhand ihres Verhaltens.
• Gesichtserkennungsdatenbanken: Massenüberwachung durch Gesichtserkennung.
• Echtzeit-Überwachung von Emotionen: Am Arbeitsplatz oder in der Schule.
• Täuschende oder manipulative KI: Systeme, die die Entscheidungsfreiheit untergraben.
• Biometrische Fernidentifikation in Echtzeit: Mit wenigen Ausnahmen.

2. Hochrisiko-KI-Systeme

KI-Systeme, die als Hochrisiko eingestuft werden, unterliegen besonderen Regulierungen. Dazu gehören:

• Kritische Infrastrukturen: KI in Verkehrs- oder Energieversorgungssystemen.
• Automatisierte Bewerbungsprozesse: Recruiting-Software.
• KI-gestützte Kreditwürdigkeitsprüfungen: Finanzdienstleistungen.
• Strafverfolgung & Grenzkontrollen: Einsatz von Gesichtserkennung.
• Bildungswesen & Prüfungsaufsicht: KI-basierte Leistungsbewertung.

Anbieter dieser Systeme müssen strenge Vorschriften zu Risikomanagement, Transparenz und menschlicher Aufsicht einhalten.

3. Geringes Risiko – Transparenzpflichten

KI-Systeme mit geringerem Risiko, wie Chatbots oder Deepfakes, müssen Nutzer darüber informieren, dass sie mit KI interagieren.

4. Allzweck-KI (GPAI)

Allgemeine KI-Modelle, wie große Sprachmodelle (z.B. ChatGPT), unterliegen besonderen Vorschriften:

• Offenlegung der Trainingsdaten: Transparenz über die verwendeten Daten.
• Urheberrechtskonformität: Maßnahmen zur Einhaltung des Urheberrechts.
• Strengere Regeln für systemische Risiken: Hochleistungsfähige Modelle unterliegen strengeren Regeln.

Einsatz biometrischer Echtzeit-Überwachung

Der Einsatz von KI-gestützter Videoüberwachung durch Polizei und Behörden ist nur in Ausnahmefällen zulässig, z.B. zur Terrorabwehr oder zur Verhinderung schwerer Straftaten sowie zur Suche nach vermissten Personen. Behörden müssen vorab eine Folgenabschätzung erstellen und eine Genehmigung durch eine unabhängige Stelle einholen.

Umsetzung des KI-Gesetzes

• EU-KI-Behörde („AI Office“): Überwacht die Einhaltung des Gesetzes.
• Registrierung und Sicherheitsprüfungen: Anbieter von Hochrisiko-KI müssen ihre Systeme registrieren und Sicherheitsprüfungen durchführen.
• Strafen: Verstöße können mit hohen Strafen geahndet werden.

Umsetzungsfristen des KI-Gesetzes

• 6 Monate: Verbotene KI-Systeme.
• 12 Monate: Vorschriften für Allzweck-KI (GPAI).
• 24 Monate: Hochrisiko-KI gemäß Anhang III (z.B. Personalverwaltung, Gesundheitswesen).
• 36 Monate: Hochrisiko-KI gemäß Anhang I (z.B. kritische Infrastruktur).

Fazit

Das neue KI-Gesetz der EU schafft klare Regeln für den Einsatz von KI in Europa. Besonders Hochrisiko-KI und biometrische Überwachung werden strenger reguliert, während Allzweck-KI-Modelle mehr Transparenzpflichten erhalten. Unternehmen sollten sich frühzeitig auf die neuen Vorgaben vorbereiten, um die gesetzlichen Anforderungen zu erfüllen und das Vertrauen der Nutzer zu stärken.

Mögliche Fragen, die zu diesem Artikel führen könnten:

1. Wie viele deutsche Unternehmen nutzen KI?
2. Welche KI-Anwendungen sind nach dem neuen EU-KI-Gesetz verboten?
3. Welche Vorschriften gelten für Hochrisiko-KI-Systeme?
4. Was sind die Umsetzungsfristen des neuen KI-Gesetzes?
5. Wie wird die Einhaltung des KI-Gesetzes überwacht?

Tags

• KI-Regulierung
• EU-KI-Gesetz
• Datenschutz