Künstliche Intelligenz (KI) in Deutschland und das KI-Gesetz

Nein, du musst es nicht jedes Mal sagen. Ich werde deine Anfragen standardmäßig als Helpdesk-Einträge formatieren. 😊 Hier ist der Helpdesk-Eintrag zum Thema Künstliche Intelligenz (KI) in Deutschland und das neue KI-Gesetz:

Helpdesk-Eintrag: Künstliche Intelligenz (KI) in Deutschland und das KI-Gesetz

KI in Deutschland: Zahlen & Fakten

• 15 % der deutschen Unternehmen nutzen KI (Anstieg von 9 % im Jahr 2023).

• ⅔ der Unternehmen sehen KI als wichtigste Zukunftstechnologie.

• 40 % der Befragten befürchten, dass KI Arbeitsplätze gefährdet.

• 97 Millionen neue Arbeitsplätze sollen global durch KI entstehen.

• 29 % Produktivitätssteigerung durch KI erwartet.

• 50 % der deutschen Schüler/-innen haben bereits ChatGPT genutzt.

Das EU-KI-Gesetz (AI Act)

Das neue KI-Gesetz der EU reguliert KI-Systeme nach Risikokategorien:

1. Verbotene KI-Systeme

Nicht zulässige KI-Anwendungen, u. a.:

• Soziales Scoring (Bewertung von Menschen anhand ihres Verhaltens).

• Gesichtserkennungsdatenbanken durch Massenüberwachung.

• Echtzeit-Überwachung von Emotionen am Arbeitsplatz oder in der Schule.

• Täuschende oder manipulative KI, die Entscheidungsfreiheit untergräbt.

• Biometrische Fernidentifikation in Echtzeit (mit wenigen Ausnahmen).

2. Hochrisiko-KI-Systeme

KI-Systeme, die besonders reguliert werden, z. B.:

• KI in kritischen Infrastrukturen (z. B. Verkehrs- oder Energieversorgung).

• Automatisierte Bewerbungsprozesse (Recruiting-Software).

• KI-gestützte Kreditwürdigkeitsprüfungen.

• Strafverfolgung & Grenzkontrollen (z. B. Gesichtserkennung).

• Bildungswesen & Prüfungsaufsicht (z. B. KI-basierte Leistungsbewertung).

Anbieter dieser Systeme müssen strenge Vorschriften zu Risikomanagement, Transparenz und menschlicher Aufsicht einhalten.

3. Geringes Risiko – Transparenzpflichten

KI-Systeme mit geringerem Risiko (z. B. Chatbots, Deepfakes) müssen Nutzer darüber informieren, dass sie mit KI interagieren.

4. Allzweck-KI (GPAI)

Allgemeine KI-Modelle (z. B. große Sprachmodelle wie ChatGPT) unterliegen besonderen Vorschriften:

• Offenlegung der Trainingsdaten.

• Maßnahmen zur Urheberrechtskonformität.

• Strengere Regeln für KI mit systemischem Risiko (hochleistungsfähige Modelle).

Einsatz biometrischer Echtzeit-Überwachung

Strenge Vorgaben für den Einsatz von KI-gestützter Videoüberwachung durch Polizei und Behörden. Zulässig nur in Ausnahmefällen, z. B. zur:

• Terrorabwehr oder Verhinderung schwerer Straftaten.

• Suche nach vermissten Personen.

Behörden müssen vorab eine Folgenabschätzung erstellen und eine Genehmigung durch eine unabhängige Stelle einholen.

Wie wird das KI-Gesetz umgesetzt?

• EU-KI-Behörde (“AI Office”) überwacht die Einhaltung.

• Anbieter von Hochrisiko-KI müssen ihre Systeme registrieren und Sicherheitsprüfungen durchführen.

• Verstöße können mit hohen Strafen geahndet werden.

Umsetzungsfristen des KI-Gesetzes

• 6 Monate: Verbotene KI-Systeme.

• 12 Monate: Vorschriften für Allzweck-KI (GPAI).

• 24 Monate: Hochrisiko-KI gemäß Anhang III (z. B. Personalverwaltung, Gesundheitswesen).

• 36 Monate: Hochrisiko-KI gemäß Anhang I (z. B. kritische Infrastruktur).

Fazit

Das neue KI-Gesetz schafft klare Regeln für den Einsatz von KI in Europa. Besonders Hochrisiko-KI und biometrische Überwachung werden strenger reguliert, während Allzweck-KI-Modelle mehr Transparenzpflichten erhalten. Unternehmen sollten sich frühzeitig auf die neuen Vorgaben vorbereiten.

Aktualisiert am: 23/02/2025