Künstliche Intelligenz (KI) in Deutschland und das KI-Gesetz
Nein, du musst es nicht jedes Mal sagen. Ich werde deine Anfragen standardmäßig als Helpdesk-Einträge formatieren. 😊 Hier ist der Helpdesk-Eintrag zum Thema Künstliche Intelligenz (KI) in Deutschland und das neue KI-Gesetz:
Helpdesk-Eintrag: Künstliche Intelligenz (KI) in Deutschland und das KI-Gesetz
KI in Deutschland: Zahlen & Fakten
• 15 % der deutschen Unternehmen nutzen KI (Anstieg von 9 % im Jahr 2023).
• ⅔ der Unternehmen sehen KI als wichtigste Zukunftstechnologie.
• 40 % der Befragten befürchten, dass KI Arbeitsplätze gefährdet.
• 97 Millionen neue Arbeitsplätze sollen global durch KI entstehen.
• 29 % Produktivitätssteigerung durch KI erwartet.
• 50 % der deutschen Schüler/-innen haben bereits ChatGPT genutzt.
Das EU-KI-Gesetz (AI Act)
Das neue KI-Gesetz der EU reguliert KI-Systeme nach Risikokategorien:
1. Verbotene KI-Systeme
Nicht zulässige KI-Anwendungen, u. a.:
• Soziales Scoring (Bewertung von Menschen anhand ihres Verhaltens).
• Gesichtserkennungsdatenbanken durch Massenüberwachung.
• Echtzeit-Überwachung von Emotionen am Arbeitsplatz oder in der Schule.
• Täuschende oder manipulative KI, die Entscheidungsfreiheit untergräbt.
• Biometrische Fernidentifikation in Echtzeit (mit wenigen Ausnahmen).
2. Hochrisiko-KI-Systeme
KI-Systeme, die besonders reguliert werden, z. B.:
• KI in kritischen Infrastrukturen (z. B. Verkehrs- oder Energieversorgung).
• Automatisierte Bewerbungsprozesse (Recruiting-Software).
• KI-gestützte Kreditwürdigkeitsprüfungen.
• Strafverfolgung & Grenzkontrollen (z. B. Gesichtserkennung).
• Bildungswesen & Prüfungsaufsicht (z. B. KI-basierte Leistungsbewertung).
Anbieter dieser Systeme müssen strenge Vorschriften zu Risikomanagement, Transparenz und menschlicher Aufsicht einhalten.
3. Geringes Risiko – Transparenzpflichten
KI-Systeme mit geringerem Risiko (z. B. Chatbots, Deepfakes) müssen Nutzer darüber informieren, dass sie mit KI interagieren.
4. Allzweck-KI (GPAI)
Allgemeine KI-Modelle (z. B. große Sprachmodelle wie ChatGPT) unterliegen besonderen Vorschriften:
• Offenlegung der Trainingsdaten.
• Maßnahmen zur Urheberrechtskonformität.
• Strengere Regeln für KI mit systemischem Risiko (hochleistungsfähige Modelle).
Einsatz biometrischer Echtzeit-Überwachung
Strenge Vorgaben für den Einsatz von KI-gestützter Videoüberwachung durch Polizei und Behörden. Zulässig nur in Ausnahmefällen, z. B. zur:
• Terrorabwehr oder Verhinderung schwerer Straftaten.
• Suche nach vermissten Personen.
Behörden müssen vorab eine Folgenabschätzung erstellen und eine Genehmigung durch eine unabhängige Stelle einholen.
Wie wird das KI-Gesetz umgesetzt?
• EU-KI-Behörde (“AI Office”) überwacht die Einhaltung.
• Anbieter von Hochrisiko-KI müssen ihre Systeme registrieren und Sicherheitsprüfungen durchführen.
• Verstöße können mit hohen Strafen geahndet werden.
Umsetzungsfristen des KI-Gesetzes
• 6 Monate: Verbotene KI-Systeme.
• 12 Monate: Vorschriften für Allzweck-KI (GPAI).
• 24 Monate: Hochrisiko-KI gemäß Anhang III (z. B. Personalverwaltung, Gesundheitswesen).
• 36 Monate: Hochrisiko-KI gemäß Anhang I (z. B. kritische Infrastruktur).
Fazit
Das neue KI-Gesetz schafft klare Regeln für den Einsatz von KI in Europa. Besonders Hochrisiko-KI und biometrische Überwachung werden strenger reguliert, während Allzweck-KI-Modelle mehr Transparenzpflichten erhalten. Unternehmen sollten sich frühzeitig auf die neuen Vorgaben vorbereiten.
Helpdesk-Eintrag: Künstliche Intelligenz (KI) in Deutschland und das KI-Gesetz
KI in Deutschland: Zahlen & Fakten
• 15 % der deutschen Unternehmen nutzen KI (Anstieg von 9 % im Jahr 2023).
• ⅔ der Unternehmen sehen KI als wichtigste Zukunftstechnologie.
• 40 % der Befragten befürchten, dass KI Arbeitsplätze gefährdet.
• 97 Millionen neue Arbeitsplätze sollen global durch KI entstehen.
• 29 % Produktivitätssteigerung durch KI erwartet.
• 50 % der deutschen Schüler/-innen haben bereits ChatGPT genutzt.
Das EU-KI-Gesetz (AI Act)
Das neue KI-Gesetz der EU reguliert KI-Systeme nach Risikokategorien:
1. Verbotene KI-Systeme
Nicht zulässige KI-Anwendungen, u. a.:
• Soziales Scoring (Bewertung von Menschen anhand ihres Verhaltens).
• Gesichtserkennungsdatenbanken durch Massenüberwachung.
• Echtzeit-Überwachung von Emotionen am Arbeitsplatz oder in der Schule.
• Täuschende oder manipulative KI, die Entscheidungsfreiheit untergräbt.
• Biometrische Fernidentifikation in Echtzeit (mit wenigen Ausnahmen).
2. Hochrisiko-KI-Systeme
KI-Systeme, die besonders reguliert werden, z. B.:
• KI in kritischen Infrastrukturen (z. B. Verkehrs- oder Energieversorgung).
• Automatisierte Bewerbungsprozesse (Recruiting-Software).
• KI-gestützte Kreditwürdigkeitsprüfungen.
• Strafverfolgung & Grenzkontrollen (z. B. Gesichtserkennung).
• Bildungswesen & Prüfungsaufsicht (z. B. KI-basierte Leistungsbewertung).
Anbieter dieser Systeme müssen strenge Vorschriften zu Risikomanagement, Transparenz und menschlicher Aufsicht einhalten.
3. Geringes Risiko – Transparenzpflichten
KI-Systeme mit geringerem Risiko (z. B. Chatbots, Deepfakes) müssen Nutzer darüber informieren, dass sie mit KI interagieren.
4. Allzweck-KI (GPAI)
Allgemeine KI-Modelle (z. B. große Sprachmodelle wie ChatGPT) unterliegen besonderen Vorschriften:
• Offenlegung der Trainingsdaten.
• Maßnahmen zur Urheberrechtskonformität.
• Strengere Regeln für KI mit systemischem Risiko (hochleistungsfähige Modelle).
Einsatz biometrischer Echtzeit-Überwachung
Strenge Vorgaben für den Einsatz von KI-gestützter Videoüberwachung durch Polizei und Behörden. Zulässig nur in Ausnahmefällen, z. B. zur:
• Terrorabwehr oder Verhinderung schwerer Straftaten.
• Suche nach vermissten Personen.
Behörden müssen vorab eine Folgenabschätzung erstellen und eine Genehmigung durch eine unabhängige Stelle einholen.
Wie wird das KI-Gesetz umgesetzt?
• EU-KI-Behörde (“AI Office”) überwacht die Einhaltung.
• Anbieter von Hochrisiko-KI müssen ihre Systeme registrieren und Sicherheitsprüfungen durchführen.
• Verstöße können mit hohen Strafen geahndet werden.
Umsetzungsfristen des KI-Gesetzes
• 6 Monate: Verbotene KI-Systeme.
• 12 Monate: Vorschriften für Allzweck-KI (GPAI).
• 24 Monate: Hochrisiko-KI gemäß Anhang III (z. B. Personalverwaltung, Gesundheitswesen).
• 36 Monate: Hochrisiko-KI gemäß Anhang I (z. B. kritische Infrastruktur).
Fazit
Das neue KI-Gesetz schafft klare Regeln für den Einsatz von KI in Europa. Besonders Hochrisiko-KI und biometrische Überwachung werden strenger reguliert, während Allzweck-KI-Modelle mehr Transparenzpflichten erhalten. Unternehmen sollten sich frühzeitig auf die neuen Vorgaben vorbereiten.
Aktualisiert am: 23/02/2025
Danke!