Logo IWW
Login
FeedbackAbschluss-Umfrage
März 2025

BeratungNeue KI-Regeln: Das müssen ArbG jetzt wissen

Top-BeitragLeseprobe21.02.20252 Min. Lesedauer

| ChatGPT, DeepL und Co.: Seit dem 2.2.25 gibt es neue Vorgaben für ArbG, die KI entwickeln, anbieten oder nutzen. Wir haben für Sie zusammengefasst, worum es geht und welche Maßnahmen jetzt sinnvoll sind. |

AA-03.2025_TopBeitrag_946552366.jpg (Bild: © bluedesign - stock.adobe.com)
Bild vergrößern
Bild: © bluedesign - stock.adobe.com

Hintergrund: Der AI Act gehört zum Bereich der „Produktregulierung“. Er regelt, welche KI-Systeme in der EU erlaubt und welche verboten sind. Die Verordnung stellt einheitliche Regeln für alle 27 Mitgliedstaaten auf – für den Verkauf und die Verwendung von KI-Systemen in der EU. Kern ist dabei, eine Klassifizierung von KI-Systemen nach ihrem Risiko für Gesundheit, Sicherheit und Grundrechte in einem vierstufigen Modell. Der AI Act ist eine Verordnung der EU, die unmittelbar in Deutschland gilt. Am 2.2.25 trat die erste Stufe in Kraft.

CHECKLISTE / Vorgehensweise in Unternehmen bei Einsatz von KI

Prüfen, welche KI-Tools eingesetzt werden
Der AI Act betrifft neben großen Tech-Unternehmen, die Entwickler und Anbieter sind, auch fast alle Unternehmen, die KI in irgendeiner Form einsetzen. Auch KMU benutzen Tools, ohne sich der KI-Basis bewusst zu sein, z. B. in der Buchhaltungssoftware, im CRM, in der Personalabteilung, bei Terminplanern oder Chatbots für Kundenanfragen. Zunächst sollten daher alle KI-gestützten Tools im Unternehmen identifiziert und in einer Liste erfasst werden.
Wichtig | Auch cloudbasierte Tools mit automatisierten Funktionen können unter die Verordnung fallen. Häufig genutzt sind beispielsweise Online-Lösungen zur Textverbesserung, zum Übersetzen, zur Erstellung von Videos oder zum Transkribieren.
Risikoklasse bestimmen
Je höher das Risiko in der Anwendung, desto höher die Anforderungen bei den Sicherungsmaßnahmen. Das bedeutet, dass derjenige, der eine KI selbst entwickelt oder diese für den Bau kritischer Infrastruktur einsetzt, anderen Anforderungen unterliegt, als ein Marketingmitarbeiter, der eine KI zur Recherche nutzt.
Das EU-Recht unterscheidet in verschiedenen Stufen vom Hersteller bis zum Betreiber. Zudem teilt der AI Act KI-Systeme in vier Risikostufen ein:
  • Minimales Risiko: KI-gestützte Rechtschreibprogramme oder Musikempfehlungen
  • Begrenztes Risiko: Chatbots oder automatisierte Texterstellung
  • Hohes Risiko: KI für Kreditwürdigkeitsprüfungen, bei der Herstellung von Produkten oder Gesichtserkennung
  • Verboten: KI für Social Scoring oder manipulative Technologien
Praxistipp | ArbG können für eine erste Einordnung die offizielle Website nutzen, den EU AI Act Compliance Checker unter https://artificialintelligenceact.eu/de/bewertung/eu-ai-act-compliance-checker/.
Datenschutz beachten
KI verarbeitet oft personenbezogene Daten (z. B. Kundeninformationen oder Mitarbeiterdaten). Daher ist auch hier die DSGVO zu beachten. Entsprechend sollte sichergestellt werden, dass die KI-Systeme keine unnötigen personenbezogenen Daten speichern oder weitergeben. Zudem sollte eine entsprechende KI-Information an die ArbN erarbeitet werden.
Mitarbeiter schulen
Laut der KI-Verordnung müssen Mitarbeiter über ein „ausreichendes Maß an KI‑Kompetenz“ verfügen. Eine konkrete Regelung, wie dieses Niveau zu erreichen ist und wann es als erfüllt gilt, enthält die Verordnung nicht. Das liegt im Ermessen der ArbG.

AUSGABE: AA 3/2025, S. 53 · ID: 50329462

Favorit
Teilen
Drucken
Zitieren

Beitrag teilen

Hinweis: Abo oder Tagespass benötigt

Link
E-Mail
X
LinkedIn
Xing
Loading...
Loading...
Loading...
Heft-Reader
2025

Bildrechte