KI-Verordnung: Was Unternehmen wissen müssen

KI Verordnung für Unternehmen

Die Europäische Union hat mit der Datenschutz-Grundverordnung (DSGVO) neue Maßstäbe im Datenschutz gesetzt. Jetzt legt die EU mit der KI-Verordnung, die Teil des umfassenderen AI Act ist, erneut vor und setzt einen globalen Standard für die Regulierung von Künstlicher Intelligenz (KI). Die Verordnung soll das Vertrauen in KI-Systeme stärken und gleichzeitig Innovationen fördern. Der AI Act bringt jedoch nicht nur Regelungen, sondern auch Pflichten für Unternehmen mit sich, die zunehmend KI-basierte Anwendungen in ihre Arbeitsabläufe integrieren. Es ist daher unerlässlich, die Anforderungen der KI-Verordnung zu kennen und umzusetzen.  

Dieser Artikel bietet einen umfassenden Überblick über die KI-Verordnung und ihre Auswirkungen auf Unternehmen.  

Die KI-Verordnung in Kürze

Die KI-Verordnung der Europäischen Union verfolgt einen risikobasierten Ansatz zur Regulierung von KI-Systemen. Sie klassifiziert KI-Systeme in vier Risikoklassen:  

  • Unannehmbares Risiko: KI-Systeme, die ein unannehmbares Risiko für die Sicherheit, die Gesundheit oder die Grundrechte der Menschen darstellen, sind verboten.  
  • Hohes Risiko: KI-Systeme, die in sensiblen Bereichen wie Gesundheitswesen, Verkehr oder Bildung eingesetzt werden, müssen strenge Anforderungen erfüllen, bevor sie auf den Markt gebracht werden dürfen.  
  • Geringes Risiko: KI-Systeme mit geringem Risiko müssen bestimmte Transparenzanforderungen erfüllen, damit Nutzer wissen, dass sie mit einem KI-System interagieren.  
  • Minimales Risiko: Die meisten KI-Systeme fallen in diese Kategorie und unterliegen keinen besonderen Anforderungen.  

Die KI-Verordnung legt für jede Risikoklasse spezifische Anforderungen fest, die von der Durchführung von Konformitätsbewertungen über die Einrichtung von Risikomanagementsystemen bis hin zur Einhaltung von Transparenzpflichten reichen.  

Anwendungsbereiche für KI im Unternehmen

KI-Systeme halten in Unternehmen zunehmend Einzug und unterstützen bei einer Vielzahl von Aufgaben. Im Marketingbereich ermöglichen KI-Tools die Kundensegmentierung, die Erstellung von Newslettern und Social-Media-Beiträgen. Content-Erstellung wird durch KI-Systeme erleichtert, die Texte korrigieren, kürzen, übersetzen und vervollständigen können. Im Support kommen Chatbots und CRM-Lösungen zum Einsatz. Die IT profitiert von KI-Systemen, die Codes erstellen und beim Debugging und Testing unterstützen. Betriebswirtschaftliche Aufgaben wie Datenmanagement, -auswertung und Prozessoptimierung werden ebenfalls durch KI vereinfacht. Allgemeine Büroaufgaben, wie das Aufsetzen von Standardschreiben oder Geburtstagsgrüßen, können automatisiert werden. Im Designbereich generieren KI-Systeme neue Designs oder Videos und helfen bei der Fotobearbeitung. Auch im Human-Resources-Bereich findet KI Anwendung, zum Beispiel bei der Optimierung des Recruiting-Prozesses oder der Generierung von Stellenanzeigen.  

Rechtliche Risiken im Umgang mit KI

Der Einsatz von KI birgt auch rechtliche Risiken. So ist beispielsweise die Frage nach der Urheberschaft von KI-generierten Inhalten noch nicht abschließend geklärt. Auch der Datenschutz stellt eine Herausforderung dar, da KI-Systeme oft mit personenbezogenen Daten arbeiten. Zudem ist die Frage zu klären, wie mit der Nutzung von KI durch Mitarbeiter umzugehen ist und welche Pflichten sich aus der KI-Verordnung für Unternehmen ergeben.  

Diese rechtlichen Fragen sind komplex und bedürfen einer genauen Betrachtung. Eine umfassende Auseinandersetzung mit diesen Themen würde jedoch den Rahmen dieses Artikels sprengen. Weitere Informationen zu den rechtlichen Aspekten des KI-Einsatzes finden Sie auf eRecht24 Premium.  

Grundlagen der KI-Verordnung

Die KI-Verordnung ist am 1. August 2024 in Kraft getreten. Sie ist das erste weltweite KI-Gesetz und legt den Fokus auf die Risikoeinstufung von KI-Systemen. Die Verordnung gilt für Anbieter und Betreiber von KI-Systemen.  

Anbieter sind diejenigen, die KI entwickeln oder entwickeln lassen und unter eigenem Namen oder Marke in Verkehr bringen bzw. in Betrieb nehmen. Betreiber sind diejenigen, die KI im Rahmen ihrer beruflichen Tätigkeit verwenden.  

Die KI-Verordnung sieht Sanktionen bei Verstößen vor, die je nach Schwere des Verstoßes bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes betragen können.  

Ab wann gilt die KI-Verordnung?

Die KI-Verordnung ist zwar bereits in Kraft, wird aber schrittweise angewendet:  

  • 2. Februar 2025: Regelungen zur Sicherstellung der KI-Kompetenz der Mitarbeiter und für verbotene KI-Praktiken gelten (faktische Schulungspflicht).  
  • 2. August 2025: Regelungen für KI mit allgemeinem Verwendungszweck und die Sanktionen gelten.  
  • 2. August 2026: Generelle Anwendbarkeit der KI-Verordnung (u. a. Regelung zur Kennzeichnungspflicht für KI).  
  • 2. August 2027: Regelungen für Hochrisiko-KI und deren Einstufung gelten.  

Was müssen Unternehmen tun?

Unternehmen sollten die folgenden Schritte unternehmen, um die Anforderungen der KI-Verordnung zu erfüllen:  

Schritt 1: Interner Überblick über KI-Systeme

  • Eingesetzte KI-Systeme den Risikokategorien zuordnen.  
  • Prüfen, ob man Anbieter oder Betreiber für die KI-Systeme ist.  
  • Überblick über die Pflichten – je nach Risikokategorie – verschaffen.  

Schritt 2: Kennzeichnungspflicht

  • Deepfakes und Texte über Angelegenheiten von öffentlichem Interesse als KI-generiert kennzeichnen (ab 2. August 2026).  
  • KI-Einsatz für Inhalte intern dokumentieren.  

Schritt 3: KI-Kenntnis sicherstellen

  • Schulung für Mitarbeiter, die KI betreiben oder nutzen (ab 2. Februar 2025).  
  • Schulung muss technische und rechtliche Inhalte umfassen.  

Fazit:

Die KI-Verordnung ist ein wichtiger Schritt zur Regulierung von KI-Systemen. Unternehmen sollten sich frühzeitig mit den Anforderungen der Verordnung auseinandersetzen, um die Chancen von KI-Systemen zu nutzen und gleichzeitig rechtliche Risiken zu vermeiden.