KI-Einsatz im Unternehmen – Wer behält den Überblick?
Warum Unternehmen klare Verantwortlichkeiten brauchen
Künstliche Intelligenz hält in immer mehr Unternehmen Einzug – oft schneller, als die notwendigen Rahmenbedingungen geschaffen werden können. Dabei sind klare Verantwortlichkeiten, ein verlässlicher Überblick über die eingesetzten Systeme und verbindliche Regeln für Mitarbeitende entscheidend für einen rechtssicheren Einsatz. Damit rückt die Rolle eines KI-Beauftragten in den Blick.
Die KI-Verordnung als neuer Rechtsrahmen
Mit der KI-Verordnung (KI-VO) hat die Europäische Union erstmals einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen. Die Verordnung (EU) 2024/1689, auch als AI-Act bezeichnet, ist am 1. August 2024 in Kraft getreten. Sie richtet sich nicht nur an Anbieter von KI-Systemen, sondern auch an deren Betreiber, also Unternehmen, die KI-Systeme einsetzen.
Die KI-VO soll einen sicheren und transparenten Einsatz von Künstlicher Intelligenz gewährleisten. Welche konkreten Pflichten die KI-VO für Unternehmen vorsieht, hängt von ihrer Rolle, etwa als Anbieter oder Betreiber und von der Risikoklasse des jeweiligen KI-Systems ab.
Im Kern geht es um:
Die Rolle des KI-Beauftragten
Eine Möglichkeit, den KI-Einsatz im Unternehmen zu koordinieren, ist die Benennung eines KI-Beauftragten. Er bündelt die organisatorischen und rechtlichen Anforderungen rund um den Einsatz von KI und dient als zentrale Ansprechperson für Geschäftsleitung, Fachbereiche und Beschäftigte.
Zu seinen typischen Aufgaben gehören insbesondere:
Darüber hinaus kommt dem KI-Beauftragten eine wesentliche Koordinierungsfunktion im Unternehmen zu.
Der KI-Beauftragte als zentrale Schnittstelle im Unternehmen
Der Einsatz von KI betrifft regelmäßig mehrere Unternehmensbereiche und unterschiedliche Fachdisziplinen. Zu berücksichtigen sind unter anderem datenschutzrechtliche Fragestellungen, Anforderungen der Informationssicherheit sowie weitere rechtliche Aspekte, etwa des Urheberrechts. Darüber hinaus kann, je nach Einsatzbereich, eine Beteiligung des Betriebsrats erforderlich sein.
Ob und unter welchen Voraussetzungen eine KI-Anwendung eingesetzt werden kann, lässt sich daher regelmäßig nicht von einer einzelnen Person beurteilen. Vielmehr müssen die fachlichen Einschätzungen der beteiligten Bereiche zusammengeführt und aufeinander abgestimmt werden.
Grundsatz: Keine gesetzliche Benennungspflicht
Klarzustellen ist, dass die KI-VO keine verpflichtende Benennung eines KI-Beauftragten vorsieht. Anders als die Datenschutz-Grundverordnung (DSGVO), die unter bestimmten Voraussetzungen die Benennung eines Datenschutzbeauftragten verlangt, enthält die KI-VO keine entsprechende Regelung. Unternehmen können daher grundsätzlich selbst entscheiden, wie sie die Einhaltung der Anforderungen der KI-VO künftig organisatorisch sicherstellen.
Fazit
Wer beim Einsatz von KI den Überblick behalten möchte, braucht klare Strukturen und Verantwortlichkeiten. Auch wenn die KI-VO Unternehmen nicht zur Benennung eines KI-Beauftragten verpflichtet, empfiehlt es sich, frühzeitig eine verantwortliche Person oder Stelle mit der Koordination des KI-Einsatzes zu betrauen.
Gerade für kleine und mittlere Unternehmen kann ein externer KI-Beauftragter eine effiziente und praxistaugliche Lösung sein. So lassen sich Verantwortlichkeiten bündeln, interne Abläufe vereinheitlichen und die Anforderungen der KI-VO dauerhaft in die Unternehmenspraxis integrieren.
Praxis-Tipps
Pflichtfelder prüfen –
im Webinar Schritt für Schritt
Wenn Sie dabei sein oder Ihre Fragen einbringen möchten:
Nehmen Sie Kontakt auf – die Anmeldedetails folgen in Kürze.
FAQ
Was regelt die KI-Verordnung für Unternehmen?
Die KI-Verordnung schafft einen einheitlichen europäischen Rechtsrahmen für den Einsatz Künstlicher Intelligenz. Sie richtet sich nicht nur an Anbieter, sondern auch an Unternehmen, die KI-Systeme einsetzen. Welche Pflichten gelten, hängt insbesondere von der jeweiligen Rolle des Unternehmens und der Risikoklasse des KI-Systems ab.
Welche Pflichten können sich aus der KI-Verordnung ergeben?
Zu den zentralen Anforderungen gehören unter anderem die Bewertung von Risiken, geeignete Maßnahmen zum Risikomanagement, Dokumentations- und Transparenzpflichten, die Sicherstellung ausreichender KI-Kompetenz sowie Vorgaben zur Kennzeichnung bestimmter KI-generierter oder KI-manipulierter Inhalte.
Was sind die Aufgaben eines KI-Beauftragten?
Ein KI-Beauftragter kann den Einsatz von KI im Unternehmen zentral koordinieren. Zu den typischen Aufgaben gehören die Führung eines KI-Registers, die Bewertung regulatorischer Anforderungen und Risiken, der Aufbau von Freigabe- und Kontrollprozessen, die Erstellung interner KI-Richtlinien sowie die Koordination von Schulungen.
Warum ist beim Einsatz von KI eine zentrale Koordination sinnvoll?
KI-Anwendungen betreffen häufig mehrere Fachbereiche gleichzeitig. Neben Datenschutz und Informationssicherheit können beispielsweise auch rechtliche, urheberrechtliche und mitbestimmungsrechtliche Fragen relevant sein. Ein KI-Beauftragter kann die beteiligten Stellen koordinieren und dafür sorgen, dass Zuständigkeiten geklärt und Entscheidungen dokumentiert werden.
Müssen Unternehmen einen KI-Beauftragten benennen?
Nein. Die KI-Verordnung enthält keine allgemeine Pflicht zur Benennung eines KI-Beauftragten. Unternehmen können grundsätzlich selbst entscheiden, wie sie die organisatorische Einhaltung der Anforderungen sicherstellen.
Welche organisatorischen Maßnahmen sollten Unternehmen beim KI-Einsatz treffen?
Unternehmen sollten eingesetzte KI-Systeme erfassen, klare Verantwortlichkeiten festlegen, interne KI-Richtlinien erstellen, Mitarbeitende schulen, betroffene Fachbereiche frühzeitig einbinden und Freigaben sowie Risikobewertungen nachvollziehbar dokumentieren.
