KI-Compliance im Unternehmen (Teil I) – Warum und wie müssen Mitarbeiter geschult werden?

Der Einsatz von KI im Unternehmen hat das Potenzial, durch Automatisierung Kosten zu sparen und den Umsatz zu steigern. Dies zumindest erhoffen sich derzeit viele Unternehmen von dem neuen Hype, der in den letzten Jahren – ausgelöst durch den Erfolg von ChatGPT – rund um Deep Learning und generative KI entstanden ist. Die Entwicklungen in diesem Bereich schreiten seitdem rasant voran und insbesondere große US-amerikanische und chinesische Tech-Unternehmen scheinen sich in einem erbitterten Wettstreit beinahe im Wochentakt gegenseitig zu überbieten. Dabei verbessern sie ihre Modelle beispielsweise durch neue Funktionen, höhere Genauigkeit und eine gesteigerte Effizienz. Neben den großen Playern hat sich bereits ein breites Angebot weiterer Dienstleister und spezialisierter Tools für diverse Anwendungsbereiche etabliert. Diese rasante Entwicklung macht es nicht leicht den Überblick darüber zu behalten, welche Lösung für das eigene Unternehmen geeignet sein könnte. Unternehmen müssen sich zunächst die Frage stellen, was KI tatsächlich leisten kann und wo ihre technischen Grenzen liegen. Danach gilt es zu klären, ob und wie KI gewinnbringend eingesetzt werden kann. Wesentliche Entscheidungen betreffen die Frage, ob das Projekt im eigenen Unternehmen umgesetzt oder ausgelagert werden soll (Outsourcing). Soll KI selbst entwickelt oder angepasst werden (Finetuning) oder greift man auf Anwendungen Dritter zurück, etwa als „AI as a Service“ (AIaaS)? Sollen Daten auf eigenen Servern verarbeitet werden oder wird eine Cloudlösung bevorzugt? Um all diese Fragen beantworten zu können, sind ein strategisches Vorgehen und ausreichende KI-Kompetenz unerlässlich. Die Führungsebene trägt die Verantwortung dafür, die Weichen für den Erfolg von KI-Projekten zu stellen. Dazu gehört auch die Sicherstellung, dass die Mitarbeitenden über das erforderliche Know-how im Umgang mit KI-Systemen verfügen. Die beteiligten Mitarbeitenden müssen daher entsprechend geschult werden. Dies ist mittlerweile jedoch nicht mehr nur eine unternehmerische Notwendigkeit, sondern ergibt sich auch direkt aus gesetzlichen Vorgaben. Die KI-Verordnung spricht in diesem Zusammenhang von KI-Kompetenz. Doch was genau bedeutet KI-Kompetenz, und wie weit reichen die gesetzlichen Schulungspflichten?

Das Erfordernis der KI-Kompetenz

Die KI-VO definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen, Risiken sowie potenziellen Schäden, die KI verursachen kann, bewusst zu werden. Nach Artikel 4 KI-VO sind Anbieter und Betreiber von KI-Systemen verpflichtet, Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Dabei sind die technischen Kenntnisse, Erfahrungen, Ausbildung und Schulung der Mitarbeitenden ebenso zu berücksichtigen wie der spezifische Kontext, in dem die KI-Systeme eingesetzt werden sollen, und die Zielgruppen, bei denen die Systeme Anwendung finden. Anders als die meisten anderen Pflichten der KI-VO gilt die Schulungspflicht unabhängig von der Einordnung der zugrunde liegenden KI-Systeme in die verschiedenen Risikokategorien der Verordnung. Unternehmen sind somit verpflichtet, ein ausreichendes Maß an KI-Kompetenz bei den eigenen Mitarbeitenden herzustellen. Die Verpflichtung zur Sicherstellung der KI-Kompetenz muss dabei nach besten Kräften, individualisiert und kontextbezogen erfolgen. Konkret bedeutet dies, dass Unternehmen die Schulungen an die technischen Kenntnisse, Erfahrungen und das Ausbildungsniveau der Mitarbeitenden anpassen müssen. Gleichzeitig ist der spezifische Kontext zu berücksichtigen, in dem die KI-Systeme eingesetzt werden. Unklar bleibt jedoch, wie diese Anforderungen im Einzelfall umzusetzen sind. Ein einfaches Regelwerk oder eine Checkliste, die Unternehmen in diesem Zusammenhang abarbeiten könnten, existiert bislang nicht. Stattdessen müssen Unternehmen selbst geeignete Maßnahmen und Schulungskonzepte entwickeln, um den Vorgaben der Verordnung gerecht zu werden.

Wer muss wie geschult werden und was bringt ein AI-Officer?

Es fehlt bislang an einer etablierten Best Practice für die Sicherstellung von KI-Kompetenz. Um dem entgegenzuwirken und den Austausch zwischen Unternehmen zu fördern, hat das Europäische Amt für KI das Living Repository of AI Literacy Practices veröffentlicht, in dem die implementierten Praktiken zur Förderung von KI-Kompetenz teilnehmender Unternehmen dargestellt werden. Dies kann wertvolle Hinweise für die eigene Umsetzung liefern. Daran orientiert sind folgende Schritte notwendig: die Bestimmung der Zielgruppe und Bedarfsanalyse, die Berücksichtigung des Anwendungskontexts, die Auswahl und Umsetzung von Schulungsansätzen, die Messung und Bewertung des Impacts (KPIs) sowie der Umgang mit Herausforderungen und die kontinuierliche Verbesserung. Es sollten also zunächst die Grundlagen geschaffen werden, zu denen auch die Formulierung einer KI-Leitlinie und darauf aufbauender Richtlinien für Mitarbeitende im Umgang mit KI gehört. Hierzu sollten Governance-Strukturen etabliert werden. Eine mögliche Maßnahme könnte die Einführung einer AI-Funktion (AI-Officer) sein, die die Kompetenzentwicklung steuert. Für Schulungen bietet es sich an, zwischen Basisschulungen für alle Mitarbeitenden und zielgruppenorientierten Schulungen für bestimmte Aufgabenbereiche zu unterscheiden. In der Basisschulung kann allen Mitarbeitenden ein grundlegendes Verständnis für die Funktionsweise sowie die ethischen und rechtlichen Herausforderungen von KI-Systemen vermittelt werden. In den darüber hinausgehenden fachspezifischen Schulungen kann das für den jeweiligen Aufgabenbereich notwendige Wissen vermittelt und das Basiswissen vertieft werden. Zu den zu behandelnden Themen könnten je nach Bedarf insbesondere folgende Inhalte gehören: Allgemeine Grundlagen zum Thema KI, technische Grundlagen, Anwendungsgebiete und Limitationen, Sicherheit und Risikomanagement, rechtliche Rahmenbedingungen und Compliance-Anforderungen (insbesondere KI-VO und DSGVO) sowie ethische und gesellschaftliche Aspekte. Der Schulungsprozess sollte standardisiert werden, um ein einheitliches Kompetenzniveau im gesamten Unternehmen herzustellen. Die Durchführung der Schulungen sollte dokumentiert und auf ihre Wirksamkeit hin überprüft werden. Die Schulungen können auch von externen Dienstleistern durchgeführt werden. Die Führungsebene sollte jedoch sicherstellen, dass die Schulungen die für die eigene Unternehmenssituation relevanten Inhalte abdecken.

Rechtsanwalt Anton Schröder

I.  https://fin-law.de

E. info@fin-law.de