Compliance im KI-Zeitalter. Warum Regeln allein nicht genügen.
- Ferdinando De Maria
- 31. Mai
- 6 Min. Lesezeit
Aktualisiert: 5. Juni
Letzthin wurde mir in einem Videomeeting mit einer Expertin im KI-Bereich wieder bewusst, wie stark regulatorische Themen inzwischen ins Feld rücken.
Lange wurde vor allem über Möglichkeiten gesprochen: Effizienz, Automatisierung, neue Geschäftsmodelle oder bessere Entscheidungen. Doch zunehmend verschiebt sich der Fokus.
Es geht nicht mehr nur darum, was mit KI möglich ist. Es geht auch darum, was erlaubt, verantwortbar und nachvollziehbar ist.
Auch wenn die Schweiz nicht Mitglied der Europäischen Union ist, betrifft die folgende Regulierung zunehmend auch Schweizer Unternehmen. Insbesondere dann, wenn Geschäftsbeziehungen in den EU-Raum bestehen, Produkte oder Dienstleistungen dort angeboten werden oder KI-Systeme mit europäischen Kunden, Partnern oder Daten in Berührung kommen.
Offizielle Informationen zum EU AI Act:
Damit wird deutlich: Compliance ist im KI-Zeitalter kein Randthema mehr. Sie entwickelt sich zu einer strategischen Führungsaufgabe.
Was Compliance eigentlich bedeutet
Viele Menschen verbinden Compliance in erster Linie mit Vorschriften, Richtlinien und Kontrollen. Tatsächlich geht es jedoch um etwas Grundsätzlicheres. Compliance sorgt dafür, dass Organisationen innerhalb definierter rechtlicher, ethischer und organisatorischer Rahmenbedingungen handeln.
✓ Sie schützt Unternehmen vor Risiken.
✓ Sie schafft Vertrauen.
Und sie trägt dazu bei, dass Entscheidungen nachvollziehbar bleiben. Im klassischen Verständnis betraf dies beispielsweise:
Datenschutz
Informationssicherheit
Arbeitssicherheit
Qualitätsmanagement
Korruptionsprävention
Finanz- und Revisionsvorgaben
Mit dem Einzug künstlicher Intelligenz erweitert sich dieses Aufgabenfeld jedoch erheblich. Compliance aus Sicht der Unternehmens- und Organisationsentwicklung.
Aus meiner Rolle in der Unternehmens- und Organisationsentwicklung kenne ich die enge Verbindung zur Compliance-Funktion sehr gut. Gerade in grösseren Unternehmen arbeite ich in Entwicklungs- und Veränderungsprozessen häufig nahe an Compliance, Qualitätsmanagement, Datenschutz, Risikomanagement oder internen Kontrollsystemen. Denn Veränderung ist nie nur eine Frage von Strategie, Kultur oder Prozessen. Sie berührt immer auch Verantwortung, Risiken, Regeln und Nachvollziehbarkeit.
In vielen Unternehmen wird Compliance manchmal "nur" als notwendige und formale Kontrollinstanz wahrgenommen.
Meine Erfahrung ist jedoch eine andere.
Gut verstandene Compliance schafft Orientierung. Sie hilft Organisationen, sich innerhalb klarer Leitplanken und Werten zu bewegen und gleichzeitig handlungsfähig zu bleiben. Auch in kleineren Unternehmen ist dieses Thema nicht zu unterschätzen. Dort stehen oft das Tagesgeschäft, Kundenaufträge und operative Herausforderungen im Vordergrund. Dennoch entstehen durch den Einsatz von KI neue Fragestellungen, die nicht einfach nebenbei gelöst werden können.
Welche Daten dürfen verwendet werden?
Wer überprüft die Ergebnisse?
Wer trägt die Verantwortung?
Und wie wird sichergestellt, dass Effizienz nicht auf Kosten von Qualität, Vertrauen oder Sorgfalt geht?
KI verändert die Art der Risiken
Früher entstanden Risiken meist durch menschliche Fehler, fehlende Kontrollen oder bewusstes Fehlverhalten. Heute entstehen neue Risiken durch Systeme, deren Ergebnisse oft plausibel wirken, deren Entstehung aber nicht immer vollständig nachvollziehbar ist.
Ein Mitarbeiter kann innerhalb weniger Sekunden vertrauliche Informationen in ein öffentliches KI-System eingeben. Eine KI kann fehlerhafte Aussagen überzeugend formulieren. Ein automatisierter Entscheidungsprozess kann unbeabsichtigt diskriminierende Muster verstärken.
Generative KI kann Inhalte erstellen, deren urheberrechtliche Situation unklar ist.
Hinzu kommt die enorme Geschwindigkeit. Was früher Tage oder Wochen dauerte, geschieht heute innerhalb weniger Minuten. Damit steigt nicht nur die Produktivität, sondern auch die Geschwindigkeit potenzieller Fehlentscheidungen.
Der Irrtum vieler Organisationen
Aktuell lassen sich in vielen Unternehmen zwei typische Reaktionen beobachten.
Die erste Gruppe versucht, den Einsatz von KI möglichst einzuschränken oder zu verbieten. Die zweite Gruppe erlaubt nahezu alles und vertraut darauf, dass die Mitarbeitenden schon verantwortungsvoll damit umgehen werden.
Beide Ansätze greifen zu kurz. Ein generelles Verbot verhindert Lernen, Innovation und Wettbewerbsfähigkeit. Völlige Freiheit erhöht dagegen die Risiken für Datenschutz, Reputation, Haftung und Qualität. Der entscheidende Erfolgsfaktor liegt, denke ich, dazwischen. Organisationen benötigen einen klaren Orientierungsrahmen.
Vom Regelwerk zur Entscheidungsfähigkeit
Hier beginnt die eigentliche Veränderung.
Im KI-Zeitalter reicht es nicht mehr aus, Richtlinien zu erstellen und diese irgendwo im Intranet abzulegen. Neue Anwendungen entstehen schneller, als Regelwerke aktualisiert werden können. Compliance entwickelt sich deshalb zunehmend von einer Kontrollfunktion zu einer Befähigungsfunktion.
Die zentrale Frage lautet nicht mehr:
"Dürfen wir das?"
Sondern:
"Wie können wir verantwortungsvoll entscheiden?"
Mitarbeitende benötigen Orientierung bei Fragen wie:
Welche Daten dürfen verwendet werden?
Welche KI-Systeme sind freigegeben?
Welche Inhalte müssen überprüft werden?
Wann ist menschliche Kontrolle erforderlich?
Wer trägt die Verantwortung für KI-gestützte Entscheidungen?
Die Zukunft gehört Organisationen, die nicht nur Regeln definieren, sondern die Fähigkeit entwickeln, verantwortungsvoll mit neuen Technologien umzugehen.
Human in the Loop
Ein Begriff gewinnt dabei zunehmend an Bedeutung: Human in the Loop. Gemeint ist, dass wichtige Entscheidungen nicht vollständig an KI-Systeme delegiert werden.
✓ KI kann unterstützen.
✓ KI kann analysieren.
✓ KI kann Muster erkennen.
✓ KI kann Vorschläge generieren.
Die Verantwortung bleibt jedoch beim Menschen. Denn nur Menschen können Verantwortung übernehmen, Interessen abwägen und die Konsequenzen einer Entscheidung beurteilen.
Gerade in Bereichen wie Personalmanagement, Gesundheitswesen, Finanzdienstleistungen oder öffentlicher Verwaltung wird dieses Prinzip zunehmend zu einer zentralen Anforderung.
Der EU AI Act als Wendepunkt
Mit dem EU AI Act entsteht erstmals ein umfassender regulatorischer Rahmen für künstliche Intelligenz. Der Ansatz ist risikobasiert. Je höher das Risiko einer KI-Anwendung, desto höher werden die Anforderungen an Transparenz, Dokumentation, Kontrolle und Nachvollziehbarkeit.
Besonders relevant sind dabei:
Hochrisiko-KI-Systeme ( z.B. Bonitätsbewertungen, Medizinische Diagnosen etc.)
Transparenzpflichten
Dokumentationspflichten
Nachvollziehbarkeit von Entscheidungen
Schulung und AI Literacy von Mitarbeitenden
Governance- und Kontrollmechanismen
Viele Unternehmen betrachten solche Vorgaben zunächst als zusätzliche Belastung.
Dabei lohnt sich ein anderer Blickwinkel. Regulierung schafft nicht nur Einschränkungen.
✓ Sie schafft auch Orientierung.
✓ Sie schafft Standards.
✓ Und sie schafft Vertrauen.
Genau dieses Vertrauen wird in Zukunft ein entscheidender Wettbewerbsfaktor sein.
Die kulturelle Dimension von Compliance
Ein oft unterschätzter Aspekt liegt weder in der Technologie noch im Gesetz.
Er liegt in der Unternehmenskultur. Compliance funktioniert langfristig nur dann, wenn Mitarbeitende den Sinn dahinter verstehen. Wer KI ausschliesslich als Risiko betrachtet, wird Innovation verhindern. Wer KI ausschliesslich als Effizienzwerkzeug betrachtet, wird Risiken übersehen.
Zwischen diesen beiden Polen entsteht eine neue Führungsaufgabe.
Es geht darum, eine Kultur zu schaffen, in der Innovation und Verantwortung gemeinsam gedacht werden. Eine Kultur, in der Mitarbeitende experimentieren dürfen und gleichzeitig verstehen, wo Grenzen verlaufen und weshalb diese Grenzen wichtig sind.
Die neue Rolle von Führung
Damit verändert sich auch die Rolle von Führungskräften. Früher standen oft Prozesse und Kontrollen im Vordergrund. Heute geht es zunehmend darum, Orientierung zu geben.
Führungskräfte müssen nicht jede technische Entwicklung im Detail verstehen.
Sie müssen jedoch die richtigen Fragen stellen können:
Welche Risiken entstehen?
Welche Chancen ergeben sich?
Welche Verantwortung tragen wir?
Welche Auswirkungen hat unser Handeln auf Kunden, Mitarbeitende und Gesellschaft?
Je stärker KI in den Arbeitsalltag integriert wird, desto wichtiger wird menschliche Urteilsfähigkeit.
Eine abschliessende Reflexion
Vielleicht lohnt es sich zum Schluss noch, einen Schritt zurückzutreten.
Die Diskussion über Compliance, Regulierung und den EU AI Act ist wichtig. Doch möglicherweise liegt die grössere Herausforderung an einem anderen Ort. Nämlich bei uns selbst. Denn mit jeder neuen technologischen Möglichkeit stellt sich auch eine menschliche Frage: Ab welchem Punkt beginnen wir, unsere eigenen Fähigkeiten zu überschätzen, weil uns KI unterstützt?
Wann wird aus Unterstützung schleichend Abhängigkeit? Wann verlernen wir das kritische Denken, weil die Antworten so schnell verfügbar sind? Und wann beginnen wir, Ergebnisse als unsere eigene Leistung zu betrachten, obwohl wesentliche Teile davon durch ein KI-System entstanden sind?
Gerade in Unternehmen könnte dies zu einer der spannendsten Fragestellungen der kommenden Jahre werden. Was geschieht, wenn Mitarbeitende zunehmend operative Aufgaben an KI delegieren? Wenn Analysen, Konzepte, Texte, Präsentationen oder sogar Entscheidungen immer häufiger von KI vorbereitet werden?
Wie verändert dies Kompetenz, Verantwortung und Lernen? Und wie stellen Unternehmen sicher, dass Wissen nicht nur erzeugt, sondern auch verstanden wird? Denn zwischen dem Nutzen einer Technologie und dem Verlust eigener Fähigkeiten verläuft oft eine unsichtbare Grenze. Vielleicht wird die eigentliche Herausforderung der Zukunft deshalb nicht darin bestehen, künstliche Intelligenz zu entwickeln. Sondern menschliche Intelligenz, Urteilskraft und Verantwortungsbewusstsein zu bewahren.
Fazit
✓ Compliance wird im KI-Zeitalter wichtiger als je zuvor.
✓ Allerdings verändert sich ihre Rolle grundlegend. Es geht nicht mehr nur darum, Regeln durchzusetzen. Es geht darum, Organisationen dabei zu unterstützen, verantwortungsvoll mit einer Technologie umzugehen, die sich schneller entwickelt als viele bestehende Strukturen.
✓ Die eigentliche Herausforderung besteht deshalb nicht darin, künstliche Intelligenz zu kontrollieren. Die eigentliche Herausforderung besteht darin, die menschliche Urteilsfähigkeit zu stärken. Denn am Ende wird nicht die KI für die Folgen einer Entscheidung verantwortlich gemacht. Sondern die Organisation, die sie eingesetzt hat. Und vielleicht wird genau darin die wichtigste Aufgabe von Compliance im KI-Zeitalter liegen: Nicht Innovation zu bremsen.
Sondern dafür zu sorgen, dass Innovation vertrauenswürdig bleibt. Die Frage ist nicht, ob Unternehmen KI einsetzen werden. Die Frage ist, ob sie dabei Verantwortung, Vertrauen und Urteilsfähigkeit bewahren.
Und die Frage, wo Unterstützung endet und Abhängigkeit beginnt, wird uns vermutlich noch lange begleiten. Doch das ist Stoff für einen eigenen Blogartikel.
Für weiterführende Informationen und konkrete Angebote stehe ich gerne zur Verfügung.
E-Mail: info@ferdinandodemaria.com
Kommentare