Künstliche Intelligenz bleibt das Thema der Stunde. Noch vor Kurzem drehte sich die wichtigste Debatte in der Geschäftswelt um ihre schnelle Einführung. Dieser Wettlauf hat den italienischen KI-Markt im Jahr 2025 auf über 1,8 Milliarden Euro getrieben. Heute steht eine andere Frage im Mittelpunkt: Wie lässt sich künstliche Intelligenz richtig einsetzen?
Von der Einführung zur Steuerung der KI
Dass KI in den meisten Unternehmen im Einsatz ist, gilt inzwischen als Normalzustand. Mehr als 7 von 10 großen italienischen Unternehmen haben die Technologie bereits eingeführt. Der Antrieb war in den meisten Fällen derselbe: den Anschluss an den Wettbewerb halten, technologischen Trends folgen und möglichst schnell konkrete Vorteile erzielen.
Mit der Zeit hat sich der Blick verändert. Sobald KI auf echte Prozesse trifft, zeigt sie ihr volles Potenzial. Deutlich wird dabei auch, wie wichtig eine klare Steuerung ist. Ohne angemessene Governance riskieren die erhofften Vorteile, auf dem Papier zu bleiben. Hinzu kommen Risiken, die dieselbe Aufmerksamkeit verdienen wie jede andere kritische Unternehmensressource.
Was der AI Act ändert
Diese neue Aufmerksamkeit kommt zum richtigen Zeitpunkt. Dasselbe Bewusstsein, das Unternehmen dazu bringt, ihren Umgang mit KI zu überdenken, liegt auch dem AI Act zugrunde. Die europäische Verordnung begleitet die Verbreitung der Technologie mit Regeln, die dem jeweiligen Risiko entsprechen.
Die Verordnung regelt den KI-Einsatz in Unternehmen nach bestimmten Prioritätskriterien. Das Ziel: eine sicherere und verantwortungsvollere Governance. Wer gezielt steuern will, stellt daher zunächst einige Fragen zum tatsächlichen KI-Einsatz im Unternehmen.
Hast du deine Unternehmens-KI sicher aufgestellt? Fünf Fragen, um es herauszufinden
1. Woher kommt die KI ins Unternehmen?
Manche Unternehmen haben ein offizielles KI-Projekt mit eigenem Budget. Andere haben KI auf Dutzenden verschiedenen Wegen erhalten: als integrierte Funktion in bestehender Software, über SaaS-Plattformen mit generativem Assistenten oder über Tools, die ein einzelnes Team oder ein Mitarbeitender eigenständig eingeführt hat, weil sie schnell und praktisch waren (ChatGPT, Copilot, Claude, Perplexity: Die Wahl ist bei jedem eine andere).
Oft bleiben diese Tools außerhalb des IT-Radars, weil sie isoliert und fragmentiert eingeführt werden. Der erste Schritt zur KI-Governance ist zugleich der grundlegendste: wirklich zu wissen, welche KI-Tools im Unternehmen im Einsatz sind und woher sie stammen.
2. Welche Informationen werden KI-Tools weitergegeben?
Denken wir an alle Aufgaben, bei denen Mitarbeitende KI einsetzen könnten, zum Beispiel einen AI-Chatbot. Auf einer ersten, unbedenklichen Ebene: einen Text korrigieren, Informationen im Web suchen, den Arbeitsalltag organisieren.
Dazu kommen Aufgaben mit höherem Risikopotenzial: ein Angebot auf Basis sensibler Kundendaten erstellen, vertrauliche rechtliche Dokumente übersetzen, ein KI-Tool direkt in andere Unternehmensplattformen integrieren.
Häufig fehlt eine klare Regel dazu, was KI verarbeiten darf und was nicht. Offen bleibt auch die Frage, wer für Entscheidungen verantwortlich ist, die auf KI-Ergebnissen beruhen.
3. Entscheidet ein Mensch oder entscheidet die KI?
KI lässt sich als unermüdliche Mitarbeiterin beschreiben. Sie liest und fasst Dokumente in kürzester Zeit zusammen, vergleicht hunderte Datenpunkte in Echtzeit und schlägt am Ende Entscheidungen und Prioritäten vor.
Der kritische Punkt entsteht, wenn diese Vorschläge ohne menschliche Prüfung direkt zu Entscheidungen werden. Genau hier ist der AI Act besonders streng. Die Verordnung unterscheidet Anwendungsfälle nach dem damit verbundenen Risiko: Je höher das Risiko, desto stärker muss das menschliche Urteil sichtbar, nachvollziehbar und verantwortlich bleiben.
4. Mit wem kommunizieren Kunden und Lieferanten wirklich?
Auch in den täglichen Beziehungen mit Kunden und Lieferanten macht KI der menschlichen Interaktion zunehmend Platz. Deshalb ist ein strukturierter Umgang damit wichtig. Kommunikation muss verlässlich bleiben und Vertrauen vermitteln, auch wenn eine Technologie antwortet.
Das ist auch ein Ziel des AI Act. Die Verordnung verpflichtet Unternehmen, den KI-Einsatz in bestimmten Fällen kenntlich zu machen, damit die Beziehung zu Kunden und Lieferanten ihre Klarheit behält.
5. Ist das Unternehmensökosystem bereit für KI?
KI entfaltet ihre Stärken in einem sauberen, geordneten Umfeld. Deshalb ist es wichtig, Identitäten, Zugriffsrechte und Systeme strukturiert zu verwalten. KI verarbeitet die Informationen, auf die sie Zugriff hat. Das Unternehmen ist dafür verantwortlich, diesen Zugriff zu regulieren und sicherzustellen, dass sensible Daten nicht unkontrolliert zugänglich sind.
KI-Governance bedeutet auch, die Menschen zu schulen, die täglich damit arbeiten. So können sie Bedrohungen erkennen, die durch dieselbe Technologie raffinierter werden. Laut ENISA gehören Phishing und Social Engineering zu den verbreitetsten Angriffsvektoren. KI macht diese Angriffe überzeugender und leichter skalierbar.
KI steuern, um ihre Sicherheit zu gewährleisten
Diese Fragen bleiben ein theoretischer Ausgangspunkt. Sie reichen jedoch aus, um zu erkennen, wie viele Dynamiken ins Spiel kommen, sobald KI im Unternehmen eingesetzt wird. Wer diesen Blickwinkel einnimmt, geht den Schritt von der bloßen Integration der Technologie zu ihrer vollständigen Governance.
Mit dem AI Act steht endlich ein Rahmen zur Verfügung. Er zeigt, wo anzusetzen ist: KI zu einem sicheren, nützlichen Werkzeug zu machen und sie als Teil des zu schützenden Unternehmensperimeters zu behandeln.
