Künstliche Intelligenz im Unternehmen etablieren: vom ersten Anwendungsfall zum Betrieb

Wie Unternehmen künstliche Intelligenz einführen, ohne sich zu verzetteln

Die Geschäftsführung beschließt: „Wir müssen etwas mit KI machen.“ Drei Monate später gibt es ein paar Lizenzen für einen KI-Assistenten, die niemand systematisch nutzt, einen Chatbot-Test auf der Website, den kaum ein Kunde findet, und eine Belegschaft, von der ein Teil längst private KI-Werkzeuge im Browser verwendet – ohne dass jemand weiß, welche Daten dort landen. Gescheitert ist dabei nicht die Technik. Gefehlt hat ein Plan.

Genau darum geht es hier: um einen praktischen Weg, KI im Unternehmen einzuführen und dauerhaft einzusetzen. Vom ersten Anwendungsfall über den Pilotversuch bis zum Regelbetrieb, mit Beispielen aus typischen Abteilungen und mit den Fragen zu Daten, Datenschutz und Mitarbeitenden, die in vielen Projekten zu spät gestellt werden.

Was „KI im Unternehmen“ heute bedeutet

Wer von KI im Unternehmen spricht, meint Software, die Aufgaben übernimmt oder unterstützt, für die bisher menschliches Urteilsvermögen nötig war: Texte verstehen und schreiben, Muster in Daten erkennen, Prognosen abgeben, Bilder auswerten, Entscheidungen vorbereiten. Im Alltag begegnen Ihnen drei Familien, die sehr unterschiedliche Voraussetzungen haben:

• Vorhersagende KI: Verfahren des maschinellen Lernens – Software, die aus vielen Beispielen statistische Zusammenhänge ableitet – rechnen mit Ihren eigenen Daten. Sie schätzen den Absatz im nächsten Quartal, erkennen auffällige Buchungen oder sagen voraus, wann eine Maschine gewartet werden sollte. Ohne saubere Daten aus der Vergangenheit funktioniert das nicht.
• Generative KI: Große Sprachmodelle (Large Language Models, kurz LLM) wie in ChatGPT, Google Gemini oder Microsoft Copilot (früher Microsoft 365 Copilot) schreiben, fassen zusammen, übersetzen und beantworten Fragen in natürlicher Sprache. Sie sind sofort einsetzbar, irren sich aber gelegentlich mit großer Selbstsicherheit.
• KI-Agenten: Sprachmodelle mit Zugriff auf Werkzeuge und Daten, die mehrere Arbeitsschritte hintereinander ausführen – etwa eine Anfrage lesen, im Warenwirtschaftssystem nachsehen und einen Antwortentwurf anlegen. Sie versprechen viel, brauchen aber klare Grenzen, was sie selbstständig tun dürfen.

Seit ChatGPT Ende November 2022 erschien, hat sich die Ausgangslage verschoben: Früher begann KI in der IT-Abteilung oder bei Datenfachleuten, heute beginnt sie oft am Schreibtisch einzelner Mitarbeitender. Das macht den Einstieg leichter – und die Steuerung schwieriger.

Wo KI im Unternehmen hilft: Beispiele aus den Abteilungen

Die meisten brauchbaren Anwendungsfälle sind unspektakulär. Sie nehmen Menschen Routinearbeit ab, beschleunigen Recherchen oder machen Wissen auffindbar. Einige typische Beispiele, nach Abteilungen sortiert:

• Kundenservice: Eingehende E-Mails nach Anliegen sortieren, Antwortentwürfe aus der eigenen Wissensdatenbank erstellen, Chatbots für Standardfragen wie Lieferstatus oder Öffnungszeiten.
• Vertrieb: Gesprächsnotizen zusammenfassen, Angebote vorbereiten, Anfragen priorisieren – ausführlich im Beitrag KI im Vertrieb und Verkauf.
• Buchhaltung und Controlling: Eingangsrechnungen auslesen und vorkontieren, ungewöhnliche Buchungen markieren, Abweichungen im Monatsbericht in Worte fassen.
• Personal: Stellenanzeigen formulieren, interne Richtlinien verständlich beantworten, Schulungsunterlagen erstellen. Vorsicht bei der Auswahl von Bewerbern – dazu unten mehr.
• Einkauf und Logistik: Bedarfsprognosen, Lieferantenverträge auf bestimmte Klauseln prüfen, Lieferavis und Frachtpapiere automatisch erfassen.
• Produktion und Technik: Bildbasierte Qualitätsprüfung, vorausschauende Wartung aus Sensordaten, Suche in Handbüchern und Wartungsprotokollen.
• IT: Störungsmeldungen vorsortieren, Skripte und Dokumentation schreiben lassen, Protokolldateien auswerten.
• Wissensarbeit quer durchs Haus: Besprechungen protokollieren, lange Dokumente zusammenfassen, Fragen an interne Unterlagen stellen.

Weitere Beispiele mit mehr Tiefe finden Sie im Beitrag KI in Unternehmen: Beispiele aus der Praxis; was speziell im Geschäft mit Firmenkunden funktioniert, zeigt Künstliche Intelligenz in B2B-Unternehmen. Wichtig ist hier etwas anderes: Ein Beispiel aus einem anderen Unternehmen ist eine Anregung, kein Anwendungsfall für Ihres. Der entsteht erst aus Ihren eigenen Zielen.

Anwendungsfälle finden: vom Geschäftsziel zur Kandidatenliste

Der häufigste Fehler beim Einstieg ist, mit dem Werkzeug anzufangen („Wir haben jetzt Copilot, was machen wir damit?“). Tragfähiger ist der umgekehrte Weg: Was will das Unternehmen in den nächsten zwei, drei Jahren erreichen, und wo steht ihm etwas im Weg?

Schritt 1: Ziele und Engpässe sammeln

Fragen Sie die Bereichsleitungen nicht „Wo können wir KI einsetzen?“, sondern „Wo verlieren Ihre Leute Zeit? Wo entstehen Fehler? Wo warten Kunden zu lange?“. Aus den Antworten entsteht eine Liste von Engpässen. Erst im zweiten Schritt wird geprüft, ob KI dabei überhaupt helfen kann – manchmal ist ein besseres Formular, eine klassische Automatisierung oder eine Regel im ERP-System die schlichtere und billigere Lösung.

Angenommen, ein Großhändler mit 150 Beschäftigten stellt fest, dass der Innendienst einen großen Teil seiner Zeit damit verbringt, Bestellungen aus E-Mails und PDF-Dateien in das Warenwirtschaftssystem abzutippen. Das ist ein klarer Engpass mit einem klaren Ziel: schnellere Auftragsbestätigungen und weniger Tippfehler. Ob KI das löst, lässt sich in wenigen Wochen testen.

Halten Sie die Liste in dieser Phase bewusst breit. Gerade Fachabteilungen, die mit KI noch wenig zu tun hatten, bringen oft die besten Ideen – weil sie ihre Abläufe kennen.

Schritt 2: Bewerten und auswählen

Jeder Kandidat wird anschließend nach drei Fragen eingeordnet:

• Nutzen: Wie viel Zeit, Geld oder Qualität bringt die Lösung, und zahlt sie auf ein wichtiges Unternehmensziel ein?
• Machbarkeit: Gibt es die nötigen Daten, ein passendes Werkzeug am Markt und Menschen, die das Projekt tragen?
• Risiko: Was passiert, wenn die KI danebenliegt? Ein falsch zusammengefasstes Protokoll ist ärgerlich, eine falsch abgelehnte Bewerbung oder eine falsche Auskunft an einen Kunden ist ein ernstes Problem.

Bewährt hat sich eine Auswahl aus ein bis drei strategischen Vorhaben, die spürbar auf ein Geschäftsziel einzahlen, und ein oder zwei schnellen Erfolgen („Quick Wins“), die mit wenig Aufwand zeigen, dass KI im eigenen Haus funktioniert. Die schnellen Erfolge schaffen Vertrauen, die strategischen Vorhaben schaffen Wirkung. Wer nur das eine oder nur das andere macht, verliert entweder die Belegschaft oder die Geschäftsführung.

Jeden Anwendungsfall ausarbeiten: der Steckbrief

Bevor Geld fließt, bekommt jeder ausgewählte Anwendungsfall einen Steckbrief von ein bis zwei Seiten. Er zwingt dazu, die unangenehmen Fragen früh zu stellen:

• Geschäftsziel: Zu welchem Unternehmensziel trägt der Fall bei? Wenn sich das nicht in einem Satz sagen lässt, gehört er nach hinten auf die Liste.
• Konkretes KI-Ziel: Was genau soll die KI leisten, etwa „80 Prozent der Bestell-E-Mails ohne Nacharbeit ins System übernehmen“?
• Kennzahlen: Woran messen Sie den Erfolg – Bearbeitungszeit, Fehlerquote, Antwortzeit, Kundenzufriedenheit? Erheben Sie den Ausgangswert vor dem Start, sonst lässt sich später nichts vergleichen.
• Verantwortung: Wer aus dem Fachbereich ist zuständig? Ein KI-Projekt ohne fachliche Verantwortliche bleibt ein IT-Experiment.
• Daten: Welche Daten braucht die Lösung, wo liegen sie, in welcher Qualität, und dürfen sie dafür verwendet werden?
• Recht und Ethik: Sind personenbezogene Daten im Spiel? Fällt die Anwendung unter besondere Regeln der KI-Verordnung? Kann sie Menschen benachteiligen?
• Technik: Standardwerkzeug, Funktion in einer vorhandenen Software oder eigene Entwicklung? Cloud oder eigener Server?
• Kompetenzen: Was müssen die Nutzer können, und wer betreut die Lösung später?
• Veränderung: Wessen Arbeit ändert sich, und wie werden die Betroffenen einbezogen?

Der Steckbrief ist kein Bürokratieselbstzweck. Er ist die Grundlage für die Entscheidung, ob ein Pilot startet – und später für die Frage, ob er in den Betrieb geht.

Vom Pilot in den Betrieb: Warum viele KI-Projekte im Test stecken bleiben

Ein Pilot ist schnell gebaut. Viele Unternehmen haben inzwischen eine ganze Sammlung davon – und nur wenige Lösungen im echten Betrieb. Die Ursache liegt selten in der Technik, sondern im Zuschnitt des Tests.

Einen Pilot so anlegen, dass er eine Entscheidung erlaubt

• Echte Daten, echte Nutzer: Ein Test mit fünf sorgfältig ausgewählten Beispieldokumenten sagt wenig. Testen Sie mit dem, was im Alltag tatsächlich ankommt, inklusive schlecht eingescannter PDFs und handschriftlicher Ergänzungen.
• Begrenzte Dauer: Acht bis zwölf Wochen sind nach unserer Erfahrung für die meisten Fälle ein vernünftiger Rahmen.
• Vorher festgelegte Kriterien: Legen Sie vor dem Start fest, ab welchem Ergebnis die Lösung weitergeführt und wann sie eingestellt wird. Ein ehrlich beendeter Pilot ist ein Erfolg, kein Scheitern.
• Mensch in der Schleife: Gerade am Anfang prüft ein Mensch die Ergebnisse, bevor sie wirksam werden. So lernen Sie, wo die KI zuverlässig ist und wo nicht.

Was der Regelbetrieb zusätzlich verlangt

Im Betrieb kommen Fragen dazu, die im Pilot keine Rolle spielten: Wer überwacht die Qualität, wenn niemand mehr jedes Ergebnis prüft? Wer reagiert, wenn der Anbieter sein Modell aktualisiert und sich die Antworten verändern? Wie entwickeln sich die laufenden Kosten, wenn statt 10 plötzlich 200 Menschen das Werkzeug nutzen? Wer ist Ansprechpartner bei Fragen? Klären Sie Betrieb, Kosten und Support, bevor die Lösung ausgerollt wird, nicht danach.

Eine Faustregel zur Technik: Nutzen Sie zuerst, was es fertig gibt – KI-Funktionen in vorhandener Software oder etablierte Werkzeuge. Eigene Entwicklungen lohnen sich dort, wo ein Anwendungsfall eng mit Ihren eigenen Daten und Abläufen verbunden ist und ein Standardwerkzeug ihn nicht abdeckt. Wo besonders vertrauliche Daten im Spiel sind, kann auch ein KI-Modell auf eigenen Servern sinnvoll sein. Bei KI-Agenten gilt besondere Vorsicht: Je mehr eine Software selbstständig tun darf, desto wichtiger sind enge Rechte und nachvollziehbare Protokolle.

Daten: die unterschätzte Voraussetzung

KI ist nur so gut wie die Informationen, auf die sie zugreift. Das gilt für Prognosemodelle, die aus Ihren Verkaufszahlen lernen, genauso wie für einen Assistenten, der Fragen zu internen Richtlinien beantwortet. Liegt im Dateiablage-System die Reisekostenrichtlinie in vier Fassungen aus verschiedenen Jahren, wird auch die beste KI gelegentlich die falsche zitieren.

Drei Fragen sollten Sie vor jedem Projekt beantworten:

• Gibt es die Daten überhaupt? Für eine Absatzprognose brauchen Sie eine Verkaufshistorie über mehrere Jahre, für die Auswertung von Kundenanfragen eine ausreichende Zahl gesammelter Vorgänge.
• Sind sie verlässlich? Veraltete Dokumente, doppelte Kundenstammsätze und uneinheitliche Bezeichnungen sind Gift für jede KI. In vielen Projekten kostet das Bereinigen mehr Zeit als die eigentliche KI-Einführung.
• Wer darf was sehen? Ein KI-Assistent mit Zugriff auf die Dateiablage findet auch Dokumente, die schlecht geschützt sind – etwa eine Gehaltsliste in einem offenen Teamordner. Prüfen Sie die Berechtigungen, bevor Sie einen Assistenten auf Unternehmensdaten loslassen.

Die gute Nachricht: Diese Arbeit lohnt sich auch ohne KI. Aufgeräumte Daten und klare Zugriffsrechte machen jedes Unternehmen schneller und sicherer.

Datenschutz, KI-Verordnung und Betriebsrat

Drei Rechtsbereiche spielen bei fast jeder KI-Einführung eine Rolle. Die folgenden Hinweise sind eine allgemeine Orientierung, keine Rechtsberatung – im Einzelfall gehören Datenschutzbeauftragte und gegebenenfalls Fachanwälte an den Tisch.

Datenschutz nach der DSGVO

Sobald personenbezogene Daten verarbeitet werden – Kundennamen in E-Mails, Mitarbeiterdaten, Gesprächsprotokolle –, gilt die Datenschutz-Grundverordnung. Wer einen KI-Dienst aus der Cloud nutzt, braucht in der Regel einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO und muss wissen, wo die Daten verarbeitet werden und ob der Anbieter sie für das Training seiner Modelle verwendet. Bei Anwendungen mit voraussichtlich hohem Risiko für die Betroffenen ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO vorgeschrieben. Verbraucherversionen von KI-Werkzeugen sind für Unternehmensdaten meist ungeeignet: Ob Eingaben dort zum Training verwendet werden, hängt je nach Anbieter von den Einstellungen ab, während Geschäftsversionen das vertraglich ausschließen.

Die europäische KI-Verordnung

Die KI-Verordnung der EU (VO (EU) 2024/1689, international als AI Act bekannt) gilt seit dem 1. August 2024 und wird schrittweise wirksam. Verbotene Praktiken wie die Emotionserkennung am Arbeitsplatz (außer aus medizinischen oder Sicherheitsgründen) sind seit dem 2. Februar 2025 untersagt. Mit dem sogenannten Digital Omnibus zur KI (VO (EU) 2026/1744), in Kraft seit dem 27. Juli 2026, hat die EU mehrere Regeln angepasst. Für Unternehmen, die KI einsetzen, sind vor allem drei Punkte wichtig:

• KI-Kompetenz (Art. 4): Die Pflicht wurde abgeschwächt. Unternehmen sollen Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten ergreifen; ein bestimmtes Kompetenzniveau je Person schreibt die Verordnung nicht mehr vor. Schulungen bleiben trotzdem sinnvoll – schon deshalb, weil ungeschulte Nutzung das größte praktische Risiko ist. Einen Einstieg bietet der Kurs KI-Kompetenz nach EU AI Act.
• Transparenz (Art. 50): Seit dem 2. August 2026 gelten Kennzeichnungspflichten, etwa dass Menschen erkennen können müssen, wenn sie mit einem Chatbot statt mit einem Menschen sprechen, und dass bestimmte KI-erzeugte Inhalte als solche erkennbar sind.
• Hochrisiko-Anwendungen: Für die in Anhang III genannten Bereiche – dazu gehören unter anderem KI-Systeme für die Auswahl von Bewerbern und für Entscheidungen über Beschäftigte – gelten die strengen Pflichten ab dem 2. Dezember 2027. Wer heute KI im Personalbereich plant, sollte sie jetzt schon mitdenken.

Zuständige Aufsichtsbehörde in Deutschland ist die Bundesnetzagentur (KI-Marktüberwachungsgesetz, in Kraft seit dem 29. Juli 2026). Einen Überblick über Pflichten und Fristen vermittelt das Seminar AI Act im Überblick.

Mitbestimmung

Gibt es einen Betriebsrat, ist er früh einzubeziehen. KI-Werkzeuge, die Verhalten oder Leistung von Beschäftigten erfassen können, fallen unter die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG – und das trifft auf viele Programme zu, die Nutzungsdaten protokollieren. Eine Betriebsvereinbarung zum KI-Einsatz schafft Klarheit für beide Seiten und beschleunigt spätere Projekte, weil nicht jedes Werkzeug neu verhandelt werden muss.

Mitarbeitende mitnehmen: Regeln, Schulung, Beteiligung

Ob KI im Unternehmen ankommt, entscheidet sich nicht im Rechenzentrum, sondern in den Teams. Zwei Reaktionen sind typisch und beide verständlich: die Sorge, ersetzt zu werden, und die stille Nutzung privater Werkzeuge, weil die offiziellen fehlen. Fachleute sprechen von Schatten-KI. Verbote allein lösen keines der beiden Probleme.

• Eine verständliche KI-Richtlinie: Welche Werkzeuge sind freigegeben, welche Daten dürfen hinein, welche nicht, und wer prüft Ergebnisse, bevor sie das Haus verlassen? Zwei Seiten in klarer Sprache wirken mehr als zwanzig Seiten Juristendeutsch.
• Freigegebene Werkzeuge bereitstellen: Wer eine sichere Alternative anbietet, nimmt der Schatten-KI den Grund.
• Schulung nach Rolle: Die Sachbearbeitung braucht andere Inhalte als die IT oder die Geschäftsführung. Für den breiten Einstieg eignet sich ein praxisnahes Training wie Effiziente Nutzung von KI-Tools: ChatGPT, Microsoft Copilot und Google Gemini.
• Beteiligung statt Verkündung: Mitarbeitende, die ihre Abläufe kennen, finden die besten Anwendungsfälle. KI-Ansprechpartner in den Abteilungen – oft als „Champions“ bezeichnet – helfen Kolleginnen und Kollegen im Alltag weiter.
• Ehrlich über Folgen sprechen: Wenn sich Aufgaben verändern, sollte das offen gesagt werden, zusammen mit dem Plan, wie Betroffene weiterqualifiziert werden.

Welche Rolle die Führungsebene dabei spielt – von der eigenen Haltung über Governance bis zu Entscheidungen, die sich nicht delegieren lassen –, beschreibt der Beitrag KI-Readiness für Führungskräfte. Wie Einzelne vom gelegentlichen Ausprobieren zu echtem Produktivitätsgewinn kommen, zeigt KI richtig nutzen: das Fünf-Stufen-Modell.

Regelmäßig überprüfen: KI als wiederkehrende Aufgabe

KI einzuführen ist kein Projekt mit Enddatum. Die Werkzeuge verändern sich innerhalb weniger Monate, Preise und Lizenzmodelle ebenso, und mit jedem Anwendungsfall lernt das Unternehmen dazu. Wiederholen Sie die Sammlung und Bewertung der Anwendungsfälle deshalb mindestens einmal im Jahr, am besten gekoppelt an die Überprüfung der Unternehmensstrategie. Stellen Sie dabei auch laufende Lösungen auf den Prüfstand: Erreichen sie die Kennzahlen aus dem Steckbrief? Gibt es inzwischen ein besseres oder günstigeres Werkzeug?

Um einzuschätzen, wo Ihr Unternehmen insgesamt steht und welcher Schritt als Nächstes sinnvoll ist, hilft ein Reifegradmodell wie die KI-Reifegrad-Matrix.

Was das für Ihr Unternehmen bedeutet

Für die meisten mittelständischen Unternehmen ist die Frage nicht mehr, ob KI eine Rolle spielt, sondern wie geordnet sie Einzug hält. Wer abwartet, bekommt KI trotzdem – nur unkontrolliert, über private Werkzeuge und ungeprüfte Ergebnisse. Wer dagegen überstürzt kauft, sammelt Lizenzen und Pilotprojekte ohne Wirkung.

Meine Empfehlung: Beginnen Sie mit einer klaren Richtlinie und einem freigegebenen Werkzeug für alle, damit die Grundlagen stehen. Wählen Sie parallel ein bis drei Anwendungsfälle mit messbarem Nutzen, testen Sie sie ehrlich und bringen Sie nur das in den Betrieb, was seine Kennzahlen erreicht. Überschätzt werden dabei vollautomatische Lösungen, die ohne menschliche Kontrolle auskommen sollen. Unterschätzt werden die Datenqualität und der Zeitaufwand, den Menschen brauchen, um neue Arbeitsweisen wirklich zu übernehmen.

Häufige Fragen zu KI im Unternehmen

Was versteht man unter KI im Unternehmen?

Gemeint ist der Einsatz von Software, die Aufgaben mit Sprache, Bildern oder Daten übernimmt oder vorbereitet – von Textassistenten über Prognosemodelle bis zu automatisierten Abläufen. Entscheidend ist nicht die Technik, sondern dass sie einen konkreten Geschäftsprozess verbessert.

Wie führt man KI im Unternehmen ein – wo fängt man an?

Mit den Zielen und Engpässen des Unternehmens, nicht mit einem Werkzeug. Daraus entsteht eine Liste möglicher Anwendungsfälle, die nach Nutzen, Machbarkeit und Risiko bewertet wird. Parallel sollten eine KI-Richtlinie und ein freigegebenes Werkzeug den unkontrollierten Gebrauch ablösen.

Welche Beispiele eignen sich für den Einstieg?

Gut geeignet sind Aufgaben mit viel Text und überschaubarem Risiko: Protokolle und Zusammenfassungen, Antwortentwürfe im Kundenservice, das Auslesen von Rechnungen und Bestellungen oder die Suche in internen Dokumenten. Riskanter sind Anwendungen, die direkt über Menschen entscheiden, etwa bei der Personalauswahl.

Brauchen wir dafür eigene KI-Fachleute?

Für den Einstieg mit Standardwerkzeugen nicht unbedingt, wohl aber jemanden, der das Thema verantwortet, sowie geschulte Nutzer. Für eigene Entwicklungen und für den Betrieb anspruchsvollerer Lösungen brauchen Sie entweder eigene Fachleute oder einen verlässlichen Partner.

Müssen alle Beschäftigten eine KI-Schulung machen?

Die KI-Verordnung verlangt seit dem Digital Omnibus Maßnahmen zur Förderung der KI-Kompetenz, aber kein festes Niveau für jede einzelne Person. Praktisch ist eine Grundschulung für alle, die KI-Werkzeuge nutzen, trotzdem der einfachste Weg, Fehler und Datenschutzpannen zu vermeiden.

Muss der Betriebsrat zustimmen?

Wenn ein KI-Werkzeug geeignet ist, Verhalten oder Leistung der Beschäftigten zu überwachen, hat der Betriebsrat ein Mitbestimmungsrecht. Das ist bei vielen Programmen der Fall, die Nutzungsdaten speichern. Frühe Einbindung spart später Zeit.

Wer den Einstieg strukturiert angehen möchte, findet im Seminar KI-Kickstart für Unternehmen einen Rahmen, um Anwendungsfälle zu sammeln, zu bewerten und einen ersten Pilot zu planen. Weitere Angebote bündelt das Themenfeld Künstliche Intelligenz (KI).