Einleitung
KI-Beratung im Unternehmen ist 2026 ebenso ein Thema der Geschäftsleitung wie ein technisches Thema. Zwischen dem Versprechen von Produktivitätsgewinnen und dem Risiko kostspieliger Projekte ohne Wirkung müssen Führungskräfte ihr Vorgehen strukturieren. Dieser Leitfaden ergänzt unseren Grundlagenartikel KI-Strategie für KMU: wichtige Schritte und Prioritäten und konzentriert sich auf die Rolle der Beratung: Diagnose, Auswahl der Anwendungsfälle, Governance, Wahl der Partner und Messung des Return on Investment.
Das Ziel ist einfach: von verstreuten Ideen zu Systemen kommen, die wirklich laufen – wie diejenigen, die wir je Fachbereich aufbauen und auf der Seite KI-Systeme von diagonall vorstellen. Ob Sie ein KMU leiten oder eine Einheit innerhalb eines Konzerns: Die Methode bleibt dieselbe.
Warum KI-Beratung im Unternehmen heute strategisch ist
KI ist kein Experiment mehr. Laut Insee nutzten 2025 18 % der französischen Unternehmen mit mindestens 10 Beschäftigten mindestens eine KI-Technologie, nach 10 % im Jahr 2024. Doch ein Tool einzuführen garantiert noch kein Ergebnis. Bereits 2024 prognostizierte Gartner, dass mindestens 30 % der Projekte mit generativer KI nach dem Proof of Concept aufgegeben würden – wegen fehlender Datenqualität, mangelnder Risikokontrolle oder unklaren Nutzens. Es fehlt nicht an Technologie, sondern an der Fähigkeit, sie einzuordnen.
Die Inanspruchnahme von KI-Beratung im Unternehmen beantwortet mehrere Herausforderungen:
- KI an der Strategie ausrichten: Ohne klare Prioritäten zersplittern die Projekte in technische Tests und isolierte Experimente, ohne sichtbare Wirkung auf Umsatz, Kosten oder Kundenerlebnis.
- Rechtliche und Reputationsrisiken beherrschen: DSGVO, Vertraulichkeit, Verzerrungen (Bias), Cybersicherheit. KI schafft neue Verantwortlichkeiten, die die Geschäftsleitung vorausschauend angehen muss.
- Schneller vorankommen: Unternehmen fehlt oft internes Know-how, um Tools auszuwählen, Daten zu strukturieren und in den Produktivbetrieb zu gehen. Erfahrene Beratung verkürzt die Lernkurve deutlich.
- Den Wandel begleiten: Ein großer Teil des Scheiterns liegt eher an Akzeptanz, Schulung und Organisation als an der Technik.
Für KMU wiegen diese Herausforderungen noch schwerer: Die Ressourcen sind begrenzt, die Zeit der Geschäftsleitung ist knapp, und jede Investition muss schnell ihren Wert beweisen. Genau darum geht es bei einem strukturierten Vorgehen der KI-Beratung im Unternehmen: ein technisches Thema in ein gesteuertes, gemessenes und geführtes Projekt zu verwandeln.
Die KI-Diagnose als Ausgangspunkt jeder Beratung
Jede seriöse Begleitung beginnt mit einer Diagnose. Sie ist kein rein technisches Audit, sondern eine übergreifende Analyse von Strategie, Prozessen, Daten und Unternehmenskultur. Man kann sie entlang von vier Achsen strukturieren.
1. Strategische Reife und Anwendungsfälle
Der erste Teil besteht darin zu verstehen, wo KI tatsächlich Wert schaffen kann:
- Vorrangige Ziele: Wachstum, Kostensenkung, Kundenservice, Durchlaufzeiten, Fehler, Compliance.
- Prozesse mit hohem Potenzial: Dokumentenverarbeitung, Kundenbeziehung, Planung, Instandhaltung, Einkauf, Marketing, Finanzen, Personal.
- Konkrete Anwendungsfälle: Assistenten für die Teams, Automatisierung wiederkehrender Aufgaben, Prognosen, Analyse von Verträgen oder Rechnungen, Empfehlungen.
Gute KI-Beratung beginnt nicht mit „Welches Tool sollen wir nutzen?“, sondern mit „Welches fachliche Problem wollen wir lösen, und mit welcher messbaren Wirkung?“. Für diese Auswahlarbeit schlägt der Artikel Anwendungsfälle für KI priorisieren: die Matrix eine einfache Methode vor.
2. Stand der Daten und des Informationssystems
KI ist nur so gut wie die Qualität der Daten, auf die sie zugreift. Die Diagnose bewertet:
- Verfügbare Quellen: CRM, ERP, Fachanwendungen, Tabellen, Dokumentenmanagement, E-Mails, Tickets.
- Qualität und Zugriff: strukturierte oder unstrukturierte Daten, Duplikate, Lücken, Zugriffsrechte, mögliche Anbindungen.
- Sicherheitsanforderungen: sensible oder personenbezogene Daten, Speicherort, branchenspezifische Regeln.
Oft ist es nicht nötig, das gesamte Informationssystem neu aufzusetzen, um einen ersten Anwendungsfall zu starten. Pragmatische Beratung identifiziert die sofort nutzbaren Daten und die minimalen Maßnahmen, um sie verwendbar zu machen.
3. Organisation, Kompetenzen und Kultur
Die Diagnose betrachtet auch Ihre Fähigkeit, die Projekte zu tragen:
- Sponsor und Governance: Gibt es einen KI-Sponsor in der Geschäftsleitung? Einen Lenkungsausschuss?
- Kompetenzen: Daten, IT, Fachbereiche, Recht, Change Management.
- Kultur: Sind die Teams bereit, Neues auszuprobieren? Welche Hemmnisse gibt es (Angst vor Automatisierung, Zeitmangel, Skepsis)?
Gute Beratung beschränkt sich nicht darauf, einen Bericht abzuliefern: Sie schafft die menschlichen Voraussetzungen für den Erfolg. Der Artikel KI-Audit: die Reife des eigenen Unternehmens bewerten erläutert dieses Raster im Detail.
4. Kartierung von Risiken und Einschränkungen
Schließlich erfasst die Diagnose die Rahmenbedingungen:
- Regulatorische: DSGVO, AI Act, Branchenregeln (Gesundheit, Finanzen, Industrie).
- Vertragliche: Klauseln von Kunden oder Lieferanten, Vertraulichkeitsverpflichtungen.
- Technische: Abhängigkeit von bestimmter Software, veraltete Architektur, schlecht vernetzte Tools.
Diese Arbeit grenzt ab, was kurzfristig machbar ist und was mehr Zeit erfordern wird.
Eine KI-Strategie aufbauen: von der Vision zur Roadmap
Sobald die Diagnose vorliegt, besteht der Kern der KI-Beratung im Unternehmen darin, diese Erkenntnisse in eine Strategie und dann in eine Roadmap zu übersetzen. Das Ziel: ein klares, von der Geschäftsleitung getragenes Dokument, das Entscheidungen über 12 bis 36 Monate leitet.
1. Vision und messbare Ziele definieren
Die Vision muss einfach, für alle verständlich und mit der Gesamtstrategie verknüpft sein. Zum Beispiel:
- Die Zeit für Verwaltungsaufgaben deutlich reduzieren, um den Teams vor Ort wieder mehr Zeit zu geben.
- Die Antwortzeit auf Kundenanfragen verkürzen dank Assistenten und der Historie der Kommunikation.
- Finanzentscheidungen verlässlicher machen durch bessere Prognosen.
Jedes Ziel erhält einen vom Unternehmen festgelegten Zielwert und Kennzahlen: gewonnene Zeit, Fehlerquote, Zufriedenheit, Marge, Kosten pro Vorgang.
2. Anwendungsfälle priorisieren
Die Beratung stützt sich häufig auf ein Raster, das Folgendes kreuzt:
- Das mögliche Wirkungspotenzial: Umsatz, Kosten, Kundenzufriedenheit, Risiken.
- Die Machbarkeit: verfügbare Daten, Integration, Sicherheit.
- Die Dauer: schnelle Erfolge (1 bis 3 Monate) oder strukturbildende Projekte (6 bis 18 Monate).
- Die Akzeptanz in den Fachbereichen: Motivation der Teams, identifizierter Sponsor, Gefahr von Widerstand.
Die ersten Projekte sollten sichtbare Wirkung mit beherrschbarer Komplexität verbinden. Der Leitfaden KI-Roadmap für KMU: Methode Schritt für Schritt zeigt, wie sich diese Auswahl in einem KMU organisieren lässt.
3. Die Roadmap strukturieren
Die Roadmap fasst Folgendes zusammen:
- Die Projektwellen: pro Quartal oder Halbjahr, mit einem Gleichgewicht zwischen schnellen Erfolgen und grundlegenden Vorhaben.
- Die technischen Voraussetzungen: zu schaffende Anbindungen, zu bereinigende Daten, auszuwählende Tools.
- Die HR-Maßnahmen: Schulung, interne Kommunikation, Rollen, KI-Ansprechperson.
- Die Entscheidungsmeilensteine: Haltepunkte, um ein Projekt zu bestätigen, auszuweiten oder zu beenden.
Gut gepflegt wird sie zu einem echten Steuerungsinstrument, das in der Geschäftsleitungsrunde nachverfolgt wird.
Von der Strategie zur Umsetzung
KI-Beratung endet nicht mit einem Bericht. Der Wert entsteht in der Umsetzung: konzipieren, testen, einführen, industrialisieren.
1. Mit klar abgegrenzten Pilotprojekten beginnen
Statt einer umfassenden Transformation starten Sie Pilotprojekte in beherrschbaren Bereichen:
- Ein begrenzter Umfang: eine Abteilung, eine Art von Vorgängen, eine Kundengruppe.
- Eine kurze Dauer: 8 bis 12 Wochen, mit von Anfang an festgelegten Kennzahlen.
- Die Nutzer im Prozess: gemeinsame Konzeption, regelmäßiges Feedback, schnelle Anpassungen.
Ein Kundenservice kann zum Beispiel einen Assistenten testen, der den Beraterinnen und Beratern Antwortentwürfe vorschlägt. Die in diesem Bereich gemessenen Gewinne dienen anschließend als Argument für die Ausweitung. Der Leitfaden Einen KI-POC aufsetzen: Daten, Risiken, Zeitplan beschreibt diese Phase im Detail.
2. Die richtigen Tools und die richtige Architektur wählen
Das Angebot an Tools ist riesig: Sprachmodelle, Automatisierungsplattformen, Fachanwendungen, Cloud-Dienste, selbst gehostete Lösungen. KI-Beratung hilft dabei:
- Zwischen generisch und spezialisiert abzuwägen: ein Allzweckmodell, das mit Ihren Daten verbunden ist, oder ein Fachtool, das bereits an Ihr CRM angebunden ist.
- Souveränität und Vertraulichkeit zu sichern: europäische Anbieter, Hosting, Verschlüsselung, Anonymisierung.
- Schatten-KI zu vermeiden: unkontrollierte Tools, private Konten, fehlende Regeln.
Das Ziel ist nicht, das beste Modell auf dem Markt zu haben, sondern eine zuverlässige, sichere und wartbare Architektur.
3. Generative KI einrahmen
Generative KI (Texte, Bilder, Code, Audio, Video) hat die Spielregeln verändert. Sie ermöglicht:
- Assistiertes Schreiben: E-Mails, Protokolle, Vertriebsunterlagen, Produktbeschreibungen.
- Dokumentenanalyse: Zusammenfassungen von Verträgen, Informationsextraktion, Versionsvergleiche.
- Entscheidungsunterstützung: Zusammenfassungen, Szenarien, begründete Empfehlungen.
Ohne Rahmen entstehen jedoch Risiken: Datenabfluss, als Fakten dargestellte Fehler, nicht konforme Inhalte. Die Beratung definiert Nutzungsregeln, Leitplanken (menschliche Freigabe bei bestimmten Inhalten) und Prüfprozesse. Konkrete Beispiele finden Sie unter KI im Arbeitsalltag eines Unternehmens nutzen.
4. Den Return on Investment messen und steuern
Ohne Messung bleibt KI ein Versprechen. Rigorose Beratung etabliert von Anfang an:
- Kennzahlen pro Projekt: gewonnene Zeit pro Vorgang, automatisierte Aufgaben, Fehlerquote, Zufriedenheit, Akzeptanz.
- Ein Vorher-nachher-Monitoring: ein Referenzzeitraum, dann dieselbe Messung nach der Einführung.
- Eine einfache ROI-Berechnung: Gewinne (Zeit, Kosten, Umsätze) gegenüber Kosten (Tools, Integration, Schulung).
Die vollständige Methode finden Sie in ROI von KI: wie man ihn berechnet.
Governance, Compliance und Wahl eines Partners
Über die Projekte hinaus wird KI zu einem Governance-Thema. Die Beratung hilft auch dabei, einen dauerhaften Rahmen zu schaffen.
1. Eine KI-Governance einrichten
Eine an die Unternehmensgröße angepasste Governance umfasst in der Regel:
- Einen Sponsor in der Geschäftsleitung: verantwortlich für Ausrichtung und Ressourcen.
- Ein KI-Gremium: Fachbereiche, IT, Recht und Personal, um Prioritäten abzuwägen und Risiken zu verfolgen.
- Ansprechpersonen in den Abteilungen: um Bedarfe weiterzugeben und gute Praktiken zu verbreiten.
In einem KMU kann das Modell schlanker ausfallen, aber die Rollen müssen klar sein.
2. Compliance einbeziehen: Stand des AI Act Ende 2026
Die europäische KI-Verordnung gilt schrittweise, und ihr Zeitplan wurde durch die „Digital Omnibus“-Verordnung (Verordnung (EU) 2026/1744) überarbeitet, die seit dem 27. Juli 2026 in Kraft ist:
- Seit dem 2. Februar 2025: Bestimmte Praktiken sind verboten.
- Seit dem 27. Juli 2026: Artikel 4 verlangt Maßnahmen zur Förderung der KI-Kompetenz der Teams, ohne Erfolgspflicht.
- Seit dem 2. August 2026: Die Transparenzregeln des Artikels 50 gelten.
- Am 2. Dezember 2027: Die Pflichten für Hochrisiko-Systeme nach Anhang III (Recruiting, Kreditvergabe, Bewertung von Personen) werden anwendbar.
- Am 2. August 2028: KI, die in bereits regulierte Produkte integriert ist.
Die Beratung umfasst daher einen Compliance-Teil: Systeme identifizieren, die Entscheidungen über Personen beeinflussen, Anwendungen und ihre Grenzen dokumentieren, Verzerrungen durch regelmäßige Überprüfungen vorbeugen. Dazu gehören auch eine Nutzungsrichtlinie, menschliche Kontrolle und die Schulung der Führungskräfte.
3. Einen passenden KI-Beratungspartner wählen
Einige Kriterien leiten die Wahl:
- Fachverständnis: die Sprache Ihrer Teams sprechen und Ihre Rahmenbedingungen verstehen.
- Konkrete Erfahrung: Anwendungsfälle im Produktivbetrieb, nicht nur Tests.
- Ein pragmatischer Ansatz: auf den Nutzen fokussiert, transparent bei den Grenzen.
- Begleitung des Wandels: Schulung, Kommunikation, gemeinsame Entwicklung mit den Teams.
Der Artikel KI-Dienstleister auswählen: die wichtigsten Kriterien liefert die Liste der Fragen, die Sie stellen sollten.
Häufige Fragen
Was kostet eine KI-Beratung im Unternehmen?
Die Kosten hängen von der Unternehmensgröße, dem Umfang der Diagnose und der Zahl der begleiteten Anwendungsfälle ab. Für ein KMU entsprechen eine erste Diagnose und eine Roadmap einigen Tagen bis wenigen Wochen Beratungsarbeit. Entscheidend ist, diese Kosten ins Verhältnis zu den erwarteten Gewinnen zu setzen: Ein einziger gut gewählter Anwendungsfall kann genügen, um sie zu amortisieren.
Wie lange dauert es, bis konkrete Ergebnisse sichtbar sind?
Bei gut gewählten Anwendungsfällen liegen die ersten Ergebnisse oft nach zwei bis drei Monaten vor, so lange dauert es, ein Pilotprojekt zu konzipieren und zu testen. Die Industrialisierung dauert danach je nach technischer Komplexität und Ausmaß des Wandels 6 bis 18 Monate.
Braucht man schon ein Data-Team, um zu starten?
Nein. Viele KMU und mittelgroße Unternehmen starten ohne internes Data-Team, mit einem externen Partner und sofort einsetzbaren Tools. Nützlich ist es jedoch, von Anfang an interne Ansprechpersonen zu benennen, die Kompetenzen aufbauen und die Organisation nach und nach unabhängig machen.
Muss die KI-Beratung den AI Act abdecken?
Ja, zumindest um zu prüfen, dass kein geplanter Einsatz unter eine verbotene Praxis oder unter Hochrisiko fällt, und um die Schulung der Teams und die Transparenz gegenüber den Kunden umzusetzen. Für die meisten gängigen Anwendungen bleibt dieser Aufwand gering.



