Wo sollte ein mittelständisches Unternehmen mit KI anfangen?

Fang in Marketing und Vertrieb an. Dort nutzen Unternehmen in der EU KI schon am häufigsten, die Arbeit besteht aus Text, ist leicht zu prüfen und rechtlich risikoarm. Benenn eine verantwortliche Person, kauf einen KI-Assistenten im Business-Tarif, fahr 90 Tage lang zwei Piloten und schul alle, die Zugang bekommen, für die KI-Kompetenzpflicht der KI-Verordnung. Dann kommt die nächste Abteilung.

Dieser Ratgeber ist für Inhaber und Geschäftsführer von Unternehmen mit etwa 20 bis 250 Beschäftigten: kein KI-Team, kein Data Scientist, viel Neugier und ein bisschen Sorge wegen der Rechtslage. Der Pillar-Artikel KI im Marketing nutzen, ohne an Qualität zu verlieren behandelt Regeln und Prüfung. Hier geht es um das ganze Unternehmen: wo du anfängst, in welcher Reihenfolge es weitergeht, wer die Arbeit macht, was das erste Jahr kostet und was die KI-Verordnung der EU von dir verlangt.

Wie weit sind kleine und mittlere Unternehmen mit KI?

Weiter, als viele Inhaber denken, und deutlich hinter den großen. Laut Eurostat nutzten 2025 20,0 % der Unternehmen in der EU mit zehn oder mehr Beschäftigten KI, ein Jahr zuvor waren es 13,5 %. Bei kleinen Unternehmen waren es 17,0 %, bei mittleren 30,4 % und bei großen 55,0 %. Deutschland und Österreich liegen über dem EU-Schnitt.

Warum der Rest zögert, ist für Deutschland gut belegt. Das Statistische Bundesamt (Destatis) hat Unternehmen gefragt, die über KI nachgedacht haben, sie aber nicht nutzen. In der Erhebung 2025 nannten 72 % fehlendes Wissen, 62 % unklare rechtliche Folgen und 60 % Bedenken beim Datenschutz. Nur 32 % fanden die Kosten zu hoch.

Diese Reihenfolge zählt für deinen Plan. Wissen und rechtliche Klarheit kommen vor Geld. Deine erste Investition geht also in Menschen und ein paar schriftliche Regeln. Die Software ist der billige Teil.

Warum sollten Marketing und Vertrieb zuerst kommen?

Weil KI dort in Unternehmen wie deinem schon funktioniert. Laut Eurostat setzen 34,7 % der KI-nutzenden Unternehmen in der EU KI in Marketing und Vertrieb ein, 2025 der häufigste Zweck, und genau dort ist der Abstand zwischen kleinen und großen Unternehmen am kleinsten. Die Arbeit besteht aus Text, wiederholt sich jede Woche und ist leicht zu prüfen.

• Das Material passt zu den Werkzeugen. Unter den deutschen Unternehmen, die KI nutzen, zählt Destatis 52 % mit Textanalyse und 52 % mit der Erzeugung von Bildern, Videos oder Audio. Texte und Bilder sind genau das, was Marketing und Vertrieb jeden Tag produzieren.
• Ein Mensch kann das Ergebnis prüfen. Eine Vertriebsleiterin liest einen KI-Entwurf für ein Angebot in Minuten. Eine falsche Prognose in der Produktion fällt viel schwerer auf.
• Das rechtliche Risiko ist gering. Typische Marketing-Einsätze sind nach der KI-Verordnung kein Hochrisiko. KI, die Bewerbungen sichtet, schon. Deshalb wartet HR.
• Das Team sieht früh Ergebnisse. Meine Meinung: Das zählt in einem Unternehmen ohne KI-Team am meisten. Ein besseres Angebot oder eine schärfere Website-Seite in Woche sechs überzeugt mehr Leute als jedes Strategiepapier.

Es gibt einen zweiten Grund, warum ich dort anfangen würde. Meine Meinung: Mit KI lässt sich Marketing heute mit deutlich weniger Leuten betreiben als früher. Für ein mittelständisches Unternehmen, das nie eine volle Marketingabteilung hatte, ist das die größte einzelne Veränderung durch KI. Welche Marketingprozesse du auswählst und wie du sie aufsetzt, steht im Ratgeber wo ein B2B-Unternehmen mit KI im Marketing anfangen sollte.

Welche Abteilungen kommen nach dem Marketing?

Geh vom Marketing aus nach außen, sortiert nach Prüfbarkeit und Risiko. Als Nächstes kommen Vertrieb und Kundenservice, dann Verwaltung und Finanzen, dann die Produktion. Alles, was über Menschen entscheidet, etwa das Recruiting, kommt zuletzt. Die KI-Verordnung stuft KI für Recruiting und für Entscheidungen über Beschäftigte als Hochrisiko ein. Dieser Bereich wartet, bis dein Team mit KI umgehen kann.

Die Eurostat-Daten zu den Zwecken zeigen dieselbe Reihenfolge in der Praxis. Nach Marketing und Vertrieb setzen KI-nutzende Unternehmen in der EU KI für Geschäftsverwaltung und Management ein (31,1 %), für Rechnungswesen, Controlling oder Finanzen (23,1 %) und für Produktionsprozesse (20,8 %). Logistik kommt mit 6,1 % zuletzt.

Ein Wort zum Kundenservice. Ein Chatbot auf der Website ist als erstes Projekt verlockend. Ich würde warten. Er spricht ohne Menschen dazwischen mit Kunden, berührt oft personenbezogene Daten, und Artikel 50 der KI-Verordnung verlangt, dass Menschen erfahren, wenn sie mit einem KI-System interagieren. Fang mit KI an, die Antworten aus deinen eigenen Unterlagen entwirft, und einem Menschen, der sie abschickt.

Wie sieht ein 90-Tage-Plan für KI ohne KI-Team aus?

Neunzig Tage reichen für eine erste Runde. Zwei Wochen für Bestandsaufnahme und Regeln, zwei Wochen für Tool und Schulung, sechs Wochen für zwei Piloten in Marketing und Vertrieb, zwei Wochen zum Messen und Entscheiden. Danach weißt du, was in deinem Unternehmen funktioniert, was es kostet und welche Abteilung als Nächstes dran ist. Diese Zeiträume sind meine Planungsannahmen.

• Woche 1 und 2, Bestand und Regeln. Frag jede Abteilung, welche KI-Tools die Leute schon nutzen, auch private Konten. Wähl zwei Kandidaten-Aufgaben in Marketing und Vertrieb und miss, wie lange sie heute dauern. Schreib eine Regel auf einer Seite zu Tools, Daten und Prüfung.
• Woche 3 und 4, Tool und Schulung. Wähl einen Business-Assistenten mit Auftragsverarbeitungsvertrag. Schul alle, die einen Zugang bekommen, und führ eine Liste, wer wozu geschult wurde.
• Woche 5 bis 10, zwei Piloten. Gute Kandidaten: Angebotsentwürfe aus deinen eigenen Vorlagen, Account-Recherche vor Vertriebsgesprächen, Website- oder LinkedIn-Inhalte aus einem Interview mit deiner besten Fachfrau oder deinem besten Fachmann.
• Woche 11 und 12, messen und entscheiden. Meine Faustregel: Behalte einen Piloten, wenn die Zeit pro Einheit um mindestens ein Viertel sinkt und die Zahl der Korrekturen nicht steigt. Änder ihn, wenn nur eins davon zutrifft. Stopp ihn, wenn keins zutrifft.
• Ab Woche 13, die nächste Abteilung. Nimm das Gelernte mit in den Vertriebsinnendienst oder den Kundenservice, mit denselben Regeln und derselben Messung.

Wer macht die Arbeit, wenn es kein KI-Team gibt?

Eine verantwortliche Person, ein paar Champions und die Rückendeckung der Geschäftsführung. Die verantwortliche Person kennt das Geschäft schon, sie ist keine Neueinstellung. Sie pflegt Regeln und Tool-Liste, führt die Piloten und berichtet die Ergebnisse. Champions in den Abteilungen testen und bringen es den Kollegen bei. Externe Hilfe beschleunigt den Start und sollte sich selbst überflüssig machen.

• Sponsor. Die Geschäftsführung. Legt die Reihenfolge der Abteilungen fest, gibt das Budget frei und sagt laut, dass KI-Nutzung innerhalb der Regeln erwünscht ist.
• KI-Verantwortliche. Oft die Leitung von Marketing, Betrieb oder IT. Meine Faustregel: etwa ein Tag pro Woche in den ersten 90 Tagen, danach ein halber.
• Champions. Eine Person pro Abteilung, die einen Piloten fährt. Sie sammelt, was funktioniert und was scheitert.
• Datenschutz. Gibt das Tool frei und legt den Auftragsverarbeitungsvertrag ab.
• Alle mit Zugang. Werden geschult, wissen, wo die Regeln stehen und wen sie fragen.

Meine Meinung: Die meisten Unternehmen brauchen nicht mehr Software. Sie brauchen bessere Systeme. Für KI heißt das: eine benannte verantwortliche Person, eine schriftliche Regel und ein Prüfschritt, bevor irgendwer ein zweites Tool kauft.

Was kostet das erste KI-Jahr ein mittelständisches Unternehmen?

Weniger an Lizenzen als an Zeit. Für ein Unternehmen mit 80 Beschäftigten und 15 ersten Nutzern kosten die Lizenzen für einen KI-Assistenten im Business-Tarif ein paar tausend Dollar oder Euro im Jahr. Der größere Posten sind die Stunden der verantwortlichen Person, die Schulung und die Piloten. Plan beides ein, sonst liegen die Lizenzen ungenutzt herum.

Ein typisches Szenario, mit Annahmen, die du durch deine eigenen ersetzen solltest: 80 Beschäftigte, 15 Zugänge im ersten Jahr, angenommen 25 US-Dollar pro Zugang und Monat (die Business-Tarife im Ratgeber welche KI-Tools ein Team wirklich braucht liegen bei 20 bis 25 Dollar), eine verantwortliche Person mit einem Tag pro Woche über 13 Wochen und danach einem halben Tag pro Woche, zwei Stunden Schulung pro Nutzer und zwei Piloten mit je zwei Personen.

Die Rechnung zeigt zwei Dinge. Die 32,5 Tage der verantwortlichen Person kosten in fast jedem Unternehmen mit angestellter Führungskraft mehr als die Lizenzen. Und ungenutzte Zugänge machen jeden genutzten teurer. Starte also mit den Leuten aus den Piloten und gib weitere Zugänge nach Bedarf aus.

Was verlangt die KI-Verordnung der EU von einem mittelständischen Unternehmen?

Ein Unternehmen, das KI-Tools nutzt, ist nach der KI-Verordnung ein Betreiber. Für typische Marketing- und Büroarbeit zählen drei Dinge: Maßnahmen für die KI-Kompetenz deiner Leute, Transparenz bei Deepfakes und bestimmten veröffentlichten Texten und deutlich strengere Regeln für Hochrisiko-Einsätze wie das Recruiting. Was folgt, fasst die Verordnung zusammen. Es ist keine Rechtsberatung.

• Wer als KMU zählt. Die Verordnung nutzt die EU-Definition aus der Empfehlung 2003/361: weniger als 250 Beschäftigte und ein Jahresumsatz bis 50 Millionen Euro oder eine Bilanzsumme bis 43 Millionen Euro. Viele Unternehmen, die sich Mittelstand nennen, sind größer.
• KI-Kompetenz, Artikel 4. Seit dem 2. Februar 2025 müssen Anbieter und Betreiber Maßnahmen für die KI-Kompetenz der Beschäftigten ergreifen, die mit KI-Systemen arbeiten. Der Digital-Omnibus, Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat die Pflicht neu gefasst: Unternehmen ergreifen Maßnahmen, die KI-Kompetenz fördern, und der Text sagt jetzt ausdrücklich, dass sie kein bestimmtes Niveau für jede einzelne Person garantieren müssen. Schulung plus Nachweis ist die praktische Antwort.
• Transparenz, Artikel 50. Ab dem 2. August 2026 müssen Betreiber Deepfakes offenlegen, also KI-erzeugte oder manipulierte Bilder, Audio- oder Videoinhalte, die fälschlich als echt erscheinen würden. Auch KI-generierter Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, ist offenzulegen, außer ein Mensch hat ihn geprüft und jemand trägt die redaktionelle Verantwortung.
• Hochrisiko, Anhang III. KI für die Einstellung oder Auswahl von Menschen, etwa zum Sichten von Bewerbungen, und KI für Entscheidungen über Beförderung, Kündigung oder Überwachung von Beschäftigten gilt als Hochrisiko. Seit dem Digital-Omnibus gelten diese Pflichten ab dem 2. Dezember 2027.
• Bußgelder. Für KMU ist jedes Bußgeld auf den niedrigeren Wert aus Prozentsatz und festem Betrag nach Artikel 99 begrenzt. Der Digital-Omnibus dehnt Teile dieser Erleichterungen, auch die Bußgeldgrenze, auf kleine Midcaps aus: weniger als 750 Beschäftigte und bis 150 Millionen Euro Umsatz oder 129 Millionen Euro Bilanzsumme.
• Schweizer Unternehmen. Nach Artikel 2 Absatz 1 Buchstabe c erfasst die Verordnung auch Anbieter und Betreiber außerhalb der EU, wenn die Ergebnisse ihres KI-Systems in der EU verwendet werden. Du verkaufst von Zürich aus nach Deutschland oder Österreich? Frag deine Rechtsberatung.

Datenschutz kommt obendrauf. DSGVO und das Schweizer DSG gelten, sobald personenbezogene Daten in ein KI-Tool gehen. Die Grundlagen stehen im Ratgeber KI im B2B-Marketing starten. Noch einmal: Das hier ist keine Rechtsberatung. Sprich vorher mit deiner Datenschutzbeauftragten oder einem Anwalt.

Was du diese Woche tun kannst

1. Frag jede Abteilungsleitung, welche KI-Tools ihre Leute heute nutzen, private Konten eingeschlossen.
2. Benenn eine KI-verantwortliche Person und blockier ihr für die nächsten 90 Tage einen Tag pro Woche im Kalender.
3. Wähl zwei Kandidaten-Aufgaben in Marketing und Vertrieb und fang an zu messen, wie lange sie dauern.
4. Setz einen Business-Assistenten mit Auftragsverarbeitungsvertrag und ohne Training auf deinen Eingaben auf die Shortlist.
5. Schreib eine KI-Regel auf einer Seite: freigegebene Tools, Daten, die nie hineingehören, wer was prüft.
6. Buch eine zweistündige Schulung für die ersten Nutzer und heb die Teilnehmerliste auf.
7. Prüf, ob irgendwer KI nutzt, um Bewerbungen zu sichten oder Beschäftigte zu bewerten, und setz das auf die Liste für die rechtliche Prüfung.

KI wartet nicht auf die perfekte Strategie, und sie braucht auch keine. Sie braucht eine verantwortliche Person, zwei Piloten, die sich messen lassen, und ein Team, das die Regeln kennt. Du willst einen Blick von außen, wo dein Unternehmen anfangen sollte? Ein eintägiger Momentum Workshop ist genau für diese Entscheidung gebaut.

Häufige Fragen

Lohnt sich KI für ein kleines Unternehmen?

Für die meisten ja, wenn du mit Textarbeit anfängst, die sich jede Woche wiederholt. Laut Eurostat nutzten 2025 schon 17,0 % der kleinen Unternehmen in der EU KI. Unter den deutschen Unternehmen, die über KI nachgedacht haben, sie aber nicht nutzen, hielten laut Destatis nur 18 % sie für nicht sinnvoll. Das größte Hindernis war fehlendes Wissen, mit 72 %.

Brauchen wir für den Start ein KI-Team oder einen Data Scientist?

Nein. Ein KI-Assistent im Business-Tarif braucht keine Entwicklungsarbeit. Was du brauchst, ist eine verantwortliche Person, die das Geschäft kennt, schriftliche Regeln für Tools und Daten und geschulte Nutzer. Spezialisten werden später nützlich, wenn du KI an deine eigenen Systeme oder Daten anschließt, etwa in Produktion oder Kundenservice.

Gilt die KI-Verordnung auch, wenn wir nur ChatGPT nutzen?

Ja. Ein Unternehmen, das ein KI-System im Geschäft einsetzt, ist nach der KI-Verordnung ein Betreiber. Artikel 4 verlangt Maßnahmen für die KI-Kompetenz deiner Leute, Artikel 50 regelt Offenlegungspflichten für Deepfakes und bestimmte veröffentlichte Texte. Die meisten Büro- und Marketing-Einsätze sind kein Hochrisiko. Das ist keine Rechtsberatung.

Mit welchem KI-Tool sollte ein mittelständisches Unternehmen anfangen?

Mit einem allgemeinen Business-Assistenten für alle in den Piloten, ausgewählt danach, wo deine Dokumente und Mails schon liegen. Prüf, dass ein Auftragsverarbeitungsvertrag dabei ist und deine Eingaben nicht fürs Training genutzt werden. Spezialtools kommen erst dazu, wenn ein Pilot zeigt, dass der Assistent bei einer wöchentlichen Aufgabe nicht reicht.

Wie lange dauert es, bis sich KI für ein mittelständisches Unternehmen auszahlt?

Ich kenne keinen verlässlichen öffentlichen Vergleichswert für den Mittelstand, also sei vorsichtig mit Versprechen. Nach 90 Tagen weißt du aber, ob zwei konkrete Aufgaben schneller geworden sind, ohne mehr Korrekturen. Das ist eine gemessene Antwort für dein Unternehmen und eine bessere Grundlage für das nächste Budget als jeder Branchenschnitt.

Quellen

1. Eurostat: 20% of EU enterprises use AI technologies (11 December 2025)
2. Eurostat: The use of artificial intelligence (AI) technologies in the European Union, key results, 2026 edition
3. Destatis: Unternehmen mit Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen (2025)
4. Destatis: Gründe gegen die Nutzung von Technologien der künstlichen Intelligenz nach Beschäftigtengrößenklassen (2025)
5. Regulation (EU) 2024/1689 (Artificial Intelligence Act), EUR-Lex
6. Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI), Amtsblatt vom 24. Juli 2026, EUR-Lex
7. EU AI Act, Article 4: AI literacy (consolidated text)
8. EU AI Act, Annex III: High-risk AI systems
9. EU AI Act, Article 99: Penalties
10. European Commission: SME definition (Recommendation 2003/361)
11. Empfehlung (EU) 2025/1099 der Kommission zur Definition kleiner Midcap-Unternehmen, EUR-Lex