Was ist KI? Künstliche Intelligenz einfach erklärt, mit Beispielen aus dem Mittelstand

Was ist KI und wofür steht die Abkürzung?

KI steht für künstliche Intelligenz. Im Englischen heißt dasselbe artificial intelligence, abgekürzt AI. Gemeint ist Software, die Aufgaben übernimmt, für die man sonst menschliches Denken braucht: Texte verstehen und schreiben, Fragen beantworten, aus Daten Schlüsse ziehen. KI und AI bezeichnen dieselbe Sache in zwei Sprachen.

Im deutschsprachigen Raum begegnen Ihnen beide Kürzel nebeneinander. Die Fachpresse schreibt KI, Produktnamen und Preislisten behalten häufig AI bei. Ein inhaltlicher Unterschied steckt nicht dahinter. Wichtiger ist eine andere Abgrenzung: KI ist weder ein Roboter noch ein Bewusstsein, sondern Statistik in sehr großem Maßstab.

Benutzt haben Sie die Technik längst. Der Spamfilter im Postfach, die Routenberechnung im Navigationsgerät, die Gesichtserkennung im Smartphone: alles KI-Systeme, und keines davon war je eine Schlagzeile wert. Geändert hat sich seit Ende 2022 die Bedienung. Die Modelle lassen sich in normaler Sprache ansprechen, und damit wurde aus einer Ingenieursdisziplin ein Werkzeug für die Sachbearbeitung.

Drei Begriffe werden im Alltag durcheinandergebracht. Die Abgrenzung lohnt sich, weil Angebote und Preise davon abhängen, welche Ebene gemeint ist.

Zwei weitere Begriffe tauchen in fast jedem Angebot auf. Generative KI ist der Sammelname für Modelle, die neue Inhalte erzeugen: Text, Bild, Code. AGI beschreibt ein System, das jede geistige Aufgabe auf menschlichem Niveau löst. Ein solches System existiert nicht. Alles, was heute verkauft wird, ist schwache KI: in einer eng definierten Aufgabe stark, außerhalb davon blind.

Wie funktioniert ein Sprachmodell?

Ein Sprachmodell hat an sehr großen Textmengen gelernt, welches Wortstück (genauer: welches Token) nach einem gegebenen Textabschnitt am wahrscheinlichsten folgt. Diese Vorhersage wiederholt es Stück für Stück, bis eine Antwort dasteht. Die Welt versteht es dabei nicht wie ein Mensch. In der Anwendung ist das Ergebnis trotzdem brauchbar.

Praktisch heißt das: Das Modell fasst einen Vertrag über 40 Seiten zusammen, beantwortet eine Kundenfrage aus Ihrer Dokumentation oder schreibt einen Angebotsentwurf im Stil Ihrer bisherigen Angebote. Beim Training hat es neben der Sprache auch sehr viel Faktenwissen und Argumentationsmuster mitgenommen.

Für den betrieblichen Einsatz zählen zwei Dinge. Erstens der Prompt, also die Anweisung: Je genauer Sie Kontext, gewünschtes Format und ein Beispiel mitgeben, desto brauchbarer fällt die Antwort aus. Zweitens der Wissensstand. Über Ihre Preise, Verträge und Abläufe weiß das Modell nichts. Deshalb verbindet man es mit den eigenen Dokumenten. Dieses Verfahren heißt RAG (retrieval-augmented generation) und ist der häufigste KI-Bauauftrag im Mittelstand. Wie das technisch aussieht, steht in unserem Beitrag zu RAG-Systemen und internen Wissensdatenbanken.

Aus dem Funktionsprinzip folgen die Grenzen. Stark ist ein LLM bei allem, was Textarbeit ist: zusammenfassen, übersetzen, umformulieren, einsortieren. Schwach wird es beim exakten Rechnen, bei tagesaktuellen Fakten und überall dort, wo jemand haften muss. Dafür nutzt man nicht das Modell allein, sondern das System darum herum: Datenbankanbindung, Prüfschritte, Freigabe durch einen Menschen. Anthropic hat gemessen, dass die Kombination aus hybrider Suche und Reranking die Fehlerquote beim Auffinden der richtigen Textstelle von 5,7 % auf 1,9 % senkt. Solche Zahlen entstehen im Systemdesign, nicht im Modell.

Wie weit ist der deutsche Mittelstand mit KI?

Nach der Bitkom-Erhebung vom 11.03.2026 setzen 41 % der deutschen Unternehmen KI ein, ein Jahr zuvor waren es 17 %. Weitere 48 % planen oder diskutieren den Einsatz. Die Zahlen stammen aus einer repräsentativen Telefonbefragung unter 604 Unternehmen ab 20 Beschäftigten.

Andere Erhebungen kommen auf andere Werte, weil sie anders zählen. Das ifo Institut meldet für Juni 2026 eine KI-Nutzung von 47,2 % im Mittelstand und hält fest, dass nur 18,7 % ein eigenes KI-System entwickeln; rund drei Viertel kaufen eine externe Lösung ein. Der DMB-KI-Index Mittelstand 2026 zählt 16,6 % der mittelständischen Unternehmen, die bereits autonome KI-Systeme betreiben, nach 8,7 % im Jahr 2024. Wenn Sie solche Prozentwerte lesen, prüfen Sie immer die Stichprobe mit.

Die Ernüchterung gehört zum Bild. Die DIHK-Digitalisierungsumfrage 2026 unter rund 5.000 Unternehmen kommt darauf, dass 81 % die Messung des KI-Return-on-Investment für schwierig halten und mehr als drei Viertel bisher keine messbare Rendite gesehen haben; diese Werte liegen uns nur über Sekundärzusammenfassungen vor, die DIHK-Originalauswertung war nicht abrufbar. Eine MIT-Untersuchung vom Juli 2025 fand bei 95 % der untersuchten generativen KI-Pilotprojekte keinen messbaren Ergebnisbeitrag. Wer Ihnen KI ohne Zahlenwerk verkauft, verkauft Ihnen ein Projekt aus dieser Quote.

Wofür setzt ein mittelständisches Unternehmen KI konkret ein?

Am schnellsten rechnen sich Aufgaben mit hohem Volumen, festem Muster und Textbezug. Sechs Felder decken den Großteil der Projekte ab: Kundenservice, Angebotserstellung, Belegverarbeitung, Bedarfsprognose, Marketingtexte sowie die interne Wissenssuche. Eine ausführlichere Übersicht für Entscheider steht in unserem Leitfaden zu künstlicher Intelligenz im Unternehmen.

1. Chatbot im Kundenservice

Ein Chatbot, der auf Ihren FAQ und Handbüchern arbeitet, beantwortet wiederkehrende Fragen rund um die Uhr und gibt den Rest an einen Menschen weiter. Für den deutschen Markt kommt eine Pflicht hinzu: Seit dem 02.08.2026 gilt Art. 50 der KI-Verordnung. Nutzer müssen erkennen können, dass sie mit einer Maschine sprechen.

2. Angebote vorbereiten

Das Modell zieht die Parameter aus der Anfrage und erstellt aus früheren Angeboten einen Entwurf. Der Vertrieb prüft und korrigiert, statt vor einer leeren Seite zu sitzen. Wie groß der Zeitgewinn ausfällt, hängt daran, wie einheitlich Ihre bisherigen Angebote aufgebaut sind. Wer jedes Angebot frei formuliert, gewinnt hier wenig.

3. Rechnungs- und Belegverarbeitung

Hier gibt es belastbare Vergleichszahlen. Ardent Partners beziffert die Verarbeitungskosten einer einzelnen Eingangsrechnung im Schnitt auf 9,40 US-Dollar, beim besten Viertel auf 2,78 US-Dollar; die Durchlaufzeit liegt bei 9,2 gegenüber 3,1 Tagen. Auf die Erfassung entfallen 30 bis 35 % der Kosten, auf die Klärung von Ausnahmen 20 bis 25 %. Genau diese beiden Blöcke greift eine KI an. Solche Strecken bauen wir regelmäßig gegen nationale Meldeschnittstellen der Finanzverwaltung, in Ungarn etwa gegen die Echtzeit-Rechnungsmeldung; die Architektur lässt sich auf andere Meldepflichten übertragen.

4. Bedarfs- und Bestandsprognose

Aus historischen Verkaufsdaten schätzt ein ML-Modell die Nachfrage. Das Ergebnis ist weniger gebundenes Kapital und seltener ein leeres Regal. Hier arbeitet klassisches maschinelles Lernen, kein Sprachmodell. Das ist deshalb relevant, weil die Datenqualität den Ausschlag gibt und nicht die Modellwahl.

5. Marketing- und Produkttexte

Erstfassungen für Produktbeschreibungen, Anzeigen und Newsletter entstehen in Minuten, das Team redigiert. Bei allem, was veröffentlicht wird, bleibt die inhaltliche Verantwortung im Haus. Unsere Erfahrung: Der Gewinn liegt im Entwurf, nicht im fertigen Text.

6. Interne Wissenssuche

Ein RAG-System macht Richtlinien, alte Projektunterlagen und frühere Angebote durchsuchbar. Die Kollegen fragen in normaler Sprache und bekommen eine Antwort mit Quellenangabe. Das ist der Anwendungsfall mit dem geringsten Risiko, denn eine falsche Antwort fällt intern auf und nicht beim Kunden.

Das Muster ist in allen sechs Fällen dasselbe. Wo wöchentlich Stunden in gleichartige E-Mails, Belege oder Fragen fließen, liegt eine automatisierbare Schicht. Wo jede Aufgabe anders aussieht, liegt keine.

Was kostet die Einführung von KI?

Aus unserer Preisliste: Ein Chatbot mit Prozessautomatisierung liegt bei rund 2.750 bis 8.250 EUR, eine RAG-Wissensdatenbank bei rund 8.250 bis 22.000 EUR, eine individuell entwickelte KI-Lösung bei rund 13.750 bis 41.300 EUR. Alle Beträge netto. Den Festpreis legen wir nach einem kostenlosen Erstgespräch fest.

Dazu kommt der laufende Betrieb: Modellkosten nach Verbrauch, Hosting, Wartung. Zur Größenordnung eine eigene Modellrechnung auf Basis der offiziellen Anbieterpreislisten (Stand 14.08.2026): Bei 500 Chatverläufen im Monat liegen die reinen Modellkosten eines RAG-Chatbots je nach gewähltem Modell zwischen rund 1,30 EUR und 27 EUR monatlich. Der Aufwand steckt also nicht im Token-Verbrauch, sondern in Integration, Prüflogik und Betrieb.

Bevor Sie ein Budget freigeben, lohnt die Gegenrechnung. Gartner erwartet, dass bis Ende 2027 mehr als 40 % der Projekte mit autonomen KI-Agenten abgebrochen werden, überwiegend wegen unklarem Geschäftsnutzen und unterschätzter Kosten. Ein eng geschnittener Erstauftrag schützt davor besser als ein großer Rahmenvertrag.

Ist der Einsatz von KI mit Unternehmensdaten DSGVO-konform?

Ja, wenn der Rahmen stimmt. Lassen Sie personenbezogene Daten durch einen Dienstleister verarbeiten, brauchen Sie nach Art. 28 DSGVO einen Auftragsverarbeitungsvertrag, der zehn Pflichtinhalte regelt. Fehlt er oder ist er fehlerhaft, drohen bis zu 10 Mio. EUR oder 2 % des weltweiten Jahresumsatzes.

Diese Sorge ist in Deutschland der größte Bremsklotz: 77 % der von Bitkom befragten Unternehmen nennen Datenschutzanforderungen als wichtigstes externes Hindernis. Beim Cloud-Bezug fällt das Bild noch deutlicher aus. Im Bitkom Cloud Report 2026 sagen 98 % der Befragten, die Herkunft des Anbieters spiele eine Rolle; 91 % würden einen deutschen, 68 % einen europäischen Anbieter bevorzugen, während heute 71 % einen US-Anbieter nutzen.

Für die Umsetzung sind zwei Punkte entscheidend. Erstens der Vertrag: Die geschäftlichen Schnittstellen von OpenAI und Anthropic trainieren laut Anbieterbedingungen nicht auf Ihren Eingaben, die kostenlosen Verbraucherversionen sind eine andere Sache und gehören nicht in den Betrieb. Zweitens der Ort der Verarbeitung: EU-Hosting, ein Modell im eigenen Rechenzentrum oder eine Mischform aus beidem. Wir arbeiten aus Ungarn, also aus einem EU-Mitgliedstaat. Für einen deutschen Auftraggeber bedeutet das keinen Drittlandtransfer, keine Standardvertragsklauseln und kein Transfer Impact Assessment.

Seit dem 02.08.2026 kommt die Transparenzpflicht aus Art. 50 der KI-Verordnung dazu: Wer mit einem Chatbot spricht, muss das erkennen können, und synthetische Inhalte müssen maschinenlesbar gekennzeichnet sein. Für Systeme, die vor diesem Stichtag im Markt waren, läuft die Kennzeichnungsfrist am 02.12.2026 ab. Die Pflichten für Hochrisiko-Systeme hat die Änderungsverordnung (EU) 2026/1744 verschoben, die Transparenzpflichten nicht. Wie sich das auf einen Kundenchat auswirkt, steht in unserem Beitrag zum DSGVO-konformen KI-Chatbot mit EU-Hosting.

Welche Annahmen über KI stimmen nicht?

„Die KI nimmt uns die Arbeit weg“

KI löst Teilaufgaben ab, keine Berufe. Wiederkehrende Schritte lassen sich automatisieren; Entscheidung unter Unsicherheit, Kundenbeziehung und Haftung bleiben menschlich. In den Projekten, die wir begleiten, ist das übliche Ergebnis ein höheres Volumen bei gleicher Teamgröße.

„Sprachmodelle erfinden ständig Dinge“

Halluzination ist real, und sie verschwindet nicht von selbst. Sie wird kleiner, wenn das Modell aus Ihren Dokumenten arbeitet, Quellen mitliefert und bei hohem Einsatz ein Mensch freigibt. Die Anthropic-Messung oben zeigt die Größenordnung: von 5,7 % auf 1,9 % Fehlerquote allein durch besseres Retrieval.

„Das lohnt sich erst ab Konzerngröße“

Die ifo-Zahlen sprechen dagegen: 47,2 % der mittelständischen Unternehmen nutzen KI, und nur 18,7 % entwickeln selbst. Die Eintrittsschwelle liegt beim Einkauf, nicht beim Aufbau einer eigenen Data-Science-Abteilung. Entscheidend ist, ob eine klar abgegrenzte, wiederkehrende Aufgabe existiert.

Wie fangen Sie als Unternehmen an?

In drei Schritten, ohne großes Budget. Zuerst benennen Sie zwei wiederkehrende Aufgaben mit mindestens fünf Stunden Aufwand pro Woche. Dann testen Sie diese zwei Wochen lang von Hand mit einem Abo. Erst danach beauftragen Sie ein eng geschnittenes Pilotprojekt mit vorher festgelegten Erfolgskriterien.

1. Aufgaben benennen. Angebotserstellung, Ticketbeantwortung oder Reportaufbereitung sind die üblichen Kandidaten. Wichtig ist, dass Sie den heutigen Aufwand in Stunden beziffern können. Ohne Ausgangswert gibt es später keine Messung, und ohne Messung keine Entscheidung.
2. Zwei Wochen von Hand testen. Mit einem ChatGPT- oder Claude-Abo, ohne jede Integration. Funktioniert eine der Aufgaben überzeugend, haben Sie eine Grundlage. Funktioniert keine, haben Sie sich ein Projekt gespart.
3. Pilot beauftragen. Ein Anwendungsfall, feste Abnahmekriterien, Werkvertrag mit definierter Abnahme. Die MIT-Untersuchung von 2025 fand für Projekte mit internem Fachverantwortlichen und externem Partner eine Erfolgsquote von 67 %, gegenüber 22 % bei rein intern gebauten Systemen. Genau so arbeiten wir in der KI-Entwicklung.

In Zeit und Geld heißt das: Die ersten beiden Schritte kosten zwei Abonnements und ein paar Arbeitsstunden. Der Pilot kostet einen Bruchteil der Vollausbaustufe und beantwortet die einzige Frage, die zählt, nämlich ob die Rechnung aufgeht. Wer so beginnt, glaubt nicht an KI. Er misst.

Zusammenfassung und häufige Fragen

Quellen

• Bitkom: KI-Nutzung in der deutschen Wirtschaft, 604 Unternehmen ab 20 Beschäftigten (11.03.2026)
• ifo Institut: KI-Nutzung und Eigenentwicklung in deutschen Unternehmen (05.06.2026)
• DMB: KI-Index Mittelstand 2026, autonome KI-Systeme (09.03.2026)
• Bitkom Cloud Report 2026: Herkunft des Cloud-Anbieters, 603 Unternehmen (17.06.2026)
• DIHK-Digitalisierungsumfrage 2026, rund 5.000 Unternehmen (Sekundärzusammenfassung)
• MIT Project NANDA: The GenAI Divide, State of AI in Business (Juli 2025)
• Gartner: Abbruchprognose für Projekte mit KI-Agenten (25.06.2025)
• Anthropic: Contextual Retrieval, Fehlerquote 5,7 % auf 1,9 % (19.09.2024)
• Anthropic: offizielle Modellpreise je Million Token
• Ardent Partners über WEX: Kosten und Durchlaufzeit der Rechnungsverarbeitung (20.07.2026)
• IOFM-Benchmark über Lido: Kostenanteil von Erfassung und Ausnahmeklärung (22.07.2026)
• Art. 28 DSGVO: Auftragsverarbeitung und Pflichtinhalte des AVV
• Bird & Bird: Art. 50 KI-VO, Transparenzpflichten und Fristen (10.06.2026)
• EUR-Lex: Verordnung (EU) 2026/1744, Digital Omnibus on AI
• Magyar Nemzeti Bank: Mittelkurs vom 14.08.2026, 1 EUR = 363,28 HUF

Wenn Sie bis hierher gelesen haben, wissen Sie über KI mehr als der Durchschnitt der Geschäftsführung. Der nächste Schritt ist kein weiterer Artikel, sondern eine konkrete Aufgabe. Fordern Sie ein kostenloses 30-minütiges Erstgespräch an. Wir sehen uns einen Ihrer Engpässe an und sagen Ihnen, ob sich Automatisierung dort rechnet.