Wie wir ein AI-Betriebssystem mit Langdock integriert haben

– und warum schnell wachsende Unternehmen mehr brauchen als nur Tools

Als ich den CEO zum ersten Mal traf, war es bei einer gesellschaftlichen Veranstaltung. Er sagte zu mir, fast schon vertraulich:

„Wir wollen ein AI-first-Unternehmen werden… aber ehrlich gesagt wissen wir nicht, wie das in der Praxis funktionieren soll.“

Ein paar Wochen später stand ich im Workshopraum. Und sah genau das, was ich heute in vielen Unternehmen sehe:

Ein Team voller Ideen. 

Ein Whiteboard voller Post-its. 

Und null Klarheit, wie AI in die tägliche Arbeit passen soll.

Alle wollten AI. Niemand wusste, wo man anfangen soll. Und die bestehenden Prozesse waren schlicht nicht für AI gebaut.

Das ist die Geschichte, wie wir aus diesem Chaos ein strukturiertes AI-Betriebssystem geschaffen haben – mit Assistenten, Agents, Governance, einer gemeinsamen Prompt-Bibliothek und, am wichtigsten: Menschen, die sich sicher fühlen, AI täglich einzusetzen.

Vielleicht hilft es auch dir zu sehen, was deine Organisation wirklich braucht.

1. Das Unternehmen: Schnell wachsend, international und bereit für eine AI-First-Strategie

Der Kunde (anonymisiert) ist ein internationales, schnell wachsendes Unternehmen mit 22 Mitarbeitenden an verschiedenen Standorten. Das schnelle Wachstum brachte steigende Komplexität – und die Notwendigkeit, interne Abläufe zu standardisieren.

Ihre Vision war klar:

„Wir wollen eine AI-first-Policy einführen, um Prozesse zu optimieren und die manuelle Arbeit zu reduzieren.“

Doch der Ausgangspunkt war weit davon entfernt:

• Die Hälfte des Teams nutzte ChatGPT heimlich, ohne Erlaubnis.

• Die andere Hälfte hatte Angst vor AI oder misstraute ihr.

• Datenschutz war unklar.

• Jede Abteilung hatte ein anderes AI-Reifelevel.

• Niemand wusste, welche Tools erlaubt oder sicher waren.

Der typische Anfangszustand vieler Organisationen.

Nicht die Technologie fehlt – es fehlt die Struktur.

Und genau diese Struktur baue ich gemeinsam mit meinen Kunden.

2. Schritt 1: Die Business Requirements verstehen (bevor wir auch nur ein Tool auswählen)

Bevor wir irgendeine Technologie bewertet haben, haben wir zugehört.

Wir analysierten:

• die wichtigsten AI-Anwendungsfälle

• die Bedürfnisse jeder Abteilung

• aktuelle und zukünftige Datenschutzanforderungen

• bestehende Workflows, Engpässe und manuelle Schritte

• sensible interne Informationen, die niemals extern verarbeitet werden dürfen

• Risiken und Erfolgskriterien

• die organisatorische Bereitschaft für eine AI-first-Policy

Ein Satz hat die ganze Analyse geleitet:

AI muss Komplexität reduzieren – nicht neue schaffen.

Diese Vorarbeit hat verhindert, dass wir der Organisation irgendein Tool „überstülpen“. Wir haben ein System entworfen, das zum Unternehmen passt – nicht umgekehrt.

3. Warum wir ein AI-Betriebssystem brauchten (und warum Langdock)

Nach der Analyse war klar:

Sie brauchten nicht „das nächste AI-Tool“. Sie brauchten eine Architektur, eine zentrale Plattform, die definiert:

• welche Modelle genutzt werden

• wie Daten verarbeitet werden

• wer welche Berechtigungen hat

• wie Assistenten funktionieren

• wie Prompts standardisiert werden

• wie Prozesse sicher bleiben

• wie Token, Kosten und Logs kontrolliert werden

Kurz gesagt: ein AI-Betriebssystem.

Langdock erfüllte die Anforderungen am besten:

• starker Fokus auf deutschen Datenschutz

• Unterstützung mehrerer Modelle (ChatGPT, Claude, Gemini usw.)

• Möglichkeit, eigene Unternehmens-Assistenten und Agents zu bauen

• klare Governance und Benutzerrollen

• stabile Umgebung für textbasierte Anwendungsfälle

• eine Oberfläche, mit der nicht-technische Teams sofort arbeiten können

• stabile APIs für zukünftige Prozessautomatisierung

Wir haben bewusst ein modulares Ökosystem gewählt:

• Langdock für textbasierte Workflows

• ein spezielles Tool für Bildgenerierung

• ein Tool für Folienerstellung

• eine Lösung für Meetingnotizen und Transkripte

• interne Datenbanken, die mit bestimmten Assistenten verknüpft sind

AI ist kein einzelnes Tool. AI ist eine designde Infrastruktur.

4. Schritt 3: Die wirklich wertvollen Use Cases finden

Die Liste der Ideen war lang – sehr lang.

Wir filterten nach:

• Häufigkeit der Aufgabe

• messbarem Impact

• einfacher Integration in bestehende Workflows

• Datenschutz- und Compliance-Anforderungen

• Potenzial zur Qualitätsverbesserung

• Aufwand im Verhältnis zum Nutzen

Wir entfernten alle Use Cases, die zwar spannend klangen, aber wenig verändern würden.

Viele AI-Projekte scheitern genau hier: Das Tool funktioniert – aber der Prozess nicht.

5. Schritt 4: Die skalierbare Prompt-Bibliothek

Ein Betriebssystem braucht Standards, keine Improvisation.

Wir erstellten eine zentrale Prompt-Bibliothek:

• nach Abteilungen strukturiert

• mit klaren, einheitlichen Namen

• verständlich beschrieben

• verknüpft mit den richtigen Assistenten

• einfach erweiterbar

• abgestimmt auf die Unternehmenssprache

• mit Regeln zur sicheren Nutzung

Eine gute Prompt-Bibliothek ist wie ein Playbook. Ohne sie erfindet jeder Mitarbeitende jeden Tag das Rad neu.

6. Schritt 5: Aufbau der Assistenten und Agents

Mit der Struktur im Hintergrund begannen wir, die Systeme zu bauen.

Beispiele für Assistenten:

• Kommunikations-Assistent für Kundenkontakt

• Assistent für erste Entwürfe von Social-Media-Posts

• Onboarding-Assistent für neue Mitarbeitende

• Assistent, der komplexe interne Systeme einfach erklärt

• interner Wissenssuch-Assistent

• Assistent zur Verbesserung interner Richtlinien

Beispiele für Agents:

• Rechnungsagent zur Vorprüfung und Klassifikation

• E-Mail-Posteingangsagent

• Meeting-Agent, der To-dos und Entscheidungen aus Transkripten extrahiert

• Admin-Agent für repetitive interne Aufgaben

Hier spüren Unternehmen zum ersten Mal die echte Wirkung: 

Aufgaben, die vorher Stunden kosteten, laufen jetzt im Hintergrund – sicher, transparent, nachvollziehbar.

7. Schritt 6: AI Literacy – der echte Wendepunkt

Nach dem technischen Setup wurde schnell klar:

Das System allein reicht nicht. Die Menschen brauchen Wissen, Sicherheit und ein gemeinsames Verständnis.

Wir trainierten das Team in:

• Grundlagen, wie AI funktioniert

• wie gute Prompts formuliert werden

• wie man Ergebnisse bewertet

• wie man Daten verantwortungsvoll verarbeitet

• wo die Grenzen und Risiken liegen

• wie Assistenten als Partner genutzt werden, nicht als Entscheider

Und an diesem Punkt veränderte sich spürbar etwas:

AI hörte auf, „unsicher“ oder „mystisch“ zu sein. Es wurde ein normales Werkzeug. Ein Werkzeug, das jeder verstehen und kontrollieren kann.

8. Die Herausforderungen, über die kaum jemand spricht

AI verändert Rollen, Erwartungen und Routinen. Das braucht Zeit, Kommunikation und Empathie.

1. Integration von KI in bestehende Prozesse

Man kann KI nicht einfach „darüberlegen“.

 Manchmal müssen Prozesse neu gestaltet werden.

 Manchmal müssen Teams Gewohnheiten ablegen, die nicht mehr sinnvoll sind.

2. Kostenvorhersage auf Basis der Token-Nutzung

Eine nutzungsbasierte Preisgestaltung kann schwierig zu prognostizieren sein, insbesondere für Agenten, die viele Male pro Tag ausgeführt werden.

 Meiner Erfahrung nach ist Langdock für kleine Teams eine sehr gute und kosteneffiziente Wahl.

 Für größere Unternehmen können Plattformen mit Pauschalmodellen für Anwendungsprogrammierschnittstellen (APIs) und Agenten die Budgetierung erleichtern.

3. Die Wissensdatenbank sauber halten

KI ist nur so gut wie die Informationen, die sie erhält.

 Ein Teil der Arbeit besteht darin, Wissen so zu strukturieren, dass Systeme – und Menschen – damit arbeiten können.

4. Change Management und Emotionen

KI verändert die Art und Weise, wie Menschen arbeiten und wie sie ihre Rolle sehen.

 Das erfordert Kommunikation, Transparenz und viel Zuhören.

9. Die Ergebnisse – was sich wirklich verändert hat

Nach der Implementierung:

• weniger repetitive Arbeit

• schnelleres, konsistenteres Onboarding

• höhere Qualität in Kommunikation und Texten

• mehr Eigenständigkeit im Team

• ein zentraler Ort für Prompts und Wissen

• klare Zuständigkeiten für Assistenten

• mehr Produktivität ohne Mehrbelastung

• Mitarbeitende, die sich sicher und informiert fühlen

Wir haben kein Tool eingeführt. Wir haben ein AI-Betriebssystem für die gesamte Organisation gebaut.

10. Warum das für dein Unternehmen wichtig ist

AI ersetzt Menschen nicht. Aber Menschen, die mit AI arbeiten, werden diejenigen überholen, die weiterhin alles manuell machen.

Damit das gelingt, braucht es:

• eine klare Strategie

• das richtige Betriebssystem

• gute Use Cases

• Standards und Governance

• AI Literacy im gesamten Team

Genau das ist meine Arbeit mit kleinen und mittelständischen Unternehmen, die von:

„Wir sollten irgendwas mit AI machen“ zu „Wir wissen genau, wie AI uns jeden Tag unterstützt“ kommen wollen.

11. Wenn du dein eigenes AI-Betriebssystem aufbauen möchtest

Wenn du dir Fragen stellst wie:

• Wo sollen wir überhaupt anfangen?

• Welche Tools passen zu uns?

• Wie integrieren wir AI in unsere bestehenden Prozesse?

• Wie stellen wir sicher, dass Mitarbeitende AI sicher und verantwortungsvoll nutzen?

…dann lass uns sprechen.

Ich unterstütze Unternehmen bei:

• der Analyse von Business- und Prozessanforderungen

• der Auswahl und Architektur eines AI-Betriebssystems

• dem Aufbau von Assistenten und Agents

• der Strukturierung von Wissen

• AI Literacy Schulungen

Wenn das zu deiner Organisation passt, melde dich gerne – hier auf LinkedIn oder über meine Website.

Je früher ihr euer AI-Fundament baut, desto schneller kann euer Team darauf wachsen.