Wir beschäftigen uns bei intercorp. intensiv mit dem Thema Automatisierung, bauen und betreiben KI-Lösungen für Kunden, experimentieren mit lokalen Modellen, RAG und allen möglichen Szenarien, die vor ein paar Jahren bestenfalls irgendwo in einem Informatik-Labor einer Uni für Semesterarbeiten herhalten mussten.
Man könnte also denken, dass bei uns selbst alles ganz hervorragend automatisiert und aufgeräumt sein müsste. Der geneigte Leser ahnt: Dem ist nicht so. Ein besonders schönes Beispiel ist unsere Projektkommunikation. Die funktioniert zwar für unsere Partner sehr zufriedenstellend. Aber wir kriegen zunehmend die Krise.
Das Dienstleister-Dilemma: Es alles recht machen wollen
Wir arbeiten seit über einem Vierteljahrhundert als Dienstleister für unterschiedliche Branchen und Kunden. Und wir haben uns dabei immer bemüht, möglichst flexibel zu sein bezüglich Kommunikationskanälen.
Wenn der Kunde Teams benutzt, kommunizieren wir halt über Teams. Andere arbeiten mit Slack; manche trauen sich, Whatsapp in den Business-Alltag zu integrieren (pfui). Wir selbst betreiben für uns eine Mattermost-Instanz, und sowohl für uns als auch einige Kunden einen Mailserver basierend auf OpenSource-Komponenten wie Postfix oder Dovecot. Für Projekte, Aufgaben, Zeiterfassung und Planung verwenden wir seit über zehn Jahren eine selbst gehostete und stark modifizierte Version eines käuflich erworbenen PM-Tools. Dann gibt es noch Discord (z.B. für TYPO3 und andere Projekte, bei denen wir auf dem Laufenden bleiben wollen), gelegentlich LinkedIn und Facebook. Falls ICQ bald wieder online geht, kommt bestimmt jemand auch auf die Idee, sich dort wieder anzumelden. Und wenn wir können, nutzen wir lieber unsere selbst gehostete Jitsi-Instanz als Videokonferenz-Tool - statt Teams, Zoom oder sonstige Cloudlösungen.
Jeder dieser Kanäle ist irgendwann aus einem nachvollziehbaren Grund dazugekommen. Aber der Wildwuchs hat erhebliche Nachteile, unter anderem: Projektkommunikation entwickelt ein Eigenleben, wird fragmentiert und beschränkt sich oft nicht auf die Ursprungsplattform.
Beispiel: Ein Kunde schreibt etwas in Teams. Daraus entsteht dann im besten Fall eine manuell angelegte Aufgabe, die vielleicht im PM-Tool landet. Zwei Tage später kommt eine Ergänzung per Mail. Dann sprechen wir intern noch einmal darüber via Jitsi. Irgendwann schreibt jemand in Mattermost: „Das mit dem Export geht jetzt.“ Aha, soso - um welchen Export geht‘s noch mal? Wer länger im Projekt steckt, weiß es vermutlich. Das menschliche Gehirn ist erstaunlich gut, wenn es um Herleitungen, “Zusammenreimen” und Transferleistung geht. Aber nur, solange der zeitliche Horizont nicht zu lang ist. Spätestens, wenn man mal aus dem Urlaub zurückkommt, oder krank war, oder einen Kollegen vertreten muss, wird das alles komplizierter.
Die Suche nach Informationen und Kontext kostet Zeit und vor allem Nerven. Erstrecht, wenn man Kunden dabei hilft, genau solche Probleme elegant durch Automatisierung oder clevere Architekturen zu lösen, und weiß, dass es besser geht, aber seinen eigenen Saustall nicht in den Griff bekommt.
Es gibt ein paar wirklich unterhaltsame Youtuber und LinkedIn-KI-Päpste, die eine wunderbare Antwort auf solche Szenarien haben: Wir schütten den ganzen Nachrichtenhaufen einfach in ein möglichst großes Sprachmodell. Teams, Slack, Mattermost, Mail, das PM-Tool, immer rein damit in Claude oder ChatGPT. Konnektoren gibt's genug und im Zweifel lässt man sich von Opus mal schnell was generieren.
In der Theorie versprechen diese Experten den siebten Himmel: KI indexiert Texte, versteht Zusammenhänge, kann sogar Aufgaben und Priorisierung ableiten, schreibt Zusammenfassungen. Sie erinnert uns an offene Punkte und sagt uns morgens gar unsere täglichen ToDos. Aber keiner dieser Experten hat es mit einem Datenschatz zu tun, der sich bei uns oder vielen unserer Kunden findet. Will heißen, die vereinfachten Szenarien, die oft als Grundlage für die Heilsversprechen genutzt werden, haben mit der Realität oft nichts gemeinsam.
Ich schrieb weiter oben noch, dass das menschliche Gehirn Erstaunliches vollbringt, weil es in der Lage ist, sich – zumindest in gewissen Grenzen – Kontext buchstäblich zusammenzureimen.
Aber wenn ein Task in drei Kanälen bearbeitet wurde und in diesen Kanälen jeweils kein ausreichend großer Kontext oder Relationen zu den anderen Plattformen existieren, kann die unvollständige Historie in einem einzelnen Kanal völlig falsche Schlüsse nahelegen, nicht nur für Menschen, sondern erst recht für KI.
Vielleicht schaffen es die ganz großen Sprachmodelle von den großen US-Hyperscalern wie Anthrophic oder OpenAI mittlerweile, halbwegs menschenähnliche Transferleistungen zu erbringen. Aber diese Hyperscaler können und wollen wir nicht nutzen, und zwar aus einem einfachen Grund: Datenschutz, dazu weiter unten noch mehr.
KI ersetzt nicht technische Schulden
Im Prinzip müssen wir generative KI-Systeme auf Basis von LLMs so ähnlich betrachten wie menschliche Kollegen, die das Unternehmen gerade neu eingestellt hat.
Wenn ich einen neuen Kollegen einfach auf einen über Jahrzehnte gewachsenen Berg an Daten und Kommunikation loslasse, ist der erst einmal komplett überfordert. Ebenso, wenn ich ihm nur Fragmente irgendwelcher Aufgaben überlasse, die nicht die relevante Historie beinhalten.
Was Menschen beim Einstieg in ein Projekt benötigen, brauchen KI-Systeme im Grunde auch: Struktur, Kontext und verlässliche Daten.
Eine der Herausforderungen, die wir vor jeglicher Verwendung von KI meistern müssen, ist die Zentralisierung und Bereinigung unserer Kommunikationskanäle. Wir brauchen eine Single Source of Truth, auf die man dann punktuell und kontrolliert KI loslassen kann.
Bei uns ist diese zentrale Stelle auch zukünftig wohl das PM-Tool, weil wir es ohnehin als eine Art Ticketsystem verwenden. Ob wir dieses Tool bis zum Ende aller Tage einsetzen wollen (das scheint wohl nicht so weit weg zu sein...), ist eine andere Frage.
Wichtiger ist vor allem der architektonische Grundgedanke. Teams, Slack, Mattermost oder E-Mail können wir schlecht abschaffen. Dafür bleibt die IT- und Kommunikationslandschaft unserer Kunden zumindest absehbar zu heterogen.
Aber wir müssen die Disziplin und im besten Fall auch Automatisierungen so etablieren, dass aus dieser Kommunikation dann entsprechende Tasks und Informationsfragmente entstehen, die auf der PM-Plattform an der richtigen Stelle in den richtigen Kontext gesetzt werden.
Wenn das so klappt, kommen wir punktuell mit KI deutlich weiter und gezielter zu verlässlichen Ergebnissen.
Die Bürde, Hürde und der Segen des Datenschutzes
Ich schrieb bereits, dass Datenschutz eine große Rolle spielt, und wir nicht mit den großen Hyperscalern arbeiten wollen, wenn es um sensible Daten aus Kundenprojekten geht.
In der Kommunikation mit unseren Kunden finden sich oft nicht nur eher unkritische Design-Kommentare („wir wollen lieber eckige Rundungen“), sondern technische Interna, organisatorische Infos, teilweise personenbezogene Daten oder Dinge, die schlicht niemanden außerhalb des jeweiligen Projekts etwas angehen und im Zweifel auch missbräuchlich verwendet werden können. Über die (Un-)Sicherheiten und Datenschutzbedenken bezüglich der Hyperscaler haben wir und andere schon öfter berichtet, ebenso wie über die Tatsache, dass es aus geopolitischen Erwägungen strategisch keine gute Idee ist, sich stark von IT-Anbietern aus Übersee abhängig zu machen.
Deshalb ist für uns vor allem spannend, wie weit wir mit lokaler KI auf eigener Infrastruktur kommen. Es gibt mittlerweile kleine brauchbare Opensource-LLMs, Embedding-Modelle und Optionen für RAG, die sich im genannten Projektmanagement-Kontext ganz anständig verhalten dürften und für die die Hardware-Investitionen in einem überschaubaren Bereich bleiben.
Das entbindet uns nicht, eine geeignete, deterministisch funktionierende Architektur im Hintergrund aufzubauen, die Projekt- bzw. Kundendaten so klar voneinander trennt, dass die KI nicht durcheinander kommt und Informationen über Kunde A plötzlich im Kontext von Kunde B auftaucht.
Auch wir haben ein typisches Mittelstands-Problem
Natürlich nutzt nicht jede Firma die gleichen Tools wie wir, und wir haben vielleicht auch etwas weniger Leichen im Keller hinsichtlich un-digitaler Daten. Aber wie viele andere Unternehmen des deutschen Mittelstands ist unsere IT-Landschaft geprägt von Fragmentierung, Format-Vielfalt, teilweise dezentraler Datenhaltung und einer Struktur, die man – wohlwollend – organisch nennen mag.
Wir predigen Wein und saufen Brackwasser. Damit muss Schluss sein - der Leidensdruck hat das notwendige Maß erreicht; manchmal lernt man nur durch Schmerzen.
Mit KI-gestützter Softwareentwicklung und Codegenerierung können wir Schnittstellen, kleine Werkzeuge und Prototypen inzwischen deutlich schneller bauen als noch vor einigen Jahren. Was auch heißt, dass es viel leichter fällt, Optimierungsprojekte jetzt anzugehen und nicht erst dann, wenn irgendwann mal Zeit ist – das ist ohnehin nie der Fall.
Über Fortschritte und Ansätze, die sich auch in andere Unternehmen übertragen lassen, berichten wir an dieser Stelle zukünftig.