Ausgangssituation
Eine Kundin ruft an und hat eine technische Frage zu einem laufenden Projekt. Der zuständige Mitarbeiter ist im Termin, also blättert eine Kollegin durch alte E-Mails, sucht in Projektunterlagen und fragt schließlich im Team nach, wer sich damit auskennt. Die Antwort kommt – aber erst nach zwanzig Minuten und drei Zwischenstationen.
Szenen wie diese kennen viele kleine und mittlere Unternehmen. Wichtiges Fachwissen ist vorhanden – verteilt auf Projektunterlagen, Software-Dokumentationen, interne Notizen und die Erfahrung einzelner Mitarbeitender. Für Kunden wie auch für die eigenen Teams bedeutet das oft viel Suchaufwand, wiederkehrende Rückfragen und ein Support, der mehr Zeit kostet als nötig.
Klassische Wissensdatenbanken helfen hier nur begrenzt, denn sie liefern selten passende Antworten auf konkrete, alltagssprachliche Fragen. Moderne KI-Sprachmodelle überwinden diese Hürde, doch ohne kontrollierte Anbindung an die eigenen Unternehmensinhalte sind Antworten zwar flüssig, aber nicht immer korrekt. Darin liegt die Herausforderung, mit der viele kleine und mittlere Unternehmen konfrontiert sind: Wie lässt sich vorhandenes Wissen so aufbereiten, dass eine KI verlässliche, nachvollziehbare Antworten geben kann? Sicher, selbst kontrolliert und unabhängig von externen Cloud-Diensten.
Geplantes Vorgehen im Projekt
Um diese Frage praxisnah zu beantworten, wurde ein prototypischer, webbasierter KI-Assistent getestet – als Chatbot mit intuitiver Weboberfläche. Die zentralen Ziele:
- gemeinsamer Aufbau und Evaluation geeigneter Open-Source-Sprachmodelle für den Unternehmenseinsatz
- Anbindung interner Dokumente über eine RAG-Architektur (Retrieval-Augmented Generation)
- Entwicklung einer intuitiven, dialogbasierten Weboberfläche
- Konzept für Sicherheit, Self-Hosting und Wartbarkeit im Eigenbetrieb
- Bewertung von Qualität, Sicherheit, Wartbarkeit und Skalierbarkeit der Lösung
Nutzen der angestrebten Lösung
Ein Prototyp soll exemplarisch zeigen, dass sich vorhandenes Fachwissen auch ohne große IT-Abteilung oder Cloud-Abo KI-gestützt nutzbar machen lässt. Typische Fragen könnten so schneller und konsistenter beantwortet werden. Das kann Teams von wiederkehrendem Suchaufwand entlasten.
Besonders wichtig für das Projekt ist es, eine Lösung aufzuzeigen, die unabhängig von großen Cloud-Anbietern funktioniert.
