Zur News-Übersicht

Generative KI in der Praxis: Wissensmanagement für KMUs dank Chatbot

Aktuelles
Veröffentlicht: 23.02.2026
KMU Chatbot Workshop generative KI

Wie lassen sich Chatbot und KI konkret im Arbeitsalltag einsetzen?

Wissen ist heute einer der wichtigsten Rohstoffe moderner Unternehmen und entscheidend für deren Wettbewerbsfähigkeit. Doch besonders kleine und mittlere Unternehmen stehen vor der Herausforderung, vorhandenes Wissen effizient zu strukturieren und für alle Mitarbeitenden zugänglich zu machen. Häufig ist Wissen über verschiedene Tools, Dateien und Köpfe verteilt. Dies führt zu zeitaufwendiger Informationssuche, Wissenssilos und Abhängigkeiten von Einzelpersonen.

Der Einsatz vom ifii

In diesem Digitalisierungsprojekt vom Mittestand-Digital Zentrum Berlin wurde die Medios Apotheke in Berlin vom ifii dabei begleitet, ein Konzept für die Einführung eines KI-basierten Chatbot zum internen Wissensmanagement zu entwickeln. Obwohl das Unternehmen digital bereits gut aufgestellt war, z.B. ein digitales Qualitätsmanagementsystem und ein Intranet nutzt, zeigte sich, dass in der täglichen Arbeit viel Zeit für die Suche nach Informationen benötigt wird. Ziel des Projekts war es daher, ein grundsätzliches Verständnis für modernes Wissensmanagement mit KI zu schaffen und technische Lösungsansätze kennenzulernen, die den internen Wissenstransfer erleichtern. Mit einem Chatbot soll das gelingen. Dieser soll als zentrale Schnittstelle zwischen den Mitarbeitenden und der Wissensbasis dienen. Er soll Fragen in „natürlicher Sprache“ beantworten und dazu die vorhandenen digitalen Informationen (die „Wissensbasis“) des Unternehmens nutzen, um präzise Antworten zu liefern. Typische Anwendungsfälle sind unter anderem Fragen zu internen Prozessen, zu Merkblättern, Arbeitsanweisungen, zu Qualitätsmanagement-Themen oder zur Einarbeitung neuer Mitarbeitender.

Die Technik dahinter

Neben der Beratung liefert das ifii das notwendige technische Know-How im Bereich Prototypen-Bau. Um das Unternehmenswissen KI-gestützt nutzbar zu machen, wurde der sogenannte RAG-Ansatz (Retrieval Augmented Generation) verwendet. Dabei werden der KI nur vorab definierte Informationen (unternehmensinterne Wissensbasis) und die dazugehörigen Quellen für die Antwortgenerierung bereitgestellt. Konkret wurden bestehende Daten aus einem zentralen Tool des Unternehmens exportiert und so aufbereitet und strukturiert, dass sie von großen Sprachmodellen (Large Language Models, LLMs) verarbeitet werden können. Dazu wurden die Dokumente in sogenannte Chunks (kleine, logisch zusammenhängende Informationsschnipsel) zerlegt. Jeder Chunk bildet eine abgeschlossene Informationseinheit ab und ermöglicht dadurch eine gezielte, kontextbezogene Verarbeitung durch die KI. Die aufbereiteten Dokumente wurden anschließend in eine zentrale Wissensbasis integriert. In einer LLM-Testumgebung wurden verschiedene Sprachmodelle unter gleichen Bedingungen anonym („blind“) bei einem A7B-Test getestet.

NutzerInnen testen direkt die Lösungsansätze

Im Rahmen des Projektes wurden bewertet insbesondere:

  • Qualität und Präzision der generierten Antworten
  • Sprachstil und Verständlichkeit der Formulierungen
  • Nutzung und Integration der bereitgestellten Wissensbasis

Die Auswertung der Testergebnisse zeigte deutliche Unterschiede zwischen den getesteten Modellen. Das LLM-Modell Mistral Large Latest konnte von den Teilnehmenden als Favorit identifiziert werden aufgrund von guter Struktur, Übersichtlichkeit, Vollständigkeit und kurzen relevanten Informationen.

sofortiger Mehrwert für Mitarbeitende

Abschließend erhielt das Unternehmen direkt im Rahmen des Projektes einen praxisorientierten Handlungsleitfaden, der die nächsten Schritte zu eigenen Umsetzung beschreibt – von der technischen Einrichtung über Integration und Betrieb bis hin zu Change-Management-Maßnahmen. Das konkrete Ergebniss: ein datensicherer Chatbot, der Fragen im Dialog beantwortet und relevantes Wissen schnell zugänglich macht. Und das von allgemeinen Abläufen bis zu speziellem Fachwissen.

Ein Praxisbeispiel dafür, wie Unternehmen aus dem #Mittelstand KI sinnvoll einsetzen können. Was die Mitarbeitende der Medios Apotheke zum Projekt sagen und wie die gemeinsame Zeit strukturiert wurde ist im Video vom Mittelstand-Digital Zentrum Berlin festgehalten:

Videoproduktion/ Skript & Sprecherin: Annemarie Thiede von Medios Apotheke
Redaktion: Christel Schmuck
Kamera: Annemarie Thiede, Anne Mudra

Gefördert durch das Bundesministerium für Wirtschaft und Energie.

Mehr Infos zum Projekt vom Mittelstand Digital Berlin und zum Unternehmen: https://lnkd.in/d6kpjQnw

Schlagwörter: