KI-Assistenten in Produktionsunternehmen durch Retrieval Augmented Generation

Herausforderung und Motivation

Alltägliche Aufgaben in Produktionsunternehmen erfordern eine Vielzahl komplexer Informationen und spezifisches Fachwissen. Auf der einen Seite stehen betriebsinterne Anweisungen und Prozesse. Auf der anderen Seite müssen (inter-)nationale Regularien befolgt und umfangreiche Maschinenhandbücher zurate gezogen werden, um einen sicheren Betrieb zu gewährleisten und Ausfallzeiten zu minimieren. Das schnelle Auffinden relevanter Informationen in komplexen Dokumenten ist durch (juristische) Fachsprache, zahlreiche Querverweise oder den schieren Umfang oft aufwändig und fehleranfällig.

Das Fraunhofer IWU setzt hier mit einem interaktiven KI-Assistenten an, der relevante Dokumente durchsucht und schnelle, umfassende und verständlich aufbereitete Antworten auf Mitarbeiterfragen geben kann.

Umsetzung

Am Beispiel der EU-Maschinenverordnung wurde ein KI-Assistent entwickelt, der Retrieval Augmented Generation (RAG) nutzt, um domänenspezifische Fragen umfassend und informiert zu beantworten.

RAG dient zur Verknüpfung von Fachwissen und KI. Dazu werden in einem RAG-System zunächst die erforderlichen fachlichen Daten in sinnvoll strukturierte Abschnitte unterteilt. Zur Beantwortung von Nutzeranfragen werden dann mittels semantischer Suche die inhaltlich relevantesten Abschnitte bestimmt. Zusammen mit der Nutzeranfrage wird dieser Kontext an eine KI, genauer gesagt an ein großes Sprachmodell (LLM), weitergeleitet. Die KI nutzt schließlich ihre Fähigkeit der Textanalyse und -verarbeitung, um die Nutzeranfrage und den Kontext in einer strukturierten und verständlichen Antwort zusammenzuführen.

Ein besonderes Augenmerk wurde in der Umsetzung auf die freie Verfügbarkeit der verwendeten Softwarekomponenten gelegt. Außerdem wurden KI-Modelle so gewählt, dass sie auch auf gehobener Standardhardware lokal betrieben werden können. Dadurch wird auch kleinen und mittleren Unternehmen (KMU) ein Einstieg in die Nutzung von KI ermöglicht. Gleichzeitig wird durch einen lokalen Betrieb eine uneingeschränkte Datenhoheit sichergestellt.

Ergebnis

Das RAG-System zur Analyse der EU-Maschinenverordnung steht exemplarisch für die Aufbereitung komplexer unternehmensrelevanter Dokumente und den zukünftigen Einsatz von KI-Assistenten in Produktionsunternehmen. Neben der Effizienzsteigerung im Umgang mit langen Dokumenten sind weitere Anwendungen denkbar. Infrage kommt ein maßgeschneiderter virtueller Assistent, der Informationen über betriebsinterne Regeln, Abläufe, Prozesse und Expertenwissen bereitstellen kann. Auch Aufgaben, wie der Entwurf von Angeboten oder verpflichtenden Berichten, die automatisiert auf Basis von Unternehmensdaten erstellt werden, sind denkbar.