»LLM Insight Expert« – Intelligenter Assistent für Ad-hoc-Datenanalysen
Der LLM Insight Expert ist ein digitaler Assistent, der dank der Integration von großen Sprachmodellen (engl. Large Language Models = LLMs) komplexe Datensätze von Unternehmen analysiert und diese strukturiert zur Verfügung stellt. Innerhalb einer Chat-Oberfläche können Mitarbeitende ihre Abfragen in natürlicher Sprache (Prompts) eingeben und erhalten schnell und einfach Einblicke in die gewünschten Geschäftsinformationen.
Wo bietet die KI-Anwendung den größten Nutzen?
Unternehmen im Handel stehen häufig vor der Herausforderung, beträchtliche Ressourcen aufzuwenden, um aus umfangreichen und komplexen Datensätzen geschäftlich relevante Erkenntnisse zu gewinnen. Das Extrahieren von relevanten Informationen, die Analyse von Verkaufstrends und die Vorhersage von Kundenverhalten erfordern spezialisierte Fähigkeiten und ein tiefgreifendes Verständnis von Data Science, das nicht in jedem Unternehmen vorhanden ist.
Anstatt über Excel-Sheets, Unternehmensdaten und Marketing-Unterlagen zu grübeln und parallel Informatik-Fachleute mit aufwändigen Datenbank-Abfragen zu beauftragen, die in der Regel das Beherrschen von SQL-Sprache erfordert, tippen die Sales-Mitarbeitenden ihre Fragen in natürlicher Sprache ins Chat-Feld eines Large Language Models ein. Zum Beispiel: »Welche Kundengruppe hat in den vergangenen beiden Sommern unser Produkt XY am häufigsten erworben?« Sekunden später erhält der Mitarbeitende eine fundierte Antwort, ergänzt durch eine übersichtliche grafische Aufbereitung der abgefragten Daten.
Der LLM Insight Expert ermöglicht es Nutzer*innen durch die Anbindung von LLMs, einen einfachen Zugang zu entscheidenden Geschäftsinformationen zu erhalten und legt damit die Grundlage für datengetriebene Entscheidungen. Durch die automatisierte Übersetzung von Anfragen in natürlicher Sprache in präzise SQL-Abfragen wird der Zugang zu Unternehmensdaten demokratisiert und ist somit zugänglich für jeden Mitarbeitenden.
Was sind die Qualitätsmerkmale des »LLM Insight Expert«?
- Höhere Produktivität: Die Datenverarbeitung und -analyse wird vereinfacht, sodass sich die Nutzer*innen auf die strategische Auswertung der Daten konzentrieren können.
- Schnelle Einblicke: Durch die einfache Abfrage von Daten können Entscheidungen schneller getroffen und umgesetzt werden.
- Kostenreduzierung: Die Datenabfrage ist sehr zeitintensiv und erfordert Kenntnisse im Data-Science-Bereich. Durch die Abfrage in natürlicher Sprache sind keine komplexen Programmierungen mehr notwendig.
- Geringer Schulungsbedarf: Durch den Einsatz von Sprachmodellen können Nutzer*innen auf intuitivem und natürlichsprachlichem Wege mit den Daten interagieren.
- Individuell anpassbar: Durch die modellunabhängige Entwicklung und die Möglichkeit der Multi-Source-Integration kann das System individuell auf jeden Anwendungsfall angepasst und um zahlreiche Datenquellen erweitert werden.
»Datengetriebene Entscheidungen sind der Schlüssel zum Erfolg in der Geschäftswelt. Mit dem LLM Insight Expert können Mitarbeitende schnell und einfach Einblicke in ihre Daten gewinnen und fundierte Entscheidungen treffen.«
Welche KI-Technologie steckt im KI.NRW-Demonstrator?
Bei modernen Sprachmodellen handelt es sich um neuronale Netze, die darauf trainiert werden, ein Wort auf Basis des Kontextes vorherzusagen. So lernt das Modell eine wirksame Repräsentation für alle Wörter des Textes und ist in der Lage, Textpassagen semantisch zu vergleichen und einzuordnen. In dieser Anwendung wurden sowohl Open-Source- als auch kommerzielle Sprachmodelle eingebunden.
Was zeigt der KI-Demonstrator?

Bei dem KI-gestützten Assistenten LLM Insight Expert handelt es sich um ein Tool, das einen direkten Dialog mit Unternehmensdaten ermöglicht und so effizient Einblicke in unternehmenskritische Daten gewährt. Mit dessen Hilfe lassen sich schnell und einfach datengetriebene Entscheidungen treffen.
Jetzt unverbindliches Gespräch mit unseren Expert*innen anfragen!
Neugierig geworden? Hier geht es zum Demonstrator!
Wo sind weitere Informationen zu finden?
KI.Landkarte mit Einträgen im Bereich Datenanalyse und Prognose
KI-Anbieter, Anwendungen und KI-Produkte »made in NRW« mit dem gleichen KI-Schwerpunkt finden Sie über die Filter- und Suchfunktion der KI.Landkarte, die aktuell rund 1300 Einträge umfasst.
Studie »Moderne Sprachtechnologien«
Erfahren Sie, an welchen Stellen moderne Sprachtechnologien uns im Alltag und Beruf begegnen und welche wirtschaftlichen Möglichkeiten damit verbunden sind.
Fraunhofer IAIS: Abteilung Enterprise Information Systems (EIS)
EIS entwickelt datengetriebene Lösungen für Industrie und Forschung. Beispielsweise werden Anworten darauf gegeben, wie die Etablierung von datengetriebenen Geschäftsmodellen oder die Integration von KI in ein Unternehmen gelingt oder wie Informationen genutzt werden können, um Effizienzgewinne, Wettbewerbsvorteile oder Innovationen zu entwickeln?
Kontakt zum Team der Entwickler*innen

Tasneem Tazeen Rashid
Research Engineer
Abteilung Enterprise Information Systems
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Schloss Birlinghoven
53757 Sankt Augustin
Telefon +49 2241 14-2858

Benjamin Bechtloff
Projektmanager
Abteilung Enterprise Information Systems
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Schloss Birlinghoven
53757 Sankt Augustin
Telefon +49 2241 14-2879