»LLM Insight Expert« – Intelligenter Assistent für Ad-hoc-Datenanalysen

Der LLM Insight Expert ist ein digitaler Assistent, der dank der Integration von großen Sprachmodellen (engl. Large Language Models = LLMs) komplexe Datensätze von Unternehmen analysiert und diese strukturiert zur Verfügung stellt. Innerhalb einer Chat-Oberfläche können Mitarbeitende ihre Abfragen in natürlicher Sprache (Prompts) eingeben und erhalten schnell und einfach Einblicke in die gewünschten Geschäftsinformationen.

Wo bietet die KI-Anwendung den größten Nutzen?

Unternehmen im Handel stehen häufig vor der Herausforderung, beträchtliche Ressourcen aufzuwenden, um aus umfangreichen und komplexen Datensätzen geschäftlich relevante Erkenntnisse zu gewinnen. Das Extrahieren von relevanten Informationen, die Analyse von Verkaufstrends und die Vorhersage von Kundenverhalten erfordern spezialisierte Fähigkeiten und ein tiefgreifendes Verständnis von Data Science, das nicht in jedem Unternehmen vorhanden ist.

Anstatt über Excel-Sheets, Unternehmensdaten und Marketing-Unterlagen zu grübeln und parallel Informatik-Fachleute mit aufwändigen Datenbank-Abfragen zu beauftragen, die in der Regel das Beherrschen von SQL-Sprache erfordert, tippen die Sales-Mitarbeitenden ihre Fragen in natürlicher Sprache ins Chat-Feld eines Large Language Models ein. Zum Beispiel: »Welche Kundengruppe hat in den vergangenen beiden Sommern unser Produkt XY am häufigsten erworben?« Sekunden später erhält der Mitarbeitende eine fundierte Antwort, ergänzt durch eine übersichtliche grafische Aufbereitung der abgefragten Daten.

Der LLM Insight Expert ermöglicht es Nutzer*innen durch die Anbindung von LLMs, einen einfachen Zugang zu entscheidenden Geschäftsinformationen zu erhalten und legt damit die Grundlage für datengetriebene Entscheidungen. Durch die automatisierte Übersetzung von Anfragen in natürlicher Sprache in präzise SQL-Abfragen wird der Zugang zu Unternehmensdaten demokratisiert und ist somit zugänglich für jeden Mitarbeitenden.

Was sind die Qualitätsmerkmale des »LLM Insight Expert«?

  • Höhere Produktivität: Die Datenverarbeitung und -analyse wird vereinfacht, sodass sich die Nutzer*innen auf die strategische Auswertung der Daten konzentrieren können.
  • Schnelle Einblicke: Durch die einfache Abfrage von Daten können Entscheidungen schneller getroffen und umgesetzt werden.
  • Kostenreduzierung: Die Datenabfrage ist sehr zeitintensiv und erfordert Kenntnisse im Data-Science-Bereich. Durch die Abfrage in natürlicher Sprache sind keine komplexen Programmierungen mehr notwendig.
  • Geringer Schulungsbedarf: Durch den Einsatz von Sprachmodellen können Nutzer*innen auf intuitivem und natürlichsprachlichem Wege mit den Daten interagieren. 
  • Individuell anpassbar: Durch die modellunabhängige Entwicklung und die Möglichkeit der Multi-Source-Integration kann das System individuell auf jeden Anwendungsfall angepasst und um zahlreiche Datenquellen erweitert werden.
»Datengetriebene Entscheidungen sind der Schlüssel zum Erfolg in der Geschäftswelt. Mit dem LLM Insight Expert können Mitarbeitende schnell und einfach Einblicke in ihre Daten gewinnen und fundierte Entscheidungen treffen.«
Benjamin Bechtloff
Fraunhofer IAIS

Welche KI-Technologie steckt im KI.NRW-Demonstrator?

Sprachmodelle

Bei modernen Sprachmodellen handelt es sich um neuronale Netze, die darauf trainiert werden, ein Wort auf Basis des Kontextes vorherzusagen. So lernt das Modell eine wirksame Repräsentation für alle Wörter des Textes und ist in der Lage, Textpassagen semantisch zu vergleichen und einzuordnen. In dieser Anwendung wurden sowohl Open-Source- als auch kommerzielle Sprachmodelle eingebunden.

Was zeigt der KI-Demonstrator?

Bei dem KI-gestützten Assistenten LLM Insight Expert handelt es sich um ein Tool, das einen direkten Dialog mit Unternehmensdaten ermöglicht und so effizient Einblicke in unternehmenskritische Daten gewährt. Mit dessen Hilfe lassen sich schnell und einfach datengetriebene Entscheidungen treffen.

Jetzt unverbindliches Gespräch mit unseren Expert*innen anfragen!

Neugierig geworden? Hier geht es zum Demonstrator!

Wo sind weitere Informationen zu finden?

KI.Landkarte mit Einträgen im Bereich Datenanalyse und Prognose

KI-Anbieter, Anwendungen und KI-Produkte »made in NRW« mit dem gleichen KI-Schwerpunkt finden Sie über die Filter- und Suchfunktion der KI.Landkarte, die aktuell rund 1300 Einträge umfasst.

Studie »Moderne Sprachtechnologien«

Erfahren Sie, an welchen Stellen moderne Sprachtechnologien uns im Alltag und Beruf begegnen und welche wirtschaftlichen Möglichkeiten damit verbunden sind.

Fraunhofer IAIS: Abteilung Enterprise Information Systems (EIS)

EIS entwickelt datengetriebene Lösungen für Industrie und Forschung. Beispielsweise werden Anworten darauf gegeben, wie die Etablierung von datengetriebenen Geschäftsmodellen oder die Integration von KI in ein Unternehmen gelingt oder wie Informationen genutzt werden können, um Effizienzgewinne, Wettbewerbsvorteile oder Innovationen zu entwickeln?

Kontakt zum Team der Entwickler*innen

Tasneem Tazeen Rashid

Research Engineer
Abteilung Enterprise Information Systems

Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Schloss Birlinghoven
53757 Sankt Augustin

Telefon +49 2241 14-2858

E-Mail senden

Benjamin Bechtloff

Projektmanager
Abteilung Enterprise Information Systems

Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Schloss Birlinghoven
53757 Sankt Augustin

Telefon +49 2241 14-2879

E-Mail senden

Roberta SPEAKER – Dialogassistenten einfach selbst gestalten

Intuitiv einen eigenen Dialogassistenten entwickeln – mit der visuellen, No-Code Programmieroberfläche »Open Roberta®«!

Wo bietet die KI-Anwendung den größten Nutzen?

Sprachtechnologien spielen in der Entwicklung neuer digitaler Dienste und Technologien eine wesentliche Rolle und stellen heute schon den verlässlichen Assistenten für zu Hause dar. Ob Alexa oder Siri, im privaten Alltag ist die Kommunikation per Sprache mit Computern längst angekommen: Die schnelle Frage nach der Regenwahrscheinlichkeit oder der Staugefahr auf dem Heimweg sowie die Steuerung von Musik oder Licht in den eigenen vier Wänden – immer häufiger findet Kommunikation mit Sprachassistenten statt. Aber wie lassen sich Sprachassistenten im Unternehmen oder gar in Schulen einsetzen?

Datensicher, individuell anpassbar – Roberta SPEAKER für Unternehmen und in der Bildung

Der KI.NRW-Demonstrator »Roberta SPEAKER« ermöglicht es selbst Programmierneulingen, Dialog- Funktionen einfach und intuitiv selbständig zu entwickeln. Davon können Nutzer*innen unterschiedlicher Branchen profitieren: Unternehmen erhalten mit der Technologie die Möglichkeit, eigene Dialogassistenten zu entwickeln, um zum Beispiel ihre Maschinen mit Sprachbefehlen zu steuern. Zu den Vorteilen gehört neben der autarken Ausgestaltung der Dialoge auch die Datensicherheit, denn anders als viele kommerzielle Sprachassistenten benötigt Roberta SPEAKER keinen Internetanschluss – die Daten werden lokal verarbeitet. Darüber hinaus können auch Lehrkräfte und Bildungsakteur*innen künftig Roberta SPEAKER einsetzen, um jungen Menschen den Einsatz von KI-Technologien im Alltag besser zu vermitteln und deren Digitalkompetenzen aufzubauen.

Als Programmiersprache für die Dialogsteuerung dient NEPO®, die auf der Open-Source-Plattform Open Roberta des Fraunhofer IAIS per »drag and drop« zusammengesteckt wird und so Einstiegshürden, wie z. B. Tipp- oder Syntaxfehler, vermeidet. Das Spracherkennungsmodell kann speziell auf den eigenen Bedarf angepasst und somit auf einem Mikrocomputer ausgeführt werden. Auf kostspielige und aufwändige Hardware wird damit verzichtet. Darüber hinaus sind für die Kommunikation zwischen Anwender*innen und Sprachassistenten zusätzliche Elemente, wie z. B. Mikrofon und Lautsprecher, enthalten. 

Der Demonstrator wurde im Rahmen des vom Bundesministerium für Wirtschaft und Klimaschutz (BMWK) geförderten SPEAKER-Projekts entwickelt. Ziel des SPEAKER-Projektes ist der Aufbau einer führenden Sprachassistenzplattform »made in Germany« für Business-to-Business-Anwendungen (B2B). Die Plattform soll offen, modular und skalierbar sein und Technologien, Dienste und Daten über Serviceschnittstellen bereitstellen. Konsortialführer sind die Fraunhofer-Institute IAIS und IIS.

Was sind die Qualitätsmerkmale von Roberta SPEAKER?

  • Geringer Aufwand: Der KI.NRW Demonstrator zeigt, dass KI-Sprachmodelle selbst auf einem kleinen (portablen) Prozessor funktionsfähig sind. Dadurch werden innovative Funktionsmöglichkeiten eröffnet. Ein Vorteil: Die KI-Modelle arbeiten lokal, sodass eine Internetverbindung nicht zwingend notwendig ist. Damit demonstriert die Roberta SPEAKER-Box, dass Sprachassistenten ohne großen Aufwand nahezu überall implementiert werden können, um mit Menschen zu interagieren und einfache Arbeiten zu übernehmen. 
  • Intuitiv und individuell gestaltbar: Eine intuitive Programmieroberfläche erlaubt es allen Menschen, mit einfachen Griffen funktionierende Programmabläufe zu entwickeln, sodass im Rahmen des Demonstrators gerade Schüler*innen in der Lage sind, eigene Sprachbefehle zu generieren. Bei der Programmieroberfläche handelt es sich um das Open Roberta Lab, eine frei verfügbare, datensichere wie offene Programmierplattform der Bildungsinitiative »Roberta® – Lernen mit Robotern« des Fraunhofer IAIS.  
  • Einfache Kommunikation: Durch den Einsatz von Künstlicher Intelligenz sind Nutzer*innen in der Lage, mit den Sprachassistenten über gesprochene Sprache zu kommunizieren. Der Dialogassistent versteht Fragen und Befehle, ist in der Lage Aktionen aus der Absicht der Nutzer*innen abzuleiten und kann Antworten formulieren und diese über den Lautsprecher ausgeben oder Handlungen ableiten. 
  • Leistungsstark und ressourcenschonend: Die sprachgesteuerte Box ist erst einsatzfähig, wenn die Technologien der Künstlichen Intelligenz, die KI-Modelle, auch auf einem kleinen Prozessor funktionsfähig sind. Die Entwickler*innen legen deshalb den Fokus auf eine ressourcenschonende KI-Technologie.       
»Dialogsysteme sind allgegenwärtig. Mit ›Roberta Speaker‹ ermöglichen wir es jedem,
nahezu ohne Vorkenntnisse eigene Dialoge zur Steuerung von IoT-Geräten per Drag-and-drop zu erstellen.«
Thorsten Leimbach
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS

Welche KI-Technologie steckt im KI.NRW-Demonstrator?

Automated Speech Recognition (ASR)

Technische Systeme, die gesprochene Kommandos verstehen, ermöglichen eine natürliche Kommunikation zwischen Mensch und Maschine. Die Spracherkennung wandelt gesprochene Informationen zuverlässig und in Echtzeit in digitalen Text um – auch unter schwierigen Bedingungen, etwa bei Störgeräuschen, wie sie zum Beispiel im industriellen Umfeld auftreten können oder wenn regionale Dialekte gesprochen werden.

Intent Recognition

Erst das domänenspezifische Wissen macht das Sprachsystem nützlich in bestimmten Anwendungsbereichen. Hierbei spielt die Intent Recognition, die Erkennung der Absichten aus dem gesprochenen Text eine wesentliche Rolle. So erkennt ein Intent Classifier das Thema des Textes und sucht die faktische Antwort. Mithilfe von Verbalisierungstechniken sorgt das System anschließend dafür, dass die Antwort ausformuliert ausgegeben wird.

Text-to-Speech (TTS)

In der Mensch-Maschine-Interaktion ist es oftmals von Vorteil, wenn Textinformationen nicht – etwa von einem Display – abgelesen werden müssen, sondern mit natürlicher Sprache übermittelt werden. Auf Basis von Deep Learning-Technologie erzeugen State of the Art-Algorithmen sehr natürlich klingende Sprachausgaben mit hervorragender Verständlichkeit und flüssiger Betonung.

Was zeigt der KI-Demonstrator?

Der KI.NRW-Demonstrator »Roberta SPEAKER« ermöglicht es sowohl Unternehmen als auch Schüler*innen unterschiedlicher Schulformen, wie etwa der weiterführenden Schule oder der Berufsschule, mit einer einfachen Programmieroberfläche einen eigenen Sprachassistenten zu entwickeln. Hier findet der Ausdruck »do it yourself« eine neue Bedeutung und das Erlernen von KI-Technologien kann auch ohne Vorkenntnisse beginnen.

Jetzt unverbindliches Gespräch mit unseren Expert*innen anfragen!

Wo sind weitere Informationen zu finden?

Studie »Moderne Sprachtechnologien«

Erfahren Sie, an welchen Stellen moderne Sprachtechnologien uns im Alltag und Beruf begegnen und welche wirtschaftlichen Möglichkeiten damit verbunden sind.

Roberta SPEAKER für Unternehmen

Sie wollen mit Roberta SPEAKER KI-Qualifizierungsmaßnahmen in Ihrem Unternehmen durchführen oder möchten wissen, wie Sie die Fraunhofer-Sprachtechnologie in Ihre Prozesse integrieren können?

Roberta SPEAKER in der Bildung

Sie wollen Roberta SPEAKER im Bildungskontext verwenden?

Kontakt zum Entwicklerteam

Thorsten Leimbach

Geschäftsfeldleiter
Smart Coding and Learning

Fraunhofer IAIS
Schloss Birlinghoven
53757 Sankt Augustin

Telefon +49 2241 142404

E-Mail senden

Beate Jost

Technische Leiterin bei Roberta

Fraunhofer IAIS
Schloss Birlinghoven
53757 Sankt Augustin

Telefon +49 2241 142441

E-Mail senden

Dr.-Ing. Oliver Walter

Teamleiter
Real Time Speech Recognition

Fraunhofer IAIS
Schloss Birlinghoven
53757 Sankt Augustin

Telefon +49 2241 2541

E-Mail senden

Zum Seitenanfang