Copyright ©
Mindbreeze GmbH, A-4020 Linz, 2023.
Alle Rechte vorbehalten. Alle verwendeten Hard- und Softwarenamen sind Handelsnamen und/oder Marken der jeweiligen Hersteller.
Diese Unterlagen sind streng vertraulich. Durch die Übermittlung und Präsentation dieser Unterlagen alleine werden keine Rechte an unserer Software, an unseren Dienstleistungen und Dienstleistungsresultaten oder sonstigen geschützten Rechten begründet. Die Weitergabe, Veröffentlichung oder Vervielfältigung ist nicht gestattet.
Aus Gründen der einfacheren Lesbarkeit wird auf die geschlechtsspezifische Differenzierung, z.B. Benutzer/-innen, verzichtet. Entsprechende Begriffe gelten im Sinne der Gleichbehandlung grundsätzlich für beide Geschlechter.
Die große Popularität sowie die vielen Anwendungsmöglichkeiten von OpenAIs ChatGPT zeigen, wie relevant das Thema Generative AI auf Basis von Large Language Models (LLMs) ist. Gerade im Unternehmenskontext kann diese Technologie einen großen Mehrwert bieten. Der Einsatz wird jedoch durch Themen wie Halluzinationen, fehlende Aktualität, Datensicherheit, kritische Fragen bezgl. geistiges Eigentum und technische Umsetzung bei sensiblen Daten erschwert. Mindbreeze bietet eine Lösung in Form einer Kombination aus Insight Engine und LLMs, die in der Lage ist genau diese Schwächen auszugleichen. Das Ergebnis ist die ideale Basis für Generative AI im Unternehmenskontext.
LLMs verfügen über außergewöhnliche Fähigkeiten im Bereich der Verarbeitung und Generierung der menschlichen Sprache, während Insight Engines die genannten Hürden durch Datenaktualität, Konnektivität und Validierung der Quellen überwinden können. Dadurch ist es möglich mit vollständigen Sätzen zu arbeiten und das inhaltliche Verständnis des LLMs abzubilden. Die Basis für die semantische Suche bilden Transformer-Based-Language-Models im ONNX-Format. Durch die Verwendung offener Standards können Kunden vortrainierte Modelle (pre-trained models) oder selbst trainierte LLMs in Mindbreeze InSpire integrieren und nutzen.
Mit dem Einsatz von Mindbreeze InSpire können Kunden Generative AI sofort nutzen, da diese nahtlos in das Produkt integriert ist. Datensicherheit spielt dabei ein übergeordnetes Thema und wird durch die stetige Prüfung der Berechtigungen direkt bei den einzelnen Datenquellen gewährleistet. Die Konnektoren gewährleisten dabei die Aktualität der Inhalte. Dank der skalierbaren Architektur und den anpassbaren Relevanzmodellen sind Kunden in der Lage die Interaktion mit der Insight Engine zu personalisieren.
Basierend auf der Integration von Language Models in den Kern der Insight Engine werden mittels semantischer Suche zusätzlich zu Treffern nun auch Antworten aus den Dokumenten geliefert. Auf Basis dieser Technologie werden relevante Sätze aufgrund ihrer Ähnlichkeit zur eingegebenen Anfrage identifiziert. Hier handelt es sich um eine semantische Repräsentation der Sätze über dem verwendeten Language Model. Dies ermöglicht es, die Inhalte der Dokumente besser zu verstehen und zusätzlich zu Dokumenten auch punktgenau relevante Passagen zu liefern.
So sind viele neue Anwendungsfälle möglich. Unter anderem kann mit einem entsprechend trainierten Modell Mehrsprachigkeit bei der Abfrage unterstützt werden. Ein Anwender kann eine Anfrage zum Beispiel in deutscher Sprache absetzen und Mindbreeze InSpire kann relevante Antworten auch aus englischsprachigen Dokumenten liefern, ohne dabei zusätzlich die Dokumente übersetzen zu müssen.
Bei der Antwortfunktion stehen alle gewohnten Trefferaktionen zur Verfügung. In der Anzeige wird auch der Kontext des identifizierten Satzes dargestellt. Auch andere gewohnte Funktionalitäten wie „Guided Navigation“ auf Basis von Filtern oder das Verwenden von Einschränkungen auch auf Volltextsuchebene kann verwendet werden. Dabei passen sich die Antworten auf die entsprechende Einschränkung an.
Mittels dem Mindbreeze InSpire Relevanzmodells lässt sich das Feature „Question Answering“ auch an die Bedürfnisse der Benutzer anpassen. Entsprechende Boostings haben auch einen Einfluss auf die Berechnung der angezeigten Antwort.
Mindbreeze-User sind in der Lage ihre Suchergebnisse mithilfe von Filtern zu verfeinern, um eine genauere Ergebnisliste und damit einen effizienteren Zugang zu den Unternehmensinformationen zu erhalten. Die entsprechenden Filter können vom Mindbreeze-Administrator für verschiedene Metadaten konfiguriert werden.
Um die Handhabung der Filter zu verbessern, wurde mit der Mindbreeze InSpire 23.4 Release nun die Option Reset filters hinzugefügt. Diese erscheint, sobald ein Filter aktiv ist (siehe folgenden Screenshot) und setzt alle aktiven Filter auf Knopfdruck zurück.
Die Funktionalität des JavaScript-Crawlings ermöglicht die automatische, skriptbasierte Simulation von Benutzereingaben beim Crawlen komplexer Webseiten. Auf diese Weise ist es möglich, auch Webseiten mit beispielsweise Login-Masken, Popups oder verzögert ladenden Inhalten, zu indizieren und durchsuchbar zu machen. Mit der Mindbreeze InSpire 23.4 Release lassen sich ab sofort pro Sub-URL verschiedene Skripte definieren. Damit ist es nun möglich, komplexere Webseiten, die eine Vielzahl unterschiedlicher Skript-Verhaltensweisen erfordern, mit einem einzigen Crawler zu indizieren.
Zusätzlich wurde die Sicherheit der Skripte durch die obligatorische Eingabe eines Hostnamens erhöht, womit sichergestellt wird, dass Skripte nur auf den dafür vorgesehenen Webseiten ausgeführt werden. Darüber hinaus können Nutzer nun innerhalb des Skripts auf die Mindbreeze Credentials zugreifen. Nutzernamen und Passwörter werden dadurch weder in der Konfiguration noch im Log angezeigt.
Der Mindbreeze Client Service unterstützt die Authentifizierung mittels JWT-Tokens, um Kunden den Zugang zu Mindbreeze InSpire mit externer Authentisierung zu ermöglichen. Ab sofort lassen sich Zugriffsrechte auf Dokumente und andere Medien im JWT-Token mit zusätzlichen Informationen definieren. So wurden bisher nur grundlegende Informationen über die User wie der Username oder die E-Mail-Adresse gespeichert. Nun ist es möglich, auch Informationen wie beispielsweise Gruppen (z.B.: Abteilung) und Rollen (z.B.: Stellenbeschreibung) im JWT-Token zu hinterlegen.
Die Verwaltung von Zugriffsrechten in ServiceNow wurde optimiert, wodurch sich der Zugriff auf Dokumente effektiver verwalten lässt. Ab sofort ist es möglich, einen Mitarbeiter oder eine bestimmte Abteilung als inaktiv zu kennzeichnen, um den Zugriff auf Dokumente und andere indizierte Inhalte zu verhindern.
Inaktive Mitarbeiter werden nicht in den Principal Resolution Cache aufgenommen, wodurch die Cache-Größe reduziert und die Performance verbessert wird. Die Verwaltung der Zugriffsrechte können Nutzer mit der Einstellung Constraint Query for Users vornehmen.