Milliarum AI Construction Kit

Das Milliarum AI Construction Kit ermöglicht Ihnen die mithilfe sprachbasierter Interaktion eine Benutzerführung durch Künstliche Intelligenz zu kreieren, um sowohl Gelegenheitsanwender bei der Nutzung von SAP-Funktionen zu unterstützen und Prozesse zu automatisieren. Es verbindet hierbei die Welt von Künstlicher Intelligenz und SAP, indem über eine SAP UI5 Benutzeroberfläche ein Chat zur Verfügung gestellt wird. Dabei besteht die Möglichkeit eine Vielzahl von KI-Modellen anzubinden, unterstützt werden hierbei auch lokale Modelle, Cloud-Modelle und der SAP AI-Core.

Das AI Construction Kit bietet ein SAP ABAP basiertes Tool an, auf dessen Basis Sie Ihre spezifischen AI Chat-Anwendungen aufbauen können. Darunter sind die folgenden Funktionen enthalten:

• Anwendungstyp Generischer „AI Chat“– Chat Anwendung zur Interaktion mit der KI basierend auf dem UI5 Construction Kit
• Customizing Umgebung – Möglichkeit zur individuellen Konfiguration der Anwendungen und Anbindung von LLMs
• Erweiterbarkeit und Implementierung in ABAP – Erweiterung der Grundfunktionalität durch Implementierung eigener Funktionen
• Textdarstellung in Markdown-Format und UI5  –  Anwendung nutzt UI5 und Markdown um Chat Inhalte aufbereitet und benutzerfreundlich darzustellen
• Einsatz verschiedener LLMs und Identitäten/Personalities – Ausprägung von verschiedenen beziehungsweise Experten mit unterschiedlichen Modellen

Der sogenannte Application-Manager (aus dem UI5 Construction Kit) hilft Ihnen bei der Verwaltung Ihrer Applikationen und Konnektoren und bietet einen zentralen Zugang zu administrativen Funktionen der jeweiligen Anwendung wie z.B. den Aufruf des Anwendungs-Customizings.

Anwendungstyp Generischer „AI Chat“

Der neue Anwendungstyp ermöglicht Ihnen die Umsetzung von Anwendungen, in welcher eine typische Chat-Funktionalität zur Verfügung steht. Hier können die Chats angelegt, geändert und gelöscht werden. Ebenso ist hier eine Auswahl der Identitäten/Personalities möglich, womit verschiedene Funktionsumfänge (Function Calling) und Modelle (LLMs) konfiguriert sind.  Die vom User geführten Chats werden ist individuell verschlüsselt persistiert.

Customizing Umgebung

Das AI Construction Kit umfasst eine umfangreiche Customizing Umgebung, das Ihnen ermöglicht, die Chat-Anwendungen und Konnektoren zu Modellen anpassen zu können. Dabei definieren Konnektoren die Anbindung verschiedener LLMs aus einer Auswahl zur Verfügung stehender Modelle (wie beispielsweise Open AI).  Innerhalb des Applikations-Customizings besteht eine detaillierte Möglichkeit zur Definition von System-Prompts für die Chat-Anwendung. Zusätzlich wird die Möglichkeit geboten, Funktionen für die Anwendung zu definieren, die im Rahmen des Function Callings für die zugehörige Anwendung möglich sein soll.

Erweiterbarkeit und Implementierung in ABAP

Das AI Construction Kits ermöglich ABAP-basierte Entwicklung für kundenspezifische Anforderungen erweitert. Ein Anwendungsbeispiel ist die Einbindung eigener Funktionsbausteine oder Klassen/Methoden für den Aufruf in KI Function Calling.

Textdarstellung in Markdown-Format und UI5

Der Chat innerhalb der AI Construction Kit Anwendungen nutzt für die Darstellung der Ergebnisse von Prompts nach Möglichkeit UI5 UI-Elemente unter Berücksichtigung des Markdown-Formats. Eine Darstellung von zum Beispiel Tabellen, Quellcodes, Auflistungen wird über UI5 Darstellungen realisiert.

Einsatz verschiedener LLMs und Identitäten/Personalities

Das AI Construction Kit bietet Ihnen verschiedenste Schnittstellen zur Anbindung von LLMs an. Durch Prompt-Engineering können die Modelle noch einmal weiter spezifiziert werden, um Identitäten/Personalities zu schaffen, die durch Prompting bereits vordefinierte Anweisungen kennen und entsprechend für Anwendungsfälle optimiert sind.

Die folgenden Möglichkeiten zur Anbindung von LLMs sind vorgesehen:

• OpenAI API
• Azure OpenAI
• Lokale Modelle
• SAP Generative AI Hub und Joule
• APIs anderer Anbieter (Mistral AI, Gemini, Claude…)

Eine Reihe von Anwendungsfällen in verschiedensten Bereichen sind bereits geplant, unter anderem aktuell nachfolgenden Apps:

• PPM-Portfolioelement-Chatbot – Anlage und Bearbeitung von PPM-Portfolioelementen
• PPM-Projekt-Chatbot – Unterstützung bei der PPM-Bedienung in Form eines Chat Bots
• PS-Chatbot – Unterstützung bei der PS-Bedienung in Form eines Chat Bots
• SAP UI5 Construction Kit Chatbot – Unterstützung bei der Programmierung von UI5 Applikationen im SAP UI5 Construction Kit