arrow-232.svg

svg (1).svg

large_tisax.png

medium_tisax.png

small_tisax.png

thumbnail_tisax.png

tisax.png

small_dsgvo.png

thumbnail_dsgvo.png

dsgvo.png

small_eu-ai-act.png

thumbnail_eu-ai-act.png

eu-ai-act.png

thumbnail_made-in-germany.png

made-in-germany.png

AltaSigma - The Enterprise AI Orchestration Platform

large_Unbenannt.jpg

medium_Unbenannt.jpg

small_Unbenannt.jpg

thumbnail_Unbenannt.jpg

sw.jpg

## Kampagnenoptimierung im Überblick

Kampagnenmanager werden tagtäglich mit der Situation konfrontiert, dass ein und derselbe Kunde für mehrere konkurrierende Angebote in Frage kommt, ein Kunde aber nur für ein Angebot angesprochen werden soll. Oft werden seitens Produktmanagern oder Kundenmanagern starre Auswahlkriterien vorgegeben, die der Kampagnenmanager dann in Form von komplexen Selektionskriterien in einem Kampagnenmanagement-Tool implementieren muss. Da diese Auswahlkriterien in der Regel im Sinne einer Priorisierungslogik definiert werden, berücksichtigen diese nicht die aus Unternehmenssicht optimale Auswahl der Kunden für die geplanten Direktmarketingkampagnen.

Um die Auswirkungen im Sinne von verlorenen Potenzialen zu veranschaulichen, haben wir ein Rechenbeispiel vorbereitet mit drei Marketingkampagnen und neun Kunden, für die kunden- und produkt-individuelle Erwartungswerte mittels KI-basierten Affinitätsmodellen berechnet worden sind.

campaign_optimization_overview_de.jpg

Welchen Kunden auswählen, wenn die gleichen Kunden für verschiedene Angebote in Frage kommen?

Nachfolgend stellen wir drei verschiedene Vorgehensweisen vor, um geeignete Kandidaten für die drei Kampagnen zu selektieren. Dabei gilt für alle Varianten, dass ein Kunde nur einmal pro Kampagne selektiert werden darf und dass maximal drei Kontakte pro Kampagne ausgewählt werden dürfen:
- Kampagnenpriorisierung
- Kundenpriorisierung
- Kampagnenoptimierung


## Kampagnenpriorisierung - wenn Produktmanager die Vorfahrtsregeln bei der Kandidatenauswahl vorgeben

Bei der Kampagnenpriorisierung wird vorgegeben, welche Kampagnen bei der Kandidatenauswahl eine höhere Gewichtung haben als andere Kampagnen. Somit hat die am höchsten priorisierten Kampagne zunächst Zugriff auf den kompletten Kandidaten-Pool, während die zweithöchste priorisierte Kampagne mit der verbleibenden Kandidatenmenge versorgt wird. Das nachfolgende Beispiel veranschaulich einen typischen Kandidatenauswahlprozess im Rahmen einer Kampagnenpriorisierung mit drei Kampagnen.



campaign_prioritization_de.gif

Kampagnenpriorisierung - ein Rechenbeispiel

## Kundenpriorisierung - wenn Kunden nach Umsatzpotenzialen für Kampagnen ausgewählt werden

Bei der Kundenpriorisierung werden kampagnenübergreifend zunächst die wertigsten Kunden ausgewählt. Sobald die kampagnenindividuellen Maximalkapazitäten bezüglich der Zielgruppengröße ausgeschöpft sind, können keine weiteren Kandidaten mehr ausgewählt werden. Im nachfolgenden Beispiel ist ein  Kandidatenauswahlprozess im Rahmen einer Kundenpriorisierung dargestellt. Summiert man die zu erwarteten Erlöse der ausgewählten Kunden, so ist aus Unternehmenssicht die Kundenpriorisierung einer Kampagnenpriorisierung vorzuziehen.


customer_prioritization_de.gif

Kundenpriorisierung - ein einfaches Rechenbeispiel

## Kampagnenoptimierung - die optimale Lösung aus Unternehmenssicht

Da weder die Kampagnenpriorisierung noch die Kundenpriorisierung ein optimales Gesamtergebnis erzielen kann, veranschaulichen wir im nachfolgenden Beispiel die Vorteile einer Kandidaten-Auswahl mit Hilfe von Operations Research Algorithmen. Über die Zielfunktion "Maximierung des Gesamtumsatzes" unter Berücksichtung der Nebenbedingungen - ein Kunde darf nur einmal pro Kampagne selektiert werden und pro Kampagne sind maximal drei Kontakte erlaubt - findet der Optimierungsalgorithmus vollautomatisch die besten Kandidaten für die drei Kampagnen. Summiert man in dem Rechenbeispiel die zu erwarteten Erlöse der ausgewählten Kunden, so liefert die Kampagnenoptimierung mit Abstand das beste Ergebnis.

campaign_optimization_de.gif

Kampagnenoptimierung - ein einfaches Rechenbeispiel

## Kampagnenoptimierung in der Praxis

Die Zuordnung von Kandidaten zu Kampagnen ist in der Praxis deutlich komplexer wie in dem dargestellten Rechenbeispiel. Neben einer Maximierung einer Zielfunktion (z.B. Maximierung der Gesamterlöse) sind auch Minimierungen weit verbreitet (z.B. Minimierung von Kampagnenkosten). Oft konkurrieren über hundert Kampagnen um die besten Kontakte - und das bei deutlich umfangreicheren Nebenbedingungen, wie z.B.
- Budget-Restriktionen pro Kampagne
- Mindest- und Maximal-Kapazitäten (z.B. Call Center)
- Angebotsindividuelle Mindest-Affinitäten
- Ansprachekanal-individuelle Nebenbedingungen (z.B. für Email, Mailing, Call)
- Kontaktregeln und Kontaktstrategien
- Fixen und variablen Kosten
- Übergreifende Nebenbedingungen (z.B. pro Produktangebot über alle Ansprachekanäle hinweg) 

Die nachfolgende Darstellung zeigt die Administrator-Oberfäche zur zentralen Verwaltung verschiedener Nebenbedingungen im AltaSigma Campaign Optimization Modul.

campaign_optimization_constraints.png

Definition von Nebenbedingungen im AltaSigma Campaign Optimization Modul

## Der Kampagnenoptimierungsprozess - Input, Interaktionen & Output

Die Kampagnenoptimierung nutzt Methoden des Operations Research, um unter Einsatz von mathematischen Optimierungsalgorithmen kampagnen-übergreifende Kampagnenerlöse zu maximieren oder einen kampagnen-übergreifenden Ressourceneinsatz zu minimieren. Dabei dienen manuell selektierte Kampagnenkandidaten sowie durch KI-Methoden auf Produkt-Affinität bewertete Kampagnenkandidaten als Input für ein sogenanntes Optimierungsszenario, welches über die Definition von Zielfunktion und Nebenbedingungen ein mathematisch optimales Ergebnis berechnet - nämlich die aus Unternehmenssicht optimale Kandidatenauswahl für eingeplante Direktmarketing-Kampagnen. Mit der Freigabe eines Optimierungsszenarios werden sämtliche über die Optimierung ermittelten Kandidaten den jeweiligen Kampagnen in Form einer automatisch erstellten Kampagnen-Kandidaten-Liste zugewiesen und können für die kampagnen-ausführenden Kontaktkanäle bereitgestellt werden. Der nachfolgend dargestellte Kampagnenoptimierungsprozess kann theoretisch  vollautomatisch durchlaufen werden. Werden bewusst im Rahmen von Simulationen verschiedene Optimierungsszenarien durchlaufen, so kann dieser Automatismus bis zur Auswahl eines finalen Szenarios im Sinne einer KI-gestützten Entscheidungsfindung jederzeit unterbrochen werden.

campaign_optimization_process_de.jpg

Übersicht des Kampagnenoptimierungsprozesses

## Szenarioanalyse in der Kampagnenoptimierung

Unter einem Optimierungsszenario versteht man eine bestimmte Kombination von Zielfunktion, Annahmen und Nebenbedingungen, die den Kontext eines Entscheidungsproblems beschreiben. Diese Annahmen können verschiedene Faktoren umfassen, wie beispielsweise zukünftige Ereignisse, Ressourcenverfügbarkeit oder Marktzustände. Unter Berücksichtigung von Zielfunktion und Nebenbedingungen spielt ein Szenario die zentrale Rolle, da es die Grundlage für die Formulierung und Lösung von Entscheidungsproblemen im Rahmen der Kampagnenoptimierung bildet. Normalerweise werden im Rahmen einer Kampagnenoptimierung verschiedene Szenarien angelegt (z.B. über die Definition verschiedener Nebenbedingungen pro Szenario), um robuste und verlässliche Entscheidungen zu treffen und Risiken sowie Unsicherheiten in die Planung und Durchführung einer Kampagnenoptimierung mit einzubeziehen. Die nachfolgende Darstellung visualisiert eine Szenarioanalyse über vier verschiedene Szenarien sowie deren Auswirkung auf die Allokation der Kandidaten auf die jeweiligen Kampagnen.



campaign_optimization_scenarios.png

Szenario-Analyse mit unterschiedlich gesetzten Nebenbedingungen am Beispiel AltaSigma Campaign Optimization 

## Warum Kampagnenoptimierungsprozesse künftig klassische Campaign Automation Prozesse revolutionieren werden

Im Rahmen dieses Beitrags wurden die Vorzüge und Mehrwerte einer KI-gestützten Kampagnenoptimierung anhand von einfach nachvollziehbaren Beispielen eindrucksvoll vorgestellt. 
Die Inhalte basieren auf einem umfangreichen Kampagnenoptimierungsprojekt mit über 200 konkurrierenden Kampagnen pro Durchlauf und einer Zielgruppe von mehreren Millionen Kunden. Durch die faktenbasierte, mathematische Kandidatenallokation im Vergleich zu herkömmlichen, oft manuell und subjektiv geprägten Kontaktzuordnungsstrategien, ergeben sich in jedem Kampagnenlauf rasch zusätzliche Erlöse von mindestens 5%-15%. Darüber hinaus sind auch auch die erheblichen Kosteneinsparungen hervorzuheben, die durch die Automatisierung traditioneller Kampagnenselektionen und den Verzicht auf Lizenzgebühren für konventionelle Kampagnenmanagement-Tools erzielt werden können. Diese messbaren Nutzenaspekte sind nur durch den Einsatz von mathematisch fundierten Methoden realisierbar und tragen dazu bei, das volle Potenzial einer automatisierten Kampagnenoptimierung auszuschöpfen.

Wie Kampagnenoptimierung mit Künstlicher Intelligenz und Optimierungsalgorithmen die Grenzen klassischer Kampagnenautomation überwindet.

Mit Kampagnenoptimierung die Kampagneneffizienz im Direktmarketing maximieren

large_campaign_optimization.jpeg

medium_campaign_optimization.jpeg

small_campaign_optimization.jpeg

thumbnail_campaign_optimization.jpeg

campaign_optimization.jpeg

## Erklärbare KI im Überblick

In der heutigen Zeit, in der die Künstliche Intelligenz (KI) zunehmend zur Entscheidungsfindung eingesetzt wird, die unser tägliches Leben beeinflussen, stellt sich eine zentrale Frage: Wie können wir den Entscheidungen von KI-Modellen vertrauen und sie verstehen? Basiert ein KI-Modell auf einem simplen statistischen Algorithmus, ist es meist einfach nachzuvollziehen, wie die Ergebnisse zustande kommen. Anders sieht es bei komplexen Modellen wie Deep Neural Networks (DNNs) aus. Aufbau und Entscheidungen dieser Modelle sind oft nicht ohne Weiteres nachvollziehbar. Explainable AI (XAI) greift dieses Problem auf. Doch wie genau kann XAI die "Black Box" solcher Modelle öffnen?


## Explainable AI in a Nutshell

- Erklärbare AI (XAI) zielt darauf ab, die Entscheidungsprozesse und Funktionsweisen von KI-Modellen transparent und verständlich zu machen. 
- Es ermöglicht Nutzern und Entwicklern, die Logik hinter den Vorhersagen und Entscheidungen der KI nachzuvollziehen, was essenziell für das Vertrauen und die Akzeptanz dieser Technologien ist.
- XAI unterstützt Entwicklern dabei, durch sinnvolle und verständliche Visualisierungen Modell-Wirkweisen zu plausibilisieren und unterstützt bei der Verbesserung von KI Modellen.
- Endanwender gewinnen Vertrauen, da die Wirkweise und Entscheidungsfindung von komplexen KI Modellen nachvollziehbar wird.


## XAI - Einblick in das KI-Modell

Um zu verstehen wie ein spezifisches KI-Modell aufgebaut ist, gibt es Methoden und Techniken, die darauf abzielen, die internen Mechanismen und Funktionsweisen von KI-Modellen transparent und verständlich zu machen. Dieser Ansatz ist entscheidend, um die Komplexität und die sogenannte "Black Box"-Natur moderner KI-Systeme, insbesondere Deep Neural Networks offen zu legen. Dieser Einblick ist entscheidend, um Transparenz zu schaffen und das Vertrauen in die von KI-Systemen getroffenen Entscheidungen zu stärken. Insbesondere in kritischen Anwendungsfällen, wie im Gesundheitswesen oder in der Finanzbranche, ist es wichtig zu verstehen, wie ein Modell zu seinen Schlüssen kommt. 

Sogenannte **Stellvertreter-Modelle** sind ein Weg die Funktionsweise eines zugrundeliegenden KI-Modells approximativ nachzubilden. Stellvertreter-Modelle sind dabei so gestaltet, dass sie leichter zu verstehen und zu interpretieren sind, ohne dabei auf wesentliche Informationen über die Entscheidungsfindung des Originalmodells zu verzichten. In der nachfolgenden Darstellung ist ein Stellvertreter-Modell in Form eines Decision Tree am Beispiel der AltaSigma AI Platform dargestellt.

Ein weiteres wichtiges Element ist die Betrachtung der **Feature Importance**. Dieser Aspekt befasst sich damit, wie stark einzelne Merkmale oder Eingabedaten das Ergebnis des KI-Modells beeinflussen. Durch die Analyse der Feature Importance können wir erkennen, welche Faktoren für das Modell am wichtigsten sind und wie diese die Vorhersagen oder Entscheidungen beeinflussen.


altasigma_surrogate_model.jpeg

Decision Tree als erklärbares Stellvertreter-Modell eines DNN-Klassifikators

## XAI - Einblick in die Entscheidung

Um die Entscheidungsfindungsprozesse von KI-Modellen nachvollziehbar zu gestalten, ist es unabdingbar, sowohl die interne Struktur als auch die spezifischen Mechanismen der Entscheidungsbildung zu verstehen. Hierfür bieten sich verschiedene methodische Ansätze an. 

**SHAP** (SHapley Additive exPlanations), basierend auf spieltheoretischen Prinzipien, dient der Erklärung des Outputs beliebiger Machine Learning Modelle. Die zugrundeliegenden Shapley-Werte wurden ursprünglich 1951 vom amerikanischen Ökonomen Lloyd Shapley eingeführt und dienten der gerechten Gewinnverteilung in kooperativen Spielen. In der Anwendung auf Machine Learning repräsentieren die Shapley-Werte den relativen Beitrag jedes Features (als "Spieler" betrachtet) zur Gesamtleistung des Modells (dem "Spiel"). Die zentrale Idee von [**SHAP**](https://shap-lrjball.readthedocs.io/en/latest/index.html) ist es, den Einfluss eines Features auf die Vorhersage zu bewerten, indem verglichen wird, wie die Vorhersage des Modells aussieht, sowohl mit als auch ohne das jeweilige Feature. Diese Differenz, resultierend aus der Präsenz oder Abwesenheit eines Features, wird als Shapley-Wert bezeichnet. Die Shapley-Werte bieten somit eine quantitative Bewertung des Einflusses jedes einzelnen Features auf die Vorhersage des Modells. Durch diesen Ansatz ermöglicht SHAP ein tieferes Verständnis dafür, wie verschiedene Eingabevariablen in ihrer Gesamtheit zur Leistung eines KI-Modells beitragen. Dies trägt wesentlich zur Transparenz und Nachvollziehbarkeit in der Welt des maschinellen Lernens bei.

[**LIME**](https://github.com/marcotcr/lime) (Local Interpretable Model-agnostic Explanations) ist wie SHAP modell-unabhängig, orientiert sich aber an einem anderen Ansatz. Von der Funktionsweise her wird zunächst das Eingabebeispiel, für das eine Erklärung generiert werden soll, leicht modifiziert, um eine Menge ähnlicher Datenpunkte zu erzeugen. Anschließend beobachtet es, wie sich die Vorhersagen des Modells für diese modifizierten Daten ändern. Auf Basis dieser Beobachtungen erstellt es ein einfaches, interpretierbares Modell (wie ein lineares Modell), das lokal um das Eingabebeispiel herum gültig ist. Bei textbasierten Eingaben bedeuten diese Modifikationen beispielsweise das Hinzufügen oder Fehlen von Wörtern.

**Reason Codes** sind spezielle Codes oder kurze Erläuterungen, die die Gründe für eine spezifische Vorhersage oder Entscheidung eines KI-Modells darlegen. Sie dienen dazu, die Outputs von KI-Systemen für Endbenutzer verständlicher zu machen. Beispielsweise werden in der Finanzbranche Reason Codes verwendet, um Kredite und Risiken zu bewerten. In diesem Zusammenhang werden diese auch als Credit Score Risk Factors oder Adverse Action Codes bezeichnet. Diese numerischen oder alphanumerischen Codes sind mit verschiedenen Kreditbewertungsfaktoren verknüpft und werden von kurzen Beschreibungen begleitet, die erklären, was sich am stärksten auf diesen Score auswirkt. Die Reason Codes werden sortiert aufgeführt, wobei der Faktor, der den größten Einfluss hat, an erster Stelle steht. Reason Codes sind ein wesentlicher Bestandteil eines verantwortungsvollen KI-Modellmanagements und spielen eine entscheidende Rolle bei der Schaffung eines Rahmens für ethische und faire KI. Sie helfen, Vorurteile und Halluzination in KI-Modellen zu identifizieren und zu minimieren, indem sie den Einfluss von diskriminierenden Faktoren wie Geschlecht oder Alter auf die Modellvorhersagen transparent machen. Dadurch wird nicht nur die Genauigkeit der KI-Modelle verbessert, sondern auch das Vertrauen der Nutzer in diese Technologie gestärkt.




altasigma_reason_codes.jpeg

Modell-Inferenz mit REST API und Reason Codes am Beispiel der AltaSigma AI Platform

## Herausforderungen und Perspektiven für die Zukunft

Die größte Herausforderung von Explainable AI (XAI) ist das Spannungsfeld zwischen komplexen und möglichst präzisen KI-Modellen auf der einen Seite und einer möglichst einfachen Verständlichkeit des Modell-Outputs auf der anderen Seite. Dabei gewinnen ethische Aspekte zunehmend an Bedeutung, da XAI in sensiblen Bereichen wie Medizin und Finanzen eingesetzt wird, wo faire und vorurteilsfreie Entscheidungen von entscheidender Bedeutung sind. In Zukunft wird XAI unverzichtbar sein, um Vertrauen in KI-Entscheidungen zu schaffen und ihre gesellschaftliche Akzeptanz zu sichern. Es geht darum, KI-Entscheidungen transparent, nachvollziehbar und ethisch verantwortungsvoll zu gestalten.


Entdecken Sie, wie Erklärbare KI Licht ins Dunkel von KI-Modellen bringt, Transparenz stärkt und die Akzeptanz von KI-Entscheidungen steigert. 

Erklärbare KI - Vertrauen durch Einblick in die Wirkweise von KI-Modellen

large_explainable_ai.jpg

medium_explainable_ai.jpg

small_explainable_ai.jpg

thumbnail_explainable_ai.jpg

explainable_ai.jpg

## Einleitung

### Die Rolle von Data Scientists und die Herausforderungen bei der Programmierung

Data Scientists stehen im Zentrum datengetriebener Innovationen. Ihre Kernaufgabe besteht in der Analyse und Modellierung großer und häufig unstrukturierter Datenmengen, um fundierte Einblicke für strategische und operative Entscheidungen bereitzustellen. Der Arbeitsalltag umfasst jedoch zahlreiche wiederkehrende und zeitaufwändige Tätigkeiten wie die Datenbereinigung, explorative Datenanalysen (EDA) und die Entwicklung von Boilerplate-Code, die für eine erfolgreiche Durchführung datenanalytischer Projekte unverzichtbar sind.

Die Bewältigung dieser Aufgaben wird durch die zunehmende Komplexität moderner Software-Toolchains und Frameworks erschwert. Bibliotheken wie Pandas, TensorFlow oder Scikit-learn erfordern tiefgehende Programmierkenntnisse, um sie effizient einzusetzen. Die damit einhergehenden Herausforderungen werfen die Frage auf, ob technologische Ansätze existieren, die diese Prozesse optimieren und den Aufwand reduzieren können.

### Large Language Modelle im Fokus

Large Language Modelle (LLMs) repräsentieren einen signifikanten Fortschritt in der Forschung zur Künstlichen Intelligenz. Diese Modelle, die auf Basis umfangreicher Datensätze trainiert werden, besitzen die Fähigkeit, natürliche Sprache zu verstehen und zu generieren. Ihre Anwendungsgebiete reichen von der automatisierten Textgenerierung bis hin zur Unterstützung bei der Lösung komplexer Programmierprobleme.
Die bekanntesten Vertreter dieser Modellfamilie sind GPT (Generative Pretrained Transformer) und BERT (Bidirectional Encoder Representations from Transformers). In der Data Science zeichnen sich LLMs dadurch aus, dass sie nicht nur Programmcode generieren, sondern auch Fehler im Code finden und Optimierungsvorschläge liefern können. Diese Fähigkeiten zeichnen sie als potenzielle Schlüsseltechnologie zur Effizienzsteigerung in datenanalytischen Arbeitsprozessen aus.

### Warum LLMs ein Game-Changer für Data Scientists sind

Die Integration von LLMs in die Arbeitsprozesse von Data Scientists revolutioniert den Berufsalltag. Zeitintensive Aufgaben wie die Datenvorverarbeitung, Modellierung oder Visualisierung können durch KI-gestützte Codegenerierung erheblich beschleunigt werden. Gleichzeitig ermöglichen LLMs die Automatisierung repetitiver Tätigkeiten, was den Fokus auf kreative und strategische Herausforderungen lenkt.

Für Einsteiger senken LLMs die Hürden zur effektiven Nutzung datenanalytischer Tools. Durch die Bereitstellung ausführbarer Codevorschläge und detaillierter Erklärungen erleichtern sie die Einarbeitung und den Umgang mit komplexen Frameworks. Darüber hinaus profitieren auch erfahrene Anwender, da sie durch die Entlastung von Routinetätigkeiten mehr Kapazitäten für anspruchsvolle analytische Aufgaben gewinnen.

Insgesamt markieren LLMs einen Paradigmenwechsel in der Data-Science-Praxis, indem sie Produktivität und Effizienz signifikant steigern und Data Scientists befähigen, innovative Lösungen für datenbasierte Herausforderungen zu entwickeln.


## Die aktuellen Herausforderungen für Data Scientists

### Vielfältige Aufgabenbereiche

Der Tätigkeitsbereich eines Data Scientists umfasst ein breites Spektrum an Aufgaben, die sowohl technisches Know-how als auch analytische Fähigkeiten erfordern. Zu den primären Tätigkeiten gehören Data Cleansing, bei der unvollständige, fehlerhafte oder unstrukturierte Daten in eine analysierbare Form gebracht werden, sowie die explorative Datenanalyse (EDA), die erste Einblicke in die Struktur und Eigenschaften der Daten liefert.
Darüber hinaus zählen die Modellentwicklung und -evaluation sowie die Visualisierung der Ergebnisse zu den Kernkompetenzen eines Data Scientists. Diese Vielfalt an Aufgaben verlangt die Beherrschung zahlreicher Werkzeuge und Methoden, was den Beruf sowohl anspruchsvoll als auch zeitintensiv macht.

### Zeitintensive Prozesse

Ein bedeutender Anteil der Arbeitszeit eines Data Scientists entfällt auf manuelle, repetitive Prozesse, insbesondere während der Phasen der Datenvorbereitung und -analyse. Studien zeigen, dass bis zu 80 % der Projektzeit auf die Datenaufbereitung entfallen kann, was die Effizienz der Modellierungs- und Analysephasen erheblich einschränkt. Die Notwendigkeit, große Datenmengen manuell zu bereinigen, filternde Regeln zu implementieren und transformationsbezogene Pipelines zu erstellen, stellt eine erhebliche Belastung dar.

Auch die iterative Optimierung von Machine-Learning-Modellen, wie etwa das Hyperparameter-Tuning, erfordert einen hohen Zeitaufwand, da sie zahlreiche experimentelle Durchläufe mit unterschiedlichen Parametereinstellungen umfasst. Diese Iterationszyklen sind essenziell für die Qualität der Ergebnisse, tragen jedoch zur zeitlichen Ineffizienz bei.

### Komplexität der Tools und Frameworks

Die Data-Science-Praxis ist durch eine Vielzahl spezialisierter Tools und Frameworks geprägt, die jeweils spezifische Anforderungen an den Anwender stellen. Pandas und NumPy dominieren die Datenmanipulation, während Scikit-learn und TensorFlow bevorzugt für maschinelles Lernen und Deep Learning eingesetzt werden.
Jedes dieser Frameworks besitzt eine eigene Syntax, spezifische Funktionen und eine Vielzahl an Optionen, die erst erlernt und verstanden werden müssen. Insbesondere für Neueinsteiger stellt dies eine erhebliche Barriere dar, während erfahrene Data Scientists durch die Vielzahl an Schnittstellen und Kompatibilitätsanforderungen herausgefordert werden.


## LLMs – Was verstehen wir darunter und wie funktionieren sie?

### Definition und Funktionsweise

Large Language Models (LLMs) sind spezialisierte KI-Modelle, die darauf trainiert sind, natürliche Sprache zu verstehen und zu generieren. Sie basieren auf neuronalen Netzwerken, insbesondere auf der Architektur von Transformern, die durch ihre Fähigkeit zur parallelen Verarbeitung großer Datenmengen herausragen.
Das zentrale Konzept hinter LLMs ist die Nutzung großer, vorab trainierter Modelle, die durch Transfer Learning auf spezifische Aufgaben angepasst werden können. Durch die Analyse riesiger Datenmengen lernen diese Modelle statistische Muster in Sprache und Text, was ihnen erlaubt, auf Eingaben präzise und kontextualisierte Ausgaben zu generieren.

### Training auf umfangreichen Datenmengen

Der Erfolg von LLMs beruht auf ihrem Training auf extrem großen und diversifizierten Datensätzen, die sowohl strukturierte als auch unstrukturierte Informationen umfassen. Dieser Ansatz ermöglicht es den Modellen, kontextbezogene Bedeutungen zu erfassen, Synonyme zu erkennen und mehrdeutige Begriffe im Zusammenhang zu interpretieren. Während des Trainingsprozesses werden Milliarden von Parametern optimiert, um die Beziehung zwischen Wörtern, Phrasen und Sätzen abzubilden.
Ein charakteristisches Merkmal dieser Modelle ist ihre Skalierbarkeit: Je größer der Datensatz und das Modell, desto präziser wird die Ausgabe. Gleichzeitig führen jedoch die hohen Rechenanforderungen und der Energieverbrauch des Trainingsprozesses zu Herausforderungen hinsichtlich Nachhaltigkeit und Ressourcenmanagement.

### Relevanz für Programmierer

Die Anwendung von LLMs hat sich in der Programmierung als besonders vielversprechend erwiesen. Diese sind in der Lage: 
- **Code zu generieren**: LLMs schreiben Code-Snippets auf Basis von Beschreibungstexten oder spezifischen Anforderungen. 
- **Fehler zu diagnostizieren**: LLMs identifizieren häufige Fehler wie Syntaxprobleme oder Logikfehler und schlagen Korrekturen vor. 
- **Code zu optimieren**: LLMs geben Vorschläge zur Verbesserung von Effizienz oder Lesbarkeit.

Insbesondere in der Data Science eröffnen LLMs neue Möglichkeiten, indem sie zeitintensive Aufgaben wie die Datenbereinigung, das Hyperparameter-Tuning oder die Visualisierung automatisieren und beschleunigen. Dies führt nicht nur zu einer höheren Produktivität, sondern auch zu einer Senkung der technischen Hürden für Einsteiger.



## Beschleunigung der Code-Generierung mit LLMs

### Code-Vorschläge und Snippet-Generierung

LLMs bieten eine mächtige Unterstützung bei der Erstellung von Code durch automatisierte Vorschläge und die Generierung spezifischer Code-Snippets. Dies ist insbesondere für Data Scientists von Vorteil, da viele ihrer Aufgaben wiederkehrender Natur sind. Typische Anfragen umfassen unter anderem die **Datenbereinigung**, bei der gängige Aufgaben wie die Behandlung fehlender Werte, die Umwandlung von Datentypen oder die Filterung von Anomalien automatisiert werden. Bei der **explorativen Datenanalyse (EDA)** können auf Basis kurzer Textanweisungen aussagekräftige Visualisierungen wie Histogramme, Boxplots oder Korrelationsmatrizen erstellt werden. Darüber hinaus erleichtern LLMs die **Modellierung und das Hyperparameter-Tuning**, indem sie Code für gängige Machine-Learning-Modelle wie Random Forest oder Support Vector Machines generieren und Vorschläge zur Optimierung von Hyperparametern machen. Diese Fähigkeiten verringern nicht nur die Zeit für die Implementierung, sondern minimieren auch die Gefahr von Fehlern, die bei manueller Codierung auftreten können.

### Automatisierung repetitiver Aufgaben

Ein zentraler Vorteil von LLMs liegt in ihrer Fähigkeit, repetitive Aufgaben zu automatisieren. Data Scientists profitieren besonders in verschiedenen Bereichen, wie etwa der automatisierten Erstellung von **Boilerplate-Code** für die Datenvorverarbeitung, zum Beispiel beim Laden von Daten, Skalieren von Features oder Aufteilen von Datensätzen. Zudem können LLMs vollständige **Pipeline-Setups** generieren, die verschiedene Schritte der Datenanalyse und Modellierung integrieren, einschließlich der Validierung und Speicherung von Modellen. Ein weiteres Beispiel sind **Reporting-Applikationen**, bei der LLMs automatisch Berichte generieren, die die Ergebnisse einer Analyse zusammenfassen und visualisieren. Die Automatisierung dieser Prozesse ermöglicht es, sich auf kreative und analytische Aufgaben zu konzentrieren, während Routineaufgaben zuverlässig delegiert werden.

### Unterstützung bei Debugging und Code-Optimierung

Neben der Code-Generierung bieten LLMs auch wertvolle Unterstützung bei der Identifikation und Behebung von Fehlern sowie bei der Optimierung vorhandenen Codes. Sie analysieren den Code auf Syntax- und Logikfehler und liefern oft präzise Hinweise auf die zugrunde liegende Ursache. Zudem identifizieren sie ineffiziente Algorithmen oder Strukturen und schlagen Alternativen vor, die entweder die Laufzeit reduzieren oder die Lesbarkeit verbessern. Darüber hinaus helfen LLMs durch kontextualisierte Erklärungen beim Debugging, indem sie dabei helfen, Fehler schneller zu verstehen und zu beheben. Diese Funktionen reduzieren den Aufwand für die Fehlersuche erheblich, was besonders bei komplexen Projekten mit mehreren Abhängigkeiten von großem Vorteil ist.

Die nachfolgende Abbildung verdeutlicht die Potenziale, welche sich durch die Nutzung von LLMs während der Programmierung realisieren lassen ([McKinsey 2023](https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/unleashing-developer-productivity-with-generative-ai)).



LLM_supported_Coding_de.jpg

Potenziale von Generativer KI bei der Software-Entwicklung (McKinsey 2023)

## Erweiterte Anwendungsfälle für LLMs in der Data-Science-Praxis

### Dokumentation und Code-Kommentierung

Eine der zentralen Herausforderungen bei Data Science Projekten ist die Erstellung klarer und nachvollziehbarer Dokumentationen. LLMs leisten hierbei wertvolle Unterstützung. Sie können auf Basis des vorhandenen Codes **präzise und verständliche Kommentare** generieren, die den Zweck und die Funktionsweise einzelner Codeabschnitte erläutern. Dies ist besonders hilfreich bei komplexen Algorithmen oder umfangreichen Pipelines. Darüber hinaus sind LLMs in der Lage, **projektspezifische Dokumentationen** zu erstellen, die die Eingabe- und Ausgabeformate, verwendete Methoden und Modelle sowie die erzielten Ergebnisse beschreiben. Diese Funktion beschleunigt die Kommunikation innerhalb von Teams und gegenüber Stakeholdern.

### Wissensvermittlung und Unterstützung

Neben der direkten Unterstützung bei der Code-Generierung und -Dokumentation bieten LLMs auch wertvolle Möglichkeiten zur Wissensvermittlung. Sie können abstrakte oder mathematische Themen wie Clustering-Algorithmen (z. B. k-Means) oder Modellbewertung (z. B. ROC-AUC-Kurven) verständlich aufbereiten und mit Beispielen illustrieren. Zudem können LLMs Data Scientists auf neue Frameworks und Bibliotheken hinweisen, die sie bisher nicht genutzt haben, und diese anhand von Codebeispielen vorstellen.

### Kollaboration und Kommunikation

Im Rahmen datenwissenschaftlicher Projekte ist eine effektive Kommunikation essenziell, insbesondere wenn Ergebnisse an technische oder nicht-technische Stakeholder vermittelt werden müssen. LLMs können in diesem Bereich einen entscheidenden Mehrwert bieten. Sie generieren **automatisiert Berichte**, die sowohl technische Details als auch verständliche Zusammenfassungen für nicht-technische Leser enthalten. Grafiken und Diagramme können dabei nahtlos integriert werden. Zudem sind LLMs in der Lage, **komplexe Ergebnisse in eine für Laien verständliche Sprache** zu übertragen, was die Kommunikation mit Führungskräften oder Kunden deutlich erleichtern kann.

## Grenzen und Herausforderungen beim Einsatz von LLMs

### Qualitätskontrolle: Wie zuverlässig sind die von LLMs generierten Codes?

Trotz ihrer beeindruckenden Fähigkeiten sind die von LLMs generierten Codes nicht immer fehlerfrei. Häufige Herausforderungen sind **fehlerhafte oder ineffiziente Codeabschnitte**, da LLMs auf Wahrscheinlichkeitsmodellen basieren und daher syntaktisch korrekten, aber semantisch falschen oder suboptimalen Code generieren können. Zudem kann es aufgrund unpräziser Prompts vorkommen, dass LLMs Code vorschlagen, der **nicht den Anforderungen entspricht,** was eine manuelle Überprüfung und Anpassung erforderlich macht. In seltenen Fällen kann der generierte Code auch **unnötig komplex oder ineffizient** sein, wenn das Modell eine Aufgabe überinterpretiert. Die Qualitätssicherung durch den Data Scientist bleibt somit ein essenzieller Schritt bei der Nutzung von LLMs.

### Abhängigkeit von Modellen: Risiko, Fachwissen zu vernachlässigen

Die steigende Verfügbarkeit von LLMs birgt das Risiko, dass Fachwissen weniger stark aufgebaut wird. Eine übermäßige Abhängigkeit von LLMs kann zu einem **Kompetenzverlust** führen, da grundlegende Fähigkeiten in der Programmierung und im Algorithmendesign vernachlässigt werden. Zudem könnten Data Scientists geneigt sein, generierten Code ohne kritische Prüfung zu übernehmen, was zu einem **eingeschränkten Verständnis** des zugrunde liegenden Prozesses führen könnte. Dies unterstreicht die Notwendigkeit, LLMs als unterstützende Werkzeuge zu betrachten, die das Fachwissen erweitern, aber nicht ersetzen.

### Datenschutz und Umgang mit sensiblen Code-Fragmenten

Die Nutzung von LLMs in datengetriebenen Projekten ist auch bezüglich Datenschutz kritisch zu bewerten. Gerade der Umgang mit **vertraulichen und sensiblen Daten** kann bei der Nutzung von cloud-basierte LLMs zu Sicherheitsrisiken führen. Der Einsatz **lokal installierter LLMs** bietet hier eine sicherere Alternative.

Die Berücksichtigung dieser Aspekte ist entscheidend, um die Vorteile von LLMs verantwortungsvoll und nachhaltig zu nutzen.


## Ausblick – Die Zukunft der Data Science mit LLMs

### Weiterentwicklung von Modellen

Die kontinuierliche Weiterentwicklung von LLMs wird ihre Rolle im Data Science Umfeld weiter stärken. Zukünftige Modelle zeichnen sich durch verbesserte Effizienz aus, da Fortschritte in Modellarchitekturen wie Sparse-Transformer oder adaptives Training die Rechenanforderungen und den Energieverbrauch signifikant reduzieren könnten. Zudem wird der Fokus zunehmend auf die Entwicklung von spezialisierten LLMs liegen, die für spezifische Anwendungsbereiche, wie zum Beispiel Biologie oder Finanzanalysen, optimiert sind. Eine weitere Entwicklung wird die bessere Integration in Tools sein, sodass LLMs nahtloser in gängige Entwicklungsumgebungen wie Jupyter Notebooks oder VS Code eingebunden werden und direkt im Workflow zugänglich sind.

### Zusammenarbeit von Mensch und Maschine

Ein zentraler Aspekt der Zukunft von LLMs ist die effektive Kooperation zwischen Mensch und KI. LLMs werden nicht als Ersatz für Data Scientists betrachtet, sondern als Werkzeuge, die kreative und strategische Aufgaben unterstützen. Ein Beispiel dafür ist die **kreative Problemlösung**, bei der durch die Automatisierung standardisierter Prozesse Data Scientists mehr Zeit für innovative Ansätze und die Entwicklung neuer Algorithmen gewinnen. Zudem bieten LLMs schnelle und präzise Unterstützung **bei repetitiven oder datenintensiven Aufgaben**, während der menschliche Verstand für strategische Entscheidungen und Kontextbewusstsein unverzichtbar bleibt. Die Zusammenarbeit zwischen Mensch und Maschine wird somit als symbiotisch betrachtet, wobei beide ihre Stärken in den Workflow einbringen.

### Potenzial für Innovationen

Die zunehmende Verfügbarkeit und Leistungsfähigkeit von LLMs wird neue Wege für Innovationen in der Data Science eröffnen. LLMs ermöglichen es Teams, schneller von der Idee zur Umsetzung zu gelangen, indem sie **Arbeitsprozesse drastisch vereinfachen**. Darüber hinaus könnten LLMs mit besserer Sprachverarbeitung und der Fähigkeit, domänenspezifischen Kontext zu verstehen, in neue Bereiche wie automatisierte Hypothesengenerierung oder Echtzeit-Datenanalysen vordringen. Eine weitere Entwicklung ist die **Förderung der Kollaboration**, da LLMs durch die Automatisierung von Dokumentationen und Berichten die Zusammenarbeit zwischen Data Scientists, Entwicklern und Entscheidungsträgern erleichtern.

### Fazit

Large Language Modelle (LLMs) haben das Potenzial, die Arbeitsweise von Data Scientists grundlegend zu verändern. Sie automatisieren zeitaufwändige Prozesse wie die Datenbereinigung, die explorative Datenanalyse oder das Debugging von Code, wodurch Data Scientists effizienter und produktiver arbeiten können. Darüber hinaus eröffnen LLMs neue Möglichkeiten in der Wissensvermittlung, der Zusammenarbeit und der Kommunikation mit Stakeholdern. Trotz der beeindruckenden Fortschritte sind LLMs keine vollständigen Ersatzlösungen. Ihre Nutzung erfordert nach wie vor fundiertes Fachwissen, insbesondere um die Qualität des generierten Codes sicherzustellen und potenzielle datenschutzbezogene Probleme zu vermeiden. LLMs sind Werkzeuge, die die Kompetenzen von Data Scientists erweitern, nicht ersetzen.
Die Integration von LLMs in Data-Science-Workflows erlaubt es, sich auf kreative, strategische und innovative Aspekte zu konzentrieren, während repetitive Aufgaben automatisiert werden. Somit fördern LLMs sowohl die Effizienz als auch die Qualität datenanalytischer Projekte.

Data Scientists werden ermutigt, die Vorteile von LLMs in ihren eigenen Projekten zu nutzen und sich mit deren Möglichkeiten und Grenzen vertraut zu machen. Praktische Anwendungsbeispiele, die von automatisierten Datenanalysen bis zur Generierung komplexer Berichte reichen, bieten eine hervorragende Gelegenheit, das Potenzial dieser Technologie auszuschöpfen. Die Integration von LLMs in den Arbeitsalltag ist ein Schritt in Richtung einer effizienteren, kreativeren und kollaborativeren Zukunft in der Data Science. Jetzt ist der richtige Zeitpunkt, diese Entwicklung aktiv mitzugestalten und die eigene Arbeit durch den Einsatz von LLMs auf ein neues Niveau zu heben.


## FAQ – Häufige Fragen zu LLMs und ihrer Nutzung für Data Scientists

### Was versteht man unter Large Language Modellen (LLMs)?

Large Language Modelle (LLMs) sind KI-Modelle, die auf umfangreichen Datensätzen trainiert wurden, um Sprache zu verstehen und zu generieren. Sie nutzen neuronale Netzwerke, insbesondere Transformer-Architekturen, um Zusammenhänge zwischen Wörtern und Phrasen zu analysieren und darauf basierend präzise Antworten oder Vorschläge zu generieren. Zu den bekanntesten LLMs gehören OpenAIs ChatGPT, Opus von Anthropic oder Google Gemini.

### Wie können LLMs die Arbeit von Data Scientists beschleunigen?

LLMs automatisieren und optimieren zahlreiche Aspekte der Data Science, darunter die Code-Generierung für Datenbereinigung, Visualisierungen oder maschinelles Lernen, die Fehlerdiagnose und das Debugging für effizientere Entwicklung sowie die Automatisierung repetitiver Aufgaben, wie das Erstellen von Boilerplate-Code oder Pipelines. Dadurch sparen Data Scientists Zeit und können sich auf komplexere Analysen und Modellierungen konzentrieren.

### Welche Python-Bibliotheken unterstützen LLMs besonders gut?

LLMs interagieren nahtlos mit den meisten Python-Bibliotheken. Besonders häufig generieren sie Code für Pandas (Datenmanipulation und Analyse), NumPy (numerische Berechnungen), Matplotlib und Seaborn (Visualisierung), Scikit-learn (Maschinelles Lernen) sowie TensorFlow und PyTorch (Deep Learning).

### Wie zuverlässig ist der von LLMs generierte Python-Code?
 
Der von LLMs generierte Code ist in vielen Fällen funktional, erfordert jedoch eine Überprüfung durch den Anwender. Typische Fehlerquellen sind semantische Fehler, da LLMs keinen vollständigen Kontext haben sowie suboptimale Lösungen, die ineffizient oder unnötig komplex sein können.
Die Verantwortung liegt bei den Data Scientists, den Code kritisch zu prüfen und gegebenenfalls zu optimieren.

### Können LLMs Python-Code debuggen?

Ja, LLMs sind in der Lage, Fehler im Code zu identifizieren, die Ursachen zu erklären und Korrekturvorschläge zu machen. Sie helfen besonders bei Syntaxfehlern (z.B. fehlende Klammern), Logikfehlern (z.B. falsche Schleifenbedingungen) sowie Optimierungsfragen, um die Performance zu verbessern.

### Wie sicher ist es, LLMs für Projekte mit sensiblen Daten zu nutzen?

Die Sicherheit hängt stark von der Implementierung ab: Cloud-basierte LLMs können Risiken bergen, da sensible Daten möglicherweise gespeichert oder verarbeitet werden. Lokale Modelle bieten eine sicherere Alternative, insbesondere für Projekte mit hohen Datenschutzanforderungen.

### Kann ein LLM auch komplexe Data-Science-Modelle in Python erstellen?

Ja, LLMs können vollständige Modelle für maschinelles Lernen oder Deep Learning generieren, einschließlich Hyperparameter-Tuning, Modellbewertung sowie Performance-Optimierung. Dabei ist es jedoch wichtig, den generierten Code an die spezifischen Anforderungen anzupassen.

### Ist der Einsatz von LLMs für Anfänger oder nur für erfahrene Data Scientists geeignet?
 
LLMs bieten Mehrwert für alle Erfahrungsstufen: Anfänger profitieren von leicht verständlichen Beispielen und generierten Codes, die sie Schritt für Schritt nachvollziehen können. Experten automatisieren repetitive Aufgaben und erhalten Unterstützung bei der Optimierung komplexer Projekte.

### Wie sieht die Zukunft von LLMs im Bereich Data Science aus?

Die Zukunft von LLMs in der Data Science ist vielversprechend. Entwicklungen wie die Integration in Entwicklungsumgebungen (z.B. Jupyter Notebooks), Domänenspezifische Anpassungen (z. B. medizinische oder finanzielle Datenanalysen) oder automatisierte Modellinterpretation und Echtzeit-Unterstützung werden LLMs noch stärker in den Workflow einbinden und die Effizienz weiter erhöhen.


Wie die Integration von LLMs in die Arbeitsprozesse von Data Scientists den Berufsalltag revolutionieren. 

Schneller, smarter, besser: LLMs als Gamechanger für Data Science

large_llm_supported_datascience.jpeg

medium_llm_supported_datascience.jpeg

small_llm_supported_datascience.jpeg

thumbnail_llm_supported_datascience.jpeg

llm_supported_datascience.jpeg

## Federated Learning und Swarm Learning in a Nutshell

Das Trainieren von Machine Learning-Modellen erfordert in der Regel größere Mengen an Daten. Das Teilen der dazu erforderlichen Daten mit Dritten ist für viele Unternehmen ein Schritt, der hinsichtlich Datenschutz mit Risiken verknüpft ist. Diese Lücke können Federated Learning und Swarm Learning Ansätze schließen, da sie auf der einen Seite Datenschutz und auf der anderen Seite Effizienz im Machine Learning zusammen bringen. Beide Methoden stellen Alternativen zum traditionellen, zentralisierten Training von Machine Learning Model-len dar, indem sie auf verteilten Systemen basieren. Sowohl Federated Learning als auch Swarm Learning ermöglichen das Training von Modellen über mehrere Geräte, ohne dass sensible Daten geteilt oder zentral gespeichert werden müssen. So ist Privacy by Design bei beiden Ansätzen ein zentrales Augenmerk. Während Federated Learning eine Zusammenarbeit zwischen lokalen Geräten und einem zentralen Server voraussetzt, nutzt Swarm Learning eine peer-to-peer-Struktur ohne zentralen Koordinator.


federated_vs_swarm_learning.jpeg

Zentrales Modell-Training im Vergleich zu Federated Learning und Swarm Learning

## Was ist Federated Learning?

Federated Learning ist eine Methode des Machine Learning, bei der ein Modell über mehrere dezentrale Nodes trainiert wird. Dabei bleiben die Daten lokal, so dass Datenschutz sichergestellt ist und keine großen Datenmengen übertragen werden müssen. Im Federated Learning trainiert jedes Gerät ein Modell auf seinen eigenen Daten und sendet nur die Updates der Modell-Parameter an einen zentralen Server. Dieser aggregiert die Updates zu einem globalen Modell, welches dann wieder an die Geräte zurückgesendet wird. Dieser Prozess wird iterativ wiederholt. Grundvoraussetzung ist ein Ausgangsmodell, dass initial allen Geräten zur Verfügung steht.

## Was ist Swarm Learning?

Swarm Learning ist eine Erweiterung des Federated Learning-Konzepts. Anstatt die Modellupdates an einen zentralen Server zu senden, kommunizieren die Nodes in einem peer-to-peer-Netzwerk. Verbessert ein Gerät sein lokales Modell, teilt es die Änderungen direkt mit allen anderen Nodes. Dies geschieht beispielsweise über Gossip-Protokolle mit geringer Netzwerkbelastung. Im Kern des Swarm Learning stehen Blockchain-Technologien, die für die Aufzeichnung und Verifizierung von Modellupdates verwendet werden. Jeder Modellaustausch zwischen den Geräten wird als Transaktion in der Blockchain aufgezeichnet, was Manipulationen verhindert und Transparenz schafft. Smart Contracts können hierbei verwendet werden, um die Bedingungen für den Austausch von Modellinformationen festzulegen und durchzusetzen.


## Wichtige Algorithmen und Techniken in Federated und Swarm Learning

Beim Federated Learning ist der Aggregationsalgorithmus von zentraler Bedeutung. Der vorherrschende Ansatz hierbei ist der Federated Stochastic Gradient Descent (FedSGD). In diesem Verfahren berechnet jeder beteiligte Node die Gradienten basierend auf seinem lokalen Datensatz und übermittelt diese nach jedem Trainingsschritt an einen zentralen Server. Der Server führt daraufhin eine Aggregation der Gradienten durch und aktualisiert das globale Modell. FedSGD zeigt eine hohe Eignung für Szenarien, die Echtzeit-Verarbeitung erfordern. Jedoch ist zu beachten, dass die Präzision des aggregierten Modells potenziell beeinträchtigt werden kann, insbesondere wenn eine starke Heterogenität in den lokalen Datensätzen vorliegt. Als Alternative bietet sich die Federated Averaging Methode (FedAvg) an. Dieser Ansatz stellt eine Erweiterung des FedSGD dar und ist darauf ausgerichtet, die Effizienz der Kommunikation zu erhöhen, indem jeder Node mehrere Trainingsschritte absolviert, bevor Modellaktualisierungen geteilt werden. Der zentrale Server berechnet anschließend den gewichteten Durchschnitt (weighted average) der resultierenden Modelle.

## Federated und Swarm Learning in der Praxis

AI Frameworks wie TensorFlow [**Federated**](https://www.tensorflow.org/federated) und Open Minded's [**PySyft**](https://github.com/OpenMined/PySyft) ermöglichen die Umsetzung von Federated Learning in Python. Auch Intel's [**OpenFL**](https://github.com/securefederatedai/openfl) und NVIDIA's [**NVFlare**](https://github.com/NVIDIA/NVFlare) bieten flexible Lösungen und vielfältigen Modell-Support.

Ein prominentes Anwendungsbeispiel für **Federated Learning** in der Praxis ist Apples Implementierung von Wortvervollständigung auf ihren iOS-Geräten. Apple nutzt Federated Learning, um die Wortvorhersagefunktion ihrer Tastatur zu verbessern, ohne die Privatsphäre der Nutzer zu beeinträchtigen. Jedes iOS-Gerät trainiert das Wortvorhersagemodell lokal basierend auf den Eingaben des Nutzers. Auf diese Weise bleiben die Texteingaben und andere sensible Daten auf dem Gerät und werden nicht an Apple-Server gesendet. Durch das Training auf den Geräten lernen die Modelle aus der realen Nutzung und passen sich den individuellen Schreibstilen und Sprachgewohnheiten der Nutzer an. Bei der Aggregation der lokalen Modelle profitiert Apple unter Anderem, in dem der zentrale Wortschatz kontinuierlich erweitert und die Wortvorhersagefähigkeit immer weiter verbessert wird. Periodisch sendet jedes Gerät Modellverbesserungen – und nicht die Textdaten selbst – an Apple zurück. Das aktualisierte, verbesserte Modell wird dann wieder an die Geräte verteilt.

**Swarm Learning** hingegen befindet sich noch in einer frühen Entwicklungsphase. In einer [wissenschaftlichen Studie](https://www.mse.rwth-aachen.de/go/id/ifmz/file/845570) des Universitätsklinikums der RWTH Aachen wurde Swarm Learning angewendet, um die Genauigkeit der Darmkrebsdiagnostik zu verbessern. Das Forschungsteam trainierte KI-Modelle unter Verwendung von histopathologischen Bilddaten von Patienten aus Irland, Deutschland und den USA. Diese Modelle zielten darauf ab, genetische Mutationen, die zu Krebs führen können, aus Bildern vorherzusagen. Die Leistungsfähigkeit dieser Modelle wurde mit Daten aus zwei unabhängigen Datensätzen aus Großbritannien validiert. Die Ergebnisse der Studie demonstrierten eine überlegene Vorhersageleistung der Swarm Learning-Modelle im Vergleich zu Modellen, die ausschließlich auf lokalen Daten trainiert wurden.


## Federated und Swarm Learning - Ein Ausblick

Federated und Swarm Learning bieten signifikante Vorteile in Bezug auf Datenschutz und Datensicherheit, da sie das Training von maschinellen Lernmodellen ermöglichen, ohne sensible Daten zu zentralisieren oder zu teilen. Es gilt jedoch einige Herausforderungen zu bewältigen um ein solches Projekt erfolgreich umzusetzen. Nicht nur effizeinte Skalierung des Systems bei wachsender Anzahl von Nodes sondern auch Kommunikationseffizienz, sprich die Minimierung der Netzwerkbelastung und Optimierung der Datenübertragung sind entscheidend für den Erfolg. Die größte Hürde ist dennoch der Umgang mit unterschiedlichen Datenverteilungen über die Nodes hinweg (non-IID Problematik) und die damit verbundene Gefahr des Client Drifts. Hier gilt es den Aggregationsalgorithmus mit größter Sorgfalt zu implementieren, um ein qualitativ hochwertiges globales Model zu erhalten. 

Im Zeitalter von immer größeren Datenmengen und der Wichtigkeit von Datensicherheit und Privatsphäre ermöglichen diese Technologien in Zukunft die effiziente Nutzung von Daten über verschiedene Geräte und Institutionen hinweg, ohne dabei Kompromisse einzugehen. Dadurch eröffnen sich neue Möglichkeiten für daten- und KI-gestützte Innovationen in sensitiven Bereichen wie dem Gesundheitswesen, die in dieser Form bisher nicht möglich waren.



Wie man mit Federated Learning und Swarm Learning KI Modelle an der Datenquelle aktualisiert und dabei die strengen Regeln des Datenschutzes einhält.

Learning on the Edge - Federated Learning & Swarm Learning

large_swarm_learning.jpeg

medium_swarm_learning.jpeg

small_swarm_learning.jpeg

thumbnail_swarm_learning.jpeg

swarm_learning.jpeg

## Uplift Modeling im Überblick

Uplift Modeling verwendet Methoden der Kausalen Inferenz, um den Einfluss von gezielten Aktionen oder Interventionen auf das Verhalten von Individuen zu messen. Anders ausgedrückt zielt es darauf ab, die Frage zu beantworten, wie eine konkrete Kontaktierung (wie z.B. eine Marketingaktion oder eine politische Kampagne) die Wahrscheinlichkeit einer gewünschten Reaktion bei einer Person beeinflusst. Uplift Modeling findet vor allem in Bereichen Anwendung, in denen es um die Optimierung von Kundenansprachen geht (wie z.B. im Marketing zur Steigerung von Conversion Rates) oder in der medizinischen Forschung zur Bewertung unterschiedlicher Medikationen.

## Das Wichtigste auf einen Blick – Uplift Modeling in a Nutshell

- Uplift Modeling identifiziert die Kunden, die im Rahmen einer Marketingkampagne kontaktiert oder incentiviert werden müssen, damit eine Kaufentscheidung erfolgt.
- Marketing-Budgets werden deutlich geschont, indem "Eh Da-Käufer" konsequent aus Kampagnen ausgeschlossen werden.
- Somit können Marketing-Budgets deutlich effizienter auf die Zielgruppen allokiert werden, die einen tatsächlichen Marketing-Anreiz für eine Kaufentscheidung benötigen.
- Weitere Einsatzgebiete finden sich im A/B-Testing, im Multivariaten Testing sowie in der klinischen Forschung.
- Uplift Modeling ist auch bekannt als Incremental Response Modeling oder Causal Impact Modeling.

## Was ist Uplift Modeling?

Die Grundlage für ein Uplift Modell bilden Trainingsdaten, die Informationen darüber enthalten, wie Individuen auf eine spezifische Aktion oder Behandlung reagiert haben. Dabei sind die Trainingsdaten annotiert nach Individuen, die einer bestimmten Maßnahme (wie z.B. eine Marketingkampagne) ausgesetzt waren, und einer Kontrollgruppe, die diese Erfahrung nicht gemacht hat. Durch den Vergleich der Response beider Gruppen kann mittels Uplift Modeling aufgezeigt werden, welchen konkreten Einfluss die Aktion auf das Verhalten oder die Entscheidungen der Individuen hatte. Es geht also nicht nur darum, zu erkennen, wer eine positive Reaktion gezeigt hat, sondern explizit darum zu verstehen, ob und wie eine konkrete Ansprache zu dieser Reaktion beigetragen hat.

Im Gegensatz zu traditionellen Methoden der Response-Modellierung (z.B. Produktaffinitätsmodelle), die in der Regel darauf abzielen, die Wahrscheinlichkeit eines bestimmten Kundenverhaltens basierend auf historischen Verhaltensdaten oder demographischen Merkmalen vorherzusagen, geht Uplift Modeling einen Schritt weiter. Hier wird versucht nicht nur zu prognostizieren, wer eine Affinität für ein bestimmtes Produkt hat, sondern bei wem explizit eine Marketingaktion eine Kaufentscheidung auslöst. Auf diese Weise können Individuen von einer Ansprache ausgeschlossen werden, da sie auch ohne Ansprache einen Kauf tätigen würden. 

Im Rahmen von Uplift Modeling wird eine potenzielle Zielgruppe in insgesamt vier Segmente unterteilt:
- **Persuadables**: Individuen, die eine explizite Ansprache benötigen, um eine Kaufentscheidung zu treffen.
- **Sure Things**: Sogenannte “Eh Da-Käufer”, die auch ohne eine Ansprache einen Produktabschluss tätigen. Dieses Kundensegment wird durch Uplift Modeling von der Ansprache ausgeschlossen, wäre aber in einem klassischen Produktaffinitätsmodell in der Zielgruppe enthalten.
- **Lost Causes**: Individuen, die nicht affin für ein Produkt sind und sich auch durch eine Ansprache nicht zu einem Kauf überreden lassen. 
- **Sleeping Dogs**: Individuen, die nur dann positiv reagieren, wenn sie nicht aktiv angesprochen werden.

Nachfolgend sind die einzelnen Uplift Modeling Segmente nochmal in einer Übersichtsgraphik dargestellt.


segments_uplift_modeling.png

Die vier Segmente im Uplift Modeling

## Uplift Modeling - verschiedene Methoden führen zum Ziel

Uplift Modeling verwendet Methoden der Kausalen Inferenz, um den direkten Effekt einer spezifischen Maßnahme auf das Verhalten einer Person zu isolieren und zu messen, um damit über die bloße Vorhersage von Verhaltensmustern hinauszugehen. Grundsätzlich unterscheidet man beim Uplift Modeling zwischen folgenden Modellierungsmethoden:

**Single-Model Approach (z.B. Uplift Tree):**
- Bei dieser Methodik wird ein einzelnes Vorhersagemodell erstellt, das den Uplift-Effekt direkt vorhersagen kann.
- Oft werden spezielle Entscheidungsbäume für Uplift Modeling verwendet, die die Differenz der Wahrscheinlichkeiten zwischen der Ansprachegruppe und der Kontrollgruppe in Betracht ziehen.
- Dieser Ansatz ermöglicht eine direkte Vorhersage des Uplift-Effekts für jedes Individuum.
- Individuen mit einem positiven Uplift-Score werden in die Zielgruppe übernommen. 

**Two-Model Approach (Propensity Score Matching):**
- Diese Methodik erstellt zwei Vorhersagemodelle: eines für die Ansprachegruppe (und deren Abschlussquoten) und eines für die Kontrollgruppe (und deren Abschlussquoten).
- Beide Modelle berechnen die Wahrscheinlichkeit eines gewünschten Verhaltens, beispielsweise eines Produktabschlusses.
- Für jedes Individuum wird die Differenz der vorhergesagten Wahrscheinlichkeiten zwischen den beiden Modellen berechnet. 
- Der Uplift-Score ist somit die Differenz zwischen der vorhergesagten Wahrscheinlichkeit in der Ansprachegruppe und der vorhergesagten Wahrscheinlichkeit in der Kontrollgruppe.
- Individuen mit einem positiven Uplift-Score werden in die Zielgruppe übernommen. 


## Python-Bibliotheken für Uplift Modeling

In Python stehen verschiedene Bibliotheken für Uplift Modeling zur Verfügung, wobei speziell die Bibliotheken **[causalML](https://causalml.readthedocs.io/en/latest/about.html) und [scikit-uplift](https://www.uplift-modeling.com/en/latest/)** zu empfehlen sind. Beide Bibliotheken bieten Algorithmen für **Single-Model** und **Two-Model Approach** an, u.a. 

- **Entscheidungsbaum-basierte Algorithmen** wie z.B. Uplift Random Forest oder Interaction Trees

- **Meta-Learner** wie z.B. S-Learner, T-Learner, X-Learner oder R-Learner 

- **Neural Network Algorithmen**  wie z.B. CEVAE oder DragonNet


## Nutzenpotenziale und Einsatzgebiete von Uplift Modeling

In einer modernen KI-gestützten Direktmarketing-Infrastruktur dürfen Uplift-Modelle nicht fehlen. Durch den Einsatz von Uplift Modeling können Zielgruppen noch spezifischer und spitzer selektiert werden, indem man analytisch "die Spreu vom Weizen“ trennt: "Persuadables“ werden angeschrieben, "Sure Things" werden aus der Zielgruppe entfernt. Ohne negative Effekte auf die Conversion Rate können die Kontaktkosten der "Sure Things" direkt eingespart werden.

Das Uplift Modeling Konzept kann darüber hinaus in vielen weiteren Direktmarketing-Konstellationen mehrwertstiftend eingesetzt werden:

**Couponing:** Ahnlich wie in dem oben dargestellten Direktmarketing-Szenario kann man mit Hilfe von Uplift-Modeling die Individuen identifizieren, die einen Coupon-Anreiz benötigen, um zu einer Kaufentscheidung zu kommen. Wenn man die "Sure Things“ verlässlich identifizieren kann, werden "Mitnahmeeffekte“ weitestgehend vermieden. So ist sichergestellt, dass Marketing-Budgets auf die Zielgruppen allokiert werden, wo eine produktspezifische Incentivierung benötigt wird, um Kaufentscheidungen herbeizuführen.

**A/B-Testing und Multivariates Testing:** Mit Uplift-Modeling können verschiedene Varianten von Onlinekampagnen analysiert, modelliert und online im Rahmen einer optimalen Angebotsaussteuerung angewendet werden. Die Kombination von Multivariaten Tests und Uplift Modeling ermöglicht zukunftsträchtige und nachhaltige Optimierungsoptionen, um eine dauerhafte und nachhaltige Optimierung der Conversion Rates zu gewährleisten.

Es gibt aber auch jenseits des Direktmarketings nutzenstiftende Einsatzgebiete von Uplift-Modeling: in der **klinisch-therapeutischen Forschung** wird die Methodik verwendet, um im Rahmen von randomisierten kontrollierten Studien (RCT) Medikationen zu identifizieren, die bei verschiedenen Krankheitssymptomen die besten Heilungschancen versprechen.

## Was sind die Erfolgsfaktoren für den Einsatz von Uplift Modeling?

Der erfolgreiche Einsatz eines Uplift Modells setzt einen sorgfältig vorbereiteten Trainingsdatensatz voraus. Neben einer hinreichend guten Datenqualität in den verschiedenen Input-Variablen sind folgende Aspekte in den Trainingsdaten zu beachten:

- Es wird eine hinreichend große Kontrollgruppe benötigt.
- Produktabschlüsse müssen sowohl in den Zielgruppen als auch in den Kontrollgruppen vorhanden sein. 
- Neben Produktabschlüssen muss die Unterscheidung nach Zielgruppe und Kontrollgruppe sauber annotiert sein.
- Zielgruppe und Kontrollgruppe sollten weitestgehend "strukturgleich" sein, hier bietet sich der Einsatz von geschichteten Stichprobenmethoden an.
- Die Modellierung sollte durch erklärende KI-Methoden begleitet werden (z.B. Decision Trees, Shap-Values), um neben den Kausal-Effekten auch die fachliche Sinnhaftigkeit der Modelle plausibilisieren zu können.
- Für jede Modellierung sollten ausreichend Testdaten vorgehalten werden, um mit kumulierten Gains-Charts und Metriken wie AUUC (Area under the Uplift Curve) den wirtschaftlichen Effekt eines Uplift-Modells im realen Einsatz simulieren und bewerten zu können.

Mit der AltaSigma Enterprise AI Platform steht eine moderne und flexible KI-Lösung zur Verfügung, um Uplift Modelle schnell und einfach trainieren, bewerten, deployen und automatisiert betreiben zu können. Für jedes Uplift Modell stehen REST APIs bereit, so dass die Uplift Modelle einfach in Third-Party Applikationen wie Online-Shops oder CRM-Systeme eingebunden werden können.


Mit KI und Uplift Modeling die richtige Marketingmaßnahme identifizieren, die Kundenansprache personalisieren, Streueffekte vermeiden und die Kampagneneffizienz nachhaltig erhöhen. 

Wie man mit Uplift Modeling die Wirkung von Marketingmaßnahmen testen kann

large_uplift.jpeg

medium_uplift.jpeg

small_uplift.jpeg

thumbnail_uplift.jpeg

uplift.jpeg

## Process Mining – Funktionsweise, Mehrwert und Einsatzgebiete

Unter Process Mining versteht man eine Methodik, um aus digitalen Ereignisdaten automatisiert Prozessabläufe zu analysieren und zu rekonstruieren. Dabei werden durch den Einsatz von KI Algorithmen „digitale Röntgenbilder“ der Prozesse erzeugt, um beispielsweise Bottlenecks aufzudecken, Liegezeiten zu erkennen, Abweichungen von Soll-Prozessen zu identifizieren und Optimierungspotenziale zu quantifizieren.

Die Einsatzgebiete von Process Mining sind mannigfaltig, so finden sich Anwendungsbereiche z.B. in der Produktion, in der Logistik, im Service oder im Gesundheitswesen, um Geschäftsprozesse zu analysieren und auf Prozesskonformität zu überwachen.

## Das Wichtigste auf einen Blick – Process Mining in a Nutshell

- Als Datenbasis für Process Mining werden digitale Ereignisdaten, sogenannte Eventlogs, herangezogen.
- Mit Process Mining kann man eine automatisierte faktenbasierte Analyse seiner tatsächlichen Prozessabläufe durchführen (Process Discovery).
- Process Mining Algorithmen können aus Eventlogs faktenbasierte Prozess-Modelle rekonstruieren, welche bisher mit vergleichsweise hohem manuellen Aufwand konstruiert worden sind.
- Die gewonnenen Prozess-Modelle können zur Überwachung und Quantifizierung von Prozess-Konformitäten eingesetzt werden (z.B. im Rahmen einer kontinuierlichen Online-Überwachung) und für Performance Analysen verwendet werden.

## Was ist Process Mining?

Beim Process Mining unterscheidet man grundsätzlich zwischen der Prozessanalyse (**Process Discovery**), dem Trainieren von Prozessmodellen (**Process Modeling**) und der Anwendung der Prozessmodelle im Rahmen der Prozessüberwachung (**Conformance Checking**) sowie der **Performance Analyse**.

- Bei der **Prozessanalyse** steht die Extraktion von Prozessinformationen aus vorhandenen Datenquellen (z.B. aus Eventlogs) oder anderen Aufzeichnungen im Vordergrund. Der Zweck besteht darin, den Ist-Prozessablauf zu erheben, unnötige Schritte oder andere Probleme im Prozessablauf zu identifizieren, um die Effizienz und Effektivität der Prozesse zu erhöhen.

- Beim **Process Modeling** wird ein Prozess-Modell trainiert (z.B. in Form eines BPMN Modells), welches die tatsächlichen Schritte, Abhängigkeiten und Ressourcenanforderungen widerspiegelt, die während der Ausführung eines Prozesses auftreten. Prozessmodelle können automatisiert aus Eventlogs reengineert werden.

- Im Rahmen der Prozessüberwachung (**Conformance Checking**) werden die Eventlogs des tatsächlichen Prozessablaufs mit dem Prozess-Modell verglichen, um Abweichungen zwischen dem Prozess-Modell und der tatsächlichen Ausführung zu identifizieren und zu lokalisieren. Diese Abweichungen können darauf hinweisen, dass der Prozess in der Praxis nicht wie geplant ausgeführt wird oder dass das Prozess-Modell veraltet oder fehlerhaft ist.

- **Performance-Analysen** dienen dazu, Muster und Trends im Prozess zu identifizieren sowie Bottlenecks, Verzögerungen oder ineffiziente Schritte zu erkennen. Auf der Grundlage dieser Analyse können dann Verbesserungen im Prozess vorgenommen werden, um die Effizienz und Effektivität fortwährend zu steigern und somit die Prozessleistung zu optimieren.


process_model_bpmn.png

AltaSigma Model Management - BPMN Process Model Viewer

## Was sind die wichtigsten Algorithmen beim Process Mining?

Process Mining Algorithmen kommen im Wesentlichen im Rahmen der Process Discovery Phase zum Einsatz, um aus Eventlogs möglichst effizient Prozess-Modelle zu extrahieren. Gängige Algorithmen sind hier **α-Algorithmen**, **Heuristic Mining Algorithmen** oder auch **Inductive Mining Algorithmen**. Aufgrund der Flexibilität, Skalierbarkeit und der Fähigkeit intakte Prozess-Modelle („sound process models“) aus Eventlogs abzuleiten, sind die Inductive Mining Algorithmen die beliebtesten Methoden im Rahmen der Process Discovery.



## Welchen Mehrwert bieten Process Mining Algorithmen in der Praxis?

Der Einsatz von Process Mining bringt eine Reihe an Vorteilen mit sich, wenn die den Geschäftsprozessen zugrundeliegenden Transaktionsdaten vorhanden sind und in ein Eventlog-Format überführt werden können, u.a.

- **Automatisierte Modellierung von Geschäftsprozessen:** aufwändige und langwierige Modellierungen von Geschäftsprozessen (u.a. mit BPMN) gehören der Vergangenheit an und können künftig aus Eventlogs extrahiert werden.

- **Schnelle explorative Analyse und Visualisierung von Prozessen:** Prozessabläufe können einfach gefiltert, visualisiert und multidimensional analysiert werden, wie man es von klassischen BI Anwendungen gewohnt ist.

- **Einhaltung von Prozess-Compliance:** mit Process Mining Werkzeugen kann die Einhaltung von Prozessabläufen automatisiert überwacht werden, indem Prozessabweichungen und mögliche Compliance-Risiken frühzeitig erkannt werden können.

- **Identifikation von Engpässen:** durch die Analyse von Prozessdaten können drohende Ressourcen-Engpässe automatisiert identifiziert werden, um das Auftreten von Prozess-Ineffizienzen zu vermeiden. 

- Messung von Prozess-Performance: die Analyse der Prozess-Performance kann automatisiert und kontinuierlich erfolgen, um die Effektivität und Effizienz der Prozesse sicherzustellen.


## Wo finden sich typische Einsatzgebiete für Process Mining?

Process Mining kann in nahezu jeder Branche eingesetzt werden, wo komplexe Prozesse existieren und eine effiziente und nachhaltige Prozessoptimierung zur Sicherung und Stärkung der Wettbewerbssituation verhilft. Nachfolgend sind exemplarisch einige Einsatzgebiete von Process Mining aufgeführt:

- **Financial Services:** Process Mining wird im Finanzwesen eingesetzt, um Geschäftsprozesse wie Kreditanträge oder Compliance-Prüfungen zu optimieren und zu überwachen.

- **Gesundheitswesen:** in Krankenhäusern können z.B. Prozesse wie Patientenaufnahmen, Behandlungen oder Abrechnungsprozesse analysiert und überwacht werden.

- **Logistik:** typische Einsatzgebiete finden sich in der Optimierung der Bestellabwicklung oder Lagerverwaltung.

- **Versicherungen:** Process Mining wird in der Versicherungsbranche im Kontext von Schadensmeldungen, Abrechnungsprozessen oder der Verwaltung von Policen eingesetzt.

- **Produktion:** durch den Einsatz von Process Mining können Prozesse wie Materialbeschaffung, Materialfluss oder Qualitätskontrolle optimiert sowie eine automatisierte Wertstromanalyse etabliert werden.

- **Telekommunikation:** Anwendungen von Process Mining finden sich im Kündigungsmanagement, im Beschwerdemanagement, in der Vertragsverwaltung oder in der Behebung von Störfällen.

- **Öffentliche Verwaltung:** Process Mining wird in Behörden eingesetzt, um Prozesse wie die Beantragung und Vergabe von Genehmigungen oder der Überwachung von Regelverstößen zu verbessern.

Die Einsatzgebiete von Process Mining sind mannigfaltig und vor allem dort von Vorteil, wo komplexe Prozesse existieren und eine effiziente Prozessoptimierung notwendig ist.


## Was sind die Erfolgsfaktoren für einen erfolgreichen Einsatz von Process Mining?

Bei der Auswahl einer Process Mining Lösung sollte großes Augenmerk darauf gelegt werden, damit ein unternehmensweiter Einsatz für alle relevanten Geschäftsprozesse möglich ist. Dabei spielen v.a. die folgenden Aspekte eine große und wichtige Rolle:

- Offene Schnittstellen sowie Unterstützung aller gängiger Datenformate und Datenbanken.
- Umfassende Visualisierungsmöglichkeiten von Prozessverläufen, Prozessmodellen, Schwachstellen, Prozess-Metriken sowie zeitlichen Entwicklungen.
- Unterstützung aller gängiger Process Discovery Algorithmen sowie Zusammenspiel und Kombinationsmöglichkeiten mit allen State-of-the-Art KI-Algorithmen.
- Automatisierte Entwicklungsmöglichkeiten von Prozess-Modellen (AutoML) und Unterstützung von Standards wie BPMN und Petri-Netzen.
- Flexible und automatisierte Deployment-Funktionalitäten von neuen und aktualisierten Prozess-Modellen (MLOps).
- Process Model Governance und Process Model Lifecycle Management.
- Offene Schnittstellen (z.B. REST API) zur Online-Überwachung von Live-Prozessen sowie zur einfachen Einbindung der Ergebnisse in Dritt-Systeme.

AltaSigma stellt all diese Process Mining Kernfunktionalitäten zur Analyse, Überwachung und Optimierung von Prozessen aus einer offenen Plattform heraus zur Verfügung, damit Prozessmanagement künftig einfacher, schneller, besser und effizienter umgesetzt werden kann. 

Wie man mit Process Mining aus digitalen Ereignisdaten automatisiert Prozessabläufe visualisiert, Wertströme analysiert und Prozess-Modelle rekonstruiert.

Process Mining – Funktionsweise, Mehrwert und Einsatzgebiete

large_AdobeStock_309214498_3.jpeg

medium_AdobeStock_309214498_3.jpeg

small_AdobeStock_309214498_3.jpeg

thumbnail_AdobeStock_309214498_3.jpeg

process_mining.jpeg

## Wie Unternehmen von Generativer KI profitieren können

ChatGPT hat die Künstliche Intelligenz innerhalb kürzester Zeit salonfähig gemacht, indem sich jeder schnell und unkompliziert einen Zugang bei OpenAI einrichten und sich von den beeindruckenden Funktionalitäten und Fähigkeiten der Generativen Pretrained Transformer (GPT) sein eigenes Bild machen kann. Dabei beeindruckt vor allem die Präzision, mit der ein Großteil der gestellten Anfragen beantwortet wird.

Es stellt sich sehr schnell die Frage, wie Unternehmen von den neuen KI Technologien profitieren können? Denn die Einsatzgebiete von Generativen KI Modellen in Unternehmen sind vielfältig. Diese reichen von Anwendungen im Bereich des Kundenservice und des Kundendialogs, um beispielsweise für seine Kunden rund-um-die-Uhr erreichbar zu sein, indem Kundenanfragen automatisiert beantwortet werden können, über Speech2Text Anwendungen mit integriertem Übersetzungsdienst bis hin zur ChatGPT-artigen Abfrage- und Analysemöglichkeit des unternehmensinternen Datenschatzes. Im Status Quo sind öffentliche KI Services wie ChatGPT von OpenAI noch schwer vorstellbar im täglichen Unternehmenseinsatz: das liegt einerseits daran, dass den ChatGPT-Modellen die domänenspezifische Datengrundlage der Unternehmen fehlt, auf der anderen Seite Unternehmen ihren unternehmensinternen Datenschatz einem öffentlich verfügbaren KI Dienst aus verschiedenen Gründen (u.a. Datenschutz, Regulatorik, Wettbewerb) nicht zur Verfügung stellen können und wollen. Wir möchten in diesem Beitrag die Möglichkeiten aufzeigen, wie Generative KI Modelle zur Analyse vertraulicher Unternehmensdaten eingesetzt werden können und welche Optionen es für die Implementierung gibt – on-premise oder in privaten Clouds.


## Generative KI für die Analyse vertraulicher Unternehmensdaten

Die Einsatzgebiete von Generativen KI Modellen sind mannigfaltig, was vor allem in den flexiblen Nutzungsmöglichkeiten der Generativen KI begründet liegt. So können Generative KI Modelle **diskriminativ** im Sinne einer **"Discriminative AI“** eingesetzt werden, indem beispielsweise Fragen wie "handelt es sich bei der Kundenanfrage um eine Beschwerde oder eine Service-Anfrage?“ beantwortet werden können. Aber vor allem **generative** Fragestellungen im Sinne einer klassischen **"Generative AI“** wie die dynamische Extraktion von Topics aus einer Kundenanfrage "Extrahiere die drei Top Keywords aus dem Text und gib nur eine Liste mit Keywords zurück, nutze das folgende Schema: Keyword 1, Keyword 2, Keyword 3“ können damit beantwortet werden. Unter Einbindung von unternehmensinternen und domänenspezifischen Daten wird die Präzision und Qualität von LLMs deutlich verbessert – ein “must-have“ für die Verlässlichkeit bei automatisch generierten Antworten. Darüber hinaus behalten Unternehmen bei einem eigenen Betrieb von LLMs on-premise oder in einer Private Cloud die komplette Datensouveränität, ohne der Gefahr ausgesetzt zu sein, dass sowohl Erzeuger als auch Besitzer der Daten die Kontrolle und damit den strategischen Wert ihrer Datenressourcen aus der Hand geben.


## On-Premise Betriebsmodell

Eine Möglichkeit, Generative KI zur Analyse vertraulicher Unternehmensdaten einzusetzen, besteht darin, die Technologie on-premise zu implementieren. Bei dieser Methode werden LLMs und die dazugehörige Infrastruktur innerhalb des Unternehmensnetzwerks betrieben. Dieses Betriebsmodell bietet Unternehmen die maximale Kontrolle über ihre Daten und gewährleistet die Einhaltung interner Sicherheitsrichtlinien und -standards.

Die Vorteile einer On-Premise Implementierung liegen auf der Hand:
- Hohe Datensicherheit: Vertrauliche Unternehmensdaten bleiben innerhalb der Unternehmensgrenzen und unterliegen den strengen Sicherheitsmaßnahmen des internen Netzwerks.
- Hohe Flexibilität: Die Infrastruktur kann nach Bedarf erweitert oder angepasst werden, um den spezifischen Anforderungen des Unternehmens gerecht zu werden (v.a. relevant von Betreibern kritischer Infrastrukturen oder Unternehmen im besonderen öffentlichen Interesse).
- Niedrigere Latenz: Da die Datenanalyse vor Ort erfolgt, werden ggfls.  Latenzzeiten minimiert, was eine schnellere Verarbeitung und Analyse ermöglicht.


## Private Cloud Betriebsmodell

Alternativ zur On-Premise Implementierung können Unternehmen Generative KI Modelle für die Analyse vertraulicher Unternehmensdaten in einer privaten Cloud betreiben. Bei diesem Betriebsmodell werden die KI-Modelle und die erforderliche Infrastruktur in einer dedizierten Cloud-Umgebung gehostet, die ausschließlich vom Unternehmen selbst genutzt wird. Private Clouds bieten ähnliche Vorteile wie On-Premise Implementierungen, jedoch mit zusätzlichen Flexibilitäts- und Kostenvorteilen, wie z.B.
- Bessere Skalierbarkeit: Private Clouds ermöglichen es Unternehmen, Ressourcen nach Bedarf zu skalieren und die notwendigen Rechenkapazitäten je nach Anforderung anzupassen (z.B. On-Demand Nutzung von teuren GPU-Kapazitäten zum Zeitpunkt des Modell-Trainings).
- Kosteneffizienz: Durch die Nutzung einer privaten Cloud können Unternehmen Kosten für den Kauf und die Wartung eigener Infrastruktur sparen.


## Implementierung von Generativer KI

Für die Nutzung von Generativer KI aus on-premise oder Private Cloud Umgebungen heraus empfehlen sich sogenannte **Enterprise AI Plattformen** wie [AltaSigma](https://altasigma.com/de), welche alle relevanten Funktionalitäten für effizienten Betrieb von Generativen KI Modellen und deren Verknüpfung mit sensiblen Unternehmensdaten in einer integrierten Toolbox bereitstellen, u.a.
- **Flexibles Chat UI** zur Eingabe von Prompts, Visualisierung von Quellennachweisen und Konfidenz-Bewertung der Quellen,
- **Model-Repositories** zur Verwaltung von Generativen KI Basismodellen (zu beziehen u.a. bei [Huggingface](https://huggingface.co/models)),
- **Tools zur Erstellung von Retrieval Augmented Generation Pipelines (RAG)** zur Abfrage von strukturierten und unstrukturierten Unternehmensdaten,
- **Vektor-Datenbank** zur Speicherung und Aktualisierung von Embeddings,
- **Datenmanagement Funktionalitäten** zur automatisierten Bereitstellung und Aufbereitung der relevanten unternehmens- und domänenspezifischer Daten,
- **Transfer-Learning Funktionalitäten**, um das unternehmens- und domänenspezifischer Wissen in die KI Basismodelle zu “injizieren“,
- **MLOps Funktionalitäten** für das Deployment und den Betrieb der Generativen KI Modelle,
- **Standardisierte Abfrage- und Rückgabe-Schnittstellen** (REST API) sowie
- **Ausgefeiltes Rollen- und Rechte-Management** zur Steuerung der Zugriffsrechte auf LLMs aber auch auf zugrundeliegende Unternehmensdaten.

Enterprise AI Plattformen bringen viele Funktionalitäten und Standards mit, damit die Potenziale von Generativen KI Modellen auch auf sensiblen Unternehmensdaten genutzt werden können, mit einer vergleichbaren Präzision und “Look & Feel“, wie man es von den kommerziellen Anwendungen wie ChatGPT gewohnt ist.

altasigma-generative-ai.png

Zentrale Verwaltung von Generativen KI Modellen am Beispiel AltaSigma

## FAQs zu Generativer KI für die Analyse vertraulicher Unternehmensdaten

#### Wie funktioniert Generative KI bei der Analyse von Unternehmensdaten?
Generative KI verwendet sog. Deep Learning Algorithmen, um Modelle zu trainieren, die neue Daten generieren können, die den ursprünglichen Daten ähneln. Diese generierten Daten können dann für nachgelagerte Analysen verwendet werden, um wertvolle Erkenntnisse zu gewinnen.

#### Welche Vorteile bietet eine On-Premise Implementierung gegenüber der privaten Cloud?
Die On-Premise Implementierung bietet Unternehmen eine bessere Kontrolle über ihre Daten und ermöglicht eine enge Integration mit bestehenden Systemen. Außerdem können spezifische Sicherheitsrichtlinien und -standards besser eingehalten werden.

#### Welche Vorteile bietet eine Private Cloud Implementierung?
Die Private Cloud bietet Unternehmen vor allem Flexibilität bei der Skalierung von Ressourcen sowie Kosteneinsparungen durch On-Demand-Nutzungsmöglichkeiten von teuren Rechenkapazitäten (v.a. GPU).

#### Wie kann Generative KI zur Analyse vertraulicher Unternehmensdaten beitragen?
Die Ausrichtung von Generativen KI Modellen auf unternehmens- und domänenspezifischen Daten ermöglicht Unternehmen, die Präzision und Qualität von Generativen KI Modellen deutlich zu steigern. Damit kann die Qualität und Verlässlichkeit von automatisierten Entscheidungen sowie die Identifizierung von Trends und Mustern deutlich verbessert werden. 

#### Welche Sicherheitsmaßnahmen sollten bei der Nutzung Generativer KI für vertrauliche Unternehmensdaten ergriffen werden?
Es ist wichtig, angemessene Sicherheitsvorkehrungen zu treffen, um den Zugriff auf vertrauliche Daten zu kontrollieren, Verschlüsselungstechniken anzuwenden und strenge Zugriffs- und Authentifizierungsrichtlinien zu implementieren. Hierfür empfehlen sich Enterprise AI Plattformen.

#### Wie entwickelt man maßgeschneiderte generative KI-Modelle für die Unternehmensdatenanalyse?
Die Entwicklung maßgeschneiderter Generativer KI Modelle erfordert ein grundlegendes Verständnis der spezifischen Anforderungen des Unternehmens und umfangreiche Kenntnisse im Bereich des maschinellen Lernens. Enterprise AI Plattformen wie [AltaSigma](https://altasigma.com/de) liefern alle Funktionalitäten, um die Entwicklung und den Betrieb der KI Modelle maximal ressourceneffizient zu ermöglichen.


## Fazit

Die Nutzung Generativer KI zur Verarbeitung und Analyse vertraulicher Unternehmensdaten bietet Unternehmen die Möglichkeit, an den aktuellen KI Entwicklungen direkt zu partizipieren, mit dem Vorteil auf Basis des eigenen Datenschatzes wertvolle Erkenntnisse zu gewinnen und bessere automatisierte Geschäftsentscheidungen ableiten zu können. Sowohl die On-Premise Implementierung als auch Private Clouds bieten sichere und flexible Optionen für die Implementierung von Generativer KI, bei gleichzeitiger Sicherstellung der Datensouveränität. Bei der Auswahl des geeigneten Betriebsmodells sollten Unternehmen ihre spezifischen Anforderungen, Sicherheitsrichtlinien und die Integration mit bestehenden Systemwelten berücksichtigen. Durch eine richtige Nutzung Generativer KI auf eigenen Daten können Unternehmen ihren analytischen Reifegrad verbessern und die Qualität der Datenanalysen signifikant steigern, was sich positiv auf die aktuelle Wettbewerbssituation auswirken wird.


Wie Unternehmen mit Generativer KI und Retrieval Augmented Generation (RAG) die komplette Datensouveränität behalten können.

Generative KI zur Analyse vertraulicher Unternehmensdaten

large_generative-ai.jpeg

medium_generative-ai.jpeg

small_generative-ai.jpeg

thumbnail_generative-ai.jpeg

generative-ai.jpeg

In beantworteten Support-Tickets, Prozessdokumentationen und gemeinsam genutzten E-Mail-Postfächern steckt wertvolles Unternehmenswissen. Damit KI-Agenten dieses Wissen für fundierte Antworten nutzen können, müssen die Inhalte aufbereitet und für die gezielte Suche indiziert werden. Support-Tickets enthalten unstrukturierte Beschreibungen von Problemen und Lösungswegen sowie Angaben zu Kunden, Produkten und Vorgängen. Um sowohl die Inhalte als auch ihre Zusammenhänge zu erschließen, bietet sich eine Kombination zweier Ansätze an: Ein Knowledge Graph bildet die beteiligten Entitäten und ihre Beziehungen ab. Eine Vektordatenbank macht inhaltlich ähnliche Anfragen und dokumentierte Lösungen auffindbar. Auf dieser Grundlage können KI-Agenten Antwortvorschläge erstellen, die das Support-Team prüft, bei Bedarf anpasst und für den Versand freigibt.

## Von historischen Tickets zu fundierten Antwortvorschlägen

Der **Ticket Agent** verbindet die Recherche im Unternehmenswissen mit der Bearbeitung neuer Support-Anfragen. In AltaSigma bereiten wir historische Ticket-Informationen auf und pflegen sie in einem Knowledge Graph und einer Vektordatenbank. Über MCP-Tools greift der Agent auf unterschiedliche Sichten dieses Wissens zu. Der Graph erschließt Beziehungen zwischen Kunden, Geräten und Vorgängen. Die Suche im indizierten Ticket-Bestand liefert gezielt gesuchte Inhalte und ähnliche Fälle. Weitere Quellen lassen sich über passende Schnittstellen ergänzen.

Sobald eine neue Kundenanfrage in einem Ticketsystem wie Zendesk, Freshdesk, Jira Service Management oder Zammad eingeht, recherchiert der Ticket Agent dazu relevante Vorgänge, frühere Support-Fälle und passende Lösungswege. Auf dieser Grundlage erstellt er einen Antwortentwurf mit Verweisen auf die verwendeten Quellen. Das Support-Team kann den Vorschlag im Bearbeitungsablauf des Tickets prüfen und anpassen. Wie der Agent in das jeweilige Ticketsystem eingebunden wird, hängt von den verfügbaren Schnittstellen und Berechtigungen ab.

Der Ticket Agent ist eine im **AltaSigma Model Management** verwaltete AI-Anwendung – in der Plattform als [**Augur**](https://altasigma.com/de/ai-model-management) bezeichnet. Dort legen wir fest, welches Sprachmodell er verwendet, welche Quellen er heranzieht und welche Werkzeuge er nutzen darf.

## Knowledge Graph: Zusammenhänge zwischen Tickets, Kunden und Vorgängen erschließen

Support-Tickets stehen selten für sich allein. Sie gehören zu Kunden, beziehen sich auf bestimmte Produkte oder Geräte und dokumentieren Servicevorgänge, Bestellungen oder frühere Lösungsversuche. Diese Entitäten tauchen häufig in mehreren Tickets auf. Die Informationen zu einem Vorgang können dadurch über verschiedene Anfragen und Zeitpunkte verteilt sein.

Für einen passenden Antwortvorschlag muss der Agent erkennen, welche Informationen zur aktuellen Anfrage gehören und wie sie zusammenhängen. Ein Knowledge Graph macht diese Beziehungen explizit: Aus den Ticket-Inhalten werden Kunden, Geräte, Bestellungen und weitere relevante Entitäten extrahiert und miteinander sowie mit den ursprünglichen Tickets verknüpft. So lässt sich nachvollziehen, was zu einem Gerät bereits gemeldet wurde, welche Maßnahmen erfolgt sind und welche Fragen noch offenbleiben.

Ein fiktives Beispiel verdeutlicht das: Die Muster GmbH schreibt: „Gerät A zeigt wieder einen Fehler. Können Sie uns ein Ersatzteil schicken?“ Über die Verbindung zwischen Gerät, Servicevorgang und Bestellung lässt sich ein früheres Ticket finden, in dem bereits eine Ersatzteilbestellung dokumentiert ist. Damit erhält der Agent den Kontext, um in seinem Antwortvorschlag auf die bestehende Bestellung einzugehen und zunächst deren Status zu klären.

### Wie wir die Beziehungen erschließen

Für den Aufbau nutzen wir ein Sprachmodell (Large Language Model, LLM), das aus Ticket-Texten Entitäten und Beziehungen extrahiert und Themen zuordnet. Entitäten sind beispielsweise Kunden, Geräte oder Bestellungen. Vorhandene Ticket-Felder ergänzen die aus dem Text gewonnenen Angaben.

Ein gemeinsames fachliches Schema gibt vor, welche Objekte und Beziehungen relevant sind. Eine Ontologie kann dieses Begriffs- und Beziehungsmodell formal beschreiben – etwa, dass eine Bestellung zu einem Servicevorgang gehört. Für den Einstieg kann ein schlankes Schema genügen.

Für einen belastbaren Graphen müssen unterschiedliche Bezeichnungen desselben Geräts zusammengeführt und Verknüpfungen auf Plausibilität geprüft werden. Eindeutige Kennungen und die Verbindung zur ursprünglichen Quelle helfen dabei. Eine gemeinsame Kundenkennung allein bedeutet beispielsweise noch nicht, dass zwei Tickets denselben Vorgang betreffen.

Wissensgraph: ein hervorgehobenes Support-Ticket, verbunden mit weiteren Tickets, Geräten, einem Kunden, einer Bestellung und einem Servicevorgang.

01_knowledge_graph.webp

Die Graphansicht verknüpft ein ausgewähltes Ticket mit Geräten, Kunden, Bestellungen, Vorgängen und weiteren Tickets. So wird der fachliche Zusammenhang einer Anfrage sichtbar.

## Vektorsuche: Ähnliche Problemstellungen und Lösungswege finden

Relevantes Wissen findet sich auch in Tickets, die zu anderen Kunden, Geräten oder Vorgängen gehören. Ein ähnliches Problem kann bereits an anderer Stelle aufgetreten und gelöst worden sein. Der Zusammenhang ergibt sich dann aus der beschriebenen Problemstellung, auch wenn keine direkte Verbindung über gemeinsame Entitäten besteht.

Um solche Fälle auffindbar zu machen, überführen wir die aufbereiteten Ticket-Inhalte mit einem Embedding-Modell in numerische Repräsentationen und indizieren sie in einer Vektordatenbank. Bei einer neuen Anfrage sucht das System nach inhaltlich ähnlichen Ticket-Passagen. So lassen sich verwandte Fehlerbeschreibungen und dokumentierte Lösungswege finden, selbst wenn Kunden unterschiedliche Formulierungen verwenden.

Zusätzliche Filter, etwa nach Produkt oder Version, helfen dabei, die Suche auf fachlich passende Fälle einzugrenzen. Ob eine frühere Lösung übertragbar ist, muss anhand der jeweiligen Bedingungen beurteilt werden.

Die beiden Ansätze liefern komplementäre Informationen: Der Knowledge Graph erschließt, was zum konkreten Kunden, Gerät oder Vorgang bereits bekannt ist. Die semantische Suche ergänzt Erfahrungen aus anderen Fällen mit ähnlicher Problemstellung. Im Beispiel liefert der Graph den Hinweis auf die bestehende Ersatzteilbestellung, während die Vektorsuche einen vergleichbaren Fehler und dessen dokumentierte Lösung bei einem anderen Kunden findet. Zusammen entsteht ein umfassenderer Kontext für den Antwortvorschlag, der sowohl den bisherigen Verlauf als auch mögliche Lösungswege berücksichtigt. Dieses gezielte Abrufen und Nutzen von Wissen folgt dem Prinzip Retrieval Augmented Generation, kurz RAG.

## MCP-Tools: Wie der Agent auf das Wissen zugreift

Der Agent erhält die Suchfunktionen als Werkzeuge über das **Model Context Protocol (MCP)**. Ein MCP-Server beschreibt, welche [Tools](https://modelcontextprotocol.io/specification/2026-07-28/server/tools) verfügbar sind und welche Eingaben sie erwarten. In unserem Aufbau gehören dazu die exakte Ticketsuche, die semantische Ticketsuche und die Abfrage von Beziehungen im Knowledge Graph.

Der Agent wählt aus diesen freigegebenen Werkzeugen die für die Anfrage passenden aus und kann anhand eines Ergebnisses weitere Informationen anfordern. Die Suchfolge muss daher nicht für jede Anfrage gleich sein. Die Ergebnisse enthalten Verweise auf ihre Quellen; welche Daten zugänglich sind, bestimmen die eingerichteten Berechtigungen.

Über weitere MCP-Server lassen sich zusätzliche Quellen anbinden, etwa interne Wissensdatenbanken, Produktdokumentationen, E-Mail-Postfächer oder CRM-Systeme. Wir wählen sie passend zum Anwendungsfall aus. MCP vereinheitlicht den Werkzeugzugriff; passende Schnittstellen und Berechtigungen bleiben Voraussetzung. Das Zusammenspiel erläutert auch unsere Seite zu [AI Agents](https://altasigma.com/de/ai-agents).

## Vom Ticket-Archiv zum gezielt abrufbaren Wissen

Warum ist es notwendig, die historischen Informationen aufzubereiten? Für jede neue Kundenanfrage den gesamten Bestand gelöster Tickets an ein Sprachmodell zu übergeben, ist ineffizient und teuer. Der Großteil der Inhalte ist für die konkrete Frage irrelevant. Mit wachsendem Archiv steigen die zu verarbeitende Textmenge, die Kosten und die Antwortzeit. Zudem passt der Bestand irgendwann nicht mehr in das Kontextfenster des Modells.

Deshalb bereiten wir die Tickets so auf, dass der Agent die benötigten Informationen gezielt abrufen kann. Dazu gehören die Bereinigung der Texte, die Extraktion von Entitäten und Beziehungen sowie die Indizierung für die Suche. Über passende Werkzeuge kann der Agent dann einen Vorgang nachschlagen, verknüpfte Informationen erschließen oder ähnliche Problemstellungen finden.

So wird aus dem Ticket-Archiv eine durchsuchbare Wissensbasis. Der Agent kann zunächst passende Fälle identifizieren und bei Bedarf einzelne Verläufe genauer abrufen. Das Sprachmodell erhält einen auf die Anfrage zugeschnittenen Kontext mit nachvollziehbaren Quellen.

## Vom Support-Ticket zum Antwortvorschlag mit Human in the Loop

Die folgende Grafik zeigt, wie die von AltaSigma verwaltete Wissensbasis und der Ticket Agent mit den Quellsystemen und der Support-Oberfläche zusammenspielen.

Systemarchitektur: AltaSigma verwaltet Datenaufbereitung, Knowledge Graph, Vektordatenbank, MCP-Server und Ticket Agent; externe Quellen liefern Wissen, das Support-Team prüft die Antwortentwürfe vor dem Versand.

ticket_agent_systemgrafik.svg

Aufbau der Wissensbasis und Bearbeitung neuer Anfragen. Der AltaSigma-Rahmen umfasst die verwalteten Komponenten; die menschliche Freigabe erfolgt im Support-Ablauf.

### Den recherchierten Kontext in eine Antwort übersetzen

Für die Anfrage der Muster GmbH hat der Agent die frühere Bestellung gefunden. Ob das Ersatzteil inzwischen angekommen ist, bleibt im verfügbaren Wissen offen. Ein passender Entwurf greift deshalb den bestehenden Vorgang auf und fragt nach der fehlenden Information:

> „Zu Gerät A ist in Ihrem bisherigen Servicevorgang bereits eine Ersatzteilbestellung dokumentiert. Ist das Ersatzteil inzwischen bei Ihnen eingetroffen, und welche Fehlermeldung wird aktuell angezeigt? Mit diesen Angaben können wir die nächsten Schritte mit dem bestehenden Vorgang abstimmen.“

Das Beispiel zeigt eine wichtige Entscheidung: Wenn Informationen fehlen, kann eine gezielte Rückfrage die passende Antwort sein. In der internen Ansicht kann das Support-Team anhand der Referenz-Tickets prüfen, worauf der Entwurf beruht, und den aktuellen Bestellstatus gegebenenfalls im zuständigen System klären.

Ticket-Ansicht mit Kundenanfrage, KI-Antwortvorschlag, fünf Referenz-Tickets und Optionen zum Übernehmen, Bearbeiten oder Verwerfen des Entwurfs.

02_antwort_referenzen.webp

Kundenanfrage, KI-Antwortvorschlag und Referenz-Tickets werden gemeinsam angezeigt. Das Support-Team kann den Entwurf anhand der Quellen prüfen, bearbeiten oder verwerfen.

### Die Entscheidung bleibt beim Support-Team

Mitarbeitende prüfen Inhalt und Quellen, ergänzen fehlende Angaben und passen die Formulierung an. Sie können den Entwurf übernehmen, überarbeiten oder verwerfen. **Erst nach menschlicher Freigabe wird die Antwort versendet.** Dieser feste Prüfschritt ist der Human in the Loop. Die dabei nötigen Korrekturen zeigen zugleich, wo Recherche oder Antworterstellung verbessert werden müssen.

## Qualität und Betrieb im Model Management steuern

Ein funktionierender Beispieldialog reicht für die Einführung nicht aus. Für die Bewertung zählen typische Anfragen ebenso wie Fälle mit widersprüchlichen oder fehlenden Informationen. Entscheidend ist, ob der Agent den richtigen Vorgang findet, seine Aussagen durch Quellen gedeckt sind und welche fachlichen Korrekturen der Support vornehmen muss.

Im AltaSigma Model Management lassen sich dafür Referenzfälle und Referenzantworten hinterlegen. Änderungen am Agenten werden versioniert. Mit **Augur Time Travel** lassen sich frühere und aktuelle Einstellungen sowie Qualitätsmetriken vergleichen und vorherige Versionen wieder aktivieren. Bei solchen Vergleichen ist auch der Stand der angebundenen Quellen zu berücksichtigen. Rückblickende Tests dürfen die spätere Zielantwort nicht bereits als Rechercheergebnis enthalten.

Die passende Betriebsumgebung richtet sich nach den Anforderungen an Infrastruktur und Datenkontrolle. Mögliche Betriebsmodelle erläutern wir im Beitrag [„Generative KI zur Analyse vertraulicher Unternehmensdaten“](https://altasigma.com/de/blog/generative-ai).

## Mit einer Wissensquelle starten und gezielt erweitern

Für den Einstieg muss nicht das gesamte Unternehmenswissen erschlossen werden. Ein abgegrenzter Ticket-Bestand kann als erste Wissensquelle dienen. Die modulare Anbindung über MCP-Tools erlaubt es, weitere Quellen und Suchfunktionen schrittweise hinzuzunehmen, etwa Produktdokumentationen, interne Wissensartikel oder aktuelle Vorgangsdaten aus einem CRM-System.

Welche Erweiterung sinnvoll ist, lässt sich anhand konkreter Support-Anfragen bewerten. Wo fehlen Informationen? Welche zusätzliche Quelle hilft, diese Lücken zu schließen? Und verbessert sie tatsächlich die Antwortvorschläge? So wächst das System entlang des nachgewiesenen Bedarfs. Ein überschaubarer Einstieg ist möglich, ohne bereits alle späteren Quellen und Anwendungsfälle integrieren zu müssen.

Zeigen Sie uns, welche Kundenanfragen Sie bearbeiten und welche Wissensquellen Ihnen zur Verfügung stehen. In einer auf Ihren Anwendungsfall abgestimmten Demo zeigen wir, wie ein Einstieg mit AltaSigma aussehen kann und wie sich weitere Quellen schrittweise einbinden lassen.

Wie könnte ein Ticket Agent Ihren Support unterstützen?

Wie AltaSigma Wissen aus Support-Tickets und Dokumenten für KI-Agenten erschließt – für fundierte Antwortvorschläge bei der Bearbeitung von Kundenanfragen.