Agentic AI, LLMs & RAG in BI

Moderne BI-Systeme integrieren zunehmend KI-Agenten und Large Language Models (LLMs). Agentic AI verbindet Predictive Analytics mit Prescriptive Analytics und kann autonom Daten analysieren, Prognosen erstellen und Handlungsempfehlungen ableiten. RAG (Retrieval-Augmented Generation) ermöglicht es Agenten, auf unternehmensspezifisches Wissen zuzugreifen.

Relevanz: Grundbausteine eines AI-Agenten (Ziel, Modell, Tools, Memory, Guardrails); Unterschied Single-Agent vs. Multi-Agent; RAG-Konzept und warum Datenqualität entscheidend ist; Agenten-Architektur in einer modernen BI-Architektur.

• LLM (Large Language Model): Grosses Sprachmodell (z. B. GPT-4), das auf riesigen Textmengen trainiert wurde und natürliche Sprache verstehen, generieren und übersetzen kann; Grundlage für moderne KI-Assistenten und Agenten.
• Grundbausteine eines AI-Agenten: Ziel (Was soll erreicht werden?), Modell (Das LLM interpretiert Kontext und plant Schritte), Tools (SQL, Python, Search, APIs, ERP/CRM-Zugriffe), Memory (Kontext über Sitzungen, frühere Ergebnisse), Guardrails (Rollen, Policies, Limits, Freigaben, Logging, menschliche Kontrolle).
• Single-Agent vs. Multi-Agent: Single-Agent: einfacher zu bauen, niedrigere Latenz, gut für Q&A und kleine Analysen. Multi-Agent: höherer Orchestrationsaufwand, hohe Spezialisierung durch Rollen (Research, SQL, Review), gut für komplexe End-to-End-BI-Prozesse.
• RAG (Retrieval-Augmented Generation): Kombination eines LLM mit einem Retrieval-System, das relevante Dokumente aus einer Wissensdatenbank lädt und dem LLM als Kontext mitgibt; ermöglicht Antworten basierend auf unternehmensspezifischem, aktuellem Wissen.
• Agentic RAG: Erweiterung von RAG, bei der ein Agent die Suche iterativ verfeinert, Lücken erkennt und gezielt nach fehlenden Informationen sucht; im Gegensatz zu statischem RAG.
• Halluzinationen (LLM): Phänomen, bei dem ein LLM falsche, aber plausibel klingende Informationen generiert; Risiko steigt ohne qualitatives Retrieval (schlechte RAG-Grundlage).
• Moderne BI-Architektur mit Agenten: Datenquellen (ERP, CRM, etc.) → Data Platform (Lakehouse, Warehouse, Pipelines) → Semantic Layer (KPI-Definitionen) → Agent Layer (Planung, Tool Use, RAG, Memory, Policies) → Analytics Layer (Dashboards, Root-Cause-Analyse) → Decision Layer (Empfehlungen, Workflows).
• MoE (Mixture of Experts): LLM-Architektur, bei der nur ein Teil der Modellparameter ("Experten") pro Token aktiviert wird; ermöglicht massives Skalieren ohne proportionale Rechenkosten.

• LLM (Large Language Model)Grosses, auf Textdaten vortrainiertes neuronales Sprachmodell (z. B. GPT-4, Claude); Grundlage für generative KI und KI-Agenten in BI-Systemen.
• Agentic AI / AI-AgentKI-System, das autonom Ziele verfolgt, Werkzeuge einsetzt (SQL, APIs, Python), Kontext über mehrere Schritte speichert und selbstständig Entscheidungen trifft.
• RAG (Retrieval-Augmented Generation)Architekturmuster, das ein LLM mit einem externen Retrieval-System kombiniert; ermöglicht faktenbasierte Antworten auf Basis unternehmensspezifischer Dokumente statt nur aus Trainingsgewichten.
• GuardrailsKontrollmechanismen für KI-Agenten (Rollen, Richtlinien, Limits, Freigaben, Logging, menschliche Oversight); verhindern unerwünschte oder schädliche Aktionen.
• HalluzinationPhänomen, bei dem ein LLM falsche, aber plausibel klingende Fakten generiert; kritisches Risiko in BI-Anwendungen bei fehlendem oder schlechtem Retrieval.
• Memory (Agenten)Mechanismus, mit dem ein Agent Kontext über eine Sitzung hinaus speichert (Nutzerpräferenzen, frühere Ergebnisse, offene Tasks); ermöglicht kontinuierliche Analysen.
• Tool UseFähigkeit eines Agenten, externe Werkzeuge (SQL-Abfragen, Python-Skripte, APIs, Websuche) aufzurufen, um Aufgaben zu erfüllen, die über reine Textgenerierung hinausgehen.
• Single-AgentKI-Architektur mit einem einzigen Agenten; einfacher aufzubauen, geringere Latenz; geeignet für einfache Q&A und kleinere Analyseaufgaben.
• Multi-AgentArchitektur mit mehreren spezialisierten Agenten (z. B. Research Agent, SQL Agent, Review Agent); höherer Orchestrationsaufwand, aber besser für komplexe End-to-End-Prozesse.
• Semantic LayerEinheitliche, unternehmensweit gültige Definition von KPIs, Dimensionen und Geschäftslogik; vermittelt zwischen Rohdaten und Agenten/Analyse-Tools.
• MoE (Mixture of Experts)LLM-Architektur, bei der pro Token nur ein Bruchteil der Modellparameter aktiviert wird; ermöglicht sehr grosse Modelle mit geringeren Inferenzkosten.
• Fine-TuningWeiteres Training eines vortrainierten LLM auf einem domänenspezifischen Datensatz, um das Modell an spezifische Aufgaben oder Fachgebiete anzupassen.
• NLU (Natural Language Understanding)Teilbereich der KI, der sich mit dem maschinellen Verstehen natürlicher Sprache befasst; Grundlage für Chatbots und Sprachagenten.
• NLG (Natural Language Generation)Teilbereich der KI zur automatischen Erzeugung natürlichsprachlicher Texte aus strukturierten Daten oder Modellausgaben.