Custom Chatbots: Erweiterte Funktionen & Tipps
Wer den eigenen Chatbot gezielt an spezielle Anforderungen anpassen oder zusätzliche Möglichkeiten nutzen möchte, findet hier Tipps und Erweiterungen: Dazu gehören verschiedene Ausgabeformate (wie LaTeX, Markdown, Diagramme oder Code), anpassbare Rollenmodelle, Teamfunktionen und Hinweise zur Nutzung in mehreren Kursen.
Die Chatbots können verschiedene Inhalte formatiert ausgeben. Damit diese Formatierungen korrekt gerendert werden, sollte der Bot im Systemprompt entsprechende Hinweise erhalten.
LaTeX für mathematische Formeln
Mathematische Formeln können als Inline-LaTeX ausgegeben und werden im Chat gerendert angezeigt.
Beispiel im Systemprompt:
|
Du kannst mathematische Formeln mit LaTeX ausgeben. Verwende `$...$` für Inline-Formeln. Beispiel: Die quadratische Formel lautet $x = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a}$. Beispiele: - Inline: $E = mc^2$ → E = mc² - Brüche: $\frac{1}{2}$ → ½ - Wurzeln: $\sqrt{x^2 + y^2}$ → √(x² + y²) - Summen: $\sum_{i=1}^{n} x_i$ → Σ xᵢ |
Markdown für Textformatierung
Die Chatbots können Markdown-Syntax verwenden, um Text formatiert anzuzeigen. Dafür reicht im Systemprompt der Hinweis aus, Markdown für eine formatierte Ausgabe zu verwenden.
Beispiel im Systemprompt:
|
Verwende Markdown zur Formatierung deiner Antworten. Verfügbare Formatierungen:
|
Programmcode mit Syntax-Highlighting
Programmiercode kann farblich hervorgehoben (Syntax-Highlighting) in verschiedenen Sprachen angezeigt werden.
Beispiel im Systemprompt:
|
Wenn du Programmcode ausgibst, verwende Code-Blöcke mit Sprachangabe: console.log("Hello, World!");
|
Diagramme mit Mermaid-Syntax
Die Chatbots können verschiedene Diagrammtypen als Mermaid-Code ausgeben, die grafisch gerendert werden.
Beispiel im Systemprompt:
|
Du kannst Diagramme mit Mermaid-Syntax erstellen. Beginne mit ```mermaid und folge der Mermaid-Syntax. graph TD |
Verfügbare Diagrammtypen:
|
Diagrammtyp |
Beschreibung |
Beispiel-Use-Case |
|
Flowchart |
Flussdiagramme |
Prozesse, Entscheidungswege |
|
Sequence diagram |
Sequenzdiagramme |
Interaktionen zwischen Objekten |
|
Gantt diagram |
Gantt-Diagramme |
Projektzeitpläne |
|
Class diagram |
Klassendiagramme |
UML-Klassenstrukturen |
|
Git graph |
Git-Verzweigungen |
Versionskontrolle visualisieren |
|
Entity Relationship |
ER-Diagramme |
Datenbankbeziehungen |
|
User Journey |
Nutzerreisen |
Customer Journeys |
|
Quadrant Chart |
Quadrantendiagramme |
Priorisierungsmatrizen |
|
XY Chart |
XY-Diagramme |
Funktionsgraphen |
Zusammenfassung der Formatierungen im Systemprompt
Hier ein exemplarischer Abschnitt für den Systemprompt, der alle Formatierungen abdeckt:
|
<formatting> |
Das ILIAS-Plugin unterstützt verschiedene Formen der Dokumentenintegration.
Optionen im Überblick
|
Option |
Beschreibung |
Geeignet für |
|
Keine |
Nur der Systemprompt wird verwendet |
Einfache FAQ-Bots, ethische Coaches |
|
Context-Window |
Dokumententext wird bei jeder Anfrage mitgesendet |
Kursmaterialien, Skripte, Guidelines |
Unterstützte Dateiformate
- PDF (.pdf) – Empfohlen für Skripte, Papers, Richtlinien
- Word (.docx) – Für eigene Dokumente, Guidelines
- Text (.txt) – Für einfache Textdateien, FAQs
So laden Sie Dokumente hoch
- Öffnen Sie die Einstellungen Ihres Assistenten
- Wählen Sie “Context-Window” bei Dokumentenunterstützung
- Wechseln Sie zum Tab “Dokumente”
- Klicken Sie auf “Datei wählen”
- Wählen Sie Ihre Datei und klicken Sie auf “Speichern”
⚠️ Hinweis: Das bezieht sich speziell auf Variante 2 (ILIAS + 1 Dokument). Bei Variante 1 (KI-Toolbox Vollkonfiguration) gelten erweiterte Möglichkeiten für mehrere und größere Dokumente.
Wichtige Einschränkungen für Variante 2
- Nur ein Dokument kann hochgeladen werden
- Das Dokument sollte maximal 30% des Context-Windows umfassen
- Bei größeren Dokumenten oder wenn Sie mehrere Dokumente verwenden möchten, wechseln Sie zu Variante 1 (KI-Toolbox Vollkonfiguration)
Was sind Tokens?
- Ein Token entspricht etwa 3/4 eines Wortes oder einem Zeichen in längeren Wörtern
- Eine DIN-A4-Seite Text entspricht etwa 500-600 Tokens
- Context-Window ist der Gesamtspeicher für Systemprompt + Dokument + Konversation
Empfohlene Dokumentengrößen für Variante 3 (sortiert: lokale Modelle zuerst)
|
Modell |
Context-Window |
Max. Dokumentengröße (30%) |
|
gpt-oss:120b (lokal) |
64.000 Tokens |
~19.200 Tokens (≈ 32-38 Seiten) |
|
Qwen3.5-397b (lokal) |
32.768+ Tokens |
~9.800+ Tokens (≈ 16-20+ Seiten) |
|
gpt-5-mini (Cloud) |
128.000 Tokens |
~38.400 Tokens (≈ 64-77 Seiten) |
|
gpt-5-nano (Cloud) |
128.000 Tokens |
~38.400 Tokens (≈ 64-77 Seiten) |
Modell-Empfehlungen für die drei Varianten:
💡 Wichtiger Hinweis: Beginnen Sie mit kleineren, ressourcenschonenden Modellen für einfache Aufgaben! Lokale Modelle (KIT-Infrastruktur, datensensible Inhalte) verbleiben innerhalb der KIT-Infrastruktur und sind aus Datenschutzsicht vorzuziehen.
|
Variante |
Empfohlenes Modell |
Begründung |
|
Variante 1 (KI-Toolbox Vollkonfiguration) |
gpt-oss:120b oder Qwen3.5-397b (lokal, KIT-Infrastruktur) |
Lokale Modelle bevorzugt – ressourceneffizient, datenschutzkonform, maximale Flexibilität |
|
Variante 2 (Nur ILIAS) |
gpt-oss:120b (lokal, KIT-Infrastruktur) oder gpt-5-nano (Cloud) |
Für einfache Bots: lokale Modelle oder schnellste Cloud-Variante |
|
Variante 3 (ILIAS + 1 Dokument) |
gpt-oss:120b (lokal, KIT-Infrastruktur) oder gpt-5-mini (Cloud) |
Lokale Modelle für Datenschutz; Cloud für große Context-Fenster |
💡 Tipp: Bei datensensiblen Anwendungen empfehlen wir lokale Modelle wie gpt-oss:120b oder Qwen3.5-397b. Diese verbleiben komplett innerhalb der KIT-Infrastruktur. Eine aktuelle Liste aller verfügbaren Modelle mit detaillierten Beschreibungen finden Sie auf der KI-Toolbox Webseite.
Bei größeren Dokumenten: Variante 1 verwenden
Wenn Sie:
- Mehrere Dokumente bereitstellen möchten
- Größere Dokumente (z.B. komplette Skripte) verwenden wollen
- Zentrale Verwaltung für mehrere Kurse benötigen
→ Dann empfehlen wir Variante 1 (KI-Toolbox Vollkonfiguration). Diese bietet deutlich umfassendere Einstellungsmöglichkeiten und unterstützt mehrere Dokumente als Wissensbasis. Zur Anleitung für Variante 1
Custom Chatbots können verschiedene Rollen einnehmen.
Beispiele für Rollenszenarien
|
Rolle |
Beschreibung |
Einsatzbereich |
|
Sokratischer Tutor |
Fragt nach, gibt keine kompletten Lösungen |
Übungsbetrieb, Verständnisfragen |
|
Experte |
Fachspezifische Antworten auf Niveau |
Fortgeschrittenenkurse |
|
Peer-Coach |
Kollegial, unterstützend |
Schreibzentrum, Peer-Tutoring |
|
Kritischer Reflexionspartner |
Hinterfragt Antworten, regt zum Nachdenken an |
Ethik-Seminare, KI-Kompetenz |
|
Simulierte Person |
Rollenspiel (Patient, Kunde, Bürger) |
Kommunikationstraining |
So konfigurieren Sie rollenspezifische Bots
Der Systemprompt ist entscheidend für die Rolle:
|
<role> |
Wichtig: Lehrende haben keinen Zugriff auf die Konversationen der Studierenden. Jede Nutzerin und jeder Nutzer kann ausschließlich die eigenen Konversationen einsehen und verwalten.
Für Studierende und Lehrende (als Nutzende)
Jede Person, die mit dem Chatbot interagiert, kann ihre eigenen Konversationen verwalten:
Eigene Konversationen einsehen
- Öffnen Sie den Chatbot im “Inhalt”-Tab
- Rechte Seitenleiste zeigt Ihre gespeicherten Konversationen
- Klicken Sie auf eine Konversation, um den Verlauf zu sehen
Eigene Konversationen umbenennen
- Klicken Sie auf das Dropdown-Menü (⋮) neben einer Konversation
- Wählen Sie “Konversation umbenennen”
- Geben Sie einen Titel ein (z.B. “Fragen zu Ableitungen”)
- Bestätigen Sie mit Enter oder Speichern
Eigene Konversationen löschen
- Klicken Sie auf das Dropdown-Menü neben einer Konversation
- Wählen Sie “Löschen”
- Bestätigen Sie die Löschung
Wichtig: Gelöschte Konversationen können nicht wiederhergestellt werden!
Speicherung durch Lehrende konfigurierbar
Lehrende können in den Einstellungen des Chatbots festlegen, ob Konversationen standardmäßig gespeichert werden:
- Automatisches Speichern aktivieren: Konversationen werden für die Nutzenden gespeichert
- Automatisches Speichern deaktivieren: Konversationen werden nicht gespeichert (datenschutzfreundliche Option)
Diese Einstellung gilt für alle Nutzenden des Chatbots gleichermaßen.
Ein Chatbot kann in mehreren Kursen verwendet werden.
Variante 1: Bot pro Kurs
Jeder Kurs hat einen eigenen Chatbot mit eigenen Einstellungen.
Vorteile:
- Kurs-spezifische Anpassungen möglich
- Separate Konversationsverläufe
- Einfache Verwaltung pro Kurs
Nachteile:
- Änderungen müssen in jedem Kurs vorgenommen werden
- Mehr Aufwand bei Updates
Variante 2: Zentraler Bot (Variante 1) + Gemeinsame Nutzung
Ein Modell in der KI-Toolbox (Open WebUI) wird in mehreren Kursen verwendet.
Vorteile:
- Zentrale Verwaltung
- Änderungen gelten sofort in allen Kursen
- Konsistente Antworten über alle Kurse hinweg
Nachteile:
- Kurs-spezifische Anpassungen schwieriger
- Höherer initialer Einrichtungsaufwand
Tipp: Modelle im Team teilen: Über die KI-Toolbox können Custom Chatbots und Modelle auch im Team genutzt werden. Laden Sie Teammitglieder ein und arbeiten Sie gemeinsam an der Konfiguration. → Anleitung: Arbeiten im Team in der KI-Toolbox
So richten Sie Multi-Course-Nutzung ein
Für Variante 1 (Bot pro Kurs)
- Erstellen Sie einen Assistenten in jedem Kurs
- Kopieren Sie den Systemprompt in jeden Kurs 3
- Laden Sie dieselben Dokumente in jeden Kurs hoch
Für Variante 2 (Zentraler Bot)
- Erstellen Sie ein Modell in der KI-Toolbox (siehe Variante 1) 2
- Konfigurieren Sie das Modell vollständig in der KI-Toolbox
- Verknüpfen Sie in jedem Kurs einen Assistenten mit diesem Modell
Häufige Fragen
Lokale Modelle bevorzugen – diese verbleiben innerhalb der KIT-Infrastruktur und sind ressourceneffizienter:
- Variante 1 (KI-Toolbox): gpt-oss:120b oder Qwen3.5-397b (lokal, datenschutzkonform)
- Variante 2 (Nur ILIAS): gpt-oss:120b (lokal) oder gpt-5-nano (Cloud, schnell)
- Variante 3 (ILIAS + 1 Dokument): gpt-oss:120b (lokal) oder gpt-5-mini (Cloud, großes Context-Fenster)
Für einfache Bots (FAQ, Begrüßung) beginnen Sie mit kleineren Modellen. Bei datensensiblen Anwendungen immer lokale Modelle wählen.
Überprüfen Sie:
- Ist der Systemprompt klar formuliert?
- Wurde das richtige Modell ausgewählt?
- Sind die Dokumente aktuell und relevant?
Iteratives Vorgehen:
- Testen Sie mit typischen Studierenden-Fragen
- Analysieren Sie die Antworten
- Passen Sie den Systemprompt an
- Wiederholen Sie den Test
Ja, alle Kursadmins können den Bot bearbeiten. Für institutionelle Bots empfehlen wir Variante 1 (KI-Toolbox) mit zentraler Verwaltung.
Troubleshooting
|
Problem |
Mögliche Ursache |
Lösung |
|
Bot antwortet nicht |
“Online” nicht aktiviert |
In den Einstellungen “Online” aktivieren |
|
Falsche Modell-Antworten |
Falsches Modell gewählt |
Modell in Konfiguration ändern |
|
Dokumente werden ignoriert |
Token-Limit überschritten |
Dokumente verkleinern oder weniger verwenden |
|
Bot gibt Lösungen aus |
Systemprompt zu lasch |
Grenzen im Prompt schärfen formulieren |
|
API-Fehler |
API-Key ungültig/abgelaufen |
In der KI-Toolbox neuen Key generieren |
|
Langsame Antworten |
Große Dokumente/Modelle |
Kleinere Dokumente, schnelleres Modell wählen |
