KI-Handler History Compaction

Hinweis: Diese Dokumentation bezieht sich auf die aktuellste Version des Plugins ALBERT | AI Suite. Aktualisieren Sie das hier beschriebene Plugin, um die Dokumentation verwenden zu können.

Der Handler komprimiert die Konversationshistorie automatisch, sobald das Kontextfenster des KI-Modells einen definierten Schwellenwert überschreitet.

Eine allgemeine Beschreibung von KI-Handlern finden Sie unter ALBERT | AI KI-Handler einrichten.

Eigenschaft	Wert
Anzeigename in der Oberfläche	Historie bei Bedarf zusammenfassen
Technischer Handler-Name	`agorum.ai.history.compaction` (Name der Konfiguration: `agorum_ai_history_compaction`)
Standardmäßig aktiv	ja
Eingriffspunkte (Hooks)	`before`

Wann verwenden

Lange Konversationen: Bei Gesprächen, die über einen längeren Zeitraum laufen und viele Nachrichten enthalten, verhindert der Handler das Erreichen der Kontextgrenzen des KI-Modells.
Komplexe Aufgaben: Bei mehrstufigen Aufgaben, die viele Zwischenergebnisse und Entscheidungen erfordern, bleiben die wesentlichen Informationen erhalten.
Token-Optimierung: Der Handler reduziert die Token-Nutzung und damit verbundene Kosten, indem er redundante oder weniger relevante Informationen entfernt.
Kontinuierliche Arbeitssitzungen: Für Szenarien, in denen die KI über einen längeren Zeitraum an einer Aufgabe arbeiten soll, ohne dass der Kontext verloren geht.

Funktionsweise

Der Handler arbeitet nach folgendem Prinzip:

Bei jeder Benutzeranfrage wird die aktuelle Auslastung des Kontextfensters berechnet. Dazu werden die Token-Werte (input, output, cache_read, cache_write) aus der Chat-Historie herangezogen. Interne KI-Aufrufe werden separat gezählt, sodass sie nicht doppelt gezählt werden, aber in der Gesamtstatistik berücksichtigt werden.
Die Auslastung wird prozentual mit dem maximalen Kontextfenster des verwendeten KI-Modells verglichen.
Wenn die Auslastung den konfigurierten Schwellenwert überschreitet (Standard: 75%), wird eine Komprimierung ausgelöst.
Für die Komprimierung wird ein spezieller Prompt verwendet, der die KI anweist, eine strukturierte Zusammenfassung des bisherigen Gesprächsverlaufs zu erstellen.
Die Zusammenfassung enthält alle relevanten Informationen wie Ziele, Entscheidungen, erledigte Arbeiten, Dateireferenzen (UUIDs und Pfade) sowie offene Aufgaben.
Die ursprüngliche Historie wird als "disabledForAi" markiert und die komprimierte Zusammenfassung wird als neuer Kontext eingefügt.
Die Konversation wird nahtlos mit einem internen Prompt fortgesetzt, der die KI anweist, basierend auf der Zusammenfassung weiterzuarbeiten.

Der Handler arbeitet im before-Hook und modifiziert die Historie sowie den Input direkt, bevor die eigentliche KI-Anfrage gesendet wird.

Hinweis: Der Handler deaktiviert während der Komprimierung alle anderen Handler, um Endlosschleifen zu vermeiden. Die Komprimierung selbst ist ein interner KI-Aufruf, der keine externen Handler auslöst.

Einstellungen

Einstellung	Parameter	Standard	Beschreibung
Schwelle für Zusammenfassung des verbrauchten Kontext-Fensters in %	`compactionThresholdPercent`	75	Schwellenwert in Prozent, ab dem die Historie komprimiert wird. Wenn die Auslastung des Kontextfensters diesen Wert überschreitet, wird die Komprimierung ausgelöst.

In einer KI-Voreinstellung verwenden

Öffnen Sie ☰ > Administration > Konfiguration > KI-Voreinstellungen.
Wählen Sie die gewünschte KI-Voreinstellung aus und klicken Sie Bearbeiten.
Scrollen Sie zum Bereich KI-Handler und klicken Sie auf KI-Handler hinzufügen.
Wählen Sie den KI-Handler Historie bei Bedarf zusammenfassen in der Liste aus.
Speichern Sie die KI-Voreinstellung.
Ergebnis: Die Konversationshistorie wird in Chats mit dieser KI-Voreinstellung automatisch komprimiert, sobald das Kontextfenster des KI-Modells den Schwellenwert überschreitet.

Kombination mit anderen Handlern

Frage	Antwort
Reihenfolge	Der Handler sollte früh in der Handler-Kette eingebunden werden (idealerweise als einer der ersten Handler), damit die Historie komprimiert wird, bevor andere Handler ihre Verarbeitung durchführen. Andere Handler, die ebenfalls die Historie oder den Input verändern, sollten nach diesem Handler ausgeführt werden, um auf der (ggf. bereits komprimierten) Historie zu arbeiten.
Geeignete Kombinationen	Der Handler kann zusammen mit anderen Handlern in einer KI-Voreinstellung verwendet werden.
Nicht kombinieren mit	Keine Besonderheiten bekannt.