Zum Inhalt springen

Research-Modus freischalten

Admin

Der Research-Modus ist ab Werk aus. Zum Freischalten genügt ein Schritt: der Killswitch. Ein zweiter, optionaler Schritt legt fest, mit welchem Modell die Läufe arbeiten — er lohnt sich vor allem, wenn Sie Kosten steuern wollen.

Was der Modus für Endbenutzer tut, beschreibt Research-Modus.

Schritt 1 — Killswitch Research:ChatToolEnabled aktivieren

Section titled “Schritt 1 — Killswitch Research:ChatToolEnabled aktivieren”

Setzen Sie in den Systemeinstellungen den Schalter Research:ChatToolEnabled auf an (Standard: false). → Systemeinstellungen

Dieser Schalter wirkt als Deployment-Killswitch für die gesamte Instanz. Er greift mit dem Benutzer-Schalter zusammen als UND-Bedingung: Ein Research-Lauf startet nur, wenn der Killswitch an ist und der Benutzer den Research-Modus (Chip Recherche) für diese Nachricht eingeschaltet hat. Den Lauf startet dann der Chat selbst, ohne Modell-Aufruf. Solange der Killswitch aus ist, hat der Benutzer-Schalter keinerlei Wirkung.

Schritt 2 — dem Research-Agenten ein eigenes Modell zuweisen (optional)

Section titled “Schritt 2 — dem Research-Agenten ein eigenes Modell zuweisen (optional)”

Der gesetzte Research-Agent wird mit leerem Provider und Modell ausgeliefert. Das ist kein Fehler und kein Hindernis: Ein leerer Eintrag bedeutet „nimm den Deployment-Standard”. Der Lauf löst Provider und Modell dann aus derselben Quelle auf, aus der auch der Chat sein Standardmodell bezieht — der Research-Modus ist also direkt nach dem Killswitch einsatzbereit.

Ein eigenes Modell zuzuweisen lohnt sich trotzdem, und zwar aus einem Grund: Kostensteuerung. Ein Lauf macht deutlich mehr Modell-Aufrufe als eine normale Antwort, und für die Auswertung vieler Treffer-Dokumente ist ein günstiges, schnelles Modell meist die bessere Wahl als das teuerste verfügbare. Setzen Sie es auf der Agenten-Seite. → Agenten verwalten

Provider und Modell werden dabei immer als Paar aufgelöst — eine Mischung aus Ihrem Provider und dem Standard-Modell (oder umgekehrt) kann nicht entstehen.

Wirklich fehlschlagen kann der Lauf nur, wenn es überhaupt keinen nutzbaren Chat-Provider gibt — dann fehlt auch der Standard, auf den er zurückfallen könnte. In diesem Fall bleibt der Fehler aber nicht unsichtbar: Er wird auf der Lauf-Zeile vermerkt und als Nachricht in die Konversation zugestellt. Der Benutzer wartet also nicht stumm ins Leere, sondern sieht, dass und woran die Recherche gescheitert ist.

  1. Killswitch an; mindestens ein Chat-Provider ist eingerichtet und aktiv.
  2. Im Chat den Research-Modus-Schalter einschalten und eine aufzählende Testfrage stellen („Welche Dokumente erwähnen Thema X?”).
  3. Der Turn muss binnen weniger Sekunden mit dem Platzhalter-Hinweis enden; das Lupen-Symbol im Composer wird dabei zum Spinner mit Phasenanzeige.
  4. Nach einigen Minuten muss der Bericht in derselben Konversation erscheinen. Scheitert der Lauf, erscheint stattdessen „Recherche (abgebrochen)”, „Recherche (fehlgeschlagen)” oder „Recherche fehlgeschlagen” mit Grund in der Konversation — beides ist ein Ergebnis, stilles Ausbleiben ist keins. → Wenn der Lauf nicht normal endet

Der Lauf ist RBAC-gescopt: Er enumeriert ausschließlich die Vaults und Dokumente, die der auslösende Benutzer sehen darf. Der Research-Modus ist damit kein Weg, an Inhalte jenseits der eigenen Berechtigungen zu kommen. → RBAC & Vertraulichkeit

  • Desktop-Laufzeit: In der Desktop-App läuft der Hintergrund-Lauf nur, solange die App geöffnet ist — schließt der Benutzer sie, kommt kein Bericht. Beim nächsten Start meldet die Konversation den Abbruch („Die Anwendung wurde während des Laufs beendet.”). Im Web-Modus (Aspire-gehostet) läuft der Lauf serverseitig weiter. → Web vs. Desktop
  • Laufzeit: meist einige Minuten, bei vielen Treffern deutlich mehr. Die Höchstdauer steht am Research-Agenten (Max. Laufzeit (Minuten)), bei neuen Installationen 20 Minuten; ältere Installationen behalten ihren bisherigen Wert (früher 15). Wird sie erreicht, bricht der Lauf ab und liefert die bis dahin fertigen Teilbefunde. → Agenten verwalten
  • Kosten: Ein Lauf sichtet zwar jedes zugängliche Dokument, aber die Sichtung selbst läuft lokal und ohne Modell-Aufruf. An das Modell gehen nur die ausgewählten Textstellen, und zwar mit einem Aufruf je Treffer-Dokument. Rechnen Sie mit einem Vielfachen der Tokens einer normalen Antwort — der Verbrauch richtet sich aber nach der Treffermenge zur Frage, nicht nach der Größe Ihrer Wissensdatenbank. Wenn Sie Kostenbudgets führen, beziehen Sie das ein. → Limits (Kostenbudgets & Währung)
  • Modellwahl: Weil der Lauf je Treffer-Dokument einen Auswertungs-Aufruf macht, ist ein günstiges, schnelles Modell für den Research-Agenten meist die bessere Wahl als das teuerste verfügbare.
  • Teilbericht auf der Agenten-Seite: Endete ein Lauf vor der Zusammenfassung, zeigt die Lauf-Ansicht über dem Ergebnis den Streifen „Teilbefunde, nicht zusammengefasst — der Lauf endete vor der Aggregation.” Das Status-Abzeichen allein sagt das nicht: Auch ein fehlgeschlagener Lauf kann einen fertigen Bericht haben.
  • Eine Recherche je Benutzer: Pro Benutzer läuft höchstens eine aus dem Chat gestartete Recherche — gleich, ob in der Wissensdatenbank oder im Web. Eine zweite startet nicht; der Benutzer bekommt eine normale Antwort mit dem Hinweis „ℹ️ Es läuft bereits eine Hintergrund-Recherche. Diese Frage wurde deshalb normal beantwortet.“ Als laufend zählt ein Lauf höchstens so lange wie die längste Max. Laufzeit (Minuten) der Agenten Research und Web Research plus 5 Minuten — mit den Standardwerten 45 Minuten (früher fest 30). Erhöhen Sie die Max. Laufzeit eines der beiden Agenten, verlängert sich diese Sperre entsprechend.
  • Agent deaktiviert oder gelöscht: Ohne aktiven Agenten Research startet kein Lauf. Der Benutzer bekommt nach dem Platzhalter-Hinweis die Meldung „⚠️ Die Recherche konnte nicht starten: Der zuständige Recherche-Agent ist deaktiviert oder wurde gelöscht. Bitte wende dich an deinen Administrator (Seite „Agenten“).“ in die Konversation. Wollen Sie den Research-Modus abschalten, nehmen Sie dafür den Killswitch — dann startet der Chat gar nicht erst einen Lauf.
  • Fünfter gesetzter Agent „Web Research“: Auf der Seite „Agenten“ steht neben Research der Agent Web Research (Max. Laufzeit standardmäßig 40 Minuten). Er führt die Web-Recherche aus, die Benutzer über den Chip Web starten. Freigeschaltet wird sie nicht über Research:ChatToolEnabled, sondern in den Systemeinstellungen mit dem Schalter Web-Recherche erlauben und dem Modell für die Web-Recherche. Provider und Modell bleiben am Agenten leer: Für Läufe aus dem Chat gilt immer das Modell aus den Systemeinstellungen, ein am Agenten gesetztes Modell wird dafür nicht verwendet. → Web-Recherche · Systemeinstellungen
  • PII: Die ausgewählten Textstellen werden vor dem Modell-Aufruf pseudonymisiert; der Bericht bleibt während des ganzen Laufs pseudonymisiert und wird erst am Lauf-Ende zurückübersetzt. Ist Presidio nicht erreichbar, bricht der Lauf ab, statt Klartext an das Modell zu geben (fail-closed). Der Lauf prüft die Verfügbarkeit dafür selbst — vor und nach der Prüfphase. → Der PII-Schild