Zum Inhalt springen

Research-Modus

Anwender

Manche Fragen lassen sich nicht mit einer Handvoll Fundstellen beantworten. „Welche Kunden haben einen ADV?” oder „In wie vielen Projekten kommt Technologie X vor?” verlangen, dass die gesamte Wissensdatenbank durchgegangen wird — nicht nur die passendsten Dokumente. Genau dafür gibt es den Research-Modus.

Der normale Chat holt sich die relevantesten Stellen aus Ihrer Wissensbasis und antwortet darauf (→ RAG & Suche). Das ist schnell und für die meisten Fragen genau richtig — aber es sieht bewusst nur einen Ausschnitt. Bei einer Frage, deren Antwort eine vollständige Liste oder eine Zählung ist, würde dieser Ausschnitt die Antwort verfälschen.

Schalten Sie den Research-Modus ein, wenn Ihre Frage aufzählend oder aggregierend ist:

  • Aufzählend: „Welche Kunden haben einen ADV?”, „Welche Projekte nutzen PostgreSQL?”, „Zu welchen Lieferanten gibt es einen Rahmenvertrag?”
  • Aggregierend: „In wie vielen Projekten kommt Technologie X vor?”, „Wie viele Angebote haben wir letztes Jahr an den öffentlichen Sektor geschrieben?”

Für alles andere — eine konkrete Sachfrage, eine Zusammenfassung, ein Textentwurf — lassen Sie ihn aus. Der Research-Modus ist deutlich langsamer und teurer als eine normale Antwort, weil er die gesamte Wissensdatenbank sichtet und alle Treffer auswertet.

Im Chat-Composer finden Sie neben den Schaltern Privat und Wissensdatenbank den Chip Recherche (Lupen-Symbol) — das ist der Research-Modus-Schalter. Hat Ihre Administration auch die Web-Recherche freigeschaltet, steht daneben ein zweiter Chip Web (Globus-Symbol). Worin sich die beiden unterscheiden, steht unten unter „Recherche oder Web?“.

Das Wichtigste zuerst: Der Schalter gilt für genau eine Nachricht. Er ist kein Modus, den Sie einmal einschalten und der dann anbleibt. Beim Absenden Ihrer Frage wird er gelesen und sofort zurückgesetzt.

Praktisch heißt das: Wollen Sie zwei aufzählende Fragen hintereinander stellen, müssen Sie ihn vor jeder davon neu einschalten. Vergessen Sie das bei der zweiten, bekommen Sie ohne Fehlermeldung eine ganz normale, schnelle RAG-Antwort — die bei einer aufzählenden Frage unvollständig ist, aber nicht danach aussieht. Das ist die häufigste Stolperfalle des Features.

Außerdem gilt:

  • Er ist standardmäßig aus und gilt nur für den aktuellen Tab.
  • Recherche und Web schließen sich aus. Schalten Sie den einen Chip ein, geht der andere aus — eine Nachricht startet höchstens eine Recherche. Auch der Chip Web gilt für genau eine Nachricht.
  • Wechseln Sie von einer bestehenden Konversation in eine andere, gehen beide Chips aus.
  • Für Rückfragen zu einem fertigen Bericht brauchen Sie ihn nicht — die beantwortet der normale Chat aus dem Bericht heraus.

Sehen Sie den Schalter gar nicht oder passiert nach dem Einschalten nichts, ist der Modus in Ihrer Instanz vermutlich noch nicht freigeschaltet — dann hilft Ihre Administration weiter. → Research-Modus freischalten

Die beiden Chips starten zwei verschiedene Hintergrund-Recherchen:

Recherche (Wissensdatenbank)Web
Sucht inIhren internen Dokumenten — vollständig, jedes Dokument, auf das Sie Zugriff habenaktuellen öffentlichen Quellen im Web
Gut fürListen und Zählungen über Ihre eigenen Unterlagen („Welche Kunden haben einen ADV?“)Fragen, deren Antwort nicht in Ihrer Wissensdatenbank steht: Marktüberblicke, aktuelle Entwicklungen, öffentliche Fakten
Wohin die Frage gehtan das für die Recherche eingestellte Modellan OpenAI (USA), das mit seiner eigenen Websuche recherchiert
Dauermeist einige Minutenmeist 5 bis 20 Minuten

Bei aktivem PII-Schutz werden Namen in Ihrer Frage auch bei der Web-Recherche durch Platzhalter ersetzt — nach diesen Namen kann die Websuche dann nicht suchen.

Beide Recherchen teilen sich die Fortschrittsanzeige, die Zustellung des Berichts in die Konversation und die Regel „eine Recherche zur Zeit“ (siehe „Grenzen & Hinweise“). Alles Weitere in diesem Artikel — Phasen, Abdeckungs-Kopfzeile, Quellen-Anhang aus Dokumenten — betrifft die Recherche in der Wissensdatenbank. Der Bericht einer Web-Recherche hat seinen eigenen Aufbau mit nummerierten Webquellen. → Web-Recherche

Der Schalter während eines laufenden Laufs

Section titled “Der Schalter während eines laufenden Laufs”

Solange eine Ihrer Hintergrund-Recherchen läuft, wird aus dem Lupen-Symbol ein Spinner, und die Beschriftung zeigt die aktuelle Phase mit ihrem Zähler — Planung, Auswahl, PII-Prüfung, Auswertung, Zusammenfassung und zum Schluss kurz Bericht wird erstellt. Sie sehen also, dass etwas passiert und wo der Lauf gerade steht.

Bei einer Web-Recherche dreht sich der Spinner stattdessen am Chip Web, und die Beschriftung zeigt Web-Recherche mit der bisherigen Laufzeit, etwa „Web-Recherche 3 min“. Phasen wie bei der Recherche in der Wissensdatenbank gibt es dort nicht, weil OpenAI keine Zwischenschritte meldet.

Drei Dinge, die dabei leicht verwirren:

  • Die Farbe des Schalters folgt weiter dem Ein/Aus-Zustand, nicht dem Lauf. „Für die nächste Nachricht scharf” und „ein Lauf ist unterwegs” sind zwei verschiedene Dinge.
  • Ausschalten stoppt den laufenden Lauf nicht. Der Schalter betrifft immer nur die nächste Nachricht.
  • Die Anzeige gehört zu Ihnen, nicht zur Konversation. Sie bleibt beim Konversationswechsel und sogar nach einem Neuladen der Seite sichtbar, solange der Lauf läuft.

Der Ablauf: sofortiger Hinweis, Bericht später

Section titled “Der Ablauf: sofortiger Hinweis, Bericht später”

Der Research-Modus verhält sich anders als eine normale Antwort. Er blockiert den Chat nicht:

  1. Sie stellen die Frage bei eingeschaltetem Schalter.
  2. Der Chat-Turn endet sofort (in der Regel unter 5 Sekunden) mit einem Platzhalter-Hinweis: „🔍 Die Hintergrund-Recherche über die Wissensdatenbank läuft. Der Bericht wird automatisch in diese Konversation zugestellt, sobald sie abgeschlossen ist.” In der Desktop-App folgt noch „Auf dem Desktop läuft die Recherche nur, solange die App geöffnet ist.” Das ist noch nicht die Antwort.
  3. Im Hintergrund läuft die Recherche über Minuten. Sie können in der Zwischenzeit weiterarbeiten, andere Fragen stellen oder die Konversation wechseln.
  4. Ist die Recherche fertig, erscheint der Bericht als neue Assistenten-Nachricht live in derselben Konversation — Sie müssen nicht neu laden und nicht nachfragen.
  5. Haben Sie inzwischen die Konversation gewechselt, erscheint ein Badge an der betreffenden Konversation in der Liste. Ein Klick darauf bringt Sie zum fertigen Bericht.

Das Badge aus Schritt 5 meldet einen neu eingetroffenen Bericht und verschwindet, sobald Sie ihn gesehen haben. Davon zu unterscheiden ist die dauerhafte Markierung in Letzte Chats: Jede Konversation, in der einmal eine Recherche gestartet wurde, trägt dort ein Lupen-Symbol mit der Beschriftung Recherche.

Diese Markierung bleibt. Sie ist der Weg, eine Recherche von vor drei Wochen wiederzufinden, ohne sich an den Wortlaut der Frage zu erinnern — Recherchen laufen minutenlang und sind teuer, eine bereits gelaufene noch einmal zu starten lohnt selten.

Der Bericht ist ein zusammenhängender Text mit dem Ergebnis der Enumeration — je nach Frage eine Liste, eine Zählung oder eine strukturierte Auswertung.

Jeder Bericht hat denselben Rahmen. Was dazwischen steht, hängt von Ihrer Frage ab — der Rahmen selbst nicht.

In Ihrer Sprache. Der Bericht erscheint in der Oberflächensprache, die Sie beim Start der Recherche eingestellt hatten — Rahmen, Hinweise und der Text des Modells gleichermaßen. Stellen Sie die Sprache während eines Laufs um, kommt dieser Bericht noch in der alten.

Oben die Abdeckungs-Kopfzeile. Sie sagt Ihnen, worauf die Antwort beruht:

Abdeckung: 1.240 Dokumente durchsucht · 37 mit Treffern · 85 Passagen ausgewertet Suchbegriffe: ADV, Auftragsverarbeitung, … · Selektor: …

Das ist die Stelle, an der Sie ablesen können, ob die Frage breit genug gegriffen hat — „0 mit Treffern” bei einer Frage, die etwas finden sollte, heißt meist, dass die Suchbegriffe nicht zum Vokabular Ihrer Dokumente passen.

Je nach Lauf stehen dort weitere Angaben. Fehlen sie, gab es nichts zu melden:

  • „· Vault: …” am Ende der Suchbegriffs-Zeile — die Recherche war auf den Vault beschränkt, den Sie im Chat gewählt hatten. „0 Dokumente durchsucht” heißt dann „nicht in diesem Vault”, nicht „nirgends”.
  • „Verworfen: … Kandidaten über Cap · … Passagen wegen PII-Scan-Fehler” — der Lauf hat mehr Kandidaten gefunden, als die eingestellte Obergrenze zulässt, oder einzelne Passagen fielen aus, weil ihre PII-Prüfung scheiterte. Beides wurde nicht ausgewertet.
  • „Nicht gelesen: … Dokument(e) · … Vault(s) nicht auflistbar” — Dokumente oder ganze Vaults, die der Lauf nicht lesen konnte. Sie fehlen im Ergebnis, ohne dass jemand sagen kann, ob sie etwas zur Frage beigetragen hätten. Endet die Zeile mit „Sitzung abgelaufen, bitte neu anmelden und die Recherche wiederholen.”, tun Sie genau das — das ist der einzige dieser Fälle, den Sie selbst beheben können.

Strukturelle Auswahl. Hat Ihre Administration die strukturelle Recherche-Auswahl erlaubt, beantwortet der Lauf manche Fragen — etwa „Zu welchen Kunden haben wir Projekte?” — aus der Ordnerstruktur statt aus dem Dokumenttext. Die Kopfzeile lautet dann „Abdeckung: … Dokumente erfasst · … Struktureinheiten · … Passagen ausgewertet” und „Auswahl: strukturell (Verzeichnisbaum) · Selektor: …”.

Unten der Quellen-Anhang „Belegte Quellen (N)”. Eine Liste mit einem Eintrag je Dokument, aus dem ein Befund stammt. Diese Liste schreibt nicht das Modell, sondern das System — sie wird nach der Zusammenfassung angehängt. Deshalb ist sie verlässlich: Eine Quelle, die es in den Anhang geschafft hat, wurde tatsächlich ausgewertet, auch wenn die Zusammenfassung sie im Fließtext nicht erwähnt.

Manchmal Hinweiszeilen. Konnten Dokumente nicht ausgewertet werden oder blieben Zwischenzusammenfassungen leer, weist der Bericht das gleich unter der Kopfzeile aus, vor dem eigentlichen Text:

Hinweis: 3 Dokument(e) konnten nicht ausgewertet werden (Report unvollständig).

Ein Dokument gilt zum Beispiel dann als nicht ausgewertet, wenn das Modell 60 Sekunden lang keine Antwort dazu lieferte — der Lauf wartet nicht länger, sondern macht mit den übrigen weiter.

Am Ende des Textes kann stehen: „Hinweis: Die Zusammenfassung hat die Längengrenze des Modells erreicht und kann am Ende gekürzt sein.” Dann bricht der Fließtext womöglich mitten im letzten Punkt ab; der Quellen-Anhang ist davon nicht betroffen.

Beides ist Transparenz, kein Defekt. Der Bericht stimmt, er ist nur nicht vollständig — und sagt Ihnen das, statt die Lücke zu verschweigen.

Die Recherche sieht nur, was Sie sehen dürfen. Sie läuft mit Ihren Berechtigungen: Vaults und Dokumente, auf die Sie keinen Zugriff haben, tauchen im Bericht nicht auf. → RBAC & Vertraulichkeit

Scheitert die Auswertung an einzelnen Textstellen, bricht nicht der ganze Lauf ab — der Bericht kommt trotzdem, dann eben ohne diese Fundstellen.

Auch ein abgebrochener oder gescheiterter Lauf meldet sich in derselben Konversation — und liefert dabei, was er bis dahin hat. Die Überschrift der Nachricht sagt Ihnen, was Sie vor sich haben; darunter steht „Grund:” mit der Ursache.

ÜberschriftWas darunter steht
Recherche (abgebrochen)Entweder „⚠️ Teilbefunde, nicht zusammengefasst — die Aggregation wurde nicht erreicht.” mit den Einzelbefunden, die bis zum Abbruch fertig waren. Oder „⚠️ Der Bericht war zum Zeitpunkt des Abbruchs bereits fertig und wird unverändert ausgeliefert.” mit dem vollständigen Bericht. Oder „Es wurden noch keine Teilbefunde erzeugt.”
Recherche (fehlgeschlagen)„⚠️ Teilbefunde, nicht zusammengefasst — der Lauf ist vor der Aggregation gescheitert.” mit den fertigen Einzelbefunden.
Recherche (unvollständig abgeschlossen)„⚠️ Der Bericht war zum Zeitpunkt des Fehlers bereits fertig und wird unverändert ausgeliefert; nur der abschließende Schritt des Agenten ist gescheitert.” — der Bericht ist vollständig.
Recherche fehlgeschlagenNur der Grund; es lag noch nichts Verwertbares vor.

Teilbefunde sind die Ergebnisse der einzelnen Dokumente, bevor sie zu einem Text zusammengezogen werden — inhaltlich brauchbar, aber ungeordnet und mit Wiederholungen. Passen nicht alle in die Nachricht, endet sie mit „… N weitere Teilbefunde wurden wegen der Längengrenze ausgelassen.”

Häufige Gründe:

  • „Zeitlimit erreicht oder manuell gestoppt” — der Lauf hat seine maximale Laufzeit überschritten (siehe unten) oder wurde gestoppt. Das System kann beides nicht unterscheiden.
  • „Der Lauf wurde in der Verwaltung abgebrochen.” — jemand hat ihn auf der Agenten-Seite beendet. Warten lohnt nicht; stellen Sie die Frage erneut.
  • „Die Anwendung wurde während des Laufs beendet.” — die Desktop-App wurde geschlossen, während der Lauf lief. Diese Meldung erscheint beim nächsten Start der App.
  • „Recherche nicht möglich — der PII-Dienst ist nicht erreichbar.” bzw. „Recherche abgebrochen — der PII-Dienst fiel während des Scans aus.” — die Recherche gibt keinen ungeprüften Text an das Modell (→ Der PII-Schild). Hier hilft nur Ihre Administration.

Eine Meldung kommt ohne diese Überschriften aus, weil gar kein Lauf startet. Sie folgt kurz auf den Platzhalter-Hinweis:

⚠️ Die Recherche konnte nicht starten: Der zuständige Recherche-Agent ist deaktiviert oder wurde gelöscht. Bitte wende dich an deinen Administrator (Seite „Agenten“).

Ihre Administration hat dann auf der Seite „Agenten“ den Agenten Research (bei einer Web-Recherche: Web Research) deaktiviert oder gelöscht. Nur sie kann ihn wieder einschalten. Früher folgte in diesem Fall auf den Platzhalter einfach nichts mehr.

Ein Ausbleiben ohne jede Rückmeldung ist also nicht der normale Weg, wie ein Lauf endet.

  • Dauer: Minuten, nicht Sekunden — meist einige, bei vielen Treffern auch deutlich mehr. Die maximale Laufzeit ist am Research-Agenten eingestellt, standardmäßig 20 Minuten (in älteren Installationen können es 15 sein); danach bricht der Lauf ab und liefert seine Teilbefunde.
  • Kosten: Deutlich mehr Tokens als eine normale Antwort. Der Lauf sichtet zwar jedes zugängliche Dokument, aber das kostet nichts — es passiert lokal, ohne Modell. Bezahlt wird die Auswertung der Treffer zu Ihrer Frage. Eine eng gestellte Frage ist deshalb günstiger als eine weit gestellte.
  • Desktop: In der Desktop-App läuft die Hintergrund-Recherche nur, solange die App geöffnet ist. Schließen Sie die App währenddessen, kommt kein Bericht an — beim nächsten Start meldet die Konversation stattdessen „Die Anwendung wurde während des Laufs beendet.”. Im Web-Modus läuft sie serverseitig weiter. → Web vs. Desktop
  • Datenschutz: Der Bericht wird wie jede Assistenten-Nachricht gespeichert, vorher aber gegen das PII-Mapping der Sitzung geprüft. → Der PII-Schild
  • Eine Recherche zur Zeit: Pro Benutzer läuft höchstens eine aus dem Chat gestartete Recherche — gleich, ob Recherche oder Web. Schalten Sie einen Chip ein, während noch eine läuft, startet keine zweite. Ihre Frage wird dann normal beantwortet, mit dem Hinweis „ℹ️ Es läuft bereits eine Hintergrund-Recherche. Diese Frage wurde deshalb normal beantwortet.“ Als laufend zählt eine Recherche höchstens so lange wie die längste eingestellte Max. Laufzeit der beiden Recherche-Agenten plus 5 Minuten. Mit den Standardwerten (Recherche 20, Web 40 Minuten) sind das 45 Minuten; früher waren es fest 30.
  • Chip „Web“ fehlt: Der Chip erscheint nur, wenn die Administration die Web-Recherche eingeschaltet und ein nutzbares Modell gewählt hat — ein aktiviertes Chat-Modell auf einem OpenAI-Anbieter mit dem Endpunkt api.openai.com und hinterlegten Zugangsdaten, und die Einstellung „Nur Managed-AI-Modelle“ ist für Chat aus. Fehlt eines davon, gibt es den Chip gar nicht. In der Desktop-App zählen dafür die Einstellungen der Desktop-App selbst, auch wenn sie mit einem Firmenserver gekoppelt ist.
  • Chip „Web“ sichtbar, aber nicht verfügbar: Hat die Administration die Web-Recherche ausgeschaltet oder das Modell deaktiviert, nachdem Sie die Seite geladen haben, sehen Sie den Chip bis zum Neuladen noch. Eine damit gesendete Frage wird normal beantwortet, mit dem Hinweis „ℹ️ Die Web-Recherche ist in dieser Installation nicht verfügbar (ausgeschaltet oder kein nutzbares Modell). Diese Frage wurde normal beantwortet.“ Nach dem Neuladen ist der Chip verschwunden.

„Die Zusammenfassung konnte nicht erzeugt werden”

Section titled “„Die Zusammenfassung konnte nicht erzeugt werden””

Steht dieser Satz im Bericht, ist nicht die ganze Recherche gescheitert. Die Auswertung lief durch, die Befunde liegen vor — nur der letzte Schritt, sie zu einem Text zusammenzuziehen, lieferte keine Antwort des Modells. Der Bericht nennt dann die Zahl der gefundenen Teilbefunde.

Zwei Dinge, die den Unterschied ausmachen:

  • Das System hat schon einmal nachgefasst. Bevor diese Meldung erscheint, wird die Zusammenfassung automatisch einmal mit verdoppeltem Antwortbudget wiederholt. Sie sehen sie also erst, wenn auch der zweite Versuch leer blieb.
  • Ihre Belege sind nicht verloren. Der Quellen-Anhang „Belegte Quellen (N)” steht trotzdem im Bericht — Sie wissen also, welche Dokumente etwas zu Ihrer Frage hergaben, auch ohne die Zusammenfassung.

Der sinnvollste nächste Schritt ist, die Recherche erneut zu starten; eine enger gestellte Frage erhöht die Chance, weil weniger Befunde zusammenzufassen sind.

„Die Zusammenfassung wurde nach 180 s abgebrochen”

Section titled “„Die Zusammenfassung wurde nach 180 s abgebrochen””

Die Schwester der vorigen Meldung: Das Modell hat nicht leer geantwortet, sondern gar nicht — drei Minuten lang. Statt weiter zu warten, liefert der Lauf die Befunde unzusammengefasst aus („Die N Befund(e) folgen unzusammengefasst.”), samt Quellen-Anhang. Meist hängt dann gerade der KI-Anbieter; ein erneuter Versuch etwas später hat die besten Chancen.