Skip to content

agentic_stream

diapason.server.agentic_stream

Boucle d'outils pour le chat en flux — ce qui manquait entre le modèle et les outils.

Constaté le 22 août 2026. Le chat du bureau appelle /v1/chat/completions avec stream: true et sans tools. Or routes.py routait ce cas vers _handle_stream, qui parle au moteur en direct : l'agent était contourné, et avec lui les 98 outils enregistrés. Diapason ne pouvait donc ni lire l'agenda, ni lister une tâche Succès, ni regarder l'écran — il pouvait seulement en parler.

Le pont stream_bridge.AgentStreamBridge avait été écrit pour ça, mais il n'a jamais eu d'appelant, il n'a aucun test, et il attend la fin de agent.run() avant d'émettre : il rendrait les outils au prix du flux réel. Ce module prend l'autre chemin. Il appelle engine.stream_full(tools=...), laisse passer chaque token dès son arrivée, et n'interrompt le flux que le temps d'exécuter un outil réclamé par le modèle.

Deux garde-fous valent d'être dits, parce qu'ils sont la raison d'être du module autant que la boucle :

  • Les outils passent par ToolExecutor, jamais en direct. C'est lui qui porte la politique de capacités, le garde-frontière et la confirmation des actions sensibles. Sans confirm_callback, un outil marqué requires_confirmation échoue au lieu de s'exécuter — fail-closed.
  • Le dernier tour se fait TOUJOURS sans outils. Un modèle 9b qui boucle sur un appel produirait sinon un silence : l'utilisateur mérite une phrase.

ToolStreamEvent

Ce qu'un tour produit, dans l'ordre où le client doit le recevoir.

observation(resultat)

Ce que le MODÈLE lit d'un résultat d'outil.

Le content d'un outil est écrit pour une oreille : « 85 tâche(s) trouvée(s). » se dit bien à voix haute, et ne dit rien à un modèle à qui on demande LESQUELLES. Les données, elles, vivent dans metadata — que le modèle ne recevait pas. C'est ce qui rendait les outils Succès inutiles même une fois branchés : l'assistant appelait le bon outil, obtenait les quatre-vingt-cinq tâches, et n'en voyait que le nombre.

On ne corrige PAS le content des outils : le chemin vocal le prononce tel quel, et « 85 tâches trouvées » y est la bonne phrase. C'est ici, au seul endroit qui s'adresse au modèle, que les données sont jointes.

stream_with_tools(engine, model, messages, *, tools, executor, temperature=0.7, max_tokens=1024, max_tool_turns=DEFAULT_MAX_TOOL_TURNS, interactive_questions=False, trousse_adaptative=False, verifier_en_ligne=False, signal_textuel=True, ville='') async

Diffuse la réponse du modèle en exécutant les outils qu'il réclame.

tools sont des instances de BaseTool ; leurs specs OpenAI sont dérivées ici pour que l'appelant n'ait pas à connaître ce détail. executor est un ToolExecutor déjà porteur de sa politique de sécurité — ce module ne décide jamais seul qu'un appel est permis. trousse_adaptative rend la trousse du 19 septembre (catalogue + familles) ; par défaut la trousse est la même à chaque tour, pour que le préfixe calculé par Ollama survive d'un tour à l'autre (20/09/2026).