Où elle gagne sa place
La recherche dans votre propre corpus. L'équipe d'un organisme de formation passe sa journée à retrouver la bonne convention, la bonne procédure, la bonne réponse déjà donnée à la question d'un apprenant. Un modèle qui a lu ces documents, et seulement ceux-là, répond avec le passage et la source, en quelques secondes, et l'humain vérifie. C'est l'usage que nous livrons le plus, parce que c'est celui où la panne est une citation fausse que le lecteur voit, pas une décision fausse que personne ne voit.
Les premiers jets que l'humain corrige. Une convocation, une réponse à une demande courante, le résumé d'un dossier avant une réunion d'instruction : un modèle écrit le brouillon depuis le dossier, une personne relit et envoie. Le temps gagné est réel, des minutes par élément, des heures par semaine, et la responsabilité reste où elle était.
Le tri de ce qui arrive. Les demandes arrivent par courrier, par formulaire, par note d'appel ; un modèle lit chacune et l'oriente vers le bureau qui peut y répondre, avec un degré de confiance que le bureau voit. Quand il hésite, il le dit et une personne trie. C'est tout le problème de routage du portail de la CAF du Var, et un modèle le fait mieux qu'une liste de mots-clés.
Où elle ne doit pas décider
Tout ce qui décide pour un citoyen ou un adhérent. Une éligibilité, une subvention, une sanction, le sort d'une candidature : un modèle peut préparer le dossier et signaler ce qui manque, et une personne nommée décide, avec les motifs écrits. Ce n'est pas de la prudence pour elle-même : c'est ce que la loi et un auditeur demanderont, et un outil qui ne sait pas montrer l'humain dans la boucle ne passera pas la relecture qui précède une commande publique.
Tout ce que vous ne savez pas expliquer après coup. Un classement d'idées sur une plateforme participative, un score sur un apprenant, une priorité sur une demande : si la réponse à « pourquoi celui-ci ? » est « le modèle l'a dit », ne le livrez pas. Nous construisons l'explication d'abord, la règle, les champs lus, le seuil, et le modèle ensuite, ou pas du tout.
Comment nous l'hébergeons
Les modèles tournent sur une infrastructure européenne, le service de modèles de Scaleway à Paris, et aucune donnée client ne sert jamais à en entraîner un. Chaque usage est une ligne du registre des traitements livré avec l'instance : ce qui entre, ce qui sort, combien de temps c'est gardé. L'instance du client est isolée comme tout le reste sur Agora ; le modèle voit les documents d'un client et rien de ceux d'un autre.
C'est aussi pourquoi nous ne construisons pas par défaut sur une API grand public américaine. Pas par principe, mais parce que le délégué à la protection des données de l'acheteur demandera où est parti le prompt, et « vers un serveur à Paris qui ne garde rien » est une réponse qui clôt la réunion.
Ce que ça coûte, honnêtement
Une recherche sur un corpus, c'est quelques semaines de travail et quelques euros par mois pour tourner. Un assistant dans un back-office, c'est un projet : le modèle en est la partie facile, les données qu'il peut lire et les écrans où il apparaît sont le travail. Un modèle affiné à vous ne vaut presque jamais le coup pour une structure de votre taille, et quand quelqu'un en propose un, la question à poser est ce que le modèle général a raté pour le rendre nécessaire.
Si la réponse honnête à « où l'IA nous aiderait-elle ? » est « nulle part pour l'instant », c'est une réponse aussi. Nous l'avons donnée.