coulisses3 septembre 20268 min de lecture
Combien coûte un assistant IA branché sur un logiciel métier ?
Le devis d’un assistant IA affiche un prix de construction, jamais celui de l’usage. La facture du mois, elle, se joue sur trois réglages techniques : le cache de prompt, les plafonds d’usage et le nombre de boucles d’outils par message, que personne ne montre avant de signer.
À retenir
- Le coût mensuel d’un assistant IA branché sur un logiciel métier dépend surtout de trois réglages techniques : le cache de prompt, les plafonds d’usage par utilisateur, et le nombre de boucles d’outils autorisées par message.
- Le cache de prompt fait facturer la partie répétée d’un message, comme les définitions des fonctions d’un logiciel, environ dix fois moins cher qu’une lecture normale, selon la documentation Anthropic. Ce tarif réduit ne tient que cinq minutes : passé ce délai, le message suivant repaie le cache en entier.
- Une boucle d’outils, où un assistant IA appelle une fonction du logiciel puis lit le résultat avant d’en appeler une autre, peut multiplier le coût d’un seul message par le nombre de boucles déclenchées : un message qui en déclenche huit coûte environ huit fois plus qu’une réponse directe.
- Un assistant IA branché sur un logiciel métier sans plafond de messages par utilisateur, sans limite d’appels d’outils par minute et sans borne sur le nombre de boucles par message fonctionne comme un compteur de facturation ouvert.
Le devis ne dit rien de la facture
Un utilisateur de Lecturer écrit une phrase dans le copilote : « décale la séance de mardi à jeudi ». Rien de plus. Pourtant ce message simple déclenche plusieurs appels au logiciel : retrouver la séance, vérifier la disponibilité du jeudi, déplacer le créneau, prévenir les participants. Un message, plusieurs actions, chacune avec son coût.
Le devis d’un projet d’assistant IA chiffre la construction : le branchement sur vos outils, les tests, la mise en production. Ce prix se paie une fois. La facture d’usage, elle, tombe chaque mois, et dépend de ce que les utilisateurs tapent, de la fréquence de leurs messages, et de réglages techniques que le devis ne détaille jamais, ceux que je passe aussi en revue dans cet article sur les postes de coût d’un projet IA.
Lecturer, c’est le logiciel que je construis. Son copilote est branché sur environ 130 fonctions, et la facture d’usage qui tombe chaque mois, c’est la mienne à regarder.
Ce que votre assistant envoie à chaque message
Le copilote de Lecturer est branché sur environ 130 fonctions du logiciel : créer une séance, déplacer un créneau, sortir une liste d’émargement. Chaque fonction a une description écrite pour que le modèle sache quand l’appeler et avec quels paramètres.
Ces 130 descriptions pèsent environ 100 Ko de texte. Elles partent au modèle à chaque tour de conversation, avant même la question de l’utilisateur. Un token est l’unité que le modèle lit et facture, plus courte qu’un mot. 100 Ko de descriptions représentent environ 25 000 tokens, à chaque message, uniquement pour que le modèle sache ce qu’il peut faire.
Illustration : 20 utilisateurs, 15 messages par jour chacun, 20 jours ouvrés, 6 000 messages par mois. Chaque message repaie les 25 000 tokens de définitions des 130 fonctions, avant la moindre question.
Ce chiffre ne compte encore ni la question posée, ni la réponse du modèle, ni les résultats renvoyés par le logiciel à chaque appel de fonction. Il mesure seulement le prix d’entrée : ce que l’assistant doit relire pour savoir ce qu’il a le droit de faire.
Le cache : le réglage qui divise la facture
Le cache de prompt (prompt caching) garde en mémoire la partie répétée d’une conversation, ici les définitions des 130 fonctions, et la refacture moins cher au tour suivant. Un texte déjà lu trente secondes plus tôt profite directement de ce tarif réduit. Le modèle a la mémoire courte, et elle se facture.
La documentation Anthropic annonce une écriture en cache facturée 1,25 fois le tarif d’entrée standard, et une lecture en cache facturée 0,1 fois ce même tarif : le premier message d’une conversation coûte donc un peu plus cher, le temps de poser le cache. Chaque message suivant, tant qu’il arrive à temps, le relit dix fois moins cher qu’une lecture normale.
« À temps » veut dire dans les cinq minutes, la durée par défaut de la mémoire du cache selon la documentation Anthropic. Un utilisateur qui écrit toutes les dix minutes sort de cette fenêtre : le cache a expiré, et son message suivant repaie l’écriture complète, à 1,25 fois le tarif, avant de pouvoir relire moins cher ensuite. Sur une équipe active, la plupart des messages arrivent assez vite pour rester dans la fenêtre. Sur un usage occasionnel, le cache reste froid presque à chaque fois.
Demandez au prestataire si le cache de prompt est activé, et sur quelle partie de chaque message. Une réponse vague annonce une facture plus lourde que nécessaire.
Les plafonds qui empêchent la facture de partir
Un assistant sans limite reçoit toutes les questions, à toute heure, sans compter. Lecturer pose trois garde-fous en dur, avant même de parler de cache.
- 100 messages par jour et par utilisateur : au-delà, l’usage sort de la conversation de travail et devient une anomalie à regarder.
- 30 appels d’outils par minute : au-delà, une fonction du logiciel appelée si vite signale presque toujours une boucle qui déraille.
- 8 boucles d’outils au maximum par tour de conversation : au-delà, l’assistant s’arrête et rend la main plutôt que de continuer à chercher seul.
Ces trois plafonds protègent deux choses à la fois : la facture, et l’utilisateur en face d’un agent IA qui pourrait sinon enchaîner des actions sans jamais s’arrêter. Un plafond bas coûte un peu de souplesse. Un assistant sans plafond coûte, à la fin du mois, un montant que personne n’a décidé.
Ce qu’un assistant sans plafond laisse passer
Sans plafond par utilisateur, sans limite d’appels par minute, sans borne sur le nombre de boucles, un assistant IA branché sur un logiciel métier tourne comme un compteur ouvert : il peut recevoir n’importe quel volume de messages et enchaîner n’importe quel nombre d’actions. Rien ne l’arrête avant la fin du mois, quand la facture arrive.
La boucle d’outils : le poste que personne ne montre
Un message coûte parfois huit appels au modèle. « Décale la séance de mardi à jeudi », le message de l’ouverture, illustre ce mécanisme : l’assistant appelle une fonction pour retrouver la séance, lit le résultat, appelle une autre fonction pour vérifier le jeudi, lit ce résultat, avant de déplacer le créneau et de prévenir les participants. Chaque étape s’appelle une boucle d’outils : le modèle appelle une fonction, lit ce qu’elle renvoie, décide s’il en appelle une autre.
Chaque boucle renvoie tout le contexte au modèle, définitions comprises. Un message qui déclenche cinq boucles coûte à peu près cinq fois plus qu’un message qui répond directement, sans appeler la moindre fonction. C’est ce poste, invisible dans un devis, qui fait varier la facture d’un mois sur l’autre plus que n’importe quel autre réglage.
Le plafond de 8 boucles par tour sert deux fois. La facture, d’abord : au-delà, le coût d’un seul message décroche. L’utilisateur, ensuite : une boucle qui tourne en rond, parce que le modèle cherche une information qui n’existe pas dans le logiciel, doit s’arrêter et rendre la main. Les autres façons dont un agent IA dérape en production, je les détaille dans cet article sur ce qui casse un agent IA en production.
Les quatre questions à poser avant de signer
Avant de signer un devis d’assistant IA branché sur votre logiciel métier, quatre questions suffisent à comprendre le coût réel de l’usage.
- Le cache de prompt est-il activé, et sur quelle partie de chaque message ?
- Quel plafond de messages est posé par utilisateur et par jour ?
- Combien de boucles d’outils l’assistant peut-il enchaîner au maximum sur un seul message ?
- Qui paie la consommation du modèle, et comment est-elle refacturée : au forfait, à l’usage réel, avec un plafond convenu à l’avance ?
Un prestataire qui répond aux quatre sans détour a déjà réfléchi à votre facture. La grille par où commencer aide à les poser avant même de demander un devis.
Questions fréquentes
- Combien coûte un assistant IA branché sur un logiciel métier ?
- Le coût dépend de trois variables techniques, jamais d’un tarif fixe : le nombre de tokens renvoyés au modèle à chaque message, comme les définitions des fonctions du logiciel, qui se comptent souvent en dizaines de milliers, le réglage du cache de prompt sur la partie répétée du message, et le nombre de boucles d’outils qu’un même message peut déclencher. Deux assistants branchés sur le même logiciel peuvent coûter des montants très différents selon ces trois réglages, avant même de comparer les tarifs des prestataires.
- Qu’est-ce que le cache de prompt et combien fait-il économiser ?
- Le cache de prompt garde en mémoire la partie d’un message qui ne change pas d’un tour à l’autre, comme les définitions des fonctions d’un logiciel, pour éviter de la relire au tarif plein à chaque fois. Selon la documentation Anthropic, une lecture en cache coûte environ un dixième du tarif d’entrée standard, contre 1,25 fois ce tarif pour l’écriture initiale du cache. La mémoire du cache tient cinq minutes par défaut : au-delà, elle expire et le message suivant repaie l’écriture complète.
- Comment éviter qu’une facture d’IA dérape ?
- Trois plafonds techniques évitent qu’une facture d’assistant IA dérape : un nombre maximum de messages par utilisateur et par jour, une limite d’appels d’outils par minute, et un nombre maximum de boucles d’outils autorisées sur un seul message. Sans ces plafonds, un usage inhabituel ou un enchaînement de boucles peut multiplier la consommation du modèle sans qu’aucune alerte ne se déclenche avant la fin du mois.
Envie d’en parler pour votre entreprise ?
Trente minutes, gratuites, sans engagement. On regarde vos tâches répétitives et je vous dis franchement ce qui vaut le coup, et ce qui ne le vaut pas.