L’IA sans jargon
Le token : l’unité qui décide du coût de l’IA
Définition
Un token est l’unité de texte que l’IA lit et écrit : un petit morceau de mot, environ trois ou quatre caractères en français. Les fournisseurs facturent au nombre de tokens, et chaque modèle a une limite de tokens qu’il peut traiter d’un coup.
L’image, pour un dirigeant
C’est le compteur d’un taxi, mais qui tourne au nombre de mots plutôt qu’aux kilomètres. Plus le texte envoyé et reçu est long, plus la course coûte cher. La « limite de tokens » (la fenêtre de contexte), c’est la taille maximale du document que l’IA peut lire en une seule fois.
Ce que ça change dans votre PME
Deux conséquences concrètes. Le coût : envoyer des documents entiers à chaque requête chiffre vite, d’où l’intérêt du RAG, qui ne transmet que les passages utiles. La limite : un modèle ne peut pas avaler un classeur de mille pages d’un coup. Il faut une architecture qui découpe et sélectionne, sinon la facture et les erreurs grimpent ensemble.
Exemple : un assistant support qui traite des milliers de questions par mois. En lui envoyant toute la documentation à chaque question, la facture s’envole. En ne lui envoyant que les deux ou trois passages utiles, le coût reste tenu et la réponse est plus précise.
À lire aussi dans le glossaire
Voir en pratique
Un mot clair, c’est un bon début. Un système qui tourne, c’est mieux.
30 minutes, gratuites et sans engagement. Je vous dis où l’IA rapporte chez vous, et où elle ne sert à rien.