Aller au contenu principal

Guides / Les concepts de la surveillance expliqués

llms.txt : qu’est-ce que c’est, qui le lit et comment le rédiger

llms.txt est une convention proposée, pas une norme web, pour publier à la racine d’un site un court fichier Markdown qui donne aux modèles de langage IA une liste sélectionnée de ses pages les plus utiles. Jeremy Howard, d’Answer.AI, l’a introduite en septembre 2024 sur llmstxt.org ; aucun navigateur, moteur de recherche ou grand produit IA n’est tenu de la prendre en charge, et aucun ne la traite aujourd’hui comme faisant autorité.

Qu’est-ce que llms.txt ?

llms.txt s’attaque à un vrai problème : une page conçue pour des humains enveloppe son contenu dans de la navigation, des publicités et du JavaScript, et transformer cela en texte propre pour un modèle est difficile et source de pertes. Plutôt que de demander à un modèle d’explorer et d’analyser des pages HTML complètes, un site publie un seul fichier Markdown en texte brut qui liste, par ordre d’importance, les pages qu’un modèle devrait lire.

C’est explicitement une proposition, pas une norme : aucun organisme de gouvernance, aucun support requis d’aucun outil IA. Son adoption dépend entièrement du fait qu’un outil donné choisisse ou non de la lire.

Que contient un fichier llms.txt ?

Le format défini sur llmstxt.org est précis :

  • Un H1 avec le nom du site ou du projet, le seul élément obligatoire.
  • Une citation en bloc sous le H1 avec un résumé court.
  • Des paragraphes simples optionnels avec plus de contexte, avant le premier H2.
  • Une ou plusieurs sections H2, chacune une liste Markdown de liens : [nom](url): note optionnelle.
  • Un H2 optionnel nommé « Optional » pour les liens secondaires qu’un modèle peut ignorer quand il manque de contexte.

Voici un exemple réaliste pour un produit SaaS fictif :

# Acme Metrics

> Acme Metrics is a hosted dashboard for product analytics events.

## Docs

- [Quickstart](https://docs.acmemetrics.com/quickstart.md): Install the SDK, send your first event
- [API reference](https://docs.acmemetrics.com/api.md): REST endpoints for events and dashboards
- [Webhooks](https://docs.acmemetrics.com/webhooks.md): Real-time event notifications

## Optional

- [Changelog](https://docs.acmemetrics.com/changelog.md): Release notes
- [Status page](https://status.acmemetrics.com): Uptime and incidents

Beaucoup de sites publient aussi un llms-full.txt : la même carte, mais avec le contenu Markdown complet de chaque page liée collé dans un seul fichier, pour qu’un modèle qui ne suivra pas les liens obtienne quand même tout en une seule requête.

llms.txt contre robots.txt contre sitemap.xml

Ces trois fichiers sont confondus parce qu’ils se trouvent tous à la racine du site et concernent tous la façon dont les machines voient un site, mais ils remplissent trois rôles différents :

FichierObjectifQui le litContrôle l’accès ?
robots.txtQuels chemins les robots d’exploration peuvent récupérerLes robots qui choisissent de le respecterOui, à titre consultatif (un bot conforme le suit)
sitemap.xmlLes URL que vous voulez voir découvertes et indexéesLes moteurs de recherche, pour la découverteNon, une liste d’indications, pas de permissions
llms.txtUne carte Markdown sélectionnée de vos meilleures pagesSeulement les outils qui choisissent de la récupérerNon, elle ne touche ni l’exploration ni l’indexation

robots.txt est le seul des trois qui verrouille quoi que ce soit, et même cela reste volontaire : cela fonctionne parce que les robots d’exploration bien élevés le consultent d’abord, pas parce qu’un serveur l’impose.

Google ou un moteur de recherche IA utilise-t-il llms.txt ?

La propre documentation de Google répond directement à cette question. Son guide Search Central sur la recherche IA générative, dans la section « Mythbusting generative AI search: what you don’t need to do », nomme les fichiers LLMS.txt et déclare : « You don’t need to create new machine readable files, AI text files, markup, or Markdown to appear in Google Search (including its generative AI capabilities), as Google Search itself doesn’t use them » (vous n’avez pas besoin de créer de nouveaux fichiers lisibles par machine, fichiers texte pour IA, balisage ou Markdown pour apparaître dans la Recherche Google, y compris ses fonctionnalités d’IA générative, car la Recherche Google elle-même ne les utilise pas ; dernière mise à jour en juillet 2026).

Des représentants de Google le disent publiquement depuis plus d’un an. Lors du Search Central Live de juillet 2025, Gary Illyes a déclaré que Google ne prend pas en charge llms.txt et n’a pas prévu de le faire, le comparant à l’ancienne balise meta keywords, un signal que les moteurs de recherche ont cessé de croire une fois que les propriétaires de sites en ont pris le contrôle. En janvier 2026, après que la propre plateforme de documentation de Google a brièvement généré automatiquement un fichier llms.txt, on a demandé à John Mueller sur Bluesky si c’était un aval : « I’m tempted to say something snarky since this has come up so often, but to be direct, no » (j’ai envie de dire quelque chose de mordant tant la question revient souvent, mais pour être direct, non).

D’autres éditeurs IA en ont dit moins. Ce qui est vérifiable : Anthropic, OpenAI et Perplexity publient chacun leur propre llms.txt pour leur documentation développeur (par exemple platform.claude.com/llms.txt et developers.openai.com/llms.txt), ce qui montre seulement qu’ils trouvent le format utile pour leur propre site. Cela diffère du fait que leurs robots liraient un llms.txt sur le site de quelqu’un d’autre avant de répondre à une question, et aucun des trois n’a publié cela. La propre documentation du robot de Perplexity décrit PerplexityBot et Perplexity-User en détail et ne mentionne pas llms.txt. Traitez une affirmation comme « ChatGPT lit llms.txt » comme non vérifiée tant que l’éditeur ne le dit pas lui-même.

Faut-il en publier un quand même ?

Probablement, pour des raisons modestes. Un llms.txt est un fichier statique sans travail serveur au-delà de le servir en texte brut, donc le coût est proche de zéro. Le cas d’usage réel est plus étroit que « SEO pour IA » : un agent de code ou un assistant d’IDE qui récupère des pages à la demande en répondant à une question peut utiliser un llms.txt court pour trouver votre guide de démarrage ou votre référence d’API plus vite qu’en devinant à partir d’un sitemap.

Ce n’est pas un substitut à un service conçu pour que des agents agissent : le propre serveur MCP de HostTracker (/fr/mcp-server) est une interface active qu’un assistant appelle pour lancer une vérification ou gérer un moniteur, pas un fichier qu’il se contente de lire. llms.txt offre une liste de lecture ; il ne peut rien faire se produire.

Gardez-le court et exact. Un lien obsolète dans un fichier censé être une carte fiable est pire que pas de fichier du tout, et rien ne relie llms.txt à un meilleur classement ou à plus de citations IA, donc ne le remplissez pas de texte marketing.

Comment vraiment contrôler les robots IA

Si l’objectif est de contrôler ce que les systèmes IA font de votre contenu, robots.txt avec des groupes de user-agent nommés est le vrai levier, pas llms.txt. Chaque éditeur documente son propre jeton :

  • GPTBot (OpenAI) : collecte du contenu web pour entraîner de futurs modèles ; OpenAI le liste séparément d’OAI-SearchBot, utilisé pour les résultats de recherche, donc vous pouvez autoriser l’un et interdire l’autre.
  • ClaudeBot, Claude-User, Claude-SearchBot (Anthropic) : ClaudeBot collecte des données d’entraînement, Claude-User récupère une page pour une question en direct d’un utilisateur, Claude-SearchBot explore pour des résultats de type recherche ; la documentation d’Anthropic indique que les trois respectent robots.txt.
  • PerplexityBot et Perplexity-User (Perplexity) : PerplexityBot explore pour faire apparaître des sites dans les résultats et, selon la documentation de Perplexity, n’est pas utilisé pour entraîner des modèles. Perplexity-User récupère une page en direct pour une question spécifique et ignore généralement robots.txt, puisque la récupération est initiée par l’utilisateur, pas une exploration en arrière-plan.
  • Google-Extended : un jeton robots.txt, pas un robot avec son propre user-agent, qui contrôle si le contenu déjà récupéré par Googlebot peut entraîner de futurs modèles Gemini. Google déclare que le bloquer n’a aucun effet sur le classement ou l’indexation dans la Recherche.

Testez vos règles avec le testeur de robots.txt gratuit : il vérifie si le groupe général User-agent: * bloque une URL et si l’URL figure dans votre sitemap. Il n’évalue pas encore une règle écrite pour un robot nommé en particulier, donc une URL ouverte sous User-agent: * peut quand même être bloquée pour GPTBot par son propre groupe plus bas dans le fichier ; vérifiez pour l’instant les groupes de robots nommés en lisant le fichier brut. Le guide sur comment vérifier robots.txt couvre la lecture manuelle d’un fichier.

Comment vérifier que votre llms.txt est accessible

Un llms.txt qu’un modèle ne peut pas récupérer est pire qu’inutile : un modèle qui essaie une fois et se fait bloquer ou rediriger n’a aucun moyen de vous dire que ça a échoué. Avant de considérer le fichier comme actif, confirmez trois choses :

  1. Il renvoie un simple statut 200, pas une redirection vers une page de connexion ni une page d’erreur rendue comme un 200.
  2. Son Content-Type est text/plain ou text/markdown, pas text/html, ce qui signifierait qu’un template l’a enveloppé au lieu de servir le fichier brut.
  3. Il n’est pas silencieusement abandonné par un WAF ou une règle d’atténuation de robots qui signale une requête inhabituelle pour un fichier texte à la racine.

Une vérification rapide en ligne de commande :

curl -I https://example.com/llms.txt

Cherchez HTTP/1.1 200 et un content-type commençant par text/. Pour confirmer qu’il répond de la même façon depuis l’extérieur de votre propre réseau, passez l’URL dans l’outil de vérification HTTP gratuit, qui la demande depuis plusieurs emplacements et rapporte le statut et le temps de réponse de chacun. Utilisez ensuite le testeur de robots.txt pour confirmer qu’un Disallow: / général ne cache pas aussi le fichier lui-même.

La surveillance SEO de HostTracker observe les signaux qui font réellement bouger la visibilité dans la recherche : les balises meta noindex, les en-têtes X-Robots-Tag, et les changements de balise canonique, plus un crawl programmé qui recroise chaque exécution avec robots.txt. llms.txt reste en dehors de tout cela.

Questions fréquentes

llms.txt remplace-t-il robots.txt ?

Non. robots.txt contrôle ce que les robots d’exploration peuvent récupérer et précède llms.txt de trois décennies. Une page peut être listée dans llms.txt et rester interdite dans robots.txt, ou l’inverse.

Publier un llms.txt améliorera-t-il mon classement dans les résultats de recherche ?

Il n’existe aucune preuve de cela, et Google a dit directement que ses systèmes de recherche, y compris AI Overviews, ne l’utilisent pas. Traitez-le comme une commodité pour certains outils de développement, pas comme une tactique SEO.

Qu’est-ce que llms-full.txt ?

Un fichier complémentaire que certains sites publient à côté de llms.txt, qui intègre le contenu Markdown complet de chaque page liée dans un seul fichier, pour un modèle qui ne suivra pas ou ne peut pas suivre les liens individuels.

ChatGPT, Claude ou Perplexity lisent-ils automatiquement mon llms.txt ?

Aucun éditeur n’a publié de déclaration indiquant que son robot ou son produit de chat récupère et analyse les fichiers llms.txt d’autres sites. Les trois publient le leur pour leur propre documentation, ce qui est différent de lire le vôtre.

Où dois-je placer le fichier ?

À la racine du site, en tant que /llms.txt, servi en texte brut. La proposition permet aussi un sous-chemin, comme /docs/llms.txt, pour décrire seulement cette section.

llms.txt est-il une norme officielle ?

Non. C’est une proposition communautaire publiée sur llmstxt.org, sans organisme de normalisation derrière elle et sans obligation qu’aucun outil la prenne en charge.

Vérifier maintenant

Lancez la vérification gratuite sur votre propre site, sans créer de compte.

Robots.txt tester

Surveiller en permanence

Soyez alerté dès que quelque chose casse : HostTracker vérifie depuis plus de 300 emplacements et vous prévient par e-mail, SMS, Slack, Telegram et plus encore.

Fonctionnalités HostTracker

Plus dans cette section: Les concepts de la surveillance expliqués