|
Ce sont des paires de lignes commençant par User-Agent et Disallow
User-Agent est le nom de code du navigateur ou du moteur. un asterisque '*' veut dire que la règle qui suit est valable pour tous et Disallow les fichiers à exclure. Pour tout exclure, utilisez un slash '/'. Pour exclure le fichier 'nompublic.html' , mettez User-Agent: * Disallow: /nompublic.html
Notez bien que seuls les moteurs ''honnêtes'' consultent robots.txt. En d'autres termes, si un fichier n'est pas protégé par mot de passe, rien n'empêcherait un moteur de le charger et pourquoi pas, l'indexer.
|