Programmation - Robot.txt
Accueil > Développement Web > Programmation > Robot.txt
Dernier ajout : jeudi 22 avril 2010.
Sur le Web
Gestion des robots fouineurs (araignées ou spiders) des moteurs
Pour interdire certains répertoires à certaines araignées, il suffit d’écrire un petit fichier en texte ASCII rédigé avec NotePad ou SimpleText et de la placer à la racine du site web. Voici un petit exemple* de contenu de ce fichier robots.txt. Une RFC précise le format d’écriture de robots.txt :
http://www.robotstxt.org/wc/norobots-rfc.html
[Site nº 540 - Mis en ligne le 3 février 2001]
Une petite citation historique au hasard...
Wired News, 15 novembre 2000 :
«
A l’avenir, tous les sites web seront conçus selon mes conseils. Pour la seule et bonne raison que si ce n’était pas le cas, ils seraient morts-nés. »
Jakob NIELSEN, gourou de l’interface homme-machine, offrant aux concepteurs web une aide qu’ils ne sauraient refuser.
http://www.wired.com/news/business/0,1367,40155,00.html
Autres citations de cette section