Forum |  HardWare.fr | News | Articles | PC | S'identifier | S'inscrire | Shop Recherche
1757 connectés 

  FORUM HardWare.fr
  Programmation

  Configuration du robots.txt

 


 Mot :   Pseudo :  
 
Bas de page
Auteur Sujet :

Configuration du robots.txt

n°116161
B-52
Contrario Contrariis Curantur
Posté le 22-03-2002 à 15:19:00  profilanswer
 

Voilà le contenu de mon fichier actuel:
"User-agent: ia_archiver
Disallow: /"
 
Je voudrai interdire à TOUS les robots, d'aller matter le répertoire XYZ, comment dois je configurer mon robots.txt ?  
 
"User-agent: ia_archiver
Disallow: /
User-agent: *
Disallow: /XYZ/"  
   ??

 

[jfdsdjhfuetppo]--Message édité par B-52--[/jfdsdjhfuetppo]


---------------
Securis c'est plus de 200 logiciels de sécurité gratuits !
mood
Publicité
Posté le 22-03-2002 à 15:19:00  profilanswer
 

n°116409
B-52
Contrario Contrariis Curantur
Posté le 23-03-2002 à 00:14:56  profilanswer
 
n°116424
Profil sup​primé
Posté le 23-03-2002 à 00:49:54  answer
 

La syntaxe correcte définit des "règles d'autorisation" pour chaque "robot".
 
Ainsi, par exemple, ton fichier robots.txt aura :
 
User-agent : *  <----- interdire à TOUS les robots
Disallow: /tmp/ <---- répertoire/fichiers interdits
Disallow: /tmp/docs/
Disallow: /secret.html

 
User-agent : googlebot
Disallow : /hidden/

 
User-agent : cybermapper
Disallow : /doc.htm

 
Attention, on ne peut pas utiliser de wildcards genre *.htm ou ?truc?.htm? dans la liste des interdits.

 

[jfdsdjhfuetppo]--Message édité par Indiana Jones--[/jfdsdjhfuetppo]

n°116454
B-52
Contrario Contrariis Curantur
Posté le 23-03-2002 à 09:34:34  profilanswer
 

Aller à :
Ajouter une réponse
  FORUM HardWare.fr
  Programmation

  Configuration du robots.txt

 

Sujets relatifs
[JAVA] Pb de configuration du ClassPath de TomCat 4.0..[Xemacs] Problèmes de configuration basiques
[PHP/APACHE] - Urgent - Configuration.configuration/logs tomcat
Configuration de phpmyadmin[LDAP] Configuration/Installation/Dev ...
Configuration MRTG ( CPU )configuration d'emacs sous windows
[ASP] problème de configuration IIS5 
Plus de sujets relatifs à : Configuration du robots.txt


Copyright © 1997-2022 Hardware.fr SARL (Signaler un contenu illicite / Données personnelles) / Groupe LDLC / Shop HFR