# # robots.txt para tu blog en WordPress. # # Usar bajo propia responsabilidad, que nos conocemos }:) # http://sigt.net/archivo/robotstxt-para-wordpress.xhtml # # Primero el contenido adjunto. User-Agent: * #Allow: /wp-content/uploads/ #Disallow: /wp-content/plugins/ #Disallow: /wp-content/themes/ #Disallow: /wp-includes/ #Disallow: /wp-admin/ # También podemos desindexar todo lo que empiece # por wp-. Es lo mismo que los Disallow de arriba pero # incluye cosas como wp-rss.php Disallow: /wp- # Segundo, para evitar urls viejo formato y otros casos, axel dice Disallow: /? Disallow: /wordpress/ Disallow: /*/*/print/ Disallow: /*/*/email/ Disallow: /index.php/dddd/ Disallow: /index.php/about/ Disallow: /index.php/archives/ Disallow: /index.php/archivos/ Disallow: /index.php/contact/ Disallow: /index.php/links/ Disallow: /index.php/category/ Disallow: /ejemplos/ Disallow: /index.php/2007/ Disallow: /index.php/2008/ Disallow: /index.php/david-hoffmeister-visita-argentina-noviembre-2007/ Disallow: /index.php/david-hoffmeister-en-argentina-noviembre-de-2007/ Disallow: /www.amarseaunomismo.com/ Disallow: /index.php/enlaces-2/ Disallow: /download Disallow: /index.php/liberarnos/ Disallow: /index.php?s Disallow: /index.php/page/2/?s Disallow: /index.php/page/3/?s Disallow: /index.php/page/4/?s Disallow: /index.php/page/5/?s Disallow: /index.php/page/6/?s Disallow: /index.php/tres-formas-de-proyectar/function. Disallow: /?p Disallow: /mariposas/ Disallow: /index.php/videos-interesantes/ Disallow: /video/ Disallow: /audio/ Disallow: /js/ Disallow: /flash-and-js/ Disallow: /xmlrpc.php Disallow: /index.php/36-autosave Disallow: /images.xml Disallow: /*/images.xml Disallow: /*/*/images.xml Disallow: /el-am...-ho-oponopono Disallow: /para-suscribirse Disallow: /para-suscribirte Disallow: /consulta Disallow: /index.php/feed Disallow: /helpcenter.php Disallow: /videos-interesantes/mediaplayer Disallow: /view_rules_and_guidelines.htm Disallow: /contacto/paypal Disallow: /contacto/bulgaria Disallow: /videos-interesantescomo Disallow: /serena-mente.com Disallow: /m-arq.com.ar Disallow: /amarse-a-uno-mismo-al-reves Disallow: /politica-de-privacidad Disallow: /Art%C3%ADculos/articulos/page Disallow: /la-hora-en-buenos-aires/ Disallow: /author Disallow: /instrucciones-sentirse-bien Disallow: /Art%C3%ADculos Disallow: /actividades Disallow: /videos-interesantes/mensaje-para-tu-nino-interior Disallow: /videos-interesantes/como-interpretamos-lo-que-nos-sucede/ Disallow: /videos-interesantes/los-videojuegos-y-la-vida-real/ Disallow: /videos-interesantes/abrazos-gratis/ Disallow: /videos-interesantes/paul-potts/ Disallow: /videos-interesantes/la-vida-es-sueno/ Disallow: /mabel-katz-ho-oponopono Disallow: /clientes Disallow: /proximo-articulo Disallow: /tu-propio-sitio-web/ Disallow: /contratar-tu-propio-sitio-web/ # # Sitemap permitido, búsquedas no. # Sitemap: http://www.amarseaunomismo/sitemap.xml Disallow: /?s= Disallow: /search # # Permitimos el feed general para Google Blogsearch. # # Impedimos que permalink/feed/ sea indexado ya que el # feed con los comentarios suele posicionarse en lugar de # la entrada y desorienta a los usuarios. # # Lo mismo con URLs terminadas en /trackback/ que sólo # sirven como Trackback URI (y son contenido duplicado). AXEL ELIMINÓ LAS 10 siguientes líneas el 20/04/10 # #Allow: /feed/$ #Disallow: /feed #Disallow: /comments/feed #Disallow: /*/feed/$ #Disallow: /*/feed/rss/$ #Disallow: /*/trackback/$ #Disallow: /*/*/feed/$ #Disallow: /*/*/feed/rss/$ #Disallow: /*/*/trackback/$ #Disallow: /*/*/*/feed/$ #Disallow: /*/*/*/feed/rss/$ #Disallow: /*/*/*/trackback/$ # # A partir de aquí es opcional pero recomendado. # # Lista de bots que suelen respetar el robots.txt pero rara # vez hacen un buen uso del sitio y abusan bastante... # Añadir al gusto del consumidor... User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: / # # Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen # idas de pinza, toca decirles que reduzcan la marcha. # El valor es en segundos y podéis dejarlo bajo e ir # subiendo hasta el punto óptimo. # User-agent: noxtrumbot Crawl-delay: 50 #User-agent: msnbot #Crawl-delay: 30 #User-agent: Slurp #Crawl-delay: 10