User-Agent: * Allow: /wp-content/uploads/ Disallow: /wp-includes/ Disallow: /wp-admin/ Sitemap: https://www.airpes.com/sitemap_index.xml Disallow: /?s= Disallow: /search # # Permitimos el feed general para Google Blogsearch. # # Impedimos que permalink/feed/ sea indexado ya que el # feed con los comentarios suele posicionarse en lugar de # la entrada y desorienta a los usuarios. # # Lo mismo con URLs terminadas en /trackback/ que sólo # sirven como Trackback URI (y son contenido duplicado). # Allow: /feed/$ Disallow: /feed Disallow: /comments/feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$ # # A partir de aquí es opcional pero recomendado. # # Lista de bots que suelen respetar el robots.txt pero rara # vez hacen un buen uso del sitio y abusan bastante... # Añadir al gusto del consumidor... User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: / # Hackeo de finales de julio de 2016 # No permitimos el acceso a los directorios falsos creados Disallow: /yoito/ Disallow: /topics/ Disallow: /takase_gorge/ Disallow: /sub_menu/ Disallow: /souvenir/ Disallow: /shrines/ Disallow: /sangaku/ Disallow: /outdoor/ Disallow: /omachi_blog/ Disallow: /nature/ Disallow: /museum/ Disallow: /mountain/ Disallow: /mattock_2290/ Disallow: /mattock_2289/ Disallow: /mattock_2288/ Disallow: /mattock_2287/ Disallow: /mattock_2286/ Disallow: /mattock_2285/ Disallow: /mattock_2284/ Disallow: /mattock_2283/ Disallow: /mattock_2282/ Disallow: /mattock_2281/ Disallow: /lakes/ Disallow: /information/ Disallow: /faculty/ Disallow: /experience/ Disallow: /event/ Disallow: /eating/ Disallow: /brochure/ Disallow: /access/ Disallow: /about/ Disallow: /00013000/ Disallow: /?page_id=480 Disallow: /?page_id=477 Disallow: /?page_id=433 Disallow: /?page_id=402 Disallow: /?page_id=160 Disallow: /?page_id=158 Disallow: /?page_id=157 Disallow: /?page_id=114 Disallow: /?page_id=112 Disallow: /?page_id=107 Disallow: /?page_id=106 Disallow: /ore-acetylcyanide_melaniferous/