首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >拒绝访问,但允许机器人(如谷歌) sitemap.xml

问拒绝访问,但允许机器人(如谷歌) sitemap.xml
EN

Stack Overflow用户
提问于 2011-07-04 17:40:15
回答 3查看 1.3K关注 0票数 6

有没有一种方法,你可以只允许机器人,如谷歌,雅虎,或其他搜索引擎机器人到我的网站地图,这是位于http://www.mywebsite.com/sitemap.xml。这是否可能不允许用户直接访问,而只允许访问机器人?

EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2011-07-04 17:49:39

基本上不允许访问,但您可以对用户代理字符串执行某些操作并禁止访问(假设是Apache)

代码语言:javascript
复制
<Location /sitemap.xml>
  SetEnvIf User-Agent GodBot GoAway=1
  Order allow,deny
  Allow from all
  Deny from env=!GoAway
</Location>

但正如它所说的here (我在那里找到了语法)

警告:

User-Agent访问控制是一种不可靠的技术,因为User-Agent头完全可以设置为任何内容,最终用户可以随意设置。

票数 5
EN

Stack Overflow用户

发布于 2013-10-03 03:18:21

它在我的源码中是红色的:

代码语言:javascript
复制
$ip = $_SERVER["REMOTE_PORT"];
$host = gethostbyaddr($ip);

if(strpos($host, ".googlebot.com") !== false){
    readfile("sitemap.xml");
}else{
    header("Location: /");
票数 2
EN

Stack Overflow用户

发布于 2011-07-04 18:05:05

sitemap.php

代码语言:javascript
复制
<?php

    $ip = $_SERVER["REMOTE_PORT"];
    $host = gethostbyaddr($ip);

    if(strpos($host, ".googlebot.com") !== false){
        readfile("sitemap.xml");
    }else{
        header("Location: /");
    }
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/6569706

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档