可能重复: 我需要robots.txt吗?
根据我的理解,robots.txt只需要做一些与规范不同的事情,比如排除某个文件目录等等,但是如果这是真的,为什么这么多人认为它在每个网站上都很重要呢?我应该把它放在每个网站上才能确定吗?
发布于 2012-02-20 19:58:14
如果你没有任何你不想告诉搜索引擎的东西,你就没有索引(或爬行),它不会影响你的索引。
见谷歌回复的这个问题。
https://webmasters.stackexchange.com/questions/26206
复制相似问题