在挖掘Google robots.txt文件时,我注意到了一条我不熟悉的行。
下面的代码在robots.txt文件的上下文中意味着什么?
Allow: /$“$”是否改变了意思,从简单地说
Allow: /发布于 2016-01-19 14:44:58
根据SearchEngineLand的说法。
您可以使用美元符号($)来匹配字符串的末尾。例如,要阻止以.asp结尾的URL: 用户代理: Googlebot 不允许: /*.asp$
看起来有点像正则表达式。
发布于 2016-01-19 14:44:29
有些机器人懂得模式匹配。$在正则表达式中用于标记行尾。因此,这个规则应该允许/,而不是/foo。
不过,我没有robots.txt的消息来源。
https://stackoverflow.com/questions/34879579
复制相似问题