【单选题】
Robots文件中,以下哪个指令为禁止抓取某些内容?()
A、Allow
B、Disallow
C、nofollow
D、noodp
A、Allow
B、Disallow
C、nofollow
D、noodp
A、实时查看网站在百度中已生效的robots文件内容 B、支持通知百度更新网站的robot文件 C、支持对robots文件进行语法及逻辑校验 D、能够按照规则生成robots文件 E、以上全都是
A、"User-agent:*Disallow:/A" B、"User-agent:Allow:/A" C、"User-agent:Disallow:/" D、"User-agent:*Allow:/"
A、A.一个网站可以放多个不同robots文件 B、B.robots文件不可以用xml格式命名 C、C.disallow用来描述不希望被访问到的一个URL D、D.robots文件可以放在任何位置