robots里这样写,就能避免蜘蛛爬这个“index.htm”

seo优化 2022-07-27 11:42www.1681989.comseo排名

我robots这样写是不是就能避免蜘蛛爬这个“dex.htm”这个首页?

User-agent:

Disallow: /dex.htm

11-30.

我的dex.htm是现在默认的首页,想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档,主要是规避备案巡查

我的网站和我备案的不一样,服务器那边要求改,我就整了个htm文档来规避下。

写法没有问题。但正常的不建议屏蔽首页地址,,“dex.htm”这个后缀地址是需要处理掉的。

,如果只是应付备案短暂需求,,就只能这样处理。

后续备案处理后,尽快处理后缀“dex.htm”。robots修改回去。

推火专家搜外网


Copyright © 2016-2025 www.1681989.com 推火网 版权所有 Power by