百度蜘蛛抓取删除的列表页面，robots怎么设置禁止

tag列表页一般在同一个目录下，比如目录名叫ABC，那么robots就应该是：User-agent:* Disallow:/ABC/

相关SEO术语解释:

robots：

Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。

robots.txt：

Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。也叫机器人排除标准（Robots Exclusion Standard），网站使用的文本文件，用于与网络机器人（最常见的SE机器人）进行通信，以处理网站的每个页面。在这里，您可以将某些页面设置为漫游器的禁区，并仅扫描最有用的内容。

启动页：

启动页，网站上介绍页面，通常包含大尺寸图片或视频，少量的内容（比如一个品牌名称）和一个按钮来继续访问主要的内容(“进入网站”)。通常启动页被用作网站的主页，旨在展示和推广品牌。

从SEO角度来讲，启动页并不是一个好的选择，原因如下:

1.高质量的内容是最重要的排名因素之一，启动页面几乎没有这些因素。

2.主页是最常用的反向链接URL，因此有一个内容极少的主页将降低链接的权威性。

3.全屏图像和视频加载速度通常都很慢，并对页面加载速度产生负面影响，导致访客流失。