百度搜索资源平台-Robots
使用说明
1. robots.txt可以告诉百度您网站的哪些页面可以被抓取，哪些页面不可以被抓取。
2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件，或查看您网站robots.txt文件在百度生效的情况。
3. Robots工具目前支持48k的文件内容检测，请保证您的robots.txt文件不要过大，目录最长不超过250个字符。
4. 如需检测未验证站点的robots设置，请点击此处进行检测。
来源：百度搜索资源平台
“百度搜索资源平台-Robots” 的相关文章
百度搜索资源平台sitemap验证错误该怎么做，错误原因有哪些？2022年03月28日 22:09:13
socket读写错误，百度资源平台抓取诊断提示错误的解决办法2022年04月09日 20:09:04
百度搜索资源平台-快速收录2022年05月10日 19:46:19
百度搜索资源平台-流量与关键词2022年05月10日 19:50:22
百度搜索资源平台-抓取频次2022年05月10日 19:51:42
百度搜索资源平台-抓取诊断2022年05月10日 19:52:23
百度搜索资源平台-抓取异常2022年05月10日 19:53:04