2022-06-17 12:30:00
什么是百度蜘蛛?
Baiduspider,英文名为“Baidu Spider”,是百度搜索引擎用来抓取互联网上亿网页的自动程序。
百度的功能是访问互联网上的html页面,建立索引数据库,让用户在百度搜索引擎中搜索到你网站的页面。
百度蜘蛛是一个程序,它必须日夜在互联网上搜索新的网址,然后抓取网址的内容,并将其返回到百度的网页临时数据库。
百度用来抓取网页内容的程序叫Baiduspider,抓取其他内容的蜘蛛是一个新名字:
产品名称 对应user-agent
搜索网络盲
无线搜索Baiduspider-mobile
图片搜索Baiduspider-image
视频搜索Baiduspider-视频
新闻搜索Baiduspider-新闻
百度搜索Baiduspider-favo
百度Baidu pider-cpro
相关阅读: