MegaIndex.ru蜘蛛是一個提供反向連結查詢的網站的蜘蛛,因此它爬網站主要是分析連結,官網:http://MegaIndex.ru,並沒有什麼作用。遵循robots協議。
可以透過robots.txt協議選擇禁止。
User-agent: MegaIndex.ru
Disallow: /
MegaIndex.ru蜘蛛是一個提供反向連結查詢的網站的蜘蛛,因此它爬網站主要是分析連結,官網:http://MegaIndex.ru,並沒有什麼作用。遵循robots協議。
可以透過robots.txt協議選擇禁止。
User-agent: MegaIndex.ru
Disallow: /
百度蜘蛛
必應蜘蛛
一淘蜘蛛
英國MJ12蜘蛛
亞馬遜蜘蛛
Aray蜘蛛
Ads蜘蛛
搜狗蜘蛛
Mail.RU蜘蛛
sp蜘蛛
Ask蜘蛛
俄羅斯蜘蛛