MegaIndex.ru

MegaIndex.ru蜘蛛是一個提供反向連結查詢的網站的蜘蛛,因此它爬網站主要是分析連結,官網:http://MegaIndex.ru,並沒有什麼作用。遵循robots協議。

可以透過robots.txt協議選擇禁止。

User-agent: MegaIndex.ru

Disallow: /

補充糾錯
上一蜘蛛: SEMrushBot
下一蜘蛛: ZoominfoBot