sexfo.ru/robots.txt:
User-Agent: *
Disallow: /
User-agent: Googlebot
Allow: /
Disallow: /video/*
User-agent: Yandex
Allow: /
Disallow: /video/*
User-agent: AhrefsBot
Allow: /
Disallow: /video/*
User-agent: AhrefsSiteAudit
Allow: /
Disallow: /video/*
User-agent: similarweb
Allow: /
Disallow: /video/*
User-agent: Rogerbot
Allow: /
Disallow: /video/*
User-agent: Dotbot
Allow: /
Disallow: /video/*
в яндексе
Прочее:
Ping/Trace,
История в Веб-архиве,
История владельцев,
Валидность HTML,
Валидность CSS,
Проверка на вирусы.
Запрашиваемая страница недоступна!
|