SetEnvIfNoCase User-Agent "^AhrefsBot" bad_bot
<Limit GET POST HEAD>
Order Allow,Deny
Allow from all
Deny from env=bad_bot
</Limit>
173.199.114.179 | 11.03.13 8:30 | Mozilla/5.0 (compatible; AhrefsBot/4.0; +)⚠ Тільки зареєстровані користувачі бачать весь контент та не бачать рекламу.
108.59.8.70 | 11.03.13 1:23 | Mozilla/5.0 (compatible; MJ12bot/v1.4.3;)⚠ Тільки зареєстровані користувачі бачать весь контент та не бачать рекламу.
MJ12bot adheres to the robots.txt standard. If you want the bot to prevent website from being crawled then add the following text to your robots.txt:
User-agent: MJ12bot
Disallow: /
If you have reason to believe that MJ12bot did NOT obey your robots.txt commands, then please let us know via email: bot@majestic12.co.uk. Please provide URL to your website and log entries showing bot trying to retrieve pages that it was not supposed to.
user-agent: AhrefsBot
disallow: /
Может подождать нужно? robots.txt может не каждый раз бот вычитывает. Еще проверьте доступен ли этот файл. Может бот его не может вычитать.не прокатило, так и сидит
Бот не вычитывает каждый раз этот файл. И изменения поймет приблизительно через неделю. Если Вы хотите пораньше, то напишите его хозяевам на support@ahrefs.comThe bot will not pick up the changes in robots.txt immediately, usually it may take up to one week.
If you want the changes to be active immediately - please contact our support@ahrefs.com