6,4 %
Блокирует ИИ-краулер
1 053 / 16 474
45 %
Блокирует GPTBot
7 449 / 16 474
4,7 %
Блокирует CCBot
767 / 16 474
44 %
Блокирует Google-Extended
7 295 / 16 474
ИИ-краулеры, заблокированные в robots.txt
| Краулер | Владелец | Весь мир | Нидерланды | Великобритания | Италия | Испания | Япония | Латинская Америка |
|---|---|---|---|---|---|---|---|---|
| GPTBot | OpenAI (обучение) | 9,6 % | 45 % | 47 % | 7,4 % | 8,2 % | 3,7 % | 5,5 % |
| ChatGPT-User | OpenAI (запросы пользователей) | 5,2 % | 43 % | 44 % | 3,3 % | 4,6 % | 2,3 % | 2,3 % |
| OAI-SearchBot | OpenAI (поиск) | 4 % | 42 % | 44 % | 2,6 % | 3,6 % | 2,2 % | 1,8 % |
| ClaudeBot | Anthropic | 8,6 % | 45 % | 46 % | 6,9 % | 7,6 % | 3,4 % | 5,2 % |
| anthropic-ai | Anthropic (устаревший) | 7,4 % | 44 % | 46 % | 5,6 % | 5,6 % | 2,4 % | 4,5 % |
| Google-Extended | Google (Gemini) | 7,7 % | 44 % | 45 % | 5,9 % | 5 % | 2,7 % | 4,4 % |
| CCBot | Common Crawl | 9,4 % | 4,7 % | 4,9 % | 8,6 % | 8 % | 3,1 % | 5,4 % |
| PerplexityBot | Perplexity | 5,1 % | 43 % | 44 % | 3,4 % | 4,2 % | 2,1 % | 2,3 % |
| Bytespider | ByteDance | 9,1 % | 4,4 % | 4,6 % | 7,1 % | 8 % | 3,4 % | 6,7 % |
| Applebot-Extended | Apple | 7,5 % | 3,2 % | 3,9 % | 5,8 % | 5,6 % | 2,7 % | 4,3 % |
| Amazonbot | Amazon | 7,9 % | 45 % | 46 % | 6,5 % | 7 % | 3,1 % | 5,1 % |
| meta-externalagent | Meta | 7,7 % | 44 % | 46 % | 6,3 % | 6,8 % | 3,3 % | 4,6 % |
| cohere-ai | Cohere | 7,1 % | 44 % | 45 % | 5,4 % | 4,9 % | 2,4 % | 5,3 % |
| Diffbot | Diffbot | 7 % | 43 % | 45 % | 5,3 % | 5 % | 2,2 % | 5,3 % |
Доля сайтов, чей robots.txt по имени закрывает боту доступ к главной странице.
По рынкам
| Показатель | Весь мир | Нидерланды | Великобритания | Италия | Испания | Япония | Латинская Америка |
|---|---|---|---|---|---|---|---|
| Блокирует ИИ-краулер | 10 % | 6,4 % | 6 % | 11 % | 11 % | 3,9 % | 7 % |
| Блокирует GPTBot | 9,6 % | 45 % | 47 % | 7,4 % | 8,2 % | 3,7 % | 5,5 % |
| Блокирует ClaudeBot | 8,6 % | 45 % | 46 % | 6,9 % | 7,6 % | 3,4 % | 5,2 % |
| Блокирует CCBot | 9,4 % | 4,7 % | 4,9 % | 8,6 % | 8 % | 3,1 % | 5,4 % |
| Блокирует Google-Extended | 7,7 % | 44 % | 45 % | 5,9 % | 5 % | 2,7 % | 4,4 % |
| Блокирует PerplexityBot | 5,1 % | 43 % | 44 % | 3,4 % | 4,2 % | 2,1 % | 2,3 % |
| Content-Signal в robots.txt | 4,1 % | 2 % | 2,2 % | 3,5 % | 2,8 % | 0,5 % | 3,5 % |
| llms.txt | 15 % | 14 % | 17 % | 14 % | 14 % | 7,4 % | 18 % |
Заблокированные поисковые боты
- 1Baiduspider53 %7 373
- 2SeznamBot50 %6 883
- 3Yeti50 %6 865
- 4Sogou50 %6 858
- 5Naverbot50 %6 856
- 6DuckDuckBot49 %6 817
- 7PetalBot4,5 %623
- 8YandexBot3,9 %537
- 9Applebot1,4 %187
- 10Bingbot0,9 %131
Доля от всех сайтов выборки (13 810).
Заблокированные SEO-боты
- 1BLEXBot52 %7 155
- 2Barkrowler51 %6 983
- 3Screaming Frog SEO Spider50 %6 884
- 4SiteAuditBot50 %6 872
- 5MJ12bot5,5 %755
- 6SemrushBot4,7 %655
- 7AhrefsBot4,5 %620
- 8DotBot3,9 %539
- 9DataForSeoBot2,3 %314
- 10rogerbot1,7 %236
Доля от всех сайтов выборки (13 810).
Наш краулер: Сайтов: 8 580 · Нидерланды · обновлено 23 окт. 2026 г. · Методология
Доменов много, а времени мало?
Проверим весь ваш портфель доменов и исправим настройки DNS и защиты почты.