Забавная ситуация: поисковые роботы индексируют запрещенные к индексации страницы. Подобное поведение замечено довольно давно, мало того, подтверждалось представителями Яндекса.
Замечен за этим занятием и поисковый бот Google:
![]()
Хотя в robots.txt есть запись, запрещающая индексировать эти страницы:
Disallow: /category/*/*
Disallow: /page/*
Вот интересно, зачем они это делают? Поиск неуникального контента? Загадка, однако.