Любопытные роботы

Забавная ситуация: поисковые роботы индексируют запрещенные к индексации страницы. Подобное поведение замечено довольно давно, мало того, подтверждалось представителями Яндекса.

Замечен за этим занятием и поисковый бот Google:

googlebot

Хотя в robots.txt есть запись, запрещающая индексировать эти страницы:

Disallow: /category/*/*
Disallow: /page/*

Вот интересно, зачем они это делают? Поиск неуникального контента? Загадка, однако.