Всего лишь через несколько недель Яндекс намерен изменить правила обработки Allow в файле robots.txt.
Директивы должны будут сортироваться от меньшего к большему по длине префикса урла и они должны быть расположены последовательно.
Новые правила, которые скоро вступят в силу, соответствуют международным правилам обработки директив. Теперь у вебмастеров рунета не будет возникать проблем при составлении файла robots.txt для всех поисковых систем.
Изменения в первую очередь являются прямым следствием постепенного внедрения Яндекса на зарубежные рынки.
—
Мобильный шиномонтаж
Вот новости, новостями, а как перестроить этот robots.txt нигде нету нормальной информации.