Форум SAPE.RU

Форум SAPE.RU (http://forum.sape.ru/index.php)
-   Пожелания пользователей системы (http://forum.sape.ru/forumdisplay.php?f=15)
-   -   Sape робот (http://forum.sape.ru/showthread.php?t=33362)

pgolovko 22.06.2009 22:12

Sape робот
 
Был бы очень признателен если бы Sape робот правильно отображал свой user-agent.
Сейчас Sape user-agent выглядит так:
Код:

Http Code: 200        Date: Jun 22 12:53:07        Http Version: HTTP/1.1        Size in Bytes: 10575
Referer: -
Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1)

Намного грамотнее было бы вот так:
Код:

Http Code: 200        Date: Jun 22 12:53:07        Http Version: HTTP/1.1        Size in Bytes: 10575
Referer: -
Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; http://www.sape.ru)

Вот например Yahooшный:
Код:

Http Code: 200        Date: Jun 22 03:24:24        Http Version: HTTP/1.0        Size in Bytes: 1987
Referer: -
Agent: Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)

и Googoльный:
Код:

Http Code: 200        Date: Jun 21 17:00:59        Http Version: HTTP/1.1        Size in Bytes: 5453
Referer: -
Agent: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

Премного благодарен, ...

Русская мафия 22.06.2009 22:18

pgolovko, Клоакинг в комфорте?:D

justworker 22.06.2009 22:19

Русская мафия, +1)

ТС, айпи роботов-сапы и так известны, чего еще нужно то?

pgolovko 22.06.2009 22:28

Наоборот, хотелось бы Sape в robots.txt (и не только) добавить в /disallow на некоторые странички. Ато слишком много мусора сканирует, времени нехочу тратить на уборку вручную.

Добавлено через 1 минуту
Цитата:

Сообщение от justworker (Сообщение 484741)
ТС, айпи роботов-сапы и так известны, чего еще нужно то?

Спасибки за намек с IP, попробую :D

Добавлено через 2 минуты
Да, кстати.. IP только етот (81.177.144.46) или еще есть?

zhegloff 23.06.2009 00:50

Цитата:

Сообщение от pgolovko (Сообщение 484744)
Наоборот, хотелось бы Sape в robots.txt (и не только) добавить в /disallow на некоторые странички. Ато слишком много мусора сканирует, времени нехочу тратить на уборку вручную.

А вы для яндекса в дизалоу поставьте, робот сапе и не будет туда ходить;)

chahlic 23.06.2009 02:21

Цитата:

Сообщение от Русская мафия (Сообщение 484740)
pgolovko, Клоакинг в комфорте?:D

Не, вряд ли. Нафига клоакинг на САПу настраивать? Любой О зайдет (а он зайдет, факт) и обнаружит, что ссылок нема - и усе. Клоакинг на Яшу делать надоть :)

Добавлено через 1 минуту
Цитата:

Сообщение от zhegloff (Сообщение 484881)
А вы для яндекса в дизалоу поставьте, робот сапе и не будет туда ходить;)

Ага, значит САПа-робот правилам Яши следует в роботс? Ну что ж, логично. Полезно знать...


Часовой пояс GMT +3, время: 05:01.

Работает на vBulletin® версия 3.8.7.
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Перевод: zCarot
SAPE.RU — система купли-продажи ссылок с главных и внутренних страниц сайтов.