Форум SAPE.RU

Форум SAPE.RU (http://forum.sape.ru/index.php)
-   Вопросы от новичков (http://forum.sape.ru/forumdisplay.php?f=25)
-   -   Файл Robots.txt (http://forum.sape.ru/showthread.php?t=53244)

admbuxonly 30.05.2010 08:33

Файл Robots.txt
 
Ребят, вчера наткнулся на свой файл Robots.txt случайно проанализировал через вебмастер.яндекс и обнаружил вот это:

Код:

User-agent: *
Disallow:
Sitemap: http://finanse-pro.ru/sitemap.xml.gz

Дело в том, что мой сайт уже давно весит в яше, но в индексе только 1 страница и загружена роботом тоже одна. Я все не мог понять почему так. Код, что выше может кто-то рассказать что он значит. Я вроде понял, что Disallow: - это блок, получается он блокирует мою карту сайта? Я просто в этом не силен.

Вобщем заменил я этот код на следующий:

Код:

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: /feed
Disallow: /comments
Disallow: /category/*/*
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Allow: /wp-content/uploads

# Google Image
User-agent: Googlebot-Image
Disallow:
Allow: /*

# Google AdSense
User-agent: Mediapartners-Google*
Disallow:
Allow: /*

# Internet Archiver Wayback Machine
User-agent: ia_archiver
Disallow: /

# digg mirror
User-agent: duggmirror
Disallow: /

Sitemap: http://www.russian-webstyle.ru/sitemap.xml

User-agent: Yandex
Crawl-delay: 5

Disallow: /tag

Но! Яша ругается, говорит, что

Цитата:

Строка 19: # Google Image Синтаксическая ошибка
Что не правильно? Помогите разобраться!!

lostawer 30.05.2010 08:58

Какой движок?

Добавлено через 5 минут
Цитата:

User-agent: *
Disallow:
Sitemap: http://finanse-pro.ru/sitemap.xml.gz
Этот роботс правильный.

admbuxonly 30.05.2010 09:06

Движок WP

Добавлено через 1 минуту
Цитата:

Сообщение от lostawer (Сообщение 822399)
Этот роботс правильный.

А почему до сих пор 1 стр. в поиске и загружена одна. Та уже штук 10 должно быть, и тем более робот яндекса был на моем сайте 28 числа... и сайтмап проверял он там 13 ссылок нашел... а в индекс не ставит ...ппц

lostawer 30.05.2010 09:37

Цитата:

User-agent: *
Disallow: /xmlrpc.php
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/
Disallow: /tag/
Disallow: /?s=
Disallow: /trackback/
Disallow: /feed/
Disallow: /comments/
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Allow: /wp-content/uploads/
Host: сайт.ru

Sitemap: http://сайт.ru/sitemap.xml
Вот тебе для WP robots

Добавлено через 43 секунды
А на счёт яндекса, что сказать ЖДИ. Не всё так быстро, тем более что ЯВМ обновляется не часто.

admbuxonly 30.05.2010 09:51

Спасибо, буду пробовать...

kkk008009kkk 30.05.2010 11:07

Disallow: /comments/-коменты то зачем блокировать?пусть висят

lostawer 30.05.2010 11:46

Цитата:

Сообщение от kkk008009kkk (Сообщение 822482)
Disallow: /comments/-коменты то зачем блокировать?пусть висят

Это пример Robots.txt для MFS, не хочется чтобы спамные коменты были допущены к индексации.

Добавлено через 49 секунд
Хотя и на блоге их тоже стоит блочить.

kkk008009kkk 30.05.2010 11:51

lostawer, Спамные легко отсеиваются, если автор следит за блогом.Они даже к индексу не идут, так как обычно админ должен проверить коммент для его показа.

lostawer 30.05.2010 11:56

Цитата:

Сообщение от kkk008009kkk (Сообщение 822515)
lostawer, Спамные легко отсеиваются, если автор следит за блогом.Они даже к индексу не идут, так как обычно админ должен проверить коммент для его показа.

А мне нехер делать больше, как только следить за MFS-ами. Я пока буду следить ещё пару штук сделаю)

kkk008009kkk 30.05.2010 12:14

lostawer,
Так это занимает не более 10 минут в день перед сном.

Как бы между прочим, если контент не уникальный, то комменты разбавляют его, делая уникальным.
Так что на ГС комменты в самый раз.


Часовой пояс GMT +3, время: 03:28.

Работает на vBulletin® версия 3.8.7.
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Перевод: zCarot
SAPE.RU — система купли-продажи ссылок с главных и внутренних страниц сайтов.