Javascript-форум (https://javascript.ru/forum/)
-   (X)HTML/CSS (https://javascript.ru/forum/xhtml-html-css/)
-   -   Добавить файл Robots.txt в корень сайта (https://javascript.ru/forum/xhtml-html-css/76402-dobavit-fajjl-robots-txt-v-koren-sajjta.html)

kolhoz 09.01.2019 13:15

Добавить файл Robots.txt в корень сайта
 
Здравствуйте. Есть сайт http://studentprograms.ru в корне лежит файл robots.txt с содержимым

# If the Joomla site is installed within a folder such as at
# e.g. www.example.com/joomla/ the robots.txt file MUST be
# moved to the site root at e.g. www.example.com/robots.txt
# AND the joomla folder name MUST be prefixed to the disallowed
# path, e.g. the Disallow rule for the /administrator/ folder
# MUST be changed to read Disallow: /joomla/administrator/
#
# For more information about the robots.txt standard, see:
# http://www.robotstxt.org/orig.html
#
# For syntax checking, see:
# http://tool.motoricerca.info/robots-checker.phtml

User-agent: *
Allow: /*.js*
Allow: /*.css*
Allow: /*.png*
Allow: /*.jpg*
Allow: /*.gif*

Disallow: /administrator/
Disallow: /bin/
Disallow: /cache/
Disallow: /cli/

Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /layouts/
Disallow: /libraries/
Disallow: /logs/


Disallow: /tmp/

Host: studentprograms.ru
Sitemap: https://studentprograms.ru/sitemap.xml



На данный сайт ссылаются еще два домена

http://www.consult-unity.ru/
https://consult-unity.ru

Как сделать так, чтобы по доменам http://www.consult-unity.ru и https://consult-unity.ru стоял полный запрет на индексацию для всех поисковых роботов?

laimas 09.01.2019 15:01

Что значит по доменам, они то просто ссылаются на домен, а яшка с гуглом будут заниматься индексацией, если они эти ссылки прошерстят.

А сами эти домены ваш robots.txt вообще не интересует.


Часовой пояс GMT +3, время: 01:10.