Запрет индексации в robots.txt | REG.RU
Чтобы убрать весь сайт или отдельные его разделы и страницы из поисковой выдачи Google, Яндекс и других поисковых систем, их нужно закрыть от индексации. Тогда контент не будет отображаться в результатах поиска. Рассмотрим, с помощью каких команд можно выполнить в файле robots.txt запрет индексации.
Зачем нужен запрет индексации сайта через robots.txt
Первое время после публикации сайта о нем знает только ограниченное число пользователей. Например, разработчики или клиенты, которым компания прислала ссылку на свой веб-ресурс. Чтобы сайт посещало больше людей, он должен попасть в базы поисковых систем.
Чтобы добавить новые сайты в базы, поисковые системы сканируют интернет с помощью специальных программ (поисковых роботов), которые анализируют содержимое веб-страниц. Этот процесс называется индексацией.
После того как впервые пройдет индексация, страницы сайта начнут отображаться в поисковой выдаче. Пользователи увидят их в процессе поиска информации в Яндекс и Google — самых популярных поисковых системах в рунете. Например, по запросу «заказать хостинг» в Google пользователи увидят ресурсы, которые содержат соответствующую информацию:
Однако не все страницы сайта должны попадать в поисковую выдачу. Есть контент, который интересен пользователям: статьи, страницы услуг, товары. А есть служебная информация: временные файлы, документация к ПО и т. п. Если полезная информация в выдаче соседствует с технической информацией или неактуальным контентом — это затрудняет поиск нужных страниц и негативно сказывается на позиции сайта. Чтобы «лишние» страницы не отображались в поисковых системах, их нужно закрывать от индексации.
Кроме отдельных страниц и разделов, веб-разработчикам иногда требуется убрать весь ресурс из поисковой выдачи. Например, если на нем идут технические работы или вносятся глобальные правки по дизайну и структуре. Если не скрыть на время все страницы из поисковых систем, они могут проиндексироваться с ошибками, что отрицательно повлияет на позиции сайта в выдаче.
Для того чтобы частично или полностью убрать контент из поиска, достаточно сообщить поисковым роботам, что страницы не нужно индексировать. Для этого необходимо отключить индексацию в служебном файле robots.txt. Файл robots.txt — это текстовый документ, который создан для «общения» с поисковыми роботами. В нем прописываются инструкции о том, какие страницы сайта нельзя посещать и анализировать, а какие — можно.
Прежде чем начать индексацию, роботы обращаются к robots.txt на сайте. Если он есть — следуют указаниям из него, а если файл отсутствует — индексируют все страницы без исключений. Рассмотрим, каким образом можно сообщить поисковым роботам о запрете посещения и индексации страниц сайта. За это отвечает директива (команда) Disallow.
Как запретить индексацию сайта
О том, где найти файл robots.txt, как его создать и редактировать, мы подробно рассказали в статье. Если кратко — файл можно найти в корневой папке. А если он отсутствует, сохранить на компьютере пустой текстовый файл под названием robots. txt и загрузить его на хостинг. Или воспользоваться плагином Yoast SEO, если сайт создан на движке WordPress.
Чтобы запретить индексацию всего сайта:
- 1.
Откройте файл robots.txt.
- 2.
Добавьте в начало нужные строки.
- Чтобы закрыть сайт во всех поисковых системах (действует для всех поисковых роботов):
User-agent: * Disallow: /
- Чтобы запретить индексацию в конкретной поисковой системе (например, в Яндекс):
User-agent: Yandex Disallow: /
- Чтобы закрыть от индексации для всех поисковиков, кроме одного (например, Google)
User-agent: * Disallow: / User agent: Googlebot Allow: /
- 3.
Сохраните изменения в robots.txt.
Готово. Ресурс пропадет из поисковой выдачи выбранных ПС.
Запрет индексации папки
Гораздо чаще, чем закрывать от индексации весь веб-ресурс, веб-разработчикам требуется скрывать отдельные папки и разделы.
Чтобы запретить поисковым роботам просматривать конкретный раздел:
- 1.
Откройте robots.txt.
- 2.
Укажите поисковых роботов, на которых будет распространяться правило. Например:
- Все поисковые системы:
User-agent: *
— Запрет только для Яндекса:
User-agent: Yandex
- 3.
Задайте правило Disallow с названием папки/раздела, который хотите запретить:
Disallow: /catalog/
Где вместо catalog — укажите нужную папку.
org/HowToStep»>
4.
Сохраните изменения.
Готово. Вы закрыли от индексации нужный каталог. Если требуется запретить несколько папок, последовательно пропишите для каждой директиву Disallow.
Как закрыть служебную папку wp-admin в плагине Yoast SEOКак закрыть страницу от индексации в robots.txt
Если нужно закрыть от индексации конкретную страницу (например, с устаревшими акциями или неактуальными контактами компании):
- 1.
Откройте файл robots.txt на хостинге или используйте плагин Yoast SEO, если сайт на WordPress.
- 2.
Укажите, для каких поисковых роботов действует правило.
- 3.
Задайте директиву Disallow и относительную ссылку (то есть адрес страницы без домена и префиксов) той страницы, которую нужно скрыть. Например:
User-agent: * Disallow: /catalog/page.html
Где вместо catalog — введите название папки, в которой содержится файл, а вместо page.html — относительный адрес страницы.
- 4.
Сохраните изменения.
Готово. Теперь указанный файл не будет индексироваться и отображаться в результатах поиска.
Помогла ли вам статья?Да
раз уже помогла
защита от недоверенных сертификатов. Справка
В рамках комплексной защиты Protect Браузер проверяет сертификаты сайтов. Если из-за проблем с сертификатом сайт не может обеспечить безопасное шифрование ваших данных, Яндекс Браузер предупреждает об этом.
- Зачем нужен сертификат сайта
- Чем опасен недоверенный сертификат
- Блокировка сайтов с недоверенными сертификатами
- Возможные причины блокировки
- Если автор сертификата неизвестен
- Если сертификат установлен программой
- Пожаловаться на фишинговый сайт
Ваши личные или платежные данные при отправке на сайт должны быть защищены. В интернете сайты используют для безопасного соединения протокол HTTPS. Он включает асимметричный алгоритм шифрования, когда данные зашифровываются с помощью открытого ключа и расшифровываются с помощью закрытого ключа. Для каждого сеанса связи Браузер заново генерирует закрытый ключ и передает его на сайт с мерами предосторожности, исключающими кражу.
Однако, если вы попадете на фишинговый сайт, он может получить закрытый ключ и затем расшифровать ваши данные. Для защиты от фишинга сайты используют цифровые сертификаты, выданные специальными удостоверяющими центрами. Сертификат гарантирует, что ключи действительно принадлежат владельцу сайта.
Вы можете оказаться на фишинговом сайте или ваши данные окажутся без должной защиты на оригинальном сайте (например, если у сайта истек срок действия сертификата). В результате злоумышленники могут:
перехватить или подменить ваши личные данные, а также прочитать переписку;
получить ваши платежные данные (номер карты, имя владельца, срок действия и CVV2) и использовать их для кражи денег с вашего счета.
Если из-за проблем с сертификатом сайт не может обеспечить безопасное шифрование, в В адресную строку можно вводить поисковые запросы — Браузер сам поймет, что вам нужно.
«}}»> появляется значок , а вместо страницы сайта — предупреждение о невозможности установить безопасное соединение. В этом случае вы можете либо отказаться от посещения сайта, либо внести сертификат в список надежных.Внимание. Делайте это, только если вы полностью уверены в надежности сертификата. Иначе злоумышленники могут получить доступ к вашим личным данным и электронным платежам.
Примечание. Если вы не можете установить безопасное соединение на сервисах Яндекса из-за ошибки ERR_CERT_AUTHORITY_INVALID или ERR_CERT_DATE_INVALID, это означает, что в операционной системе не хватает сертификата. Обновите Windows или импортируйте сертификаты вручную. Подробнее читайте в статьях Ошибка ERR_CERT_AUTHORITY_INVALID и Ошибка ERR_CERT_DATE_INVALID.
Браузер блокирует сайты, у которых есть следующие проблемы с сертификатами:
- Автор сертификата неизвестен
Вы увидите сообщение «Невозможно установить безопасное соединение. Злоумышленники могут пытаться похитить ваши данные (например, пароли, сообщения или номер банковской карты)».
Подробнее см. раздел Если автор сертификата неизвестен.
Сертификат установлен специальной программойВы увидите сообщение «Вы попытались перейти на сайт example.com, сертификату безопасности которого не следует доверять. Сертификат был выдан неизвестным Яндексу центром сертификации, однако операционная система считает его надёжным…».
Подробнее см. раздел Если сертификат установлен программой.
Неверный адрес сайтаВы увидите сообщение «Не удалось подтвердить, что это сервер example.com. Его сертификат безопасности относится к example1.com. Возможно, сервер настроен неправильно или кто-то пытается перехватить ваши данные».
Значит, сертификат безопасности, хранящийся на сервере, относится не к тому сайту, который вы открываете. Есть вероятность, что вы попали на фишинговый сайт. В этом случае злоумышленники могут перехватить ваши данные.
Самозаверенный сертификатВы увидите сообщение «Не удалось подтвердить, что это сервер example. com. Операционная система компьютера не доверяет его сертификату безопасности. Возможно, сервер настроен неправильно или кто-то пытается перехватить ваши данные».
Значит, сайт выдал сертификат сам себе. Это вредоносное ПО или злоумышленники могут перехватить ваши данные. Подробнее см. статью Самозаверенный сертификат.
Недоверенный корневой сертификатВы увидите сообщение «Не удалось подтвердить, что это сервер example.com. Операционная система компьютера не доверяет его сертификату безопасности. Возможно, сервер настроен неправильно или кто-то пытается перехватить ваши данные».
Значит, центр, подписавший сертификат, не является доверенным и не может гарантировать подлинность сайта. Это вредоносное ПО или злоумышленники могут перехватить ваши данные. Подробнее о корневом сертификате см. статью Цепочка доверия.
Истек срок действия сертификатаВы увидите сообщение «Не удалось подтвердить, что это сервер example.com. Срок действия его сертификата безопасности истек <. ..> дней назад. Возможно, сервер настроен неправильно или кто-то пытается перехватить ваши данные. Обратите внимание, что на компьютере установлено <текущее время>. Если оно неправильное, измените его и обновите страницу».
Если сертификат просрочен, передаваемые данные не будут шифроваться, и злоумышленники могут их перехватить.
Сертификат отозванВы увидите сообщение «Обычно сайт example.com использует шифрование для защиты ваших данных. Однако в этот раз он прислал на запрос Браузера подозрительный ответ. Возможно, другой сайт пытается выдать себя за example.com либо оборвалось подключение к сети Wi-Fi. Ваши данные по-прежнему в безопасности: на всякий случай Браузер разорвал соединение до обмена информацией. Перейти на сайт example.com невозможно, так как его сертификат отозван. Это могло произойти из-за ошибки сети или атаки на сайт. Скорее всего, он заработает через некоторое время».
Значит, сертификат сайта был скомпрометирован и отозван. В этом случае передаваемые данные не будут шифроваться, и злоумышленники могут их перехватить.
Устаревшее шифрованиеВы увидите сообщение «Вы пытаетесь обратиться к серверу в домене example.com, но его сертификат подписан с помощью ненадежного алгоритма (SHA-1 и т. п.). Это значит, что учетные данные безопасности и сам сервер могут быть поддельными. Возможно, вы имеете дело со злоумышленниками».
Если сервер использует устаревший ненадежный алгоритм шифрования, злоумышленники могут перехватить ваши данные. Возрастает вероятность того, что вы попали на фишинговый сайт.
Шифры не поддерживаютсяВы увидите сообщение «Сайт example.com отправил некорректный ответ».
Значит, Браузер не может установить соединение HTTPS, потому что сайт использует шифры, которые Браузер не поддерживает. В этом случае передаваемые данные не будут шифроваться, и злоумышленники могут их перехватить.
Ключ сертификата не совпадает с закрепленным ключомВы увидите сообщение «Обычно сайт example.com использует шифрование для защиты ваших данных. Однако в этот раз он прислал на запрос Браузера подозрительный ответ. Возможно, другой сайт пытается выдать себя за example.com либо оборвалось подключение к сети Wi-Fi. Ваши данные по-прежнему в безопасности: на всякий случай Браузер разорвал соединение до обмена информацией. Перейти на сайт example.com невозможно, так как он использует закрепление сертификата. Это могло произойти из-за ошибки сети или атаки на сайт. Скорее всего, он заработает через некоторое время».
Значит, ключ корневого сертификата не совпадает с ключом, закрепленным на сайте. Возможно, злоумышленники пытаются подменить корневой сертификат. В этом случае они могут перехватить ваши данные. Подробнее о закреплении (привязывании) ключа см. статью HTTP Public Key Pinning.
Не удалось включить шифрование при соединении HSTSВы увидите сообщение «Обычно сайт example.com использует шифрование для защиты ваших данных. Однако в этот раз он прислал на запрос Браузера подозрительный ответ. Возможно, другой сайт пытается выдать себя за example.com либо оборвалось подключение к сети Wi-Fi. Ваши данные по-прежнему в безопасности: на всякий случай Браузер разорвал соединение до обмена информацией. Перейти на сайт example.com невозможно, так как он использует HSTS-протокол. Это могло произойти из-за ошибки сети или атаки на сайт. Скорее всего, он заработает через некоторое время».
Значит, Браузер не смог включить шифрование и разорвал соединение. Сервер, на котором расположен сайт, обычно использует шифрование, так как на нем включен HSTS-протокол. Отсутствие шифрования может быть признаком хакерской атаки. В этом случае злоумышленники или вредоносное ПО могут перехватить ваши данные.
В этом случае либо администратор сети, либо неизвестное лицо установили сертификат. Вы увидите предупреждение. Чтобы посмотреть дополнительную информацию, в Умной строке слева нажмите значок статуса соединения → Подробнее:
Вы можете либо отказаться от посещения сайта, либо внести сертификат в список надежных, нажав в диалоге Подробности, а затем Сделать исключение для этого сайта. В списке надежных сертификат будет находиться в течение 30 дней, после чего вам придется снова сделать для него исключение.
Внимание. Нажимайте кнопку Сделать исключение для этого сайта, только если вы уверены в надежности сертификата. Иначе злоумышленники могут получить доступ к вашим личным данным.
Если вы не уверены в надежности сертификата, а посетить сайт вам очень нужно, примите следующие меры безопасности:
- Для домашнего компьютера. Обновите антивирус и просканируйте компьютер, чтобы обнаружить вредоносное ПО. Если антивирус найдет и удалит установленный злоумышленником сертификат, предупреждение в Браузере больше появляться не будет. Если антивирус не удалит подозрительный сертификат, вы можете избавиться от него сами.
Внимание. Будьте осторожны — если сертификат был установлен не вредоносным ПО, а полезной программой, его удаление может привести к нарушению работы системы.
Для служебного компьютера. Для удаления подозрительного сертификата обратитесь к системному администратору. Если он не устанавливал этот сертификат, он его удалит. Если сертификат был установлен администратором, можете нажимать Перейти на сайт. Но учтите, что после этого администратор сможет просматривать ваши личные данные и электронные платежи.
Антивирусы, блокировщики рекламы, программы для мониторинга сети и другие программы могут заменять сертификаты сайта своими. Чтобы расшифровывать трафик, они создают собственный корневой сертификат и устанавливают его в операционную систему, помечая как надежный.
Однако сертификат, установленный специальной программой, не может считаться надежным, потому что не принадлежит доверенному центру сертификации. Возникают следующие опасности:
Ваши данные могут оказаться в распоряжении неизвестных вам людей — разработчиков специальных программ.
Сертификат может быть установлен вредоносным ПО, притворяющимся специальной программой. Сегодня браузеры не умеют проверять подлинность таких сертификатов.
Браузер предупреждает о таких проблемах:
Чтобы посетить сайт:
Выясните, какая программа заменила сертификат. Для этого нажмите на странице предупреждения соответствующую ссылку.
- Решите, готовы ли вы доверить свои личные данные изготовителю сертификата:
Если готовы, нажмите Перейти на сайт.
- Если не готовы, отключите в программе проверку соединений HTTPS. Вы можете воспользоваться инструкциями для программ:
Антивирус Касперского
ESET NOD32
Dr.Web
AdGuard (помимо программы AdGuard существует одноименное расширение, которое не создает своих сертификатов, поэтому для него проверку отключать не нужно).
Внимание. Отключив проверку HTTPS, вы не останетесь без защиты. Браузер самостоятельно проверяет безопасность загружаемых файлов, блокирует вредоносные страницы и баннеры, использует дополнительную защиту для страниц банков и платежных систем.
Если после отключения проверки HTTPS Браузер продолжает предупреждать о подозрительном сертификате, а программа, установившая сертификат, вам не нужна, попробуйте временно закрыть эту программу.
Если вы столкнулись с подозрительным сайтом, напишите нам о нем через форму.
Написать в службу поддержки
Была ли статья полезна?
Как удалить сайт из Google
Вы когда-нибудь слышали поговорку «Интернет — это навсегда?»
Хотя это хорошее эмпирическое правило, оно ни в коем случае не является законом.
Есть много причин, по которым люди должны удалить принадлежащие им веб-сайты из Интернета.
Возможно, ваш веб-сайт содержит устаревшую информацию, которая вводит в заблуждение людей, которые ищут вашу компанию. Или, возможно, вы перешли на новый веб-сайт, а старый все еще отображается в результатах поиска.
В любом случае мы можем помочь.
В этой статье показано, как удалить веб-сайт из Google простыми и безболезненными действиями.
Начинаем!
Google и ваш веб-сайт
Прежде чем мы расскажем, как удалить веб-сайт из Google, вам нужно немного узнать о внутренней работе поисковой системы Google.
До появления поисковых систем Интернет представлял собой серию цифровых архивов. Хотя сегодня Интернет все еще похож на архив, мы теперь используем поисковые системы для получения информации.
Поисковая система Google обрабатывает ваш запрос в три простых шага всякий раз, когда вы что-то ищете.
- Во-первых, он использует сканеры Google для поиска веб-страниц и веб-сайтов, связанных с вашей темой поиска. Затем Google помещает эти веб-страницы и веб-сайты в короткий список.
- Затем Google просматривает свой короткий список, чтобы проанализировать содержание каждого списка. На этом этапе Google просматривает видеофайлы, изображения, текстовый контент и все остальное, что может проанализировать.
- Наконец, Google ранжирует проанализированные веб-страницы и веб-сайты от наиболее релевантных до наименее релевантных. Затем его поисковая система определяет, какие результаты больше всего подходят вам по вашему местоположению, предыдущему поведению в Интернете, языку и устройству (она не захочет показывать мобильным пользователям веб-сайт, не совместимый с мобильными устройствами). Затем Google показывает вам результаты.
Каждый раз, когда вы выполняете поиск в Google, Google сортирует миллионы веб-сайтов за несколько секунд. Это быстрое изменение стало возможным благодаря индексации и кэшированию поисковыми системами.
Давайте обсудим их дальше.
Знаете, говорят… «Интернет вечен… вроде» 😉 Узнайте, как быстро и легко удалить веб-сайт из Google ⬇️Нажмите, чтобы твитнуть
Что такое индексирование и кэширование в поисковых системах?
Индексирование — это процесс, который Google использует для сортировки информации в Интернете для быстрого предоставления ответов на поисковые запросы. Когда Google индексирует информацию, он сортирует веб-сайты в инвертированном индексе (также называемом «обратным индексом»). Инвертированный индекс — это база данных, содержащая информацию о ключевых элементах веб-сайта.
Инвертированные индексы используют «токенизацию». Это процесс обобщения контента по нескольким ключевым словам. Например, веб-сайты, продающие черные леггинсы, будут токенизированы такими ключевыми словами, как «леггинсы», «черные леггинсы» и «женские леггинсы».
Кэширование в поисковых системах — это отдельный процесс. Кэши — это снимки страницы, которые Google использует для понимания ее содержимого. Вы можете увидеть пример кэшированного веб-сайта ниже.
Удаление вашего веб-сайта почти ничего не значит, если Google закешировал его.
Google периодически использует кэши веб-сайтов, что означает, что некоторые кэши веб-сайтов обновлены, а другие нет. Естественно, удаления вашего веб-сайта недостаточно, чтобы удалить его, если Google закешировал его.
Google использует индексирование и кэширование поисковой системы, чтобы сократить объем работы, необходимой для получения точных результатов поиска. По сути, индексирование и кэширование позволяют Google понимать веб-сайт без тщательного его анализа.
Когда вы удаляете результат из Google, удаляется ли он во всем мире?
Когда вы удаляете результат из поисковой системы Google, вы удаляете его только из Google. К сожалению, это означает, что результат может по-прежнему отображаться в других поисковых системах, таких как Bing и Yahoo.
Кроме того, Google может переиндексировать результаты поиска или сохранить кэш веб-страницы. Поисковая система Google постоянно переиндексирует веб-сайты, чтобы предоставить пользователям наиболее точную информацию. Если вы удалите результат поиска, но не удалите веб-страницу, изображения и URL-адрес, Google может повторно проиндексировать контент и снова вывести его в список.
Если вы хотите полностью удалить веб-сайт из Интернета, вам необходимо удалить все его следы, включая содержимое веб-сайта, изображения, URL-адрес и результаты поиска. Мы подробно рассмотрим этот процесс позже.
Но сначала давайте рассмотрим «почему».
Причины удалить веб-сайт из Google
Существует множество причин, по которым человек может захотеть удалить веб-сайт. В этом разделе мы описали шесть наиболее распространенных причин удаления и рекомендуемый порядок действий для каждой из них.
Причина 1: информация на веб-сайте устарела или неверна
Если Google отображает неверную информацию, это может ввести в заблуждение вашу аудиторию и запутать людей. Есть три способа исправить страницу Google с неверной информацией:
- Исправить информацию
- Удалить сайт
- Удалить сайт из результатов поиска.
Причина 2: веб-сайт или веб-страницы, которые вы хотите удалить , являются дубликатами
Иногда Google отображает несколько результатов поиска для одной и той же веб-страницы. Эта проблема обычно возникает со списками интернет-магазинов, где веб-сайт содержит похожие веб-страницы с разными продуктами (например, разные страницы для красных, зеленых, синих и черных леггинсов). В этой ситуации вы можете удалить повторяющиеся списки из результатов поиска.
Причина 3: Веб-сайт или веб-страница содержит утечку информации
Иногда компании нажимают «опубликовать» на веб-сайте или веб-странице, которые должны были оставаться закрытыми (например, страницы новых продуктов). Вам нужно отменить публикацию своего веб-сайта и удалить его из результатов поиска, чтобы решить эту проблему.
Причина 4: Google кэшировал веб-сайт
Google постоянно переиндексирует веб-сайты, чтобы предоставлять обновленные и точные результаты поиска. Однако, если вы удалили или изменили свой веб-сайт, Google может использовать устаревший кеш. В этой ситуации вы захотите удалить веб-сайт из результатов поиска и подать запрос в Google на повторную индексацию вашего сайта.
Причина 5: Информация на веб-странице является частной
Иногда личная информация становится общедоступной в результате несчастных случаев, ошибок или утечки информации. Если это случилось с вами, мы рекомендуем удалить веб-сайт. Если вы не контролируете веб-сайт и он содержит личную информацию или дискредитирующий контент, вы можете попросить Google удалить его. Вы также можете связаться с владельцем сайта напрямую.
Причина 6: третье лицо взломало ваш веб-сайт
Если кто-то взломал ваш веб-сайт, любой посетитель может подвергнуться риску кибербезопасности. Чтобы обезопасить свою аудиторию от вредоносных программ, вам нужно удалить веб-сайт или удалить его из результатов поиска.
Помня об этих причинах, следующие два раздела будут посвящены удалению веб-сайта из Google и удалению веб-сайта из результатов поиска Google.
Как удалить веб-сайт из Google
Удаление веб-сайта из Google — это многоэтапный процесс, но он несложный. Если вы хотите полностью удалить веб-сайт из Google, вам просто нужно выполнить следующие действия.
Шаг 1. Создайте резервную копию своего веб-сайта
Перед началом процесса удаления веб-сайта не забудьте сделать резервную копию своего веб-сайта. Как только вы удалите свой веб-сайт из Google, вы не сможете легко восстановить его. Это означает, что вы потеряете свои изображения, видео и текстовый контент.
Если есть шанс, что вы когда-нибудь захотите вернуть эти вещи, мы рекомендуем сделать резервную копию вашего веб-сайта. Если вы используете Kinsta, вы можете создать резервную копию своего веб-сайта, выполнив следующие действия:
- Перейдите в «MyKinsta» и нажмите «Резервные копии».
- Перейдите на вкладку «Загрузка».
- Нажмите «Создать резервную копию сейчас». Kinsta отправит вам резервную копию вашего сайта по электронной почте в виде файла архива (.zip).
- Откройте электронное письмо от Kinsta и нажмите «Загрузить резервную копию сейчас».
- Сохраните резервную копию на свой компьютер.
Сделайте резервную копию вашего сайта с помощью MyKinsta.
Если вы используете другой хостинг, вам нужно будет следовать его инструкциям по резервному копированию вашего сайта. Кроме того, вы можете использовать стороннее программное обеспечение для резервного копирования веб-сайтов.
Шаг 2. Переименуйте и защитите паролем свой веб-сайт
После того, как вы загрузили резервную копию своего веб-сайта, вам нужно сделать так, чтобы людям было трудно его найти. Позже в этом процессе мы проведем вас через удаление вашего веб-сайта из результатов поиска Google. Но сначала нам нужно запретить пользователям Google посещать ваш веб-сайт.
Есть два способа ограничить доступ к вашему веб-сайту: переименовать его и защитить паролем.
- Перейдите в «MyKinsta» и нажмите «Сайты».
- Найдите веб-сайт, который вы хотите переименовать, и нажмите «Основные сведения».
- Выберите «Переименовать сайт» и дайте своему веб-сайту новое имя во всплывающем виджете.
- Нажмите «Переименовать сайт», чтобы сохранить новое имя.
Вы можете увидеть этот процесс на изображении ниже.
Переименуйте свой веб-сайт в панели управления MyKinsta.
Далее вам нужно защитить паролем свой веб-сайт. Чтобы добавить пароль на свой веб-сайт в Kinsta с HTTP-аутентификацией, выполните следующие действия:
- Перейдите в «MyKinsta» и нажмите «Сайты».
- Выберите «Инструменты» в меню в левой части экрана.
- Найдите «Защита паролем» и нажмите «Включить».
- Выберите имя пользователя и пароль.
Вы можете увидеть экран защиты паролем Kinsta на изображении ниже.
Защита паролем в MyKinsta.
Если вы пользуетесь услугами другого хостинг-провайдера, вам нужно будет обратиться к их инструкциям, чтобы переименовать и защитить паролем свой веб-сайт (хотя эти процессы обычно очень похожи).
Шаг 3. Удалите свой веб-сайт через хост
Для следующего шага вам потребуется удалить свой веб-сайт через хост. В этом разделе мы собрали инструкции по удалению вашего веб-сайта на Kinsta, WordPress.com и Google Sites. Если вы пользуетесь услугами другого поставщика, вам необходимо напрямую обратиться к его инструкциям.
Kinsta
Если вы размещаете свой веб-сайт через Kinsta, его удаление — простой процесс. Все, что вам нужно сделать, это выполнить следующие шаги:
- Перейдите в «MyKinsta» и нажмите «Сайты».
- Прокрутите до веб-сайта, который хотите удалить, и нажмите «Удалить сайт».
- Затем Kinsta попросит вас подтвердить, что вы удалите свой веб-сайт с помощью всплывающего окна. В этом всплывающем окне установите флажки «Файлы и база данных для editwp будут удалены» и «Файлы и база данных в промежуточной среде для editwp также будут удалены».
- Введите название вашего веб-сайта, тире и слово «live» в следующем формате: «Sitename-live».
- Нажмите «Удалить сайт».
Удалить сайт в MyKinsta одним нажатием кнопки.
WordPress
Если вы используете WordPress.com или WordPress.org, вы также можете удалить свой веб-сайт напрямую через настройки WordPress.
Вот как:
- Войдите в WordPress.
- Нажмите «Управление», затем «Настройки».
- Прокрутите страницу вниз и нажмите «Удалить сайт навсегда».
- На этом этапе WordPress предоставит вам возможность экспортировать содержимое вашего веб-сайта в виде файла .zip. Если вы когда-нибудь захотите восстановить свой веб-сайт, вы можете просто повторно загрузить этот файл.
- Нажмите «Удалить сайт» и введите URL своего веб-сайта в текстовое поле для подтверждения.
- Нажмите «Удалить этот сайт» еще раз для подтверждения.
Если вы используете WordPress.com, вы также можете удалить свою учетную запись напрямую. Удаление вашей учетной записи приведет к удалению всех веб-сайтов, связанных с ней. Чтобы удалить свою учетную запись, выполните следующие действия:
- Войдите в WordPress.
- Перейдите в «Настройки учетной записи».
- Нажмите «Закрыть учетную запись навсегда».
- Просмотрите содержимое и нажмите «Закрыть учетную запись».
Сайты Google
Если вы управляете своим веб-сайтом через Сайты Google, вы также можете удалить свой сайт там. В настоящее время пользователи Сайтов Google используют либо Новые Сайты Google, либо Классические Сайты Google. Шаги немного отличаются для каждого.
Удаление нового сайта Google
- Перейти на новые сайты Google.
- Выберите веб-сайт, который хотите удалить, и нажмите «Еще».
- Щелкните значок корзины или «Удалить».
- Очистите корзину Google Диска, чтобы навсегда удалить данные своего веб-сайта.
Удаление классического сайта Google
- Переход к классическим сайтам Google.
- Щелкните значок настроек.
- Выберите «Управление сайтом».
- Нажмите «Общие» и «Удалить этот сайт».
- Подтвердите, нажав «Удалить».
После того, как вы удалили свой веб-сайт через хост вашего веб-сайта, вам необходимо удалить его из Google. Хотя поисковая система Google постоянно обновляет свои списки, чтобы удалить старый контент, ваш веб-сайт может появиться в результатах поиска Google после того, как вы его удалили.
Мы покажем вам, как удалить ваш веб-сайт из результатов поиска, выполнив следующие несколько шагов.
Шаг 4. Подайте запрос на удаление URL
Google позволяет владельцам веб-сайтов удалять URL-адреса из поисковой системы Google с помощью запроса на удаление URL-адресов. Этот процесс временно удалит старый контент из результатов поиска, пока Google обновляет свои списки. Если ваш URL будет удален, он не будет отображаться в результатах поиска примерно в течение шести месяцев. Вы всегда можете подать еще один запрос на удаление после повторного включения вашего контента в список.
Чтобы отправить запрос на удаление URL, вам необходимо войти в Google Search Console. Затем вам нужно нажать «Удаления» и выбрать «Новый запрос». Это вызовет этот экран.
Запрос на удаление URL в Google.
Далее вам нужно ввести URL-адрес в текстовую строку. Выберите «Удалить только этот URL-адрес» или «Удалить все URL-адреса с этим префиксом». Если вы выберете «Удалить все URL-адреса с этим префиксом», вы сможете заблокировать проиндексированные страницы с таким же префиксом, например «kinsta.com/resources».
После того, как вы выбрали свой вариант, нажмите «Далее», а затем «Отправить запрос».
Google рассмотрит ваш запрос на удаление URL и сообщит вам о результате. Важно отметить, что если Google успешно удалит ваш URL-адрес из результатов поиска, он не пометит этот URL-адрес как спам и не поместит его в черный список. SEO вашего сайта также останется неизменным.
Шаг 5. Отправьте запрос на удаление контента в Google
Со временем поисковая система Google определяет удаленные веб-сайты или веб-страницы и удаляет их из результатов поиска. Однако этот процесс может занять несколько месяцев, поскольку в Интернете находится более 1,8 миллиарда веб-сайтов.
Чтобы быстро удалить свой веб-сайт или веб-страницу из результатов поиска, вы можете отправить запрос на удаление контента в Google.
Запрос на удаление контента применяется только в следующих случаях:
- Вы являетесь владельцем веб-сайта.
- Вы удалили или изменили веб-сайт.
Подать запрос на удаление контента очень просто. Во-первых, вам нужно открыть страницу инструмента удаления устаревшего контента Google Search Console и войти в свою учетную запись Google. Затем вам нужно нажать кнопку «Новый запрос». Эта опция вызовет виджет ниже.
Удалить устаревший контент в Google Search Console.
Выберите опцию «Страница» и введите адрес своей веб-страницы или веб-сайта. Нажмите «Отправить». Затем Google выполнит поиск веб-страницы и подтвердит, что вы ее удалили.
Google сортирует все запросы на удаление устаревшего контента перед их обработкой. Скорее всего, они обработают ваш запрос в течение нескольких дней, но вы можете в любое время просмотреть статус своего запроса в Google Search Console. Если вы передумаете, вы также можете отменить свой запрос на удаление.
Шаг 6. Удалить содержимое с Wayback Machine
Wayback Machine.
После того, как вы удалили свой контент из Интернета и результатов поиска Google, большинство следов вашего веб-сайта исчезли. Однако, если ваш веб-сайт получил много трафика, посетитель мог зафиксировать это в Wayback Machine.
Wayback Machine — это некоммерческий интернет-архив, в котором хранится более 350 миллионов веб-страниц. Если кто-то добавил ваш веб-сайт в Wayback Machine, Google может случайно кэшировать и повторно проиндексировать его, вернув его в результаты поиска.
Вы можете проверить, задокументирован ли ваш веб-сайт в Wayback Machine, посетив «archive.org/web/» и введя свой URL-адрес. Это поднимет любые списки для вашего сайта.
Если вы не можете найти свой веб-сайт в Wayback Machine, вы можете перейти к следующему разделу. В противном случае вам нужно будет связаться с командой Wayback Machine через «[email protected]» и попросить удалить ваш URL. Обратите внимание, что для обработки вашего запроса вы должны указать свой URL-адрес в электронном письме.
Шаг 7. Подтверждение удаления вашего веб-сайта
Удаление вашего веб-сайта из Google может занять несколько дней. Это связано с тем, что Google должен обрабатывать ваши URL-адреса и запросы на удаление контента, что не является мгновенным процессом.
После того, как вы выполнили предыдущие шаги, вам необходимо еще раз убедиться, что ваш веб-сайт исчез, проверив следующее:
- Ваш URL не отображается в результатах поиска
- Хост вашего сайта удалил ваш сайт
- Google пометил ваш запрос на удаление контента как «Одобренный»
- Вы удалили все ссылки социальных сетей на свой сайт
- Вы удалили свой профиль Google Мой бизнес (если он у вас был)
Как удалить веб-сайт из поиска Google?
Хотя многие люди просто хотят удалить свой веб-сайт из Интернета, это решение подходит не всем. Если вы собираетесь сохранить свою веб-страницу или веб-сайт в сети, но не хотите, чтобы они отображались в результатах поиска, этот раздел для вас.
Вы можете удалить свой контент из поисковой системы Google, выполнив два простых шага.
Шаг 1. Удалите URL-адрес из Google
Во-первых, вам необходимо отправить запрос на удаление URL-адреса в Google. Чтобы отправить запрос на удаление URL, просто:
- Войдите в Google Search Console.
- Нажмите «Удаления».
- Нажмите «Новый запрос».
- Введите URL-адрес и нажмите «Далее».
- Нажмите «Отправить».
Кроме того, вы всегда можете перенаправить свой URL-адрес на другую (активную) веб-страницу. Перенаправление вашего URL-адреса — отличный компромисс, если URL-адрес получает хороший трафик поисковой системы, но вы переместили контент на другую страницу.
Шаг 2. Предотвратите повторную индексацию контента Google
Наконец, вам необходимо предпринять шаги, чтобы предотвратить повторную индексацию вашего URL Google. Для этого вам просто нужно добавить тег noindex
на свою веб-страницу или веб-сайт. Тег noindex
— это метатег, который вы размещаете в HTML-коде своего веб-сайта. Когда сканеры Google найдут веб-сайт с метатегом noindex
, Google исключит вашу страницу из результатов поиска.
Чтобы добавить метатег noindex
к вашему URL-адресу, вам необходимо:
- Доступ к исходному коду вашего URL.
- Найдите раздел.
- Добавьте этот метатег в раздел: «».
- Сохраните код.
После добавления тега noindex
Google прекратит переиндексацию вашего сайта.
Можете ли вы удалить изображения из результатов поиска Google?
Естественно, веб-страницы и веб-сайты — не единственное, что вы можете удалить из Google. Google также удаляет устаревшие изображения из Google Image Search по запросу владельца изображения.
Подать запрос на удаление устаревшего изображения в Google Search Console довольно просто. Чтобы подать запрос, перейдите к инструменту удаления устаревшего контента и нажмите «Новый запрос». Это вызовет опцию «Страница», поэтому вместо этого вам нужно выбрать опцию «Изображение». Затем вставьте URL-адрес устаревшего изображения в текстовое поле и нажмите «Отправить».
Вы можете удалить изображение из поискового запроса с помощью Google.
Google обработает ваш запрос и сообщит вам о результате. Если ваш запрос будет успешным, Google удалит изображение из Картинок Google. Обратите внимание, что этот инструмент работает только с удаленными изображениями, а не с «живыми» изображениями.
Хотите удалить старый веб-сайт? ✅ В этом посте вы рассказали 💪Нажмите, чтобы твитнуть
Резюме
Хотя Интернет может показаться очень постоянным местом, это не всегда так. Если вам нужно удалить контент, это может произойти. Удаление веб-сайта из Google возможно, если вы выполните описанные выше действия.
Однако вы должны помнить, что нет возможности восстановить удаленный сайт, если у вас нет резервной копии.
Перед удалением веб-сайта всегда делайте резервную копию содержимого веб-сайта и подумайте, решит ли проблему удаление URL-адреса из результатов поиска.
Получите все свои приложения, базы данных и сайты WordPress онлайн и под одной крышей. Наша многофункциональная высокопроизводительная облачная платформа включает в себя:
- Простая настройка и управление в панели управления MyKinsta
- Экспертная поддержка 24/7
- Лучшее оборудование и сеть Google Cloud Platform на базе Kubernetes для максимальной масштабируемости
- Интеграция Cloudflare корпоративного уровня для скорости и безопасности
- Глобальный охват аудитории до 35 центров обработки данных и 300 точек присутствия по всему миру
Начните с бесплатной пробной версии нашего хостинга приложений или хостинга баз данных. Ознакомьтесь с нашими планами или поговорите с отделом продаж, чтобы найти наиболее подходящий вариант.
5 способов подготовиться к закрытию сайта
Вы планируете закрыть свой сайт на день или дольше? Согласно совету Джона Мюллера, эксперта по поиску Google, вот пять способов подготовиться.
Мюллер делится этим советом в твиттере, ссылаясь на соответствующие страницы справки Google.
Спойлер 904:20 — нет хорошего способа временно закрыть сайт. Вам следует избегать этого, если это вообще возможно.
Однако есть вещи, которые вы можете сделать, чтобы свести негативное воздействие к минимуму.
Рекомендации Мюллера включают:
- Использовать код состояния HTTP 503
- Поддерживать HTTP 503 не более суток
- Изменить файл robots.txt, чтобы он возвращал код состояния 200
- Будьте готовы к последствиям, если сайт не работает более суток
- Ожидайте уменьшения сканирования от робота Googlebot
Более подробная информация об этих рекомендациях и о том, как бороться с негативными последствиями перевода сайта в автономный режим, объясняется в следующих разделах.
1. Код состояния HTTP 503
При переводе веб-сайта в автономный режим убедитесь, что он передает поисковым роботам код состояния HTTP 503.
Когда поисковые роботы, такие как Googlebot, обнаруживают код состояния 503, они понимают, что сайт недоступен, и могут стать доступными позже.
С кодом 503 сканеры знают, что нужно снова проверить сайт, а не удалить его из поискового индекса Google.
Мюллер объясняет, как проверить код состояния 503 с помощью Chrome:
1. Они должны использовать HTTP 503 для «закрытых» страниц. Вы можете проверить это в Chrome, щелкнув правой кнопкой мыши: «Проверить», выберите «Сеть» вверху, затем обновите страницу. Проверьте верхнюю запись, она должна быть красной и показывать статус 503. pic.twitter.com/dkH7VE7OTb
— 🌽〈link href=//johnmu.com rel=canonical 〉🌽 (@JohnMu) 19 сентября 2022 г.
столкнувшись с 503, но он не будет возвращаться навсегда.
Если робот Googlebot видит код 503 день за днем, он в конечном итоге начнет удалять страницы из индекса.
Мюллер говорит, что в идеале вы должны хранить код состояния 503 не более суток.
«Сохранять статус 503 — в идеале — максимум сутки. Я знаю, не все ограничивается 1 днем. «Постоянный» 503 может привести к исключению страниц из поиска. Будьте экономны с 503 раза. Не беспокойтесь о настройке «повторить попытку после».
3. Robots.txt — 200 Код состояния
В то время как страницы закрытого веб-сайта должны возвращать код состояния 503, файл robots.txt должен возвращать код состояния 200 или 404.
Robots.txt не должен показывать ошибку 503, говорит Мюллер. Робот Google будет считать, что сканирование сайта полностью заблокировано.
Кроме того, Мюллер рекомендует использовать Chrome DevTools для проверки файла robots.txt вашего веб-сайта:
2. Файл robots.txt должен возвращать либо 200 + правильный файл robots.txt, либо 404. Он должен *не* возвращать 503. Никогда не верьте, если на странице отображается «404», это все еще может быть 503 — проверьте это. pic.twitter.com/nxN2kCeyWm
— 🌽〈link href=//johnmu.com rel=canonical 〉🌽 (@JohnMu) 19 сентября 2022 г.
перевести сайт в автономный режим и избежать всех негативных последствий.
Если ваш веб-сайт будет отключен более суток, подготовьтесь соответствующим образом.
Мюллер говорит, что страницы, скорее всего, выпадут из результатов поиска независимо от кода состояния 503:
«Хм… Что, если сайт хочет закрыться более чем на 1 день? Независимо от того, какой вариант вы выберете (503, заблокировано, без индекса, 404, 403), будут негативные последствия — страницы, скорее всего, выпадут из результатов поиска».
Когда вы снова «откроете» свой веб-сайт, проверьте, индексируются ли важные страницы. Если нет, отправьте их на индексацию.
5. Ожидайте сокращения сканирования
Неизбежным побочным эффектом обслуживания кода 503 является сокращение сканирования, независимо от того, как долго оно длится.
Ваш комментарий будет первым