robots.txt oluşturucu

robots.txt, arama motorlarına sitenizde neyi tarayacaklarını ve sitemap'inizin yerini söyleyen küçük bir dosyadır. Aşağıdan ayarlayın, hazır dosyayı kopyalayıp sitenizin kök dizinine yükleyin.

robots.txt
User-agent: *
Allow: /

Sitemap: https://siteniz.com/sitemap.xml

Bu içeriği robots.txt adında bir dosyaya kaydedip sitenizin kök dizinine (public_html) yükleyin; yani siteniz.com/robots.txt adresinden açılmalı.

Nasıl kullanılır?

  1. Sitemap adresinizi yazın (genelde siteniz.com/sitemap.xml). Bu satır botlara sayfalarınızı bulmayı kolaylaştırır.
  2. Tüm siteyi taramaya açık bırakın ya da taranmasını istemediğiniz klasörleri (örneğin yönetim paneli veya sepet) listeleyin.
  3. İsterseniz yapay zeka eğitim botlarını engelleyin. Bu seçenek arama botlarını etkilemez.
  4. Çıkan metni robots.txt adıyla kaydedip sitenizin kök dizinine yükleyin ve siteniz.com/robots.txt adresinden açıldığını kontrol edin.

Bilmeniz gerekenler

Sık sorulan sorular

robots.txt dosyası zorunlu mu?

Zorunlu değildir; dosya yoksa botlar siteyi serbestçe tarar. Yine de sitemap adresini belirtmek ve gereksiz bölümleri taramadan çıkarmak için faydalıdır.

Yapay zeka eğitim botlarını engellersem aramalarda görünmemeye devam eder miyim?

Şirketler genelde eğitim ve arama botlarını ayırır, bu yüzden eğitim botlarını engellemek çoğu durumda arama görünürlüğünü doğrudan etkilemez. Güncel ayrıntı için ilgili şirketin dokümantasyonuna bakın.

Dosyada hata yaparsam ne olur?

En tehlikelisi 'Disallow: /' satırıdır; bu tüm siteyi tarama dışı bırakır. Yüklemeden önce çıktıyı gözden geçirin.

Oluşturduğunuz dosyanın doğru çalışıp çalışmadığını görmek için sitenizi Gofow ile ücretsiz denetleyin.