WPBeginner’da milyonlarca kullanıcıya web sitelerini arama için nasıl optimize edecekleri ve organik trafiklerini nasıl artıracakları konusunda rehberlik ettik. Yeni başlayanların genellikle göz ardı ettiği SEO’nun bir yönünün, arama motorlarının web sitenizi keşfetmesine, taramasına ve dizine eklemesine yardımcı olan robots.txt dosyası olduğunu gördük.
Bu basit metin dosyası, arama motoru botlarına sitenizin hangi bölümlerine erişecekleri ve hangilerini yalnız bırakacakları konusunda rehberlik eden bir dizi talimat görevi görür.
Robots.txt dosyanızı optimize ederek, arama motorlarının en önemli içeriğinizi taramaya ve dizine eklemeye odaklanmasını sağlayabilir ve web sitenizin daha az önemli alanlarında kaynaklarını boşa harcamalarını önleyebilirsiniz.
Bu makale, WordPress web siteniz için mükemmel şekilde optimize edilmiş bir robots.txt dosyasının nasıl oluşturulacağına ve SEO potansiyelinizi en üst düzeye çıkarmanıza ilişkin bazı ipuçları gösterecektir.
Robots.txt dosyası nedir?
Robots.txt, web sitesi sahiplerinin arama motoru botlarına sitelerindeki sayfaları nasıl tarayacaklarını ve dizine ekleyeceklerini anlatmak için oluşturabilecekleri bir metin dosyasıdır.
Genellikle web sitenizin kök dizininde (ana klasör olarak da bilinir) saklanır. Bir robots.txt dosyası için temel format şuna benzer:
User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
User-agent: [user-agent name]
Allow: [URL string to be crawled]
Sitemap: [URL of your XML Sitemap]
Belirli URL’lere izin vermek veya vermemek için birden fazla talimat satırına sahip olabilir ve birden fazla site haritası ekleyebilirsiniz. Bir URL’ye izin vermezseniz, arama motoru botları bu URL’yi taramalarına izin verildiğini varsayar.
İşte bir robots.txt örnek dosyası nasıl görünebilir:
User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-admin/
Sitemap: https://example.com/sitemap_index.xml
Yukarıdaki robots.txt örneğinde, arama motorlarının WordPress uploads klasörümüzdeki dosyaları taramasına ve dizine eklemesine izin verdik.
Bundan sonra, arama botlarının eklentileri ve WordPress yönetici klasörlerini taramasına ve indekslemesine izin vermedik.
Son olarak, XML site haritamızın URL’sini sağladık.
WordPress Siteniz İçin Robots.txt Dosyasına İhtiyacınız Var mı?
Bir robots.txt dosyanız yoksa, arama motorları web sitenizi taramaya ve dizine eklemeye devam edecektir. Ancak, onlara hangi sayfaları veya klasörleri taramamaları gerektiğini söyleyemezsiniz.
Bir bloga ilk başladığınızda ve çok fazla içeriğiniz olmadığında bunun çok fazla etkisi olmayacaktır.
Ancak web siteniz büyüdükçe ve daha fazla içerik ekledikçe, web sitenizin nasıl tarandığı ve dizine eklendiği üzerinde daha iyi kontrol sahibi olmak isteyebilirsiniz.
İşte nedeni.
Arama botlarının her web sitesi için bir tarama kotası vardır.
Bu, bir tarama oturumu sırasında belirli sayıda sayfayı taradıkları anlamına gelir. Sitenizdeki tüm sayfaları taramayı bitirmeden önce tarama bütçelerini kullanırlarsa, bir sonraki oturumda geri gelip taramaya devam ederler.
Bu, web sitenizin dizine eklenme oranını yavaşlatabilir.
Bunu, arama botlarının WordPress yönetici sayfalarınız, eklenti dosyalarınız ve temalar klasörünüz gibi gereksiz sayfaları taramaya çalışmasına izin vermeyerek düzeltebilirsiniz.
Gereksiz sayfalara izin vermeyerek tarama kotanızdan tasarruf edersiniz. Bu, arama motorlarının sitenizdeki daha fazla sayfayı taramasına ve mümkün olduğunca çabuk dizine eklemesine yardımcı olur.
Robots.txt dosyası kullanmak için bir başka iyi neden de arama motorlarının web sitenizdeki bir gönderiyi veya sayfayı dizine eklemesini engellemek istediğiniz zamandır.
Bu, içeriği genel halktan gizlemenin en güvenli yolu değildir, ancak içeriğin arama sonuçlarında görünmesini engellemenize yardımcı olacaktır.
İdeal Bir Robots.txt Dosyası Nasıl Görünür?
Birçok popüler blog çok basit bir robots.txt dosyası kullanır. İçerikleri, belirli bir sitenin ihtiyaçlarına bağlı olarak değişebilir:
User-agent: *
Disallow:
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Bu robots.txt dosyası tüm botların tüm içeriği indekslemesine izin verir ve onlara web sitesinin XML site haritalarına bir bağlantı sağlar.
WordPress siteleri için robots.txt dosyasında aşağıdaki kuralları öneriyoruz:
User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Bu, arama botlarına tüm WordPress resimlerini ve dosyalarını indekslemelerini söyler. Arama botlarının WordPress yönetici alanını, benioku dosyasını ve gizlenmiş bağlı kuruluş bağlantılarını dizine eklemesini engeller.
Robots.txt dosyasına site haritaları ekleyerek, Google botlarının sitenizdeki tüm sayfaları bulmasını kolaylaştırırsınız.
Artık ideal bir robots.txt dosyasının neye benzediğini bildiğinize göre, WordPress’te nasıl robots.txt dosyası oluşturabileceğinize bir göz atalım.
WordPress’te Robots.txt Dosyası Nasıl Oluşturulur
WordPress’te robots.txt dosyası oluşturmanın iki yolu vardır. Sizin için en uygun olan yöntemi seçebilirsiniz.
Yöntem 1: All in One SEO Kullanarak Robots.txt Dosyasını Düzenleme
AIOSEO olarak da bilinenAll in One SEO, 3 milyondan fazla web sitesi tarafından kullanılan piyasadaki en iyi WordPress SEO eklentisidir. Kullanımı kolaydır ve bir robots.txt dosya oluşturucu ile birlikte gelir.
Daha fazla bilgi edinmek için ayrıntılı AIOSEO incelememize bakın.
AIOSEO eklentisini henüz yüklemediyseniz, bir WordPress eklentisinin nasıl yükleneceğine ilişkin adım adım kılavuzumuza bakabilirsiniz.
Not: AIOSEO’nun ücretsiz bir sürümü de mevcuttur ve bu özelliğe sahiptir.
Eklenti kurulduktan ve etkinleştirildikten sonra, robots.txt dosyanızı doğrudan WordPress yönetici alanınızdan oluşturmak ve düzenlemek için kullanabilirsiniz.
Robots.txt dosyanızı düzenlemek için All in One SEO ” Araçlar bölümüne gitmeniz yeterlidir.
İlk olarak, ‘Özel Robots.txt’yi Etkinleştir’ düğmesini maviye çevirerek düzenleme seçeneğini açmanız gerekir.
Bu geçiş açıkken, WordPress’te özel bir robots.txt dosyası oluşturabilirsiniz.
All in One SEO, mevcut robots.txt dosyanızı ekranınızın altındaki ‘Robots.txt Önizleme’ bölümünde gösterecektir.
Bu sürüm, WordPress tarafından eklenen varsayılan kuralları gösterecektir.
Bu varsayılan kurallar, arama motorlarına temel WordPress dosyalarınızı taramamalarını, botların tüm içeriği dizine eklemesine izin vermelerini ve sitenizin XML site haritalarına bir bağlantı sağlamalarını söyler.
Artık SEO için robots.txt dosyanızı iyileştirmek üzere kendi özel kurallarınızı ekleyebilirsiniz.
Bir kural eklemek için ‘Kullanıcı Aracısı’ alanına bir kullanıcı aracısı girin. Bir * işareti kullanmak kuralı tüm kullanıcı aracılarına uygulayacaktır.
Ardından, arama motorlarının taramasına ‘İzin Ver’ veya ‘İzin Verme’ seçeneklerinden birini seçin.
Ardından, ‘Dizin Yolu’ alanına dosya adını veya dizin yolunu girin.
Kural otomatik olarak robots.txt dosyanıza uygulanacaktır. Başka bir kural eklemek için ‘Kural Ekle’ düğmesine tıklamanız yeterlidir.
Yukarıda paylaştığımız ideal robots.txt formatını oluşturana kadar kural eklemenizi öneririz.
Özel kurallarınız aşağıdaki gibi görünecektir.
İşiniz bittiğinde, değişikliklerinizi kaydetmek için ‘Değişiklikleri Kaydet’ düğmesine tıklamayı unutmayın.
Yöntem 2: WPCode Kullanarak Robots.txt Dosyasını Düzenleme
WPCode, web sitenize kolayca ve güvenli bir şekilde özel kod eklemenizi sağlayan güçlü bir kod parçacıkları eklentisidir.
Ayrıca robots.txt dosyasını hızlı bir şekilde düzenlemenizi sağlayan kullanışlı bir özellik de içerir.
Not: Ayrıca bir WPCode Ücretsiz Eklentisi de vardır, ancak dosya düzenleyici özelliğini içermez.
Yapmanız gereken ilk şey WPCode eklentisini yüklemektir. Adım adım talimatlar için WordPress eklentisinin nasıl kurulacağına ilişkin başlangıç kılavuzumuza bakın.
Etkinleştirme sırasında WPCode ” Dosya Düzenleyici sayfasına gitmeniz gerekir. Orada, dosyayı düzenlemek için ‘robots.txt’ sekmesine tıklamanız yeterlidir.
Şimdi robots.txt dosyasının içeriğini yapıştırabilir veya yazabilirsiniz.
İşiniz bittiğinde, ayarları kaydetmek için sayfanın altındaki ‘Değişiklikleri Kaydet’ düğmesine tıkladığınızdan emin olun.
Yöntem 3: Robots.txt Dosyasını FTP Kullanarak Manuel Olarak Düzenleme
Bu yöntemde robots.txt dosyasını düzenlemek için bir FTP istemcisi kullanmanız gerekecektir. Alternatif olarak, WordPress hosting’iniz tarafından sağlanan dosya yöneticisini kullanabilirsiniz.
Bir FTP istemcisi kullanarak WordPress web sitesi dosyalarınıza bağlanmanız yeterlidir.
İçeri girdikten sonra, web sitenizin kök klasöründe robots.txt dosyasını görebileceksiniz.
Eğer bir tane göremiyorsanız, muhtemelen robots.txt dosyanız yoktur.
Bu durumda, devam edip bir tane oluşturabilirsiniz.
Robots.txt düz bir metin dosyasıdır, yani bilgisayarınıza indirebilir ve Notepad veya TextEdit gibi herhangi bir düz metin düzenleyicisi kullanarak düzenleyebilirsiniz.
Değişikliklerinizi kaydettikten sonra robots.txt dosyasını web sitenizin kök klasörüne geri yükleyebilirsiniz.
Robots.txt Dosyanızı Nasıl Test Edebilirsiniz?
Robots.txt dosyanızı oluşturduktan sonra, bir robots.txt test aracı kullanarak test etmek her zaman iyi bir fikirdir.
Piyasada birçok robots.txt test aracı var, ancak biz Google Search Console içindeki aracı kullanmanızı öneririz.
Öncelikle, web sitenizin Google Search Console ile bağlantılı olması gerekir. Bunu henüz yapmadıysanız, WordPress sitenizi Google Search Console’a nasıl ekleyeceğinize ilişkin kılavuzumuza bakın.
Ardından, Google Search Console Robots Test Aracı‘nı kullanabilirsiniz.
Açılır listeden tesisinizi seçmeniz yeterlidir.
Araç, web sitenizin robots.txt dosyasını otomatik olarak getirecek ve herhangi bir hata bulursa hataları ve uyarıları vurgulayacaktır.
Son Düşünceler
Robots.txt dosyanızı optimize etmenin amacı, arama motorlarının herkese açık olmayan sayfaları taramasını önlemektir. Örneğin, wp-plugins klasörünüzdeki sayfalar veya WordPress yönetici klasörünüzdeki sayfalar.
SEO uzmanları arasında yaygın bir efsane, WordPress kategorilerini, etiketlerini ve arşiv sayfalarını engellemenin tarama hızını artıracağı ve daha hızlı indeksleme ve daha yüksek sıralamalarla sonuçlanacağıdır.
Bu doğru değil. Ayrıca Google’ın web yöneticisi yönergelerine de aykırıdır.
Web siteniz için bir robots.txt dosyası oluşturmak için yukarıdaki robots.txt formatını izlemenizi öneririz.
WordPress’te Robots.txt Kullanımı Hakkında Uzman Kılavuzları
Artık robots.txt dosyanızı nasıl optimize edeceğinizi bildiğinize göre, WordPress’te robots.txt kullanımı ile ilgili diğer bazı makaleleri görmek isteyebilirsiniz.
- Sözlük: Robots.txt
- Bir WordPress Sayfası Google’dan Nasıl Gizlenir
- Arama Motorlarının WordPress Sitesini Taraması Nasıl Engellenir?
- Bir WordPress Sitesi İnternetten Kalıcı Olarak Nasıl Silinir?
- WordPress’te PDF Dosyaları Nasıl Kolayca Gizlenir (Noindex)
- WordPress’te “Googlebot CSS ve JS dosyalarına erişemiyor” Hatası Nasıl Giderilir?
- WordPress için Hepsi Bir Arada SEO Nasıl Doğru Şekilde Kurulur (Nihai Kılavuz)
Umarız bu makale WordPress robots.txt dosyanızı SEO için nasıl optimize edeceğinizi öğrenmenize yardımcı olmuştur. Ayrıca nihai WordPress SEO kılavuzumuzu ve web sitenizi büyütmek için en iyi WordPress SEO araçları için uzman seçimlerimizi görmek isteyebilirsiniz.
If you liked this article, then please subscribe to our YouTube Channel for WordPress video tutorials. You can also find us on Twitter and Facebook.
Dennis Muthomi
I have to admit, I use the AIOSEO plugin but have always ignored the “Enable Custom Robots.txt” option because I didn’t want to mess anything up.
But I have read this article and I’m convinced it’s worth taking the time to optimize my site’s robots.txt file.
Amit Banerjee
If the whole template of robots.txt was given, it would have been of help.
WPBeginner Support
We did include the entire robots.txt
Yönetici
Moinuddin Waheed
Thanks for this informative post about robots.txt file.
I didn’t know that websites should maintain this file in order to have a control over Google bots that how should they crawl over our pages and posts.
for beginner websites just starting out, is there a need to have robots.txt file or is there a way like plugin which can a make a robots.txt file for our website?
WPBeginner Support
Most SEO plugins help with setting up the robots.txt for a new site to prevent bots from scrolling sections they shouuldn’t.
Yönetici
Jiří Vaněk
Thanks to this article, I checked the robots.txt file and added URL addresses with sitemaps. At the same time, I had other problematic lines there, which were revealed by the validator. I wasn’t familiar with sitemaps in robots.txt until now. Thanks.
WPBeginner Support
You’re welcome, glad our guide could help!
Yönetici
Stéphane
Hi,
Thanks for that post, it becomes clearer how to use the robots.txt file. On most websites that you find while looking for some advice regarding the robots.txt file, you can see that the following folders are explicitly excluded from crawling (for WordPress):
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
I don’t really understand the reasons to exclude those folders (is there one actually?). What would be your take regarding that matter?
WPBeginner Support
It is mainly to prevent anything in those folders from showing as a result when a user searches for your site. As that is not your content it is not something most people would want to appear for the site’s results.
Yönetici
zaid haris
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
GSC show the coverage error for “Disallow: /wp-admin/” Is this wrong?
WPBeginner Support
For most sites, you do not want anything from your wp-admin to appear as a search result so it is fine and expected to receive the coverage area when you deny Google the ability to scan your wp-admin.
Yönetici
Hansini
I am creating my robots.txt manually as you instructed for my WordPress site.
I have one doubt. when I write User-Agent: * won’t it allow another spamming robot to access my site?
Should I write User-Agent: * or User-Agent: Googlebot.?
WPBeginner Support
The User-Agent line is setting the rules that all robots should follow on your site, if you specify a specific bot on that line it would be setting rules for that specific bot and none of the others.
Yönetici
Nishant
What should we write to make google index my post?
WPBeginner Support
For having your site listed, you would want to take a look at our article below:
https://www.wpbeginner.com/beginners-guide/how-do-i-get-my-wordpress-site-listed-on-google-beginners-guide/
Yönetici
Sanjeev Pandey
should we also disallow /wp-content/themes/ ?
It is appearing in the search result when I run the command site:abcdef.com in google search
WPBeginner Support
You would not want to worry about blocking your themes folder and as you write SEO-friendly content you should no longer see the themes as a search result.
Yönetici
Salem
HI, What’s means ” Disallow: /readme.html & Disallow: /refer/ ” ?
WPBeginner Support
That means you’re telling search engines to not look at any referral links or the readme.html file.
Yönetici
sean
Hi, what are the pros and cons of blocking wp-content/uploads
Thank you
WPBeginner Support
If you block your uploads folder then search engines would not normally crawl your uploaded content like images.
Yönetici
Piyush
thanks for solve my problem
WPBeginner Support
You’re welcome
Yönetici
Ravi kumar
Sir i m very confused about robot.txt many time i submitted site map in blogger but the after 3,4 days coming the same issue what is the exactly robot.txt.. & how submit that please guide me
WPBeginner Support
It would depend on your specific issue, you may want to take a look at our page below:
https://www.wpbeginner.com/glossary/robots-txt/
Yönetici
Prem
If I no index a url or page using robots.txt file, does google shows any error in search console?
WPBeginner Support
No, Google will not list the page but if the page is listed it will not show an error.
Yönetici
Bharat
Hi
I have a question
i receive google search console coverage issue warning for blocked by robots.txt
/wp-admin/widgets.php
My question is, can i allow for wp-admin/widgets.php to robots.txt and this is safe?
WPBeginner Support
IF you wanted to you can but that is not a file that Google needs to crawl.
Yönetici
Anthony
Hi there, I’m wondering if you should allow: /wp-admin/admin-ajax.php?
WPBeginner Support
Normally, yes you should.
Yönetici
Jaira
May I know why you should allow /wp-admin/admin-ajax.php?
WPBeginner Support
It is used by different themes and plugins to appear correctly for search engines.
Amila
Hello! I really like this article and as I’m a beginner with all this crawling stuff I would like to ask something in this regard. Recently, Google has crawled and indexed one of my websites on a really terrible way, showing the pages in search results which are deleted from the website. The website didn’t have discouraged search engine from indexing in the settings of WordPress at the beginning, but it did later after Google showed even 3 more pages in the search results (those pages also doesn’t exist) and I really don’t understand how it could happen with “discourage search engine from indexing” option on. So, can the Yoast method be helpful and make a solution for my website to Google index my website on the appropriate way this time? Thanks in advance!
WPBeginner Support
The Yoast plugin should be able to assist in ensuring the pages you have are indexed properly, there is a chance before you discouraged search engines from crawling your site your page was cached.
Yönetici
Amila
Well yes and from all pages, it cached the once who doesn’t exist anymore. Anyway, as the current page is on “discourage” setting on, is it better to keep it like that for now or to uncheck the box and leave the Google to crawl and index it again with Yoast help? Thanks! With your articles, everything became easier!
WPBeginner Support
You would want to have Google recrawl your site once it is set up how you want.
Pradhuman Kumar
Hi I loved the article, very precise and perfect.
Just a small suggestion kindly update the image ROBOTS.txt tester, as Google Console is changed and it would be awesome if you add the link to check the robots.txt from Google.
WPBeginner Support
Thank you for the feedback, we’ll be sure to look into updating the article as soon as we are able.
Yönetici
Kamaljeet Singh
My blog’s robots.txt file was:
User-Agent: *
crawl-delay: 10
After reading this post, I have changed it into your recommended robots.txt file. Is that okay that I removed crawl-delay
WPBeginner Support
It should be fine, crawl-delay tells search engines to slow down how quickly to crawl your site.
Yönetici
reena
Very nicely described about robot.text, i am very happy
u r very good writer
WPBeginner Support
Thank you, glad you liked our article
Yönetici
JJ
What is Disallow: /refer/ page ? I get a 404, is this a hidden wp file?
Editorial Staff
We use /refer/ to redirect to various affiliate links on our website. We don’t want those to be indexed since they’re just redirects and not actual content.
Yönetici
Sagar Arakh
Thank you for sharing. This was really helpful for me to understand robots.txt
I have updated my robots.txt to the ideal one you suggested. i will wait for the results now
WPBeginner Support
You’re welcome, glad you’re willing to use our recommendations
Yönetici
Akash Gogoi
Very helpful article. Thank you very much.
WPBeginner Support
Glad our article was helpful
Yönetici
Zingylancer
Thanks for share this useful information about us.
WPBeginner Support
Glad we could share this information about the robots.txt file
Yönetici
Jasper
thanks for update information for me. Your article was good for Robot txt. file. It gave me a piece of new information. thanks and keep me updating with new ideas.
WPBeginner Support
Glad our guide was helpful
Yönetici
Imran
Thanks , I added robots.txt in WordPress .Very good article
WPBeginner Support
Thank you, glad our article was helpful
Yönetici