Trusted WordPress tutorials, when you need them most.
Beginner’s Guide to WordPress
WPB Cup
25 Million+
Websites using our plugins
16+
Years of WordPress experience
3000+
WordPress tutorials
by experts

Så här optimerar du din Robots.txt i WordPress för sökmotorsoptimering

Här på WPBeginner har vi przewodnikat miljontals användare om hur man optimerar sina webbplatser för sökning och ökar sin organiska trafik. Vi har upptäckt att en aspekt av SEO som nybörjare ofta förbiser är robots.txt-filen som hjälper sökmotorer att upptäcka, genomsöka och indexera din webbplats.

Denna enkla textfil fungerar som en uppsättning instruktioner som przewodnikar sökmotorrobotar om vilka delar av din webbplats de ska komma åt och vilka de ska lämna ifred.

Genom att optimera din robots.txt-fil kan du se till att sökmotorerna fokuserar på att genomsöka och indexera ditt viktigaste innehåll och samtidigt förhindra att de slösar resurser på mindre viktiga områden på din webbplats.

I den här artikeln får du några tips om hur du skapar en perfekt optimerad robots.txt-fil för din WordPress-webbplats, vilket maximerar din SEO-potential.

Optimizing robots.txt file for better SEO

Vad är en Robots.txt-fil?

Robots.txt är en textfil som webbplatsägare kan skapa för att tala om för sökmotorrobotar hur de ska crawla och indexera pages på deras webbplatser.

Den lagras vanligtvis i root directory (även känd som huvudfoldern) på din website. Det grundläggande formatet för en Robots.txt-fil gillar detta:

User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
 
User-agent: [user-agent name]
Allow: [URL string to be crawled]
 
Sitemap: [URL of your XML Sitemap]

You kan ha flera rader med instruktioner för att allow eller disallow specifika URL:er och add to flera sitemaps. Om du inte underkänner en URL antar sökmotorns bots att de har behörighet att crawla den.

Så här kan en Robots.txt-fil till exempel gilla att se ut:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-admin/

Sitemap: https://example.com/sitemap_index.xml

I exemplet ovan med Robots.txt har vi allowat search engines att crawla och indexera filer i vår WordPress uploads folder.

Därefter förbjöd vi sökrobotar att crawla och indexera tillägg och WordPress admin folders.

Slutligen har vi angett URL:en till vår XML-webbplatskarta.

Behöver du en Robots.txt-fil för din site i WordPress?

Om du inte har en Robots.txt-fil kommer search engines ändå att crawla och indexera din website. Du kommer dock inte att kunna tala om för dem vilka pages eller foldrar de ej ska crawla.

Detta kommer inte att ha någon större inverkan när du först startar en blogg och inte har så mycket content.

Men när din website växer och du addar till mer content kommer du sannolikt att vilja ha bättre control över hur din website crawlas och indexeras.

Här är skälet till detta.

Sökrobotar har en crawl-kvot för varje website.

Det innebär att de crawlar ett visst antal pages under en crawlsession. Om de använder upp sin crawl-budget innan de slutför crawlen av alla pages på your site, kommer de tillbaka och återupptar crawlen i nästa session.

Detta kan sakta ner indexeringshastigheten för din website.

Du kan fixa detta genom att inte tillåta sökrobotar att försöka crawla onödiga pages som gillar your WordPress admin pages, plugin files, and themes folder.

Genom att inte tillåta onödiga pages, save your crawl quota. Detta hjälper search engines att crawla ännu fler pages på din site och indexera dem så snabbt som möjligt.

En annan bra anledning att använda en Robots.txt-fil är när du vill hindra search engines från att indexera ett post eller en page på din website.

Det här är ej det säkraste sättet att dölja content från allmänheten, men det hjälper you att förhindra att content visas i sökresultat.

Hur gillar man en perfekt Robots.txt-fil?

Många populära bloggar använder en mycket enkel Robots.txt-fil. Deras content kan variera beroende på behoven hos den specifika webbplatsen:

User-agent: *
Disallow:

Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml

Den här filen Robots.txt allow alla bots att indexera allt content och ger dem en länk till webbplatsens XML sitemaps.

För WordPress webbplatser rekommenderar vi följande regler i filen Robots.txt:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/

Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml

Detta säger till sökrobotar att indexera alla WordPress images och filer. Det förhindrar sökrobotar från att indexera WordPress admin area, readme-fil och cloaked affiliate links.

Genom att lägga till sitemaps i filen robots.txt gör du det enkelt för Googles bots att hitta alla pages på din site.

Nu när du vet hur en perfekt Robots.txt-fil gillar att se ut ska vi ta en titt på hur du skapar en Robots.txt-fil i WordPress.

Så här skapar du en Robots.txt-fil i WordPress

Det finns två sätt att skapa en Robots.txt-fil i WordPress. Du kan välja den metod som fungerar bäst för dig.

Metod 1: Edit Robots.txt-fil med All in One SEO

All in One SEO, även känt som AIOSEO, är det bästa WordPress SEO plugin på marknaden, som används av över 3 miljoner webbplatser. Det är användarvänligt och levereras med en generator för filen robots.txt.

För att lära dig mer, se vår detaljerade AIOSEO review.

Om du inte redan har AIOSEO-pluginet installerat kan du se vår Step-by-Step guide om hur du installerar ett plugin för WordPress.

Note: En gratis version av AIOSEO är också available och har denna funktion.

När pluginet är installerat och aktiverat kan du använda det för att skapa och edit din Robots.txt-fil direkt från din WordPress admin area.

Gå bara till All in One SEO ” Tools för att redigera din robots.txt-fil.

Robots.txt file editor in All in One SEO

Först måste du aktivera alternativet edit genom att klicka på ”Enable Custom Robots.txt” toggle till blått.

Med denna Toggle aktiverad kan du skapa en custom robots.txt-fil i WordPress.

Enable custom robots.txt file

All in One SEO kommer att visa din befintliga robots.txt-fil i avsnittet ”Robots.txt Preview” längst ner på din vy.

Denna version visar standardreglerna som har lagts till av WordPress.

Robots.txt file preview in All in One SEO

Dessa standardregler säger till search engines att inte crawla dina WordPress core-filer, tillåter bots att indexera allt content och ger dem en länk till din sites XML-sitemaps.

Nu kan du add to dina egna custom regler för att förbättra din robots.txt för sökmotorsoptimering.

För att add to en regel, enter en användare i fältet ”User Agent”. Om du Tillämpar en * kommer regeln att tillämpas på alla användare.

Sedan väljer du om du vill ”Allow” eller ”Disallow” att search engines ska crawla.

Därefter anger du filnamnet eller sökvägen till directory i fältet ”Directory Path”.

Add robots file rules

Regeln kommer automatiskt att tillämpas på din Robots.txt. Om du vill add to en ny regel klickar du bara på knappen ”Add Rule”.

Vi rekommenderar att du lägger till regler tills du skapar det perfekta formatet Robots.txt som vi delade ovan.

Dina customize-regler kommer att se ut så här.

Custom robots txt file preview

När du är klar, glöm inte att clicka på knappen ”Save Changes” för att store dina ändringar.

Metod 2: Edit Robots.txt-fil med hjälp av WPCode

WPCode är ett kraftfullt code snippets plugin som låter dig lägga till custom code till din website enkelt och säkert.

Det innehåller också en praktisk funktion som gör att du snabbt kan edit filen Robots.txt.

Note: Det finns också ett WPCode Free Plugin, men det innehåller inte funktionen för filredigerare.

Det första du behöver göra är att installera pluginet WPCode. För Step-by-Step instruktioner, se vår guide för nybörjare om hur du installerar ett WordPress plugin.

Vid aktivering måste du navigera till WPCode ” File Editor page. Väl där klickar du bara på tabben ”robots.txt” för att editera filen.

WPCode robots.txt Editor

Nu kan du klistra in eller skriva in innehållet i filen robots.txt.

När du är slutförd, se till att du klickar på knappen ”Save Changes” längst ner på sidan för att lagra inställningarna.

Metod 3: Redigera filen Robots.txt manuellt med FTP

För den här metoden måste du använda en FTP-klient för att editera filen Robots.txt. Alternativt kan du använda filhanteraren som tillhandahålls av ditt WordPress webbhotell.

Anslut till filerna på din WordPress website med hjälp av en FTP-klient.

När du väl är inne kommer du att kunna se filen robots.txt i din websites root folder.

Edit robots file via FTP

Om du inte ser någon, har du troligen inte en Robots.txt-fil.

I så fall kan du bara gå vidare och skapa en.

Create new robots file

Robots.txt är en ren textfil, vilket innebär att du kan downloada den till din dator och editera den med en ren textredigerare som gillar Notepad eller TextEdit.

När du har saved dina ändringar kan du uploada filen robots.txt tillbaka till din websites root folder.

Så här testar du filen Robots.txt

När du har skapat din robots.txt-fil är det alltid en bra idé att testa den med hjälp av ett robots.txt-testverktyg.

Det finns många verktyg för att testa Robots.txt, men vi rekommenderar att du använder det som finns i Google Search Console.

Först måste du ha din website linkad med Google Search Console. Om du inte har gjort det än, se vår guide om hur du lägger till din WordPress site till Google Search Console.

Sedan kan du använda Google Search Console Robots Testing Tool.

Choose property

Välj bara din fastighet från dropdown-listan.

Tools hämtar automatiskt filen Robots.txt på din website och markerar error och varningar om den hittar några.

Robots Tester Tool

Slutliga tankar

Målet med att optimera filen Robots.txt är att förhindra search engines från att crawla pages som inte är offentligt available. Till exempel pages i din wp-plugins folder eller pages i din WordPress admin folder.

En vanlig myt bland sökmotorsoptimeringsexperter är att blockering av WordPress kategorier, tags och archive pages kommer att förbättra crawl-hastigheten och resultera i snabbare indexering och högre ranking.

Detta är inte sant. Det är också emot Googles riktlinjer för webbansvariga.

Vi rekommenderar att du följer ovanstående format för robots.txt för att skapa en robots.txt-fil för din website.

Expertguider för användning av Robots.txt i WordPress

Nu när du vet hur du optimerar din Robots.txt-fil kanske du gillar att läsa andra artiklar relaterade till att använda Robots.txt i WordPress.

Vi hoppas att den här artikeln hjälpte dig att lära dig hur du optimerar din Robots.txt-fil för WordPress för sökmotorsoptimering. Du kanske också vill se vår ultimata guide till sökmotorsoptimering i WordPress och våra expertval för de bästa WordPress SEO tools för att få din website att växa.

If you liked this article, then please subscribe to our YouTube Channel for WordPress video tutorials. You can also find us on Twitter and Facebook.

Avslöjande: Vårt innehåll stöds av våra läsare. Det innebär att om du klickar på några av våra länkar, kan vi tjäna en provision. Se hur WPBeginner finansieras, varför det är viktigt, och hur du kan stödja oss. Här är vår editoriala process.

Avatar

Editorial Staff at WPBeginner is a team of WordPress experts led by Syed Balkhi with over 16 years of experience in WordPress, Web Hosting, eCommerce, SEO, and Marketing. Started in 2009, WPBeginner is now the largest free WordPress resource site in the industry and is often referred to as the Wikipedia for WordPress.

Den ultimata WordPress-verktygslådan

Få GRATIS tillgång till vår verktygslåda - en samling WordPress-relaterade produkter och resurser som varje professionell användare bör ha!

Reader Interactions

132 kommentarerLämna ett svar

  1. Syed Balkhi

    Hey WPBeginner readers,
    Did you know you can win exciting prizes by commenting on WPBeginner?
    Every month, our top blog commenters will win HUGE rewards, including premium WordPress plugin licenses and cash prizes.
    You can get more details about the contest from here.
    Start sharing your thoughts below to stand a chance to win!

  2. Steve

    Thanks for this – how does it work on a WP Multisite thou?

    • WPBeginner Support

      For a multisite, you would need to have a robots.txt file in the root folder of each site.

      Administratör

  3. Pacifique Ndanyuzwe

    My wordpress site is new and my robot.txt by default is
    user-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    I want google to crawl and index my content. Is that robot.txt okay?

    • WPBeginner Support

      You can certainly use that if you wanted

      Administratör

  4. Ritesh Seth

    Great Airticle…

    I was confused from so many days about Robots.txt file and Disallow links. Have copied the tags for robots file. Hope this will solve the issue of my Site

    • WPBeginner Support

      We hope our article will help as well :)

      Administratör

  5. Kurt

    The files in the screenshots of your home folder are actually located under the public_html folder under my home folder.

    I did not have a /refer folder under my public_html folder.

    I did not have post or page xml files anywhere on my WP account.

    I did include an entry in the robots.txt file I created to disallow crawling my sandbox site. I’m not sure that’s necessary since I’ve already selected the option in WP telling crawlers not to crawl my sandbox site, but I don’t think it will hurt to have the entry.

    • WPBeginner Support

      Some hosts do rename public_html to home which is why you see it there. You would want to ensure Yoast is active for the XML files to be available. The method in this article is an additional precaution to help with preventing crawling your site :)

      Administratör

  6. Ahmed

    Great article

    • WPBeginner Support

      Thank you :)

      Administratör

  7. ASHOK KUMAR JADON

    Hello, such a nice article you solve my problem. So Thank You so much

    • WPBeginner Support

      Glad our article could help :)

      Administratör

  8. Elyn Ashton

    User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php <– This is my robot.txt code but im confuse why my /wp-admin is index? How to no index it?

    • WPBeginner Support

      If it was indexed previously you may need to give time for the search engine’s cache to clear

      Administratör

  9. Ashish kumar

    This website really inspire me to start a blog .Thank you lost of tema.this website each and every article have rich of information and explanation.when i have some problem at first i visit this blog . Thank You

    • WPBeginner Support

      Glad our articles can be helpful :)

      Administratör

  10. Anna

    I am trying to optimise robots for my website using Yoast. However Tools in Yoast does not have the option for ’File Editor’.
    There are just two options
    (i) Import and Export
    (ii) Bulk editor
    May you please advise how this can be addressed. Could it be that I am on a free edition of Yoast?

    • WPBeginner Support

      The free version of Yoast still has the option, your installation may be disallowing file editing in which case you would likely need to use the FTP method.

      Administratör

  11. Emmanuel Husseni

    I really find this article helpful because I really don’t know much on how robot.txt works but now I do.

    pls what I don’t understand is how do I find the best format of robot.txt to use on my site (I mean one that works generally)?

    I noticed lots of big blogs I check ranking high on search engine uses different robot.txt format..

    I’ll be clad to see a reply from you or just anyone that can help

    • Editorial Staff

      Having a sitemap and allowing the areas that need to be allowed is the most important part. The disallow part will vary based on each site. We shared a sample in our blog post, and that should be good for most WordPress sites.

      Administratör

    • WPBeginner Support

      Hey Emmanuel,

      Please see the section regarding the ideal robots.txt file. It depends on your own requirements. Most bloggers exclude WordPress admin and plugin folders from the crawl.

      Administratör

      • Emmanuel Husseni

        Thank you so much.

        now I understand. I guess I’ll start with the general format for now.

  12. jack

    Well written article, I recommend the users to do sitemap before creating and enabling their ROBOTS text it will help your site to crawl faster and indexed easily.

    Jack

  13. Connie S Owens

    I would like to stop the search engines from indexing my archives during their crawl.

  14. Emmanuel Nonye

    Thanks alot this article it was really helpful

  15. Cherisa

    I keep getting the error message below on google webmaster. I am basically stuck. A few things that were not clear to me on this tutorial is where do I find my site’s root files, how do you determine if you already have a ”robots.txt” and how do you edit it?

    • WPBeginner Support

      Hi Cherisa,

      Your site’s root folder is the one that contains folders like wp-admin, wp-includes, wp-content, etc. It also contains files like wp-config.php, wp-cron.php, wp-blogheader.php, etc.

      If you cannot see a robots.txt file in this folder, then you don’t have one. You can go a head and create a new one.

      Administratör

      • Cherisa

        Thank you for your response. I have looked everywhere and can’t seem to locate these root files as you describe. Is there a path directory I can take that leads to this folder. Like it is under Settings, etc?

  16. Devender

    I had a decent web traffic to my website. Suddenly dropped to zero in the month of May. Till now I have been facing the issue. Please help me to recover my website.

  17. Haris Aslam

    Hello There Thank you For This Information, But I Have A Question
    That I Just Create The Sitemap.xml and Robots.txt File, & Its Crawling well. But How Can I Create ”Product-Sitemap.xml”
    There is all list of product in sitemap.xml file. Do I Have To Create Product-sitemap.xml separately?

    and submit to google or bing again ?
    Can You please Help me out…
    Thank You

  18. Mahadi Hassan

    I have a problem on robots.txt file setting. Only one robots.txt is showing for all websites. Please help me to show separate robots.txt file of all websites. I have all separate robots.txt file of all individual website. But only one robots.txt file is showing in browser for all websites.

  19. Debu Majumdar

    Please explain why did you include
    Disallow: /refer/
    in the beginner Robots.txt example? I do not understand the implications of this line. Is this important for the beginner? You have explained the other two Disallowed ones.

    Thanks.

  20. Evaristo

    How can I put all tags/mydomain.Com in nofollow? In robots.txt to concentrate the link Juice? Thanks.

  21. harsh kumar

    hey,,i am getting error in yoast seo regarding site map..once i click on fix it ,,,it’s coming again..my site html is not loading properly

  22. Tom

    I’ve just been reviewing my Google Webmaster Tools account and using the Search Console, I’ve found the following:
    Page partially loaded
    Not all page resources could be loaded. This can affect how Google sees and understands your page. Fix availability problems for any resources that can affect how Google understands your page.

    This is because all CSS stylesheets associated with Plugins are disallowed by the default robots.txt.

    I understand good reasons why I shouldn’t just make this allowable, but what would be an alternative as I would suspect the Google algorithms are marking down the site for not seeing these.

  23. Suren

    Hi,

    Whenever, I search my site on the google this text appears below the link: ”A description for this result is not available because of this site’s robots.txt”

    How, can i solve this issue?

    Regards

    • WPBeginner Support

      Hi Suren,

      Seems like someone accidentally changed your site’s privacy settings. Go to Settings » Reading page and scroll down to ’Search engine visibility’ section. Make sure that the box next to is unchecked.

      Administratör

  24. Divyesh

    Hello

    As i seen in webmaster tool, i got robot.txt file like below :

    User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    let me know is that okey ? or should i use any other ?

  25. John Cester

    I want to know, does it a good idea to block (disallow) ”/wp-content/plugins/” in robots.tx? Every time i remove a plugin it shows 404 error in some pages of that plugin.

  26. Himanshu singh

    I loved this explanation. As a beginner I was very confused about robot.txt file and its uses. But now I know what is its purpose.

  27. rahul

    in some robot.txt file index.php has been disallowed. Can you explain why ? is it a good practice.

  28. Waleed Barakat

    Thanks for passing by this precious info.

  29. Awais Ahmed

    Can you please tell me why this happening on webmaster tool:

    Network unreachable: robots.txt unreachableWe were unable to crawl your Sitemap because we found a robots.txt file at the root of your site but were unable to download it. Please ensure that it is accessible or remove it completely.

    robots.txt file exist but still

  30. Dozza

    Interesting update from the Yoast team on this at

    Quote: ”The old best practices of having a robots.txt that blocks access to your wp-includes directory and your plugins directory are no longer valid.”

  31. natveimaging

    Allow: /wp-content/uploads/

    Shouldn’t this be?
    Disallow: /wp-content/uploads/

    Because you are aware that google will index all your uploads pages as public URLs right? And then you will get slapped with errors for the page itself. Is there something I am missing here?

    • nativeimaging

      Overall, its the actual pages that google crawls to generate image maps, NOT the uploads folders. Then you would have a problem of all the smaller image sizes, and other images that are for UI will also get indexed.

      This seems to be the best option:
      Disallow: /wp-content/uploads/

      If i’m incorrect, please explain this to me so I can understand your angle here.

  32. Jason

    My blog url not indexing do i need to change my robots.txt?
    Im using this robots.txt

  33. iyan

    how to create robot txt which is ONLY allow index for page and Post.. thanks

  34. Simaran Singh

    I am not sure what’s the problem but my robots.txt has two versions.
    One at http://www.example.com/robots.txt and second at example.com/robots.txt

    Anybody, please help! Let me know what can be the possible cause and how to correct it?

    • WPBeginner Support

      Most likely, your web host allows your site to be accessed with both www and non-www urls. Try changing robots.txt using an FTP client. Then examine it from both URLs if you can see your changes on both URLs then this means its the same file.

      Administratör

      • Simaran Singh

        Thanks for the quick reply. I have already done that, but I am not able to see any change. Is there any other way to resolve it?

  35. Martin conde

    Yoasts blogpost about this topic was right above yours in my search so of course I checked them both. They are contradicting each other a little bit.. For example yoast said that disallowing plugin directories and others, might hinder the Google crawlers when fetching your site since plugins may output css or js. Also mentioned (and from my own experience), yoast doesn’t add anything sitemap related to the robots.txt, rather generates it so that you can add it to your search console. Here is the link to his post, maybe you can re-check because it is very hard to choose whose word to take for it ;)

  36. MM Nauman

    As I’m Not Good in Creating this Robotstxt file So Can I use your Robots.txt file by changing the parameters like url and sitemap of my site is it good? or should I create a different one

  37. Mohit Chauhan

    Hi,
    Today i got this mail from Google ”Googlebot cannot access CSS and JS files”…what can be the solution?

    Thanks

    • Parmod

      Let me guess… You are using CDN services to import CSS and JS files.
      or
      It may be possible that you have written wrong syntax in these file.

  38. Rahul

    I have a question about adding Sitemaps. How can I add Yahoo and Bing Sitemap to Robots file and Wordpress Directory?

  39. Gerbrand Petersen

    Thanks for the elaborate outline of using the robots file. Does anyone know if Yahoo is using this robots.txt too, and does it obey the rules mentioned in the file? I ask this since I have a ”Disallow” for a certain page in my file, but I do receive traffic coming from Yahoo on that page. Nothing from Google, as it should be. Thanks in advance.

  40. Erwin

    correction…

    ”If you are using Yoast’s WordPress SEO plugin or some other plugin to generate your XML sitemap, then your plugin will try to automatically add your sitemap related lines into robots.txt file.”

    Not true. WordPress SEO doesn’t add the sitemap to the robots.txt

    ”I’ve always felt linking to your XML sitemap from your robots.txt is a bit nonsense. You should be adding them manually to your Google and Bing Webmaster Tools and make sure you look at their feedback about your XML sitemap. This is the reason our WordPress SEO plugin doesn’t add it to your robots.txt.”

    https://yoast.com/wordpress-robots-txt-example/

    Also more recommended is not to disallow the wp-plugins directory (reasons see Yoast’s post)

    And personally I like to simply remover the readme.txt file…

    ;-)

  41. hyma

    I understood it robots.txt file and use of robots file. What is the site map how do I create sitemap for my site.

  42. Rick R. Duncan

    After reading Google’s documentation I’m under the impression that the directive to use in the robots.txt file is disallow which only tells the bots what they can and cannot crawl. It does not tell them what can and cannot be indexed. You need to use the noindex robots meta tag to have a page noindexed.

  43. Nitin

    really good article for seo optimized robots.txt file. But I need you to give a tutorial on how to upload robots.txt file to server. As, being a beginner it seems to be a drastic problem to upload that file.
    By the way thanks to share such beneficial information.
    -Nitin

    • Parmod

      Upload it to your server/public_hmtl/(Your-site-name) … in this folder

  44. Jenny

    What is the best way to add code to HTTacess to block multiple spam bot refers for their url and Ip address if no URL is given

    I know if you get wrong syntax when doing httacess it can take your site off line I am a newbie and need to block these annoying multiple urls from Russia, China, Ukraine etc.

    Many thanks

  45. Hazel Andrews

    Thanks for those tips….robot txt files now amended! yay!

  46. Rahat

    why have to add Allow: !!!
    if I mention only which have to Disallow that enough. Don’t have to write code for Allow because Googlebot or Bingbot will crawl all other thing automatically.
    So why should I use Allow again?

  47. Connor Rickett

    Since lacking the Robots.txt file doesn’t stop the site from being crawled, I find myself curious: Is there any sort of hard data on exactly how much having the file will improve SEO performance?

    I did a quick Google search, and didn’t see any sort of quantitative data on it. It’s about half a million articles saying, ”Hey, this makes SEO better!” but I’d really like to know what we’re talking about here, even generally.

    Is this a 5% boost? 50? 500?

    • WPBeginner Support

      Search engines don’t share such data. While not having a robots.txt file does not stop search engines from crawling or indexing a website. However, it is a recommended best practice.

      Administratör

      • Connor Rickett

        Thanks for taking the time to get back to me, I appreciate it!

  48. JD Myers

    Good timing on this. I was trying to find this information just yesterday.

    The reason I was searching for it is that Google Webmaster tools was telling me that they could not properly crawl my site because I was blocking various resources needed for the proper rendering of the page.

    These resources included those found in /wp-content/plugins/

    After I allowed this folder, the warning disappeared.

    Any thoughts on this?

    • WPBeginner Support

      You can safely ignore those warnings. It is only a warning if you actually had content there that you would want to get indexed. Sometimes users have restricted search bots and have forgotten about it. These warnings come in handy in those situations.

      Administratör

  49. Chetan jadhav

    I have a question that many people out there use static sitemap, and you know what they have wordpress site. Should we us static or sitemap genrated by worpress.

  50. Wilton Calderon

    NIce, i like the way Wpbeginner have, and with that rank in alexa, look to me is one of the best way to sue robots.txt..

  51. Brigitte Burke

    what does my robots.txt file mean if it looks like this?

    User-agent: *
    Disallow: /wp-admin/
    Disallow: /wp-includes/
    Disallow: /xmlrpc.php

    • Editorial Staff

      It’s just saying that search engines should not index your wp-admin folder, wp-includes folder, and the xml-rpc file. Sometimes disallowing /wp-includes/ can block certain scripts for search engines specially if your site is using those scripts. This can hurt your SEO.

      The best thing to do is go to Google Webmaster Tools and fetch your website as a bot there. If everything loads fine, then you have nothing to worry about. If it says that scripts are blocked, then you may want to take out the wp-includes line.

      Administratör

      • hercules

        I see no logic in your idea about having a script within the includes directory that can be used by a crawn / robot .. and another, if there is an isolated case, it is better after specify the default wordpress allow this file you imagine that search engines use his scripts! after all, wordpress has certainly not by default an robots.txt anti serch engines!!!!

Lämna ett svar

Tack för att du väljer att lämna en kommentar. Tänk på att alla kommentarer modereras enligt våra policy för kommentarer, och din e-postadress kommer INTE att publiceras. Vänligen använd INTE nyckelord i namnfältet. Låt oss ha en personlig och meningsfull konversation.