Här på WPBeginner har vi przewodnikat miljontals användare om hur man optimerar sina webbplatser för sökning och ökar sin organiska trafik. Vi har upptäckt att en aspekt av SEO som nybörjare ofta förbiser är robots.txt-filen som hjälper sökmotorer att upptäcka, genomsöka och indexera din webbplats.
Denna enkla textfil fungerar som en uppsättning instruktioner som przewodnikar sökmotorrobotar om vilka delar av din webbplats de ska komma åt och vilka de ska lämna ifred.
Genom att optimera din robots.txt-fil kan du se till att sökmotorerna fokuserar på att genomsöka och indexera ditt viktigaste innehåll och samtidigt förhindra att de slösar resurser på mindre viktiga områden på din webbplats.
I den här artikeln får du några tips om hur du skapar en perfekt optimerad robots.txt-fil för din WordPress-webbplats, vilket maximerar din SEO-potential.
Vad är en Robots.txt-fil?
Robots.txt är en textfil som webbplatsägare kan skapa för att tala om för sökmotorrobotar hur de ska crawla och indexera pages på deras webbplatser.
Den lagras vanligtvis i root directory (även känd som huvudfoldern) på din website. Det grundläggande formatet för en Robots.txt-fil gillar detta:
User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
User-agent: [user-agent name]
Allow: [URL string to be crawled]
Sitemap: [URL of your XML Sitemap]
You kan ha flera rader med instruktioner för att allow eller disallow specifika URL:er och add to flera sitemaps. Om du inte underkänner en URL antar sökmotorns bots att de har behörighet att crawla den.
Så här kan en Robots.txt-fil till exempel gilla att se ut:
User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-admin/
Sitemap: https://example.com/sitemap_index.xml
I exemplet ovan med Robots.txt har vi allowat search engines att crawla och indexera filer i vår WordPress uploads folder.
Därefter förbjöd vi sökrobotar att crawla och indexera tillägg och WordPress admin folders.
Slutligen har vi angett URL:en till vår XML-webbplatskarta.
Behöver du en Robots.txt-fil för din site i WordPress?
Om du inte har en Robots.txt-fil kommer search engines ändå att crawla och indexera din website. Du kommer dock inte att kunna tala om för dem vilka pages eller foldrar de ej ska crawla.
Detta kommer inte att ha någon större inverkan när du först startar en blogg och inte har så mycket content.
Men när din website växer och du addar till mer content kommer du sannolikt att vilja ha bättre control över hur din website crawlas och indexeras.
Här är skälet till detta.
Sökrobotar har en crawl-kvot för varje website.
Det innebär att de crawlar ett visst antal pages under en crawlsession. Om de använder upp sin crawl-budget innan de slutför crawlen av alla pages på your site, kommer de tillbaka och återupptar crawlen i nästa session.
Detta kan sakta ner indexeringshastigheten för din website.
Du kan fixa detta genom att inte tillåta sökrobotar att försöka crawla onödiga pages som gillar your WordPress admin pages, plugin files, and themes folder.
Genom att inte tillåta onödiga pages, save your crawl quota. Detta hjälper search engines att crawla ännu fler pages på din site och indexera dem så snabbt som möjligt.
En annan bra anledning att använda en Robots.txt-fil är när du vill hindra search engines från att indexera ett post eller en page på din website.
Det här är ej det säkraste sättet att dölja content från allmänheten, men det hjälper you att förhindra att content visas i sökresultat.
Hur gillar man en perfekt Robots.txt-fil?
Många populära bloggar använder en mycket enkel Robots.txt-fil. Deras content kan variera beroende på behoven hos den specifika webbplatsen:
User-agent: *
Disallow:
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Den här filen Robots.txt allow alla bots att indexera allt content och ger dem en länk till webbplatsens XML sitemaps.
För WordPress webbplatser rekommenderar vi följande regler i filen Robots.txt:
User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Detta säger till sökrobotar att indexera alla WordPress images och filer. Det förhindrar sökrobotar från att indexera WordPress admin area, readme-fil och cloaked affiliate links.
Genom att lägga till sitemaps i filen robots.txt gör du det enkelt för Googles bots att hitta alla pages på din site.
Nu när du vet hur en perfekt Robots.txt-fil gillar att se ut ska vi ta en titt på hur du skapar en Robots.txt-fil i WordPress.
Så här skapar du en Robots.txt-fil i WordPress
Det finns två sätt att skapa en Robots.txt-fil i WordPress. Du kan välja den metod som fungerar bäst för dig.
Metod 1: Edit Robots.txt-fil med All in One SEO
All in One SEO, även känt som AIOSEO, är det bästa WordPress SEO plugin på marknaden, som används av över 3 miljoner webbplatser. Det är användarvänligt och levereras med en generator för filen robots.txt.
För att lära dig mer, se vår detaljerade AIOSEO review.
Om du inte redan har AIOSEO-pluginet installerat kan du se vår Step-by-Step guide om hur du installerar ett plugin för WordPress.
Note: En gratis version av AIOSEO är också available och har denna funktion.
När pluginet är installerat och aktiverat kan du använda det för att skapa och edit din Robots.txt-fil direkt från din WordPress admin area.
Gå bara till All in One SEO ” Tools för att redigera din robots.txt-fil.
Först måste du aktivera alternativet edit genom att klicka på ”Enable Custom Robots.txt” toggle till blått.
Med denna Toggle aktiverad kan du skapa en custom robots.txt-fil i WordPress.
All in One SEO kommer att visa din befintliga robots.txt-fil i avsnittet ”Robots.txt Preview” längst ner på din vy.
Denna version visar standardreglerna som har lagts till av WordPress.
Dessa standardregler säger till search engines att inte crawla dina WordPress core-filer, tillåter bots att indexera allt content och ger dem en länk till din sites XML-sitemaps.
Nu kan du add to dina egna custom regler för att förbättra din robots.txt för sökmotorsoptimering.
För att add to en regel, enter en användare i fältet ”User Agent”. Om du Tillämpar en * kommer regeln att tillämpas på alla användare.
Sedan väljer du om du vill ”Allow” eller ”Disallow” att search engines ska crawla.
Därefter anger du filnamnet eller sökvägen till directory i fältet ”Directory Path”.
Regeln kommer automatiskt att tillämpas på din Robots.txt. Om du vill add to en ny regel klickar du bara på knappen ”Add Rule”.
Vi rekommenderar att du lägger till regler tills du skapar det perfekta formatet Robots.txt som vi delade ovan.
Dina customize-regler kommer att se ut så här.
När du är klar, glöm inte att clicka på knappen ”Save Changes” för att store dina ändringar.
Metod 2: Edit Robots.txt-fil med hjälp av WPCode
WPCode är ett kraftfullt code snippets plugin som låter dig lägga till custom code till din website enkelt och säkert.
Det innehåller också en praktisk funktion som gör att du snabbt kan edit filen Robots.txt.
Note: Det finns också ett WPCode Free Plugin, men det innehåller inte funktionen för filredigerare.
Det första du behöver göra är att installera pluginet WPCode. För Step-by-Step instruktioner, se vår guide för nybörjare om hur du installerar ett WordPress plugin.
Vid aktivering måste du navigera till WPCode ” File Editor page. Väl där klickar du bara på tabben ”robots.txt” för att editera filen.
Nu kan du klistra in eller skriva in innehållet i filen robots.txt.
När du är slutförd, se till att du klickar på knappen ”Save Changes” längst ner på sidan för att lagra inställningarna.
Metod 3: Redigera filen Robots.txt manuellt med FTP
För den här metoden måste du använda en FTP-klient för att editera filen Robots.txt. Alternativt kan du använda filhanteraren som tillhandahålls av ditt WordPress webbhotell.
Anslut till filerna på din WordPress website med hjälp av en FTP-klient.
När du väl är inne kommer du att kunna se filen robots.txt i din websites root folder.
Om du inte ser någon, har du troligen inte en Robots.txt-fil.
I så fall kan du bara gå vidare och skapa en.
Robots.txt är en ren textfil, vilket innebär att du kan downloada den till din dator och editera den med en ren textredigerare som gillar Notepad eller TextEdit.
När du har saved dina ändringar kan du uploada filen robots.txt tillbaka till din websites root folder.
Så här testar du filen Robots.txt
När du har skapat din robots.txt-fil är det alltid en bra idé att testa den med hjälp av ett robots.txt-testverktyg.
Det finns många verktyg för att testa Robots.txt, men vi rekommenderar att du använder det som finns i Google Search Console.
Först måste du ha din website linkad med Google Search Console. Om du inte har gjort det än, se vår guide om hur du lägger till din WordPress site till Google Search Console.
Sedan kan du använda Google Search Console Robots Testing Tool.
Välj bara din fastighet från dropdown-listan.
Tools hämtar automatiskt filen Robots.txt på din website och markerar error och varningar om den hittar några.
Slutliga tankar
Målet med att optimera filen Robots.txt är att förhindra search engines från att crawla pages som inte är offentligt available. Till exempel pages i din wp-plugins folder eller pages i din WordPress admin folder.
En vanlig myt bland sökmotorsoptimeringsexperter är att blockering av WordPress kategorier, tags och archive pages kommer att förbättra crawl-hastigheten och resultera i snabbare indexering och högre ranking.
Detta är inte sant. Det är också emot Googles riktlinjer för webbansvariga.
Vi rekommenderar att du följer ovanstående format för robots.txt för att skapa en robots.txt-fil för din website.
Expertguider för användning av Robots.txt i WordPress
Nu när du vet hur du optimerar din Robots.txt-fil kanske du gillar att läsa andra artiklar relaterade till att använda Robots.txt i WordPress.
- Ordlista: Robots.txt
- Så här döljer du en page i WordPress från Google
- Så här hindrar du search engines från att crawla en site i WordPress
- Så här tar du permanent bort en site i WordPress från internet
- Så här döljer du enkelt (Noindex) PDF-filer i WordPress
- Så här fixar du error ”Googlebot kan inte komma åt CSS- och JS-filer” i WordPress
- Så här ställer du in All in One SEO för WordPress korrekt (Ultimate Guide)
Vi hoppas att den här artikeln hjälpte dig att lära dig hur du optimerar din Robots.txt-fil för WordPress för sökmotorsoptimering. Du kanske också vill se vår ultimata guide till sökmotorsoptimering i WordPress och våra expertval för de bästa WordPress SEO tools för att få din website att växa.
If you liked this article, then please subscribe to our YouTube Channel for WordPress video tutorials. You can also find us on Twitter and Facebook.
Dennis Muthomi
I have to admit, I use the AIOSEO plugin but have always ignored the ”Enable Custom Robots.txt” option because I didn’t want to mess anything up.
But I have read this article and I’m convinced it’s worth taking the time to optimize my site’s robots.txt file.
Amit Banerjee
If the whole template of robots.txt was given, it would have been of help.
WPBeginner Support
We did include the entire robots.txt
Administratör
Moinuddin Waheed
Thanks for this informative post about robots.txt file.
I didn’t know that websites should maintain this file in order to have a control over Google bots that how should they crawl over our pages and posts.
for beginner websites just starting out, is there a need to have robots.txt file or is there a way like plugin which can a make a robots.txt file for our website?
WPBeginner Support
Most SEO plugins help with setting up the robots.txt for a new site to prevent bots from scrolling sections they shouuldn’t.
Administratör
Jiří Vaněk
Thanks to this article, I checked the robots.txt file and added URL addresses with sitemaps. At the same time, I had other problematic lines there, which were revealed by the validator. I wasn’t familiar with sitemaps in robots.txt until now. Thanks.
WPBeginner Support
You’re welcome, glad our guide could help!
Administratör
Stéphane
Hi,
Thanks for that post, it becomes clearer how to use the robots.txt file. On most websites that you find while looking for some advice regarding the robots.txt file, you can see that the following folders are explicitly excluded from crawling (for WordPress):
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
I don’t really understand the reasons to exclude those folders (is there one actually?). What would be your take regarding that matter?
WPBeginner Support
It is mainly to prevent anything in those folders from showing as a result when a user searches for your site. As that is not your content it is not something most people would want to appear for the site’s results.
Administratör
zaid haris
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
GSC show the coverage error for ”Disallow: /wp-admin/” Is this wrong?
WPBeginner Support
For most sites, you do not want anything from your wp-admin to appear as a search result so it is fine and expected to receive the coverage area when you deny Google the ability to scan your wp-admin.
Administratör
Hansini
I am creating my robots.txt manually as you instructed for my WordPress site.
I have one doubt. when I write User-Agent: * won’t it allow another spamming robot to access my site?
Should I write User-Agent: * or User-Agent: Googlebot.?
WPBeginner Support
The User-Agent line is setting the rules that all robots should follow on your site, if you specify a specific bot on that line it would be setting rules for that specific bot and none of the others.
Administratör
Nishant
What should we write to make google index my post?
WPBeginner Support
For having your site listed, you would want to take a look at our article below:
https://www.wpbeginner.com/beginners-guide/how-do-i-get-my-wordpress-site-listed-on-google-beginners-guide/
Administratör
Sanjeev Pandey
should we also disallow /wp-content/themes/ ?
It is appearing in the search result when I run the command site:abcdef.com in google search
WPBeginner Support
You would not want to worry about blocking your themes folder and as you write SEO-friendly content you should no longer see the themes as a search result.
Administratör
Salem
HI, What’s means ” Disallow: /readme.html & Disallow: /refer/ ” ?
WPBeginner Support
That means you’re telling search engines to not look at any referral links or the readme.html file.
Administratör
sean
Hi, what are the pros and cons of blocking wp-content/uploads
Thank you
WPBeginner Support
If you block your uploads folder then search engines would not normally crawl your uploaded content like images.
Administratör
Piyush
thanks for solve my problem
WPBeginner Support
You’re welcome
Administratör
Ravi kumar
Sir i m very confused about robot.txt many time i submitted site map in blogger but the after 3,4 days coming the same issue what is the exactly robot.txt.. & how submit that please guide me
WPBeginner Support
It would depend on your specific issue, you may want to take a look at our page below:
https://www.wpbeginner.com/glossary/robots-txt/
Administratör
Prem
If I no index a url or page using robots.txt file, does google shows any error in search console?
WPBeginner Support
No, Google will not list the page but if the page is listed it will not show an error.
Administratör
Bharat
Hi
I have a question
i receive google search console coverage issue warning for blocked by robots.txt
/wp-admin/widgets.php
My question is, can i allow for wp-admin/widgets.php to robots.txt and this is safe?
WPBeginner Support
IF you wanted to you can but that is not a file that Google needs to crawl.
Administratör
Anthony
Hi there, I’m wondering if you should allow: /wp-admin/admin-ajax.php?
WPBeginner Support
Normally, yes you should.
Administratör
Jaira
May I know why you should allow /wp-admin/admin-ajax.php?
WPBeginner Support
It is used by different themes and plugins to appear correctly for search engines.
Amila
Hello! I really like this article and as I’m a beginner with all this crawling stuff I would like to ask something in this regard. Recently, Google has crawled and indexed one of my websites on a really terrible way, showing the pages in search results which are deleted from the website. The website didn’t have discouraged search engine from indexing in the settings of WordPress at the beginning, but it did later after Google showed even 3 more pages in the search results (those pages also doesn’t exist) and I really don’t understand how it could happen with ”discourage search engine from indexing” option on. So, can the Yoast method be helpful and make a solution for my website to Google index my website on the appropriate way this time? Thanks in advance!
WPBeginner Support
The Yoast plugin should be able to assist in ensuring the pages you have are indexed properly, there is a chance before you discouraged search engines from crawling your site your page was cached.
Administratör
Amila
Well yes and from all pages, it cached the once who doesn’t exist anymore. Anyway, as the current page is on ”discourage” setting on, is it better to keep it like that for now or to uncheck the box and leave the Google to crawl and index it again with Yoast help? Thanks! With your articles, everything became easier!
WPBeginner Support
You would want to have Google recrawl your site once it is set up how you want.
Pradhuman Kumar
Hi I loved the article, very precise and perfect.
Just a small suggestion kindly update the image ROBOTS.txt tester, as Google Console is changed and it would be awesome if you add the link to check the robots.txt from Google.
WPBeginner Support
Thank you for the feedback, we’ll be sure to look into updating the article as soon as we are able.
Administratör
Kamaljeet Singh
My blog’s robots.txt file was:
User-Agent: *
crawl-delay: 10
After reading this post, I have changed it into your recommended robots.txt file. Is that okay that I removed crawl-delay
WPBeginner Support
It should be fine, crawl-delay tells search engines to slow down how quickly to crawl your site.
Administratör
reena
Very nicely described about robot.text, i am very happy
u r very good writer
WPBeginner Support
Thank you, glad you liked our article
Administratör
JJ
What is Disallow: /refer/ page ? I get a 404, is this a hidden wp file?
Editorial Staff
We use /refer/ to redirect to various affiliate links on our website. We don’t want those to be indexed since they’re just redirects and not actual content.
Administratör
Sagar Arakh
Thank you for sharing. This was really helpful for me to understand robots.txt
I have updated my robots.txt to the ideal one you suggested. i will wait for the results now
WPBeginner Support
You’re welcome, glad you’re willing to use our recommendations
Administratör
Akash Gogoi
Very helpful article. Thank you very much.
WPBeginner Support
Glad our article was helpful
Administratör
Zingylancer
Thanks for share this useful information about us.
WPBeginner Support
Glad we could share this information about the robots.txt file
Administratör
Jasper
thanks for update information for me. Your article was good for Robot txt. file. It gave me a piece of new information. thanks and keep me updating with new ideas.
WPBeginner Support
Glad our guide was helpful
Administratör
Imran
Thanks , I added robots.txt in WordPress .Very good article
WPBeginner Support
Thank you, glad our article was helpful
Administratör