AI-botverkeer versnelt snel. 48 dagen serverloganalyse onthult wat GPTBot, ChatGPT, ClaudeBot en 16 andere bots doen.
AI-botverkeer is geen druppel meer
Tussen februari en half maart 2026 groeide de AI-botactiviteit op wislr.com niet alleen. Het veranderde van vorm.
- ChatGPT-User-verkeer vervijfvoudigde in zeven weken
- GPTBot, volledig afwezig tot 12 maart, voerde 187 verzoeken uit in een enkele week, waarvan 152 in een burst van 3 minuten
- GPTBot is geen nieuwe bot. Het is de kern-trainingscrawler van OpenAI, al jarenlang actief op het web. Maar het lijkt niet elke site continu te crawlen. De data suggereert dat het zich activeert op een site zodra de content van die site aan populariteit wint binnen het ecosysteem van OpenAI. ChatGPT-User-verwijzingen naar wislr.com waren al vervijfvoudigd voordat GPTBot verscheen.
- OAI-SearchBot-volume verviervoudigde
- Op 18-19 maart begonnen zowel ClaudeBot als GPTBot voor het eerst sitemap.xml op te vragen, op dezelfde dag, van verschillende bedrijven
Dat is een verschuiving in hoe AI-platforms content ontdekken en indexeren.
20 inzichten voor uw eigen website
- Google Analytics kan hier niets van zien. AI-bots voeren geen JavaScript uit. Als u vertrouwt op client-side analytics, is uw AI-botverkeer onzichtbaar. Server-side logging is de enige manier om het te meten.
- Uw sitemap.xml is net belangrijker geworden. GPTBot en ClaudeBot begonnen in maart 2026 voor het eerst sitemaps te gebruiken. Als uw sitemap verouderd, onvolledig of zonder taalvarianten is, zullen AI-crawlers content missen.
- robots.txt wordt niet universeel gerespecteerd. GPTBot en Meta-WebIndexer controleren het nooit. Als uw AI-contentstrategie afhankelijk is van robots.txt-richtlijnen, weet dan dat twee van de meest actieve crawlers ze volledig negeren.
- Meertalige content krijgt onevenredig veel crawl-aandacht. Bots zoals Meta-WebIndexer (80%), GPTBot (62%) en Bingbot (60%) besteden het grootste deel van hun budget aan taalvarianten. Als u vertaalde content publiceert, indexeren AI-platforms deze agressief.
- ChatGPT-User-verkeer is een direct signaal van merkvermelding in AI-gesprekken. Elk verzoek vertegenwoordigt een echte persoon die uw URL in ChatGPT plakt. Dit is meetbare mond-tot-mondreclame, en het groeit snel.
- AI-bots crawlen in bursts, niet in constante stromen. GPTBot bereikte 114 req/min in een venster van 3 minuten. Als uw server burst-verkeer niet aankan, kunnen AI-crawlers worden beperkt of fouten tegenkomen tijdens hun indexeringsrondes.
- OpenAI en Anthropic hebben elk 3 afzonderlijke bots. Eén voor training/indexering, één voor zoeken, één voor live gebruikerssessies. Het blokkeren van de ene blokkeert de andere niet. Uw robots.txt heeft aparte richtlijnen nodig voor elke bot.
- OAI-SearchBot en Googlebot zijn de enige bots die afbeeldingen op schaal ophalen. Als uw artikelafbeeldingen betekenisvolle content bevatten (grafieken, diagrammen, datavisualisaties), zijn dit de bots die ze in zoekresultaten zullen gebruiken.
- ChatGPT-User haalt alleen tekst op. Nul afbeeldingen, nul CSS, nul JS. Uw HTML-content is wat in AI-gesprekken wordt getrokken. Gestructureerde, duidelijke tekst is belangrijker dan visueel ontwerp voor AI-zichtbaarheid.
- AI-crawlers pieken op verschillende uren. GPTBot slaat toe om 04:00 UTC. Claude-SearchBot piekt ’s nachts. PerplexityBot heeft bursts om 23:00, 05:00 en 09:00. Als u sitewijzigingen implementeert tijdens daluren in de VS, zijn AI-bots mogelijk de eersten die ze zien.
- Meta is de meest agressieve AI-crawler qua volume. Meta-WebIndexer stuurde meer verzoeken dan elke andere bot in deze dataset, met nul robots.txt-controles. Als u de crawlers van Meta niet bijhoudt, mist u de grootste speler.
- llms.txt-adoptie is nog steeds theoretisch. Nul AI-bots vroegen /llms.txt op in 48 dagen. Het kan uiteindelijk een standaard worden, maar geen enkele crawler zoekt er momenteel naar.
- Applebot rendert uw pagina’s volledig. Het haalt CSS, JS en afbeeldingen op (47% van het verkeer). Als uw content JavaScript-rendering vereist om volledig te zijn, zal Applebot het zien, maar de meeste AI-bots niet.
- ChatGPT-User-verkeer is wereldwijd verspreid. 15 landen, 584 unieke IP-adressen. Uw content wordt wereldwijd gerefereerd in AI-gesprekken, niet alleen in de VS.
- Technische, how-to-content wordt het meest gerefereerd in AI-gesprekken. De meest bezochte ChatGPT-User-pagina’s waren allemaal implementatiegidsen en technische uitleggers. Diepgaande, specifieke content verdient AI-citaties.
- Bytespider en CCBot controleren alleen robots.txt en crawlen nooit. Ze consumeren uw robots.txt-richtlijnen zonder er gevolg aan te geven. Dit kan veranderen, maar momenteel genereren ze nalevingsoverhead met nul content-indexering.
- AI-crawlvolume kan van de ene op de andere dag verschuiven. GPTBot ging van 0 naar 187 verzoeken in een enkele week. Uw crawlbudgetprojecties moeten rekening houden met plotselinge stapsgewijze veranderingen, niet geleidelijke groei.
- IP-analyse onthult bot-identiteit. De bijna 1:1 IP-tot-verzoekverhouding van ChatGPT-User bewijst individuele gebruikerssessies. De 2 IP-adressen van GPTBot bewijzen gecentraliseerde infrastructuur. IP-patronen helpen onderscheid te maken tussen echte door gebruikers getriggerde ophaalverzoeken en geautomatiseerd crawlen.
- Gecoördineerde crawl-events vinden plaats over botfamilies heen. GPTBot en OAI-SearchBot vuurden gelijktijdig op 19 maart vanuit dezelfde Microsoft-infrastructuur. Wanneer één OpenAI-bot opschaalt, verwacht dan dat de anderen volgen.
- Bots waarvan u nog nooit heeft gehoord, bezoeken uw site al. PromptingBot, LinkupBot, Brightbot, Observer en anderen crawlen actief content. Het AI-botlandschap is groter dan de bekende namen suggereren.
De data
Bron: 288.566 logbestanden van CDN-scriptverzoekregistratie op wislr.com
Periode: 1 februari tot en met 20 maart 2026
Totaal verzoeken: 71.603
Geanalyseerde AI/crawler-botverzoeken: 12.099 (16,9% van al het verkeer)
Elk HTTP-verzoek aan wislr.com passeert een CDN-script dat volledige verzoekmetadata vastlegt (user agent, geo, headers, timing). Dit geeft ons waarheidsgetrouwe data over wat AI-bots precies doen, hoe vaak, en wat ze lezen.
Wilt u dit niveau van zichtbaarheid in uw eigen AI-botverkeer?
Plan een gesprekBotvolume-ranglijst
| Rang | Bot | Totaal hits | Feb | Mar (gedeeltelijk) | Trend |
|---|---|---|---|---|---|
| 1 | Meta-WebIndexer | 1.833 | 707 | 1.126 | +59% |
| 2 | Bingbot | 1.221 | 547 | 674 | +23% |
| 3 | ChatGPT-User | 923 | 230 | 693 | +201% |
| 4 | Googlebot | 816 | 386 | 430 | +11% |
| 5 | Claude-SearchBot | 549 | 216 | 333 | +54% |
| 6 | Applebot | 495 | 257 | 238 | -7% |
| 7 | PerplexityBot | 456 | 244 | 212 | -13% |
| 8 | OAI-SearchBot | 330 | 117 | 213 | +82% |
| 9 | ClaudeBot | 206 | 69 | 137 | +99% |
| 10 | GPTBot* | 187 | 0 | 187 | Nieuw in maart |
| 11 | Amazonbot | 71 | 27 | 44 | +63% |
| 12 | Bytespider | 68 | 33 | 35 | +6% |
| 13 | Claude-User | 18 | 6 | 12 | +100% |
| 14 | CCBot | 5 | 2 | 3 | Minimaal |
| 15 | Meta-ExternalAgent | 4 | 0 | 4 | Nieuw |
| 16 | DuckAssistBot | 4 | 0 | 4 | Nieuw |
| 17 | Perplexity-User | 3 | 3 | 0 | Minimaal |
| 18 | YouBot | 2 | 0 | 2 | Nieuw |
| 19 | GoogleOther | 2 | 1 | 1 | Minimaal |
*GPTBot is geen nieuwe bot. Het is de kern-trainingscrawler van OpenAI, al jarenlang actief op het web. “Nieuw in maart” betekent nieuw op deze site. De data suggereert dat GPTBot zich activeert op een site zodra de content aan populariteit wint in het ecosysteem van OpenAI: ChatGPT-User-verwijzingen waren al vervijfvoudigd voordat GPTBot verscheen.
Wekelijkse volumetrends
| Bot | Feb W1 | Feb W2 | Feb W3 | Feb W4 | Mar W1 | Mar W2 | Mar W3 |
|---|---|---|---|---|---|---|---|
| GPTBot | 0 | 0 | 0 | 0 | 0 | 4 | 183 |
| ChatGPT-User | 39 | 66 | 65 | 60 | 72 | 304 | 317 |
| OAI-SearchBot | 28 | 34 | 29 | 26 | 28 | 46 | 139 |
| ClaudeBot | 10 | 14 | 9 | 36 | 51 | 24 | 62 |
| Claude-SearchBot | 31 | 51 | 47 | 87 | 121 | 68 | 144 |
| PerplexityBot | 22 | 132 | 62 | 28 | 37 | 77 | 98 |
| Bingbot | 132 | 163 | 136 | 116 | 151 | 248 | 275 |
| Meta-WebIndexer | 63 | 35 | 271 | 338 | 396 | 541 | 189 |
| Amazonbot | 8 | 6 | 7 | 6 | 2 | 2 | 40 |
Maart W3 (15-20 maart) was een doorbraakweek. GPTBot explodeerde van bijna nul naar 183 verzoeken. ChatGPT-User hield 300+/week vast (5x de februari-basislijn). OAI-SearchBot bereikte 139, een verviervoudiging. Er gebeurde iets gecoördineerds in de botvloot van OpenAI.
Individuele botprofielen
GPTBot (training-/indexeringscrawler van OpenAI)
Totaal: 187 verzoeken | Actief sinds: 12 maart | IP-adressen: 2 (sterk geconcentreerd)
GPTBot is geen nieuwe bot. OpenAI definieert het als de crawler die wordt gebruikt om “onze generatieve AI-basismodellen nuttiger en veiliger te maken,” en crawlt content die kan worden gebruikt voor het trainen van hun basismodellen. Het is al jarenlang actief op het web. Wat hier opvalt is dat GPTBot volledig afwezig was op wislr.com tot 12 maart, en vervolgens activeerde met een enorme crawl-burst op 19 maart om 04:38 UTC: 152 verzoeken in 3 minuten (114 req/min piek). Het crawlde systematisch elk artikel in elke taalvariant.
Dit suggereert dat GPTBot niet elke site continu crawlt. Het lijkt zich te activeren en op te schalen op een site zodra de content van die site aan populariteit wint in het ecosysteem van OpenAI, aangezien ChatGPT-User-verwijzingen naar wislr.com al vervijfvoudigd waren voordat GPTBot verscheen.
Wat het crawlt:
- Artikelen: 67% van de verzoeken
- Taalvarianten: 61,5%, crawlde alle 11 taalversies (de, fr, pl, hi, nl, uk, pt, ms, tr, it, es)
- Afbeeldingen: 28 verzoeken (artikelheaders, auteursfoto’s)
- Sitemap.xml: 2 verzoeken (gestart 19 maart, geheel nieuw gedrag)
- robots.txt: Nul. Controleert het nooit.
Crawltiming: 81% van alle verzoeken om 04:00 UTC. Extreem burstpatroon, bijna al het verkeer in een enkel venster van 3 minuten.
Infrastructuur: Draait op Microsoft Limited ASN, alleen VS. 97,9% van het verkeer van een enkel IP-adres.
De burst van GPTBot op 19 maart viel samen met een OAI-SearchBot-burst vanuit dezelfde Microsoft-infrastructuur: 50 req/min op hetzelfde tijdstempel. Dit lijkt gecoördineerd.
OAI-SearchBot (zoekcrawler van OpenAI)
Totaal: 330 verzoeken | Trend: +82% feb naar mar | IP-adressen: 81
OAI-SearchBot is de speciale zoekcrawler van OpenAI, los van GPTBot. Het is de meest persistente robots.txt-controleur van alle AI-bots, en controleert het 3-6 keer per dag zonder uitzondering.
Wat het crawlt:
- robots.txt: 54,5% van al het verkeer (180 hits, gemiddeld 3,8/dag)
- Artikelen: 52 verzoeken
- Afbeeldingen: 55 verzoeken, downloadt actief artikelafbeeldingen, auteursfoto’s, paginascreenshots
- Homepage: 9 verzoeken
Crawltiming: Verspreid over de dag met lichte pieken om 04:00 en 20:00 UTC.
Infrastructuur: Microsoft Limited (87%) + Microsoft Corp (13%), alleen VS.
De enige OpenAI-bot die robots.txt respecteert (controleert het obsessief). Ook de enige AI-bot naast Googlebot die actief afbeeldingen op schaal ophaalt, waarschijnlijk voor zoekresultaatkaarten.
ChatGPT-User (live gebruikerssessie-ophaler)
Totaal: 923 verzoeken | Trend: +201% feb naar mar | IP-adressen: 584
Dit is geen crawler. Het wordt geactiveerd wanneer een echte persoon een wislr.com-URL in een ChatGPT-gesprek plakt. De 584 unieke IP-adressen (bijna 1:1 met verzoeken) bevestigen dat dit individuele gebruikerssessies zijn. Dit is het duidelijkste signaal van hoe vaak wislr.com-content wordt geciteerd in AI-gesprekken.
Meest gerefereerde content:
| Hits | Artikel |
|---|---|
| 225 | Shopify Same-Domain Checkout Analytics |
| 112 | Cloudflare Crawl Endpoint Pros and Cons |
| 103 | Cloudflare Crawl Best Settings |
| 91 | Cloudflare CDN Request Logging for Shopify |
| 81 | 6 Core Tasks for Better 301 Redirects |
| 50 | AI Performance Metrics: Seven KPIs |
| 37 | Homepage |
| 30 | Essential Tools for Site Migrations |
| 29 | OpenAI KPIs and Success Metrics 2026 |
| 23 | AEO Readiness Comparison |
Wat het niet ophaalt: Nul afbeeldingen, nul CSS, nul JS. Puur HTML-contentextractie, het wil alleen de tekst.
Crawltiming: Gelijkmatig verdeeld over alle 24 uur, volgt menselijke gebruikspatronen.
Geografische verdeling: VS (50%), Polen (16%), Australië (5%), Spanje (5%), Japan (5%), Brazilië (4%), 15 landen totaal. Topsteden: Warschau (149), Phoenix (145), San Antonio (126), Des Moines (91).
ClaudeBot (training-/indexeringscrawler van Anthropic)
Totaal: 206 verzoeken | Trend: +99% feb naar mar | IP-adressen: 22
ClaudeBot is overwegend gericht op nalevingscontrole: 85% van het verkeer is robots.txt.
Wat het crawlt:
- robots.txt: 175 verzoeken (85%), gestegen van 1-2/dag begin februari naar 6-12/dag in maart
- Sitemap.xml: 14 verzoeken, gestart op 18 maart (raakte het daarvoor nooit aan)
- Afbeeldingen: 10 verzoeken (allemaal op 18 maart)
- Contentpagina’s: zeer weinig
ClaudeBot controleert robots.txt steeds agressiever in de loop van de tijd. De plotselinge interesse in sitemap.xml op 18 maart (5 hits die dag, 8 op 19 maart) suggereert een nieuwe crawlstrategie-uitrol van Anthropic.
Infrastructuur: Anthropic, PBC ASN (97%), alleen VS.
Claude-SearchBot (webzoekcrawler van Anthropic)
Totaal: 549 verzoeken | Trend: +54% feb naar mar | IP-adressen: 8
Een afzonderlijke Anthropic-bot, los van ClaudeBot en Claude-User. Deze drijft de webzoekfunctie van Claude aan. Agressiever dan ClaudeBot, crawlt daadwerkelijk content.
Wat het crawlt:
- robots.txt: 164 verzoeken (30%), dagelijks, toenemend van 1-3 naar 7-10/dag
- Sitemap.xml: 135 verzoeken, gestart op 25 februari, werd snel de op één na meest actieve sitemapgebruiker na Bingbot
- Artikelen: 142 verzoeken (26%)
- Taalvarianten: 23,3% van het verkeer
- Homepage: 45 verzoeken
Crawltiming: Zwaar op nachtelijke uren, pieken om 22:00, 01:00, 00:00 UTC.
Samen exploiteert Anthropic 3 afzonderlijke bots (ClaudeBot, Claude-SearchBot, Claude-User) met in totaal 773 verzoeken, waarmee Anthropic de derde grootste AI-botaanwezigheid is na Meta-WebIndexer en ChatGPT-User.
Claude-User (live sessie-ophaler van Anthropic)
Totaal: 18 verzoeken | IP-adressen: 8
Het Anthropic-equivalent van ChatGPT-User. Wordt geactiveerd wanneer iemand een URL deelt in een Claude-gesprek. Veel lager volume dan ChatGPT-User (18 versus 923).
Wat het crawlt: robots.txt (9), daarna artikelen over Cloudflare en een casestudy van een advocatenkantoor.
Infrastructuur: Google LLC ASN (100%), alleen VS. Draait via Google Cloud, niet de eigen infrastructuur van Anthropic.
PerplexityBot (indexeringscrawler van Perplexity)
Totaal: 456 verzoeken | Trend: -13% feb naar mar | IP-adressen: 13
Burstig crawlpatroon: 132 verzoeken in feb W2, daalt naar 28 in feb W4, terug naar 98 in mar W3.
Wat het crawlt:
- Artikelen: 77% van het verkeer, richt zich sterk op AI-prestatiemetrieken-content
- robots.txt: 71 verzoeken (stabiel 1-4/dag)
- Afbeeldingen: 18 verzoeken (artikelspecifieke afbeeldingen)
- Sitemap.xml: Nul. Vraagt het nooit op.
- Taalvarianten: 52,9%, brede meertalige dekking
Crawltiming: Drie afzonderlijke burstvensters om 23:00, 05:00 en 09:00 UTC.
Infrastructuur: Amazon Technologies Inc. (96%), alleen VS. 13 IP-adressen, matige concentratie.
Googlebot
Totaal: 816 verzoeken | IP-adressen: 72
Homepage-zwaar (27% van het verkeer) en de meest “volledige render”-crawler. Haalt afbeeldingen, CSS, JS op naast content.
Wat het crawlt:
- Homepage: 220 verzoeken (27%)
- Afbeeldingen: 152 verzoeken
- CSS: 132 verzoeken
- JS: 54 verzoeken
- Artikelen: 141 verzoeken
- robots.txt: 68 verzoeken
- Sitemap.xml: 5 verzoeken (incidenteel)
Taalvarianten: Slechts 10,4%, aanzienlijk minder meertalig dan andere bots.
Infrastructuur: Google LLC (91%), deels vanuit Zweden (8%). Uniform 24-uurs crawlpatroon.
Bingbot
Totaal: 1.221 verzoeken | Trend: +23% feb naar mar | IP-adressen: 258
De meest consistente en brede crawler. Ook de dominante sitemapgebruiker.
Wat het crawlt:
- Artikelen: 68% (met zware taalvariantdekking)
- Sitemap.xml: 139 verzoeken (2-8/dag, elke dag), veruit de meest actieve sitemapgebruiker
- Afbeeldingen: 78 verzoeken (social icons, dashboard-PNG’s, artikelafbeeldingen)
- robots.txt: 36 verzoeken
Taalvarianten: 60,3%, sterke focus op Nederlandse (97) en Duitse (98) varianten.
Crawltiming: Uniforme 24-uurs dekking, altijd actief.
Meta-WebIndexer
Totaal: 1.833 verzoeken | Trend: +59% feb naar mar | IP-adressen: 156
De bot met het hoogste volume. Overwegend gericht op content, vooral taalvarianten.
Wat het crawlt:
- Artikelen: 88% van het verkeer
- Taalvarianten: 79,8%, veruit de meest agressieve meertalige crawler
- Sitemap.xml: 30 verzoeken
- robots.txt: Nul. Controleert robots.txt helemaal niet.
Crawltiming: Zwaar op avond/nacht, pieken om 20:00-21:00 en 00:00-01:00 UTC.
Infrastructuur: Meta Platforms Ireland Ltd ASN, alleen VS.
Net als GPTBot controleert Meta-WebIndexer robots.txt niet. In tegenstelling tot GPTBot is het consistent actief geweest gedurende de gehele periode.
Gedragspatronen
robots.txt-naleving
| Gedrag | Bots |
|---|---|
| Obsessieve controleurs (meerdere keren per dag) | OAI-SearchBot (3,8/dag), ClaudeBot (4/dag), Claude-SearchBot (4/dag) |
| Regelmatige controleurs (dagelijks of bijna dagelijks) | PerplexityBot, Googlebot, Applebot, Amazonbot, FacebookExternalHit (precies 1/dag als een klok) |
| Controleert alleen robots.txt, niets anders | Bytespider (100%), CCBot (100%) |
| Controleert nooit robots.txt | GPTBot, Meta-WebIndexer, ChatGPT-User |
GPTBot en Meta-WebIndexer zijn de opvallende niet-conforme bots. Ze crawlen agressief zonder ooit de regels te controleren.
Sitemap-ontdekking
| Bot | Sitemap-hits | Eerste verzoek | Patroon |
|---|---|---|---|
| Bingbot | 139 | 1 feb | Dagelijks, 2-8/dag (de sitemapkoning) |
| Claude-SearchBot | 135 | 25 feb | Zwaar, werd 2e meest actieve |
| Meta-WebIndexer | 30 | 5 feb | Regelmatig |
| ClaudeBot | 14 | 18 mar | Geheel nieuw gedrag |
| Googlebot | 5 | 2 feb | Incidenteel |
| GPTBot | 2 | 19 mar | Geheel nieuw gedrag |
| Applebot | 1 | 17 mar | Enkele hit |
18-19 maart markeert een verschuiving. Zowel ClaudeBot als GPTBot begonnen voor het eerst sitemap.xml op te vragen, wat wijst op nieuwe crawlstrategie-uitrollen van Anthropic en OpenAI tegelijkertijd.
llms.txt / AI-specifieke bestandsverzoeken
Geen enkele AI-bot vraagt /llms.txt of /llm.txt op. Nul hits van GPTBot, ClaudeBot, PerplexityBot of enige andere AI-crawler.
De enige bot die llms.txt controleert is Dataprovider.com (een webanalysebedrijf): 3 verzoeken in feb-mar.
Twee verzoeken voor /.well-known/ai-plugin.json kwamen van Firefox-browsers, niet van bots.
Taalvariant-crawling
| Bot | % van verkeer in taalvarianten | Dekking |
|---|---|---|
| Meta-WebIndexer | 79,8% | Alle 11 talen, gelijkmatig verdeeld |
| GPTBot | 61,5% | Alle 11 talen, 8-12 elk |
| Bingbot | 60,3% | Alle 11, zwaar op Nederlands/Duits |
| PerplexityBot | 52,9% | Alle 11, Duits/Spaans bovenaan |
| Amazonbot | 32,4% | Alle 11 |
| Claude-SearchBot | 23,3% | Alle 11, vrij gelijkmatig |
| Applebot | 23,0% | Alle 11 |
| OAI-SearchBot | 11,2% | Alle 11 |
| Googlebot | 10,4% | Spaans/Portugees bovenaan |
| ChatGPT-User | 4,7% | Frans/Spaans/Italiaans (gebruikersgestuurd) |
Meta-WebIndexer en GPTBot zijn de meest agressieve meertalige crawlers. Het lage percentage van ChatGPT-User is logisch: het weerspiegelt in welke talen echte gebruikers lezen.
Afbeelding-crawling
| Bot | Afbeeldingsverzoeken | Wat ze ophalen |
|---|---|---|
| Googlebot | 152 | SVG-pictogrammen, logo’s, favicons, renderingbestanden |
| Google-InspectionTool | 108 | Social icons, casestudy-afbeeldingen |
| Googlebot-Image | 75 | Favicon, logovarianten, artikelafbeeldingen |
| Bingbot | 78 | Social icons, dashboard-PNG’s, artikelafbeeldingen |
| OAI-SearchBot | 55 | Artikelafbeeldingen, auteursfoto’s, screenshots |
| Applebot | 32 | Artikelomslagafbeeldingen |
| GPTBot | 28 | Artikelheaders, auteursfoto’s (allemaal op 19 mar) |
| PerplexityBot | 18 | Artikelafbeeldingen |
| ClaudeBot | 10 | Auteursfoto, screenshots (allemaal op 18 mar) |
| ChatGPT-User | 0 | Haalt nooit afbeeldingen op |
Googlebot haalt afbeeldingen op voor rendering. OAI-SearchBot haalt ze waarschijnlijk op voor zoekresultaatkaarten. GPTBot en ClaudeBot deden beiden geconcentreerde afbeelding-bursts op een enkele dag, wat wijst op batch-indexeringsrondes.
ChatGPT-User haalt nul afbeeldingen op. Puur tekstextractie.
Andere opvallende ontdekte bots
PromptingBot/1.0.0 (104 verzoeken)
- Draait op Google Cloud-infrastructuur
- Actief van 24 februari tot 13 maart
- Doet volledige pagina-rendering (haalt CSS, JS, afbeeldingen, social icons op)
- Richt zich op AI-prestatiemetrieken-content
LinkupBot/1.0 (47 verzoeken)
- Van linkup.so, een webindexeringsservice
- Microsoft-infrastructuur, oorsprong: Frankrijk
- Controleert robots.txt, richt zich vervolgens op migratie-/redirect-content
Brightbot 1.0 (46 verzoeken)
- Van truview LLC, 41 unieke IP-adressen
- Richt zich op Nederlandse taalvarianten
Observer/1.0 (36 verzoeken)
- Van obsrvr.net, Duitse/Finse infrastructuur
- Crawlt alleen robots.txt en een enkel Frans artikel
Dataprovider.com (148 verzoeken)
- Canadees webanalysebedrijf
- De enige bot die /llms.txt controleert (3 keer)
- Controleert ook /ads.txt en /humans.txt
HTTP-methoden
Elke bot gebruikt uitsluitend GET. Nul HEAD-, POST- of andere methoden over alle 12.099 botverzoeken.
Land-/ASN-data
| Bot | Primair ASN | Landen |
|---|---|---|
| GPTBot | Microsoft Limited | Alleen VS |
| OAI-SearchBot | Microsoft Limited (87%) + Microsoft Corp (13%) | Alleen VS |
| ChatGPT-User | Microsoft Corporation (78%) | VS (50%), Polen (16%), Australië (5%), Spanje (5%), Japan (5%), Brazilië (4%), 15 landen |
| ClaudeBot | Anthropic, PBC (97%) | Alleen VS |
| Claude-SearchBot | Anthropic, PBC (100%) | Alleen VS |
| Claude-User | Google LLC (100%) | Alleen VS |
| PerplexityBot | Amazon Technologies Inc. (96%) | Alleen VS |
| Amazonbot | Amazon (100%) | Alleen VS |
| Applebot | Apple Inc. (100%) | Alleen VS |
| Bingbot | Microsoft Corporation (99,7%) | Alleen VS |
| Googlebot | Google LLC (91%) | VS (92%), Zweden (8%) |
| Meta-WebIndexer | Meta Platforms Ireland Ltd (100%) | Alleen VS |
| Bytespider | Amazon Singapore (53%), China Unicom (47%) | Singapore (53%), China (47%) |
Alle grote AI-bots draaien vanuit VS-infrastructuur behalve Bytespider (Singapore/China). ChatGPT-User is de enige bot met een werkelijk wereldwijde verdeling, als weerspiegeling van zijn menselijke gebruikersbasis.
Veelgestelde vragen
Welke AI-bots bezoeken websites het vaakst in 2026?
Op basis van 48 dagen serverlogdata van wislr.com zijn de meest actieve AI-bots Meta-WebIndexer (1.833 verzoeken), ChatGPT-User (923 verzoeken), Claude-SearchBot (549 verzoeken), Applebot (495 verzoeken), PerplexityBot (456 verzoeken), OAI-SearchBot (330 verzoeken), ClaudeBot (206 verzoeken) en GPTBot (187 verzoeken). ChatGPT-User toonde de sterkste groei met +201% tussen februari en maart 2026.
Controleren AI-bots robots.txt voordat ze crawlen?
Dat verschilt sterk. OAI-SearchBot controleert robots.txt 3-6 keer per dag zonder uitzondering. ClaudeBot en Claude-SearchBot controleren gemiddeld 4 keer per dag. Bytespider en CCBot controleren alleen robots.txt en crawlen nooit daadwerkelijke content. GPTBot en Meta-WebIndexer controleren robots.txt echter nooit, ondanks dat ze tot de meest actieve crawlers behoren. ChatGPT-User controleert robots.txt ook nooit.
Vraagt een AI-bot llms.txt op?
Nee. Over 12.099 botverzoeken in 48 dagen hebben nul AI-bots /llms.txt of /llm.txt opgevraagd. De enige bot die llms.txt controleerde was Dataprovider.com, een webanalysebedrijf, geen AI-platform. Ondanks groeiende discussie over llms.txt als standaard zoekt geen enkele AI-crawler er momenteel naar in de praktijk.
Wat is het verschil tussen GPTBot en ChatGPT-User?
GPTBot is de training- en indexeringscrawler van OpenAI die systematisch pagina’s, taalvarianten en afbeeldingen crawlt in geconcentreerde bursts, vaak zonder robots.txt te controleren. ChatGPT-User wordt geactiveerd wanneer een echte gebruiker een URL plakt in een ChatGPT-gesprek. ChatGPT-User had 584 unieke IP-adressen voor 923 verzoeken (bijna 1:1), wat individuele gebruikerssessies bevestigt. ChatGPT-User haalt alleen HTML-tekst op, nooit afbeeldingen, CSS of JS. GPTBot haalt alle typen bestanden op.
Hoe kunt u AI-botverkeer op uw website detecteren?
AI-botverkeer is onzichtbaar voor client-side analysetools zoals Google Analytics omdat bots geen JavaScript uitvoeren. U hebt server-side verzoeklogboekregistratie nodig die de ruwe HTTP-verzoeken vastlegt die uw domein bereiken, inclusief de User-Agent header die bots zoals GPTBot, ChatGPT-User, ClaudeBot en anderen identificeert. Het WISLR AI Visibility Dashboard biedt dit niveau van zichtbaarheid standaard.
Welke AI-bots crawlen meertalige content het meest agressief?
Meta-WebIndexer besteedt 79,8% van zijn crawlbudget aan taalvarianten, waarmee het de meest agressieve meertalige crawler is. GPTBot volgt met 61,5% en crawlt alle 11 taalversies van artikelen. Bingbot (60,3%) en PerplexityBot (52,9%) richten zich ook sterk op meertalige content. Googlebot is opvallend minder meertalig met slechts 10,4%. Het lage percentage van 4,7% bij ChatGPT-User weerspiegelt dat het wordt aangestuurd door menselijke gebruikers, niet door geautomatiseerd crawlen.