Skip to main content

OpenAI stuurt zijn bots op pad om veel minder pagina's op te halen.We hebben het signaal gevalideerd. Nu formuleren we een hypothese over de reden. Je publiek is ondertussen nergens heen gegaan.

De crawlers van OpenAI halen veel minder pagina's op, en als je AI-botcijfers rond 20 augustus 2026 instortten, lag dat niet aan je site. Tussen 19 en 21 augustus daalden de ophaalverzoeken voor pagina's van de erkende crawlers van OpenAI met ruwweg driekwart op elke site die we hebben gemeten, en ze bleven laag. Over dezelfde dagen bewogen de mensen die uit ChatGPT binnenkomen met enkele procenten. Tools die je logs op AI-botactiviteit lezen, lieten de volledige daling zien, en niets daarvan is een straf voor je site. Dit stuk behandelt wat er veranderde, waarom het gebeurde, hoe we een hernoemde crawler hebben uitgesloten, en hoe je je eigen cijfers leest nu ophaalverzoeken en bezoeken uit elkaar zijn gaan lopen.

Twee kleipaden die naar een winkeldeur leiden: links drie robotkoeriers omgevallen op hun zij met hun papieren eromheen verspreid, en rechts een ononderbroken rij mensen die nog steeds naar binnen loopt
De korte versie
  1. Ophaalverzoeken van crawlers daalden ongeveer 74%. De mensen die uit ChatGPT binnenkomen bewogen met enkele procenten. Dezelfde dagen, dezelfde sites. Tussen 19 en 21 augustus 2026 vielen de ophaalverzoeken voor pagina's van de erkende crawlers van OpenAI terug tot ruwweg een kwart van wat ze waren, en daar bleven ze de achttien dagen die we hebben gevolgd. De bezoeken uit ChatGPT bewogen over diezelfde dagen met een omvang die deze reeks toch al maakt, met gemiddeld 8.7% verschil tussen gewone periodes eerder in de zomer. De twee cijfers hadden elkaar maandenlang gevolgd, en in één weekend liepen ze uit elkaar.
  2. Tools die botophaalverzoeken tellen lieten de klif zien. Prompttrackers en bezoekerstools niet, en dat konden ze ook niet. Een tool die de botanalyse van je CDN of je serverlogs leest telt crawlerverzoeken, dus die ving de hele daling. Een prompttracker stelt assistenten vragen en noteert of je genoemd wordt, dus een verandering in ophalen kan hem niet bereiken. Een bezoekersrapport telt mensen, en die mensen bleven komen. Drie producten, drie grootheden, één ervan bewoog.
  3. De daling is echt. Het is geen rapportagefout. Ze is reproduceerbaar op aparte sites die op verschillende codebases draaien, ze staat in ruwe edge-logs zonder classificatie in het pad, en het dagelijkse logvolume zelf verschoof nooit. Een tweede site, onafhankelijk gemeten, laat een daling van ongeveer 75% zien.
  4. Het is ook niet de opruiming van gescrapete kopieën van de week ervoor. Dat was een aparte gebeurtenis op 14 augustus, afgerond op de 16e. Ophaalverzoeken die kopieën raakten waren aan beide kanten van de verandering onder 2% van het totaal, en hun aandeel ging daarna licht omhoog in plaats van omlaag. Twee ongerelateerde dingen landden binnen een week van elkaar.
  5. De oorzaak lijkt minder query fanout, niet hardere caching. Ophaalverzoeken per pagina daalden 47% en het aantal verschillende opgehaalde pagina's daalde 53%, samen. Harder cachen zou de frequentie verkleinen terwijl de set pagina's ruwweg intact blijft. Minder bronnen per vraag bereiken verkleint allebei, en dat is wat er gebeurde. De vakpers schrijft de verandering toe aan een beperking van de query fanout van ChatGPT Search, en er is geen aankondiging van de partij zelf, dus de genoemde oorzaak is de berichtgeving van iemand anders en geen vaststaand feit.
  6. Een daling in een logbaserapport over bots is geen straf. Tools die je logs op AI-crawleractiviteit lezen, waaronder Profound en Searchable, tellen hoe vaak de crawlers van OpenAI om je pagina's vroegen. De daling die ze in augustus lieten zien weerspiegelt een verandering in hoe vaak OpenAI vraagt, geen oordeel over je site. Ze landde op elke site die we hebben gemeten binnen dezelfde drie dagen, en van een veel grotere site werd dezelfde week een daling van 86% gemeld.
  7. Er is niets hernoemd, en dat was het waard om te controleren voordat hier iets van gedrukt werd. Een opnieuw gelabelde crawler zou identiek bewijs hebben opgeleverd, dus de controle moest namen vermijden. Als je de verzoeken uit de gepubliceerde crawler-IP-reeksen van OpenAI telt in plaats van op user agent, staat de daling er nog steeds, op 63%, zonder onbekende user agent ertussen. Het verkeer komt echt niet binnen.

Je opende begin september je AI-botrapport en er zit een klif in. Rond 20 augustus daalt een lijn die het hele jaar geklommen was met driekwart en die komt nooit meer terug. Misschien bereikte het je via de botanalyse van je CDN, misschien via een logbaseerde zichtbaarheidstool, misschien in een dashboard dat je bureau opstuurt.

Je bent niet de enige, en het ligt niet aan je site. Dezelfde klif landde op elke site die we hebben gemeten, op dezelfde drie dagen, en een tweede die we onafhankelijk hebben gecontroleerd laat hem ook zien.

Je dashboard laat je alleen de helft zien van wat er gebeurde. Over diezelfde dagen bewoog het aantal mensen dat uit ChatGPT binnenkomt met enkele procenten. Niemand stopte met komen. Twee cijfers die elkaar maandenlang hadden gevolgd liepen in een weekend uit elkaar, en de tools die crawleractiviteit tellen laten je alleen het cijfer zien dat daalde.

De rest hiervan is wat er veranderde, waarom het gebeurde, en hoe je je cijfers leest nu de twee uit elkaar zijn gaan lopen.

Wat er veranderde

Tussen 19 en 21 augustus 2026 vielen de ophaalverzoeken voor pagina’s van de erkende crawlers van OpenAI terug tot ruwweg een kwart van wat ze waren, en daar bleven ze. Elke site die we analyseren laat het zien. Een tweede, onafhankelijk gemeten uit ruwe edge-logs, laat een daling van ongeveer 75% zien.

De val duurde twee dagen, en het niveau hield stand in de achttien die volgden
Ophaalverzoeken van crawlers van OpenAI per dag, geïndexeerd op het niveau voor 20 augustus 2026 gesteld op 100.
0 25 50 75 100 Aug 18: 108 tegenover 100 voor 20 augustus Aug 18 108 Aug 19: 106 tegenover 100 voor 20 augustus Aug 19 106 Aug 20: 39 tegenover 100 voor 20 augustus Aug 20 39 Aug 21: 27 tegenover 100 voor 20 augustus Aug 21 27 Aug 22-Sep 8: 26 tegenover 100 voor 20 augustus Aug 22-Sep 8 26

Het laatste punt is het daggemiddelde over de rest van de periode in plaats van een enkele dag, omdat het cijfer nauwelijks nog bewoog toen het eenmaal geland was.

De hele daling duurde twee dagen, en de achttien dagen erna liggen vlak op het nieuwe niveau. Een storing zou tegen die tijd hersteld zijn.

Wat er niet veranderde

De mensen die uit ChatGPT binnenkomen bleven binnenkomen. Over dezelfde dagen die driekwart van het crawlercijfer afhaalden, bewogen de bezoeken met enkele procenten.

Wat elk cijfer deed na 20 augustus 2026
Elke maatstaf geïndexeerd op zijn eigen niveau voor die datum, gesteld op 100. Dezelfde sites, dezelfde dagen.
0 25 50 75 100 Niveau voor 20 augustus Ophaalverzoeken van crawlers van OpenAI Ophaalverzoeken van crawlers van OpenAI: gedaald tot ongeveer een kwart van het niveau voor 20 augustus 26 Mensen die uit ChatGPT binnenkomen Mensen die uit ChatGPT binnenkomen: twee onafhankelijke metingen zetten het tussen 92 en 96 Mensen die uit ChatGPT binnenkomen: minstens 92 tegenover een niveau van 100 voor 20 augustus 92 to 96

Het bezoekerscijfer is twee keer langs verschillende routes gemeten en de twee runs komen een paar punten uit elkaar uit, dus het staat er als het bereik dat ze bestrijken in plaats van als één getal. Het crawlercijfer is het volgehouden niveau over de achttien dagen die volgden.

Deze reeks is rumoerig. Over een vergelijkbaar stuk eerder in de zomer zonder bekende gebeurtenis erin schommelde dezelfde meting gemiddeld 8.7% tussen gewone periodes, en liep op tot 18.8%. Een beweging van enkele procenten is iets wat ze toch al doet. Een beweging van 74% niet.

Het crawlercijfer viel van een klif terwijl het bezoekerscijfer iets deed wat deze reeks de meeste maanden doet. Die bezoeken zijn mensen. Ieder van hen las een antwoord, tikte op een link erin en belandde op de site, en zij zijn de reden dat je überhaupt geciteerd wilt worden.

Waarom we denken dat het gebeurt

Twee dingen daalden samen: het aantal keren dat elke pagina werd opgehaald, 47% omlaag, en het aantal verschillende pagina’s dat überhaupt werd opgehaald, 53% omlaag.

Dat paar sluit de eerste verklaring uit waar de meeste mensen naar grijpen. Als een systeem je pagina’s harder zou cachen en kopieën zou hercontroleren die het al heeft, zou je verwachten dat het dezelfde pagina’s minder vaak ophaalt terwijl het nog steeds ruwweg dezelfde set pagina’s raakt. De set kromp net zoveel als de frequentie. Caching alleen levert dat niet op.

Query fanout verminderen wel. Als je ChatGPT Search iets vraagt, wordt de vraag uitgeklapt in meerdere subquery’s, die elk hun eigen bronnen ophalen. Beperk het aantal subquery’s en je bereikt minder bronnen, elk minder vaak, en dat zijn allebei de cijfers hierboven die samen bewegen.

Berichtgeving elders in de vakpers schrijft de verandering van augustus precies daaraan toe, een vermindering van de query fanout van ChatGPT Search. We hebben geen aankondiging van OpenAI zelf gezien, dus behandel de genoemde oorzaak als de berichtgeving van iemand anders en niet als een vaststaand feit. Wat we je wel kunnen laten zien is de gemeten vorm, en die past.

Dezelfde berichtgeving zet de daling van Reddit op 86%. Afgezet tegen ruwweg 73% en 57% op de twee sites die we hebben gemeten, wijst dat erop dat dit breed landde en niet op een bepaald soort site.

Hoe we hebben gecontroleerd dat het verkeer van OpenAI was

Een crawler vertelt je server welke software hij is. Die naam is het enige dat de verzoeken van OpenAI van die van iemand anders scheidt, in jouw logs en in de onze, en het is het zwakke punt onder alles hierboven.

Een hernoeming zou identiek bewijs hebben opgeleverd. Als OpenAI stilletjes een crawler opnieuw had gelabeld, of dit werk had verplaatst naar een agent die niemand terugvoert op OpenAI, zou je een wereldwijde verandering zien, binnen één venster van 48 uur, op elke site, over verschillende codebases, duidelijk zichtbaar in ruwe logs. Precies wat we zagen.

De controle moest daarom namen helemaal vermijden. OpenAI publiceert de IP-reeksen waaruit zijn crawlers werken. Als je de verzoeken uit die reeksen telt in plaats van op user agent, staat de daling er nog steeds, op 63%, en zat er geen onbekende user agent in verstopt. Er is niets hernoemd. Het verkeer komt echt niet binnen.

Dat was het ene alternatief dat een rectificatie zou hebben afgedwongen, en het is dood.

Wat het verder niet is

Tijdens de analyse kwamen nog twee verklaringen op en allebei zijn ze gesneuveld. Ze staan hier omdat elk van beide een netter verhaal zou hebben opgeleverd dan de waarheid deed, en omdat je er misschien zelf naar grijpt voor je eigen data.

  • Een rapportagefout. De daling staat in ruwe geschoonde logs zonder classificatie ergens in het pad. De betrokken sites draaien op verschillende codebases, en op een ervan is over het hele venster niets uitgerold. De telling van ruwe logbestanden per dag bewoog nooit.
  • Een codewijziging aan onze kant. Eén uitrol landde op een heel gelegen uur op 19 augustus. Iemand bracht die naar voren als de waarschijnlijke oorzaak en nam dat daarna terug, omdat de rijen die hij raakt de waarde die deze metriek telt niet kunnen dragen. Gelegen timing is geen bewijs.
  • Een opruiming van gescrapete kopieën. Kopieën van deze sites waren gescrapet en elders opnieuw gepubliceerd, en dat is rond dezelfde tijd opgeruimd. Het piekte op 14 augustus en was klaar op de 16e. Ophaalverzoeken die gekopieerde paden raakten waren aan beide kanten van de verandering onder 2% van het totaal, en hun aandeel ging daarna licht omhoog in plaats van omlaag.

Twee ongerelateerde dingen landden binnen een week van elkaar. Elke enkele verklaring die allebei dekt is bij voorbaat fout.

Je AI-tool telt een van drie verschillende dingen

Voordat je je eigen cijfers kunt lezen moet je weten welke ervan je in handen hebt. De markt voor AI-meting verkoopt drie verschillende producten en beschrijft alle drie in ruwweg dezelfde taal. Ze kijken naar verschillende dingen.

Waar je tool naar kijkt Hoe hij aan het cijfer komt Wat hij liet zien in augustus 2026
Prompttracking, of share of voice Legt de assistenten volgens een schema een set vragen voor en noteert of je merk genoemd wordt Niets, per constructie. Hij telt nooit crawlerverzoeken
AI-botactiviteit, uit CDN-botanalyse of serverlogs Telt verzoeken van AI-crawlers, herkend aan de naam die de software opgeeft De hele daling van ongeveer driekwart
Bezoeken uit assistenten Telt de mensen die op een link in een antwoord tikten en op je site belandden Een gewone lijn

Als je dit volgt via Profound, Searchable, of een andere tool die je logs op AI-botactiviteit leest, is de daling voor je neus geen straf. Niets heeft je site teruggezet, en niets wat je deed heeft het veroorzaakt. Die tools tellen hoe vaak de crawlers van OpenAI om je pagina’s vroegen, en OpenAI veranderde hoe vaak het vraagt. Dezelfde daling landde op elke site die we hebben gemeten, binnen dezelfde drie dagen, en van een veel grotere site werd die week een daling van 86% gemeld. Een systeembrede verandering in ophaalgedrag levert precies deze vorm op in een logbaserapport, en zegt niets over je positie.

Een prompttracker kan je deze gebeurtenis niet laten zien. Een verandering in hoe vaak je pagina’s opgehaald worden heeft geen weg naar een cijfer dat uit antwoorden is opgebouwd. Dat is een uitspraak over hoe het instrument werkt en geen bevinding: we hebben de zichtbaarheid aan de antwoordkant in augustus niet gemeten, en dit stuk beweert niet dat die standhield of daalde.

De tools die het wel lieten zien lazen crawleractiviteit, en ze rapporteerden het cijfer correct. Het probleem begint bij wat mensen erin lezen. Vertel een winkeleigenaar dat zijn AI-citaties in augustus 74% daalden en je hebt hem iets waars over een metriek verteld en iets onwaars over zijn klanten.

Hoe je je nieuwe cijfers leest

  • Haal dezelfde datums op uit een rapport dat mensen telt in plaats van verzoeken. Een stap van ruwweg driekwart in de week van 20 augustus 2026 naast een gewone bezoekerslijn is deze gebeurtenis, en het is geen verloren publiek.
  • Vraag elke tool die citaties zegt welke grootheid hij bedoelt. Ophaalverzoeken en bezoeken worden allebei zo genoemd, en op dezelfde site in dezelfde maand verschillen ze ordes van grootte.
  • Behandel 20 augustus als een breuk in de reeks en niet als een daling. September met juli vergelijken op een ophaaltelling meet nu twee verschillende gedragingen, dus je cijfers per jaar en per maand op die metriek blijven fout tot er een heel jaar voorbij is.
  • Houd het botdashboard voor waar het goed in is, namelijk je vertellen of je pagina’s bereikbaar zijn en überhaupt gelezen worden. Beoordeel het kanaal zelf op bezoeken, en op wat die bezoeken kopen.

Augustus 2026 werkt als een test van welke AI-meting je ook gebruikt. Welke tool je die maand ook een instorting liet zien, die rapporteerde over crawlergedrag, en nu weet je wat de tools ernaast je in plaats daarvan hadden moeten laten zien.

FAQs

Mijn AI-botdashboard daalde 70% in augustus. Ben ik zichtbaarheid kwijt?

Niet op basis van het bewijs dat we hebben. De mensen die op de sites die we analyseren uit ChatGPT binnenkomen bewogen over dezelfde verandering met enkele procenten, in een reeks die tussen gewone periodes toch al gemiddeld 8.7% schommelt. Een botdashboard telt crawlerverzoeken en geen klanten, dus een daling erin zegt je iets over crawlen. Bekijk een bezoekersrapport voor dezelfde datums voordat je het als verloren publiek behandelt.

Is OpenAI in augustus 2026 gestopt met het crawlen van het web?

Het haalt veel minder pagina's op, wat niet hetzelfde is als stoppen. Verzoeken met de namen van de erkende crawlers van OpenAI daalden tussen 19 en 21 augustus 2026 met ruwweg driekwart en bleven laag. Omdat een hernoemde crawler er identiek uit zou zien, is de daling opnieuw gecontroleerd door de verzoeken uit de gepubliceerde crawler-IP-reeksen van OpenAI te tellen in plaats van op naam: ze staat er nog steeds, op 63%, zonder onbekende user agent ertussen. Het verkeer komt echt niet binnen.

Heeft dit invloed op mijn prompttracking- of share-of-voicetool?

Per constructie niet. Die tools leggen de assistenten volgens een schema een set vragen voor en noteren of je merk in de antwoorden genoemd wordt, waar nooit het tellen van crawlerverzoeken bij komt kijken, dus een verandering in ophalen kan er niet in opduiken. We hebben niet gemeten of de zichtbaarheid aan de antwoordkant in augustus bewoog en we beweren niet dat dat wel of niet zo was. Het punt is dat de twee producten verschillende dingen meten, en dat maar één ervan een klif had.

Wat is het verschil tussen een crawlerophaalverzoek en een verwijzing?

Een crawlerophaalverzoek is de software van een AI-bedrijf die je server om een pagina vraagt, zonder dat er iemand bij betrokken is, en één pagina kan per maand vele keren opgehaald worden. Een verwijzing is een persoon die een antwoord leest, op een link erin tikt en op je site belandt. Het eerste zegt je hoe vaak machines je pagina's lezen. Alleen het tweede telt klanten.

Hoe weet ik welke grootheid mijn tool telt?

Kijk naar wat het cijfer rond 20 augustus 2026 doet. Een tool die crawlerophaalverzoeken telt laat die week een stap omlaag van ruwweg driekwart zien. Een tool die menselijke bezoeken telt laat een gewone lijn zien. Als je tool zijn cijfer citaties noemt, vraag dan welke van de twee hij bedoelt, want het woord wordt voor allebei gebruikt en op dezelfde site in dezelfde maand verschillen ze ordes van grootte.

Kan dit een verandering zijn in hoe de crawler zich identificeert in plaats van minder crawlen?

Dat was het voor de hand liggende alternatief en het is uitgesloten. Een hernoeming voorspelt alles wat we zagen, dus de controle moest namen vermijden: als je de verzoeken uit de gepubliceerde crawler-IP-reeksen van OpenAI telt in plaats van op user agent, is de daling er nog steeds op 63%, en binnen die reeksen duikt geen onbekende user agent op. Er is niets opnieuw gelabeld.

Wordt mijn site door OpenAI gestraft of teruggezet?

Niets in deze gebeurtenis is een oordeel over een afzonderlijke site. De daling landde op elke site die we hebben gemeten binnen dezelfde drie dagen, op verschillende codebases, en van een veel grotere site werd dezelfde week een daling van 86% gemeld. Wat er veranderde is hoe vaak de crawlers van OpenAI over de hele linie pagina's opvragen. Een tool die je logs op botactiviteit leest, zoals Profound of Searchable, rapporteert die verandering correct, en hij bevat geen informatie over je positie of je rankings.

Waarom haalde OpenAI minder pagina's op?

De metingen wijzen op minder bronnen per vraag bereiken in plaats van pagina's harder cachen. Ophaalverzoeken per pagina daalden 47% en het aantal verschillende opgehaalde pagina's daalde 53%, en ze daalden samen. Harder cachen zou beperken hoe vaak dezelfde pagina's opnieuw gecontroleerd worden terwijl de set pagina's ruwweg intact blijft. De vakpers schrijft de verandering toe aan OpenAI dat de query fanout van ChatGPT Search terugbracht, wat bij die vorm past, al is er geen aankondiging van de partij zelf, dus behandel de genoemde oorzaak als berichtgeving en niet als vaststaand feit.