«Crawlet – ikke indeksert»: hvorfor Google hopper over sidene dine, og hva du gjør med det
Google har skrevet om forklaringen på «Crawled – currently not indexed» i Search Console: Meldingen er vanlig og trenger ikke bety et problem. Her er når den er helt normal, når den er et faresignal, og hvordan du får viktige sider inn i Google.
Du åpner Google Search Console, klikker deg inn på indekseringsrapporten og ser en lang liste med sider som ikke er indeksert. Mange av dem har meldingen «Crawled – currently not indexed». Det er lett å bli redd. Betyr det at Google ikke liker siden din?
Som regel ikke. Google har nettopp skrevet om forklaringen på meldingen, og den nye teksten sier rett ut at dette er vanlig. Men det finnes tilfeller der det er et faresignal. Her er hvordan du skiller dem fra hverandre.
Hva meldingen betyr, før og nå
«Crawled – currently not indexed» (crawlet, men foreløpig ikke indeksert) betyr at Google har besøkt siden, men valgt å ikke ta den med i søkeresultatene. Bruker du Search Console på norsk, står den med en norsk oversettelse.
Den gamle forklaringen var kort: Siden er crawlet, men ikke indeksert. Den kan bli indeksert senere eller ikke, og du trenger ikke sende den inn på nytt.
Den nye forklaringen, som Search Engine Roundtable omtalte 3. november, er roligere i tonen. Google indekserer ikke alle sider på nettet, skriver Google, så dette er en vanlig melding for mange nettsteder, og den betyr ikke nødvendigvis et problem. Gjelder det viktige sider, bør du bruke URL-inspeksjon og andre verktøy for å finne ut om noe på siden hindrer den, for eksempel at du har blokkert Google. Tror du det er en feil hos Google som rammer hele nettstedet, finnes det et eget skjema for å melde fra.
Det som ikke står der, er ordet kvalitet. Search Engine Roundtable påpeker at det er litt rart, siden Google tidligere har knyttet slike meldinger til kvalitet. Samme uke sa nemlig John Mueller i Google noe som peker i den retningen.
Når det er helt normalt
Google skriver i samme hjelpeside at du ikke skal forvente at alle adressene på nettstedet ditt blir indeksert, bare de kanoniske, altså hovedversjonen av hver side. Målet er at hovedversjonen av hver viktige side er indeksert. Mye av det som ligger i listen over sider som ikke er indeksert, trenger aldri å være i Google:
- Tagger og kategorisider som bare lister opp innlegg som allerede finnes andre steder. Dette er vanlig på WordPress-sider.
- Filtre og sortering i nettbutikker og lister, der den samme varen dukker opp på mange adresser med ulike parametere.
- Gamle adresser fra før en ombygging, som nå er sendt videre eller ikke finnes lenger.
- Tynne undersider, som vedleggssider, utskriftsversjoner, takkesider etter et skjema og sider med nesten ingen tekst.
- Like versjoner av samme side, med og uten www, med og uten skråstrek på slutten, eller med sporingsparametere. Google velger én av dem og hopper over resten. At en side er markert som duplikat, er ifølge Google som regel et godt tegn: Det betyr at hovedversjonen er funnet og indeksert.
Er det slike sider som står i listen, kan du som regel la dem være. Du kan rydde i dem, men det haster ikke.
Når det er et faresignal
- Tjenestesidene står i listen. Sidene som skal gi deg kunder, som «Bad og flislegging» eller «Elektriker i Lillestrøm», skal være indeksert. Er de crawlet, men ikke indeksert, har Google besøkt dem og valgt å ikke vise dem. Da er det verdt å finne ut hvorfor.
- Nye artikler blir liggende i uker. Det kan ta noen dager før nytt innhold blir indeksert, skriver Google. Blir det liggende mye lenger enn det, gang på gang, er det et signal.
- Bare forsiden er indeksert. Det er det mest alvorlige tegnet, og det er her Mueller-eksempelet kommer inn.
På Bluesky spurte en SEO-rådgiver om en kunde som ble hacket i fjor. Hackingen var ryddet opp, men siden hadde stått fast siden: Bare forsiden var indeksert, og Google ville ikke ta med noen av de andre sidene. Mueller svarte at det var umulig å si sikkert uten mer informasjon. Men umiddelbart hørtes det ut som et generelt kvalitetsproblem som kanskje ikke hadde noe med hackingen å gjøre, med mindre hackingen hadde vart i mange måneder. Han la til at slikt er vanskelig å oppdage når en hacking og en større oppdatering hos Google skjer omtrent samtidig.
Lærdommen er ikke at alle sider med lav indeksering har et kvalitetsproblem. Det kan også være tekniske feil. Men ifølge Search Engine Roundtable har Mueller beskrevet lignende situasjoner som kvalitetsproblemer mange ganger før. Når hele nettstedet bortsett fra forsiden faller ut, er det altså grunn til å se på nettstedet som helhet, ikke bare på hver side for seg.
Sjekkliste: dette ser du på først
- URL-inspeksjon. Lim inn adressen øverst i Search Console. Du ser når siden sist ble crawlet, om den er blokkert, og hvilken versjon Google mener er hovedversjonen. Med live-testen ser du siden slik Google ser den akkurat nå.
- Internlenker. Lenker andre sider på nettstedet ditt til siden? En tjenesteside som bare finnes i sitemap, og som ingen andre sider lenker til, sier til Google at den ikke er så viktig. Den bør nås fra menyen, forsiden eller en oversikt over tjenestene.
- Sitemap. Står siden i sitemap, og står den der med riktig adresse? Sitemapet bør bare inneholde sider du faktisk vil ha i Google, ikke gamle adresser, takkesider eller tagger.
- Kanonisk adresse. Peker siden på seg selv som hovedversjon, eller på en annen side? En feil her kan få Google til å hoppe over siden med vilje.
- Sider som ligner hverandre. Har du flere sider med nesten samme tekst, for eksempel én per kommune der bare stedsnavnet er byttet ut? Da velger Google gjerne én og hopper over resten. Google skriver at hvis en side ikke er en kopi av den Google valgte, bør innholdet skille seg tydelig.
Slik løfter du en side fra crawlet til indeksert
Google gir ingen oppskrift som garanterer indeksering, og det kan ingen andre heller. Men dette er grepene jeg bruker, og de handler om innhold og struktur:
- Gi siden noe å stå på. En tjenesteside med tre setninger og et kontaktskjema ligner tusen andre. Skriv hva du faktisk gjør, for hvem, i hvilket område, omtrent hva det koster, hvor lang tid det tar, og vis gjerne bilder fra ekte jobber. Svar på spørsmålene kundene stiller deg på telefon. Jeg har skrevet mer om dette i artikkelen om å skrive innhold til nettside.
- Slå sammen sider som ligner. Fem tynne sider om nesten det samme er svakere enn én god. Samle innholdet på én side og send de gamle adressene videre dit.
- Lenk til siden fra der det gir mening. Fra forsiden, fra menyen, fra relevante artikler og fra beslektede tjenester. Internlenker er måten du forteller Google hvilke sider som er viktigst.
- Be om indeksering til slutt. Når siden er forbedret, kan du be om indeksering i URL-inspeksjon. Google skriver at det kan korte ned ventetiden. Det endrer ikke vurderingen av siden, så det hjelper lite å gjøre det før siden faktisk er bedre.
Gjelder det mange sider, eller hele nettstedet, er det sjelden nok å fikse én og én side. Da trengs en gjennomgang av struktur og innhold samlet. Det er typisk tegnet på at nettsiden trenger et SEO-push.
Ta en gjennomgang hver måned, ikke bare når trafikken stuper
De fleste ser på indekseringsrapporten først når trafikken har falt. Da har problemet ofte vart lenge. Mueller-eksempelet viser hvor vanskelig det kan være å finne årsaken i ettertid, når flere ting har skjedd samtidig.
En fast gjennomgang en gang i måneden tar ikke lang tid:
- Har antallet indekserte sider endret seg mye siden sist?
- Har noen viktige sider havnet i listen over sider som ikke er indeksert?
- Er nye sider og artikler indeksert innen rimelig tid?
- Har det dukket opp adresser du ikke kjenner igjen? Det kan være et tegn på hacking.
Det siste punktet er viktig. En vanlig form for hacking legger inn mange søppelsider på nettstedet, og indekseringsrapporten er et av stedene du kan se det tidlig.
Slik gjør jeg det med Website-vaktmester
Med Website-vaktmester er SEO-sjekken en fast del av avtalen. I pakkene med månedlig SEO-sjekk går jeg gjennom indekseringsrapporten hver måned. Ser jeg at viktige sider faller ut, eller at nye sider ikke kommer inn, finner jeg årsaken og retter den: innhold, internlenker, sitemap eller kanoniske adresser. Du trenger ikke å vite hva «crawlet» betyr.
Sidene jeg bygger, er statiske og laget for å bli indeksert: én tydelig adresse per side, et sitemap med bare de sidene som skal være med, og ingen tagger, filtre eller vedleggssider som roter til listen. Det koster fra 2 450 kr/mnd eks. mva. ved årsbetaling.
Vil du først se hvordan siden din står i dag, kan du starte med den gratis nettsjekken.
