Buone notizie per gli utilizzatori di Google Sitemaps. Google ha aggiunto la possibilità di testare il vostro file robots.txt potendo così scoprire come Google reagisca ad esso. Il file robots.txt è generalmente alquanto ostico per i webmaster alle prime armi e spesso capita che possa essere mal configurato bloccando inavvertitamente l'accesso al sito ai motorori di ricerca. Il proprietario del sito e il webmaster in tal caso osservano che il sito non viene indicizzato dai motori di ricerca e generalmente non si rendono conto del perché. Ora è possibile inserire il file robots.txt direttamente nell'interfaccia Google Sitemaps e osservare con esattezza quale sarà il comportamenti di Google in risposta ai settaggi compiuti in esso. In questo modo ogni errore viene scoperto e prevenuto.
Ad esempio si sa che le seguenti due linee nel file robots.txt bastano ad impedire al sito di apparire sui motori di ricerca:
User-Agent: *
Disallow: /
Il test del file robots.txt in Google Sitemaps produce la seguente risposta:
Googlebot
Blocked by line 2: Disallow: /
Detected as a Directory: specific files
may have different restrictions
Oltre a verificare come lo spider di Google(Googlebot) interpreta il file robots.txt è anche possibile sapere quale sarà la reazione di Google mobile search , Image search e AdSense.
Google fornisce informazioni su come reagisce verso il sito includendo:
- le pagine del sito maggiormente visualizzate da Google in risposta a queries dell'utenza;
- quali di queste pagine si trasformano in click;
- quali pagine web non è stato possibile raggiungere e perché;
- le parole chiave maggiormente presenti ed indicizzate del sito su Google ed i links che il sito riceve da altri siti web.
Decisamente Google Sitemaps è una risorsa molto utile per i webmasters che possono trovare maggiori informazioni all'url: http://www.google.com/webmasters/sitemaps/