I blogs li ho resi non visibili agli anonimi. Ma ora mi chiedo se significa renderli invisibili anche ai crawlers ... seppur nel robot.txt abbia concesso ai crawlers di vederli ...
I blogs li ho resi non visibili agli anonimi. Ma ora mi chiedo se significa renderli invisibili anche ai crawlers ... seppur nel robot.txt abbia concesso ai crawlers di vederli ...
I crawler non possono visitare pagine protette da accesso con password. In teoria. Perché spesso mi è capitato, con Google, di trovare risultati con anteprime di contenuto che ho poi trovato protetto da password. Non so se la cosa sia una funziona gestibile con strumenti di Google o più semplicemente con tecniche di cloaking (si serve contenuto diverso ai crawler, rispetto ai visitatori del sito).
Ok allora blocco questo nel robot ... in modo che non tentino l'accesso per niente ... ti ringrazio