专注前端,专注网页设计制作 - (网页制作/模板制作/设计) QQ:755150799 织梦模板 | 网页特效 | 网站模板 | 建站教程 | TOP排行榜 | Tag标签 | 联系我们
当前位置: 网站首页 > 建站教程 > 优化技巧 > >

网站日志分析教程

时间:2013-12-20来源:学技巧网站制作 作者:学技巧 阅读: 次 【 点评一下

网站日志是网站管理员和搜索引擎对话沟通的途径。通过日志,了解搜索引擎蜘蛛的访问情况。
 
1、网站刚上线,看搜索引擎蜘蛛的抓取情况;
2、网站收录异常,对比日志中蜘蛛的行为情况;
3、解决网站被封问题时,观察日志情况。
 
 
 
下载日志:
通过FTP访问网站的根目录。可以看到一个包含log的文件夹,这是存放日志的地方。
如图:
 
下载查看:
下载、解压、打开日志文件。
日志文件内容如:
61.135.168.22 - - [11/Jan/2009:04:02:45 +0800] "GET /bbs/thread-7303-1-1.html HTTP/1.1" 200 8450 "-" "Baiduspider+(+http://www.baidu.com/search/spider.htm)"   (注:百度,这部分为本文添加)
203.208.60.43 - - [11/Jan/2009:04:02:43 +0800] "GET /sns/space-13563-do-friend-view-me.html HTTP/1.1" 200 5162 "-" "Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"   (注:Google)br style="word-wrap: break-word; color: rgb(68, 68, 68); font-family: Tahoma, Helvetica, SimSun, sans-serif, Hei; font-size: 13.63636302947998px; line-height: 19.09090805053711px;" /> 202.160.178.21 - - [11/Jan/2009:04:02:44 +0800] "GET /sns/space.php?uid=323 HTTP/1.0" 200 7535 "-" "Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)"   (注:雅虎)
65.55.220.217 - - [11/Jan/2009:04:02:57 +0800] "GET /ucenter/avatar.php?uid=12373&size=small&type=virtual HTTP/1.1" 301 - "-" "msnbot-media/1.1 (+http://search.msn.com/msnbot.htm)"   (注:MSN)
 
 
分析日志:
蜘蛛名称:百度->baiduspider、Google ->Googlebot、Msn ->msnbot、yahoo ->Slurp、yodao ->YoudaoBot、sogou ->Sogou+get+spider
在日志文件里,搜索以上蜘蛛名称。就可以看到蜘蛛抓取的痕迹。
我们分析的主要点是,HTTP状态码,如以上的200和301。
" 200 5162 " 代表正常抓取,这次抓取了5162个字节。
 
不同的服务器或虚拟主机设置的日志记录内容不同。
有的如:200 0 33834 237 953  我们通过多看几条记录,观察规律,可以判断第三个数字代表字节数。
有的如:200 0 0或200 0 64  这是没有记录抓取字节数。注意:200 0 0和200 0 64 没代表什么问题。所谓200 0 64代表要被K的言论没有根据,一般的网站都有64代码。
 
在日志里,发现比较多的HTTP状态码是,200(正常)、304(没变化)、404(错误链接)。
304代表,自从上次抓取后,该内容没有更新。一般情况下,网站的图片经常会返回该值。
404代表,访问的这个链接是错误链接。这个错误链接,一方面来自原本存在后来删除了网页,另一方面可能来自本来就不存在,但其他人外链了这么个死链接。
 
返回开篇问题:
1、网站刚上线,看搜索引擎蜘蛛的抓取情况;
如果网站提交给搜索引擎2天后,发现日志里蜘蛛不少,并都返回200,则说明已经可以正常收录。
只是Google展示的时间比较快,而百度则需要20天左右(经验平均值)展示出来。
 
2、网站收录异常,对比日志中蜘蛛的行为情况;
收录正常增加时和现在异常时的日志,进行对比分析。如果没有异常,则应该是搜索引擎展示数据库出问题所致。
如果蜘蛛爬取量明显减少,观察是否外链突然减少很多。
如果日志依然,则认为是搜索引擎的展示问题。
 
3、解决网站被封问题时,观察日志情况。
网站被封时,往往日志里有百度蜘蛛,但很少,而且往往只访问robots.txt文件和首页。
如果一直这样的情况维持1个月,可以考虑放弃该域名。
如果蜘蛛明显增加,而且返回200居多,则收录的希望很大,时间问题。

分享到:
  • 用微信  “扫一扫”

    将文章分享到朋友圈。

    关注公众号:xue-jiqiao

本文版权归原作者所有,转载请注明原文来源出处,学技巧网站制作感谢您的支持!