看这里介绍SEO经验的人挺多的,请教一个简单问题
好象robots.txt文件对SEO也有好处吧?如果我只想spider访问我网站根目录下以.htm为后缀的文件,robots.txt的内容是不是这样的:
User-agent: *
Allow: /.htm$
Disallow: /
因为我的网站很简单,只有根目录下几个htm文件。其它download和image目录存放下载文件和图片的,对spider应该没有用吧?可以禁用吧?
不知道在这里问这个问题妥当不,还望版主手下留情。
[ 本帖最后由 continue 于 2008-7-18 17:03 编辑 ]