芜湖网站建设技术上,客户问ASP页面和生成的静态页面都被搜索引擎收录了,怎么办?
我给他的建议是用robots屏蔽所有asp文件:
User-agent: *
Disallow: /*.asp
还有一种办法是把ASP页面301跳转到静态页面,但是这种效果比较慢,如果可以等待推荐用301跳转的方式。
但是经过了解之后,知道对方的是用ASP页面直接生成的纯静态的页面。如果使用ASP的301跳转代码加到原来ASP页面上的话,生成静态页面会出错。
于是公司技术员想到了,用ASP读取来访用户的HTTP_USER_AGENT,然后根据这个判断如果是蜘蛛的话进行301跳转,如果是正常访客不跳转。
这样就解决了生成静态页面不会出错,而蜘蛛爬行动态页面的话会进行301跳转到静态页面。
比如例子:
http://www.wh0553.cn/show.asp?id=227
http://www.wh0553.cn/news/227.html
可以在头部加入如下代码:
<% icoa_ag=lcase(request.ServerVariables("HTTP_USER_AGENT")) icoa_id=Request.QueryString("id") if instr(icoa_ag, "spider") > 0 or instr(icoa_ag, "bot") > 0 then Response.Status="301 Moved Permanently" Response.AddHeader "Location", "http://www.wh0553.cn/news/"&myid&".html" end if %>