深圳易捷网络科技财税咨询网-neatmaster518.com 返回首页

企业网站制作如何减少无效的URL爬寻

信息来源:深圳市易捷网络科技有限公司
信息发布时间:2024/12/22
深圳网站制作易捷网络科技发现很多企业网站,尤其是B2C,产品条件过滤系统(如选择产品的品牌、价格、尺寸、性能、参数等)会产生大量无效URL,之所以称为无效只是从SEO角度看的,这些URL并不能产生SEO作用,反倒有负面作用,所以这些URL不收录为好,原因包括:
1.大量过滤条件页面内容重复或极为类似(大量复制内容将使企业网站整体质量下降)
2.大量过滤条件页面没有对应产品,页面无内容(如选择“100元以下42寸LED电视”之类的)
3.绝大部分过滤条件页面没有排名能力(排名能力比分类页面低得多)却浪费一定权重
4.这些过滤条件页面也不是产品页面收录的必要通道(产品页面应该有其它内链帮助爬行和收录)
5.爬行大量过滤条件页面极大浪费蜘蛛爬行时间,造成有用页面收录机会下降(过滤条件页面组合起来是巨量的)
那么怎样尽量使这些URL不被爬行和索引、收录呢前几天的一篇帖子如何隐藏内容也可能成为SEO问题讨论的是类似问题,这种过滤页面就是想隐藏的内容种类之一。不过可惜,我目前想不出完美的解决方法。云晨守望提出两个方法,我觉得都无法完美解决。
一是将不想收录的URL保持为动态URL,甚至故意越动态越好,以阻止被爬行和收录。但是,搜索引擎现在都能爬行、收录动态URL,而且技术上越来越不是问题。虽然参数多到一定程度确实不利于收录,但4、5个参数通常还可以收录。我们无法确认需要多少参数才能阻止收录,所以不能当作一个可靠的方法。而且这些URL接收内链,又没有什么排名能力,还是会浪费一定权重。
第二个方法,robots禁止收录。同样,URL接收了内链也就接收了权重,robots文件禁止爬行这些URL,所以接收的权重不能传递出去(搜索引擎不爬行就不知道有什么导出链接),页面成为权重只进不出的黑洞。(高端企业网站制作)
连向这些URL的链接配合nofollow也不完美,和robots禁止类似,nofollow在Google的效果是这些URL没有接收权重,权重却也没有被分配到其它链接上,所以权重同样浪费了。百度据称支持nofollow,但权重怎么处理未知。
将这些URL链接放在Flash、JS里也没有用,搜索引擎已经可以爬行Flash、JS里的链接,而且估计以后越来越擅长爬。很多SEO忽略了的一点是,JS中的链接不仅能被爬,也能传递权重,和正常连接一样。
也可以将过滤条件链接做成AJAX形式,用户点击后不会访问一个新的URL,还是在原来URL上,URL后面加了#,不会被当成不同URL。和JS问题一样,搜索引擎正在积极尝试爬行、抓取AJAX里的内容,这个方法也不保险。
还一个方法是在页面head部分加noindex+follow标签,意即本页面不要索引,但跟踪页面上的链接。这样可以解决复制内容问题,也解决了权重黑洞问题(权重是可以随着导出链接传到其它页面的),不能解决的是浪费蜘蛛爬行时间问题,这些页面还是要被蜘蛛爬行抓取的(然后才能看到页面html里的noindex+follow标签),对某些企业网站来说,过滤页面数量巨大,爬行了这些页面,蜘蛛就没足够时间爬有用页面了。
再一个可以考虑的方法是隐藏页面(cloaking),也就是用程序检测访问者,是搜索引擎蜘蛛的话返回的页面拿掉这些过滤条件链接,是用户的话才返回正常的有过滤条件的页面。这是一个比较理想的解决方法,唯一的问题是,可能被当作作弊。搜索引擎常跟SEO讲的判断是否作弊的最高原则是:如果没有搜索引擎,你会不会这么做或者说,某种方法是否只是为了搜索引擎而采用显然,用cloaking隐藏不想被爬行的URL是为搜索引擎做的,不是为用户做的。虽然这种情况下的cloaking目的是美好的,没有恶意的,但风险是存在的,胆大的可试用。
还一个方法是使用canonical标签,最大问题是百度是否支持未知,而且canonical标签是对搜索引擎的建议,不是指令,也就是说这个标签搜索引擎可能不遵守,等于没用。另外,canonical标签的本意是指定规范化网址,过滤条件页面是否适用有些存疑,毕竟,这些页面上的内容经常是不同的。
目前比较好的方法之一是iframe+robots禁止。将过滤部分代码放进iframe,等于调用其它文件内容,对搜索引擎来说,这部分内容不属于当前页面,也即隐藏了内容。但不属于当前页面不等于不存在,搜索引擎是可以发现iframe中的内容和链接的,还是可能爬行这些URL,所以加robots禁止爬行。iframe中的内容还是会有一些权重流失,但因为iframe里的链接不是从当前页面分流权重,而只是从调用的那个文件分流,所以权重流失是比较少的。除了排版、浏览器兼容性之类的头疼问题,iframe方法的一个潜在问题是被认为作弊的风险。现在搜索引擎一般不认为iframe是作弊,很多广告就是放在iframe中,但隐藏一堆链接和隐藏广告有些微妙的区别。回到搜索引擎判断作弊的总原则上,很难说这不是专门为搜索引擎做的。记得Matt Cutts说过,Google以后可能改变处理iframe的方式,他们还是希望在同一个页面上看到普通用户能看到的所有内容。
总之,对这个现实、严重的问题,我目前没有自己觉得完美的答案。当然,不能完美解决不是就不能活了,不同企业网站SEO重点不同,具体问题具体分析,采用上述方法中的一种或几种应该可以解决主要问题。
而最最最大的问题还不是上述这些,而是有时候你想让这些过滤页面被爬行和收录,这才是杯具的开始。以后再讨论。

相关行业资讯

1、纯文本链接是排名来源非常数量
2、企业网站seo关键词排名优化为什么见效慢
3、企业网站建设一定要做一个目录页
4、年轻站长的苦逼推广优化路:虽难却依旧坚持着
5、百度竞价推广账户如何合理建立和优化
6、那些对搜索引擎不友好的网站特征_深圳网站制作公司
7、SEO也讲究先入为主:长期积淀才能做好SEO
8、 站长杂谈:网站被恶意复制怎么办
9、 电商网站的购物车页面该如何做好优化
10、网站模板样式设计的一些原则
11、深圳网站制作安全性如何保证
12、一个老站长的降权SEO案例分享
13、企业网站最常见的模块功能
14、网站建设中维护网站安全的一些方法
15、锚文本对SEO优化的作用有哪些
16、服装类型的品牌网站如何建设看看有哪些好的方案
17、丰台企业官网建设过程中需要注意的事
18、传统企业为什么转型做线上电商网站制作?
19、网站seo优化一定要抓住的四个关键时期
20、网站防火墙的有哪些种类
21、为何优化网站要从长尾关键词入手
22、网站设计的六个好习惯
23、选择有价值的关键词需要做些什么呢
24、推广优化路上的5项必备技能
25、SEO优化可以为企业带来多大的价值
26、腾讯企业邮箱特色商务化操作“会议邀约”功能
27、企业网站制作与搜索引擎之间的关系分析
28、如何优化WordPress博客栏目页面
29、百度竞价推广账户优化技巧实践经验
30、草根站长如何通过网络营销实现自我营销
31、网络营销需要满足哪些需求
32、企业网站制作的建设周期一般是多长时间
33、怎么规划网站改版计划,注意事项是什么
34、网站优化中如何提升外链质量
35、如何为您的网站添加声音
36、网站建设时应该关注的问题
37、易百讯建站:门户网站有哪些优化特点
38、如何选择正规网站公司
39、企业网页设计应着重的细节是什么
40、网站建设的价格和网站类型息息相关
41、轮链与混链带给网站内链优化的思考
42、博客与论坛链接
43、怎样写好网站TDK
44、对SEM行业发展前景解析
45、稳定关键词排名需掌握这些简单SEO技巧
46、常规网站的建设需要多长的时间
47、PHP语言写的网站怎么优化
48、网站运营中不可缺少的因素是什么
49、网站优化宝典--把网站当做孩子养育
50、网站制作要符合W3C的哪些标准
深圳市易捷网络科技有限公司版权所有    粤ICP备2022153140号