深圳易捷网络科技财税咨询网-neatmaster518.com 返回首页

企业网站制作如何减少无效的URL爬寻

信息来源:深圳市易捷网络科技有限公司
信息发布时间:2024/11/8
深圳网站制作易捷网络科技发现很多企业网站,尤其是B2C,产品条件过滤系统(如选择产品的品牌、价格、尺寸、性能、参数等)会产生大量无效URL,之所以称为无效只是从SEO角度看的,这些URL并不能产生SEO作用,反倒有负面作用,所以这些URL不收录为好,原因包括:
1.大量过滤条件页面内容重复或极为类似(大量复制内容将使企业网站整体质量下降)
2.大量过滤条件页面没有对应产品,页面无内容(如选择“100元以下42寸LED电视”之类的)
3.绝大部分过滤条件页面没有排名能力(排名能力比分类页面低得多)却浪费一定权重
4.这些过滤条件页面也不是产品页面收录的必要通道(产品页面应该有其它内链帮助爬行和收录)
5.爬行大量过滤条件页面极大浪费蜘蛛爬行时间,造成有用页面收录机会下降(过滤条件页面组合起来是巨量的)
那么怎样尽量使这些URL不被爬行和索引、收录呢前几天的一篇帖子如何隐藏内容也可能成为SEO问题讨论的是类似问题,这种过滤页面就是想隐藏的内容种类之一。不过可惜,我目前想不出完美的解决方法。云晨守望提出两个方法,我觉得都无法完美解决。
一是将不想收录的URL保持为动态URL,甚至故意越动态越好,以阻止被爬行和收录。但是,搜索引擎现在都能爬行、收录动态URL,而且技术上越来越不是问题。虽然参数多到一定程度确实不利于收录,但4、5个参数通常还可以收录。我们无法确认需要多少参数才能阻止收录,所以不能当作一个可靠的方法。而且这些URL接收内链,又没有什么排名能力,还是会浪费一定权重。
第二个方法,robots禁止收录。同样,URL接收了内链也就接收了权重,robots文件禁止爬行这些URL,所以接收的权重不能传递出去(搜索引擎不爬行就不知道有什么导出链接),页面成为权重只进不出的黑洞。(高端企业网站制作)
连向这些URL的链接配合nofollow也不完美,和robots禁止类似,nofollow在Google的效果是这些URL没有接收权重,权重却也没有被分配到其它链接上,所以权重同样浪费了。百度据称支持nofollow,但权重怎么处理未知。
将这些URL链接放在Flash、JS里也没有用,搜索引擎已经可以爬行Flash、JS里的链接,而且估计以后越来越擅长爬。很多SEO忽略了的一点是,JS中的链接不仅能被爬,也能传递权重,和正常连接一样。
也可以将过滤条件链接做成AJAX形式,用户点击后不会访问一个新的URL,还是在原来URL上,URL后面加了#,不会被当成不同URL。和JS问题一样,搜索引擎正在积极尝试爬行、抓取AJAX里的内容,这个方法也不保险。
还一个方法是在页面head部分加noindex+follow标签,意即本页面不要索引,但跟踪页面上的链接。这样可以解决复制内容问题,也解决了权重黑洞问题(权重是可以随着导出链接传到其它页面的),不能解决的是浪费蜘蛛爬行时间问题,这些页面还是要被蜘蛛爬行抓取的(然后才能看到页面html里的noindex+follow标签),对某些企业网站来说,过滤页面数量巨大,爬行了这些页面,蜘蛛就没足够时间爬有用页面了。
再一个可以考虑的方法是隐藏页面(cloaking),也就是用程序检测访问者,是搜索引擎蜘蛛的话返回的页面拿掉这些过滤条件链接,是用户的话才返回正常的有过滤条件的页面。这是一个比较理想的解决方法,唯一的问题是,可能被当作作弊。搜索引擎常跟SEO讲的判断是否作弊的最高原则是:如果没有搜索引擎,你会不会这么做或者说,某种方法是否只是为了搜索引擎而采用显然,用cloaking隐藏不想被爬行的URL是为搜索引擎做的,不是为用户做的。虽然这种情况下的cloaking目的是美好的,没有恶意的,但风险是存在的,胆大的可试用。
还一个方法是使用canonical标签,最大问题是百度是否支持未知,而且canonical标签是对搜索引擎的建议,不是指令,也就是说这个标签搜索引擎可能不遵守,等于没用。另外,canonical标签的本意是指定规范化网址,过滤条件页面是否适用有些存疑,毕竟,这些页面上的内容经常是不同的。
目前比较好的方法之一是iframe+robots禁止。将过滤部分代码放进iframe,等于调用其它文件内容,对搜索引擎来说,这部分内容不属于当前页面,也即隐藏了内容。但不属于当前页面不等于不存在,搜索引擎是可以发现iframe中的内容和链接的,还是可能爬行这些URL,所以加robots禁止爬行。iframe中的内容还是会有一些权重流失,但因为iframe里的链接不是从当前页面分流权重,而只是从调用的那个文件分流,所以权重流失是比较少的。除了排版、浏览器兼容性之类的头疼问题,iframe方法的一个潜在问题是被认为作弊的风险。现在搜索引擎一般不认为iframe是作弊,很多广告就是放在iframe中,但隐藏一堆链接和隐藏广告有些微妙的区别。回到搜索引擎判断作弊的总原则上,很难说这不是专门为搜索引擎做的。记得Matt Cutts说过,Google以后可能改变处理iframe的方式,他们还是希望在同一个页面上看到普通用户能看到的所有内容。
总之,对这个现实、严重的问题,我目前没有自己觉得完美的答案。当然,不能完美解决不是就不能活了,不同企业网站SEO重点不同,具体问题具体分析,采用上述方法中的一种或几种应该可以解决主要问题。
而最最最大的问题还不是上述这些,而是有时候你想让这些过滤页面被爬行和收录,这才是杯具的开始。以后再讨论。

相关行业资讯

1、网站建设要多少钱,和哪些因素有关
2、企业制作网站哪些操作不可松懈
3、如何做好一个企业网站的搜索引擎优化
4、证券网站建设的主要作用和存在的问题
5、企业网站制作如何提高制作的效率
6、“用户反馈”如何帮助你了解产品市场的适应性
7、公司网站制作如何进行市场研究
8、高效布置外链的方法
9、已收录的文章内容需要怎么对其修改
10、手机网站制作的技巧有哪些以下几点值得注意
11、 网站优化如何选择长尾关键词
12、企业网站应该如何建立,从哪方面着手
13、新闻网站设计概念
14、很实用的十一条教你怎么样做好网站
15、教你如何防范以及解决死链的问题
16、原创文章对企业网站排名的重要程度
17、网站建设中,教育行业企业该如何做
18、深圳网站建设公司SEO网站内部优化行动指南
19、微网站火爆与普通网站有何不同
20、企业做网站计算机网络技术在图书馆网站应用的重要意义
21、营销型网站有哪些特点
22、如何进行网站推广效果才能更佳
23、网站优化之怎样提高百度关键词排名
24、网站设计应遵循五个基本原则
25、网站制作之模板站和原创站的选择
26、一个人的网站SEO网站优化升级篇
27、总结我的wordpress经验:进阶篇
28、新站如何才能在短时间内获得大量seo流量
29、什么是问答营销怎么去操作这种营销模式
30、一个网站PHP程序员的成长之路
31、SEO优化技术都可以借鉴哪些
32、企业选择定制网站建有什么优势
33、网站架设需要注意问题有哪些
34、企业网站建设改版的未来方向
35、网站被攻击恶意刷流量的解决办法
36、自适应网站有哪些优势特点
37、网站改版带来的404抓取错误解决实践
38、从优化咖啡机站发现谷歌PR值变化的看法
39、合理使用网站建设网站空间的小妙招
40、社区运营的核心要素运营社区就是运营用户
41、北京网站定制时要注意找准自身的定位
42、近期百度将对虚假“官网”进行降权处理
43、浅谈企业手机网站如何做好内容建设
44、如何有效的做SEO搜索引擎优化
45、网站建设浅谈网站数据展示的欺骗性
46、如何书写出蜘蛛喜欢的文章
47、说一说网站建设哪家比较好
48、搜索排名下降网站搜索排名优化技巧分享
49、2021年网站设计中的四个误区
50、企业网站一定要突出企业特色吗可不可以颠覆呢
深圳市易捷网络科技有限公司版权所有    粤ICP备2022153140号