至于马云和李彦宏的恩恩怨怨早已家喻户晓,但在这千丝万缕的关系中,我们不难发现,淘宝和百度是死对头,但是天猫双十一只是这两个人斗角的缩影,前段时间搜索引擎互联网大会召开,追对robots协议的遵守,各家搜索引擎公司都是表示支持的,但是真的会支持robots.txt协议吗?其实笔者认为,淘宝双十一没有收录不代表百度就一点会遵守robots.txt,为什么这么说呢?大家都知道淘宝网吧,淘宝网也是马云的,但是你访问http://www.taobao.com/robots.txt的话,你同样可以看到淘宝网是不支持百度搜索引擎蜘蛛抓取的。不管是天猫双十一还是淘宝网,都是不支持百度搜索引擎的,那我们可以根据搜索引擎蜘蛛爬行规律来判断,百度搜索引擎蜘蛛要是遵守robots协议的话,应该不可能收录淘宝网呀,但是百度还是收录了。这难道是百度的BUG?笔者不想多说什么。
那么为什么众多搜索引擎都不太遵守robots协议呢?其实很简单,就是为了利益。就拿本文的主题来说,天猫双十一它本身就是个营销手段,这个营销手段是马云搞得,谁会买账呢?自然是老百姓。好了,我们算这次有3000万人去淘宝购物,那么着3000万人中都是潜在的高质量用户群体,这些用户群体都是国人,国人用的最多的是百度,除了百度还是百度,那么这么多人群中肯定有人不知道天猫双十一的官网网站,他们肯定是在百度里搜索一下呀,至少笔者之前也不知道天猫双十一的官方网站,但笔者和大众都认为,天猫这么大的活动,百度肯定是第一名呀,但是笔者和大众都失望了。百度压根就没有收录天猫双十一的官方网站。单这笔交易对百度来说无所谓,因为百度不在乎这点钱,但是如果核心的东西失去了,百度肯定坐不住,那时候它也不会顾及robots.txt这个文本了。
淘宝设置了robots协议,并且明确要拒绝被百度收录,但是百度还是死皮赖脸的收录它。假设天猫双十一百度不收录,对百度的影响微乎其微,打,但是淘宝网如果百度不收录,对想去淘宝网购物有懒得去输入网址的网民来说,就形成障碍了。因为他们通过百度搜索引擎无法获得它们想要的信息,这就是百度为什么要死皮赖脸的收录淘宝网。