Categories

Tags

禁止收录机制

有些时候，站长并不希望某些页面被抓取和收录，如付费内容、测试阶段的页面、复制内容页面等。网站上不出现链接，或者使用JavaScript、Flash链接，使用nofollow等方法都不能保证页面一定不会被收录。站长自己虽然没有链接到不想被收录的页面，其他网站可能由于某种原因出现导入链接，导致页面被收录。要确保页面不被收录，需要使用robots文件或Meta Robots标签。来源：搜外网

 Public @ 2017-07-11 16:21:36

从基础到精通：认识网站301重定向的那些事

本文更新了百度官方提供的301问题汇总，参见文章结尾。本人网络公司普通售后技术支持一个，大家都叫我阿D，工作两三年了，关于301重定向，站长们也常叫301跳转(或URL跳转)问题。为了方便描述，以下我们都亲切的称为“301跳转”。301跳转，阿D曾经也花过很多时间去了解、学习过。从基础到精通：认识网站301重定向的那些事 网络营销 SEO推广 第1张网站301这个是一个基础的老问题，涉及到seo的

 Public @ 2013-10-07 16:09:13

玩转robots协议

2013年2月8日北京市第一中级人民法院正式受理了百度诉奇虎360违反“Robots协议”抓取、复制其网站内容的不正当竞争行为一案，索赔金额高达一亿元，这可以看做2012年下半年“3B大战”的继续。在此次索赔案件中，百度称自己的Robots文本中已设定不允许360爬虫进入，而360的爬虫依然对“百度知道”、“百度百科”等百度网站内容进行抓取。其实早在2012年11月初，针对双方摩擦加剧的情况，在中

 Public @ 2019-05-13 16:09:21

更多您感兴趣的搜索

0.409355s