Categories


Tags


为什么我的网站中的一些私密网页也会被百度收录?

Baiduspider对网页的抓取,是通过网页与网页之间的链接实现的。

网页之间的链接类型,除了站点内部的页面链接之外,还有不同网站之间的互相链接。因此,某些网页即便通过您的网站内部链接无法访问到,但是,如果别人的网站上有指向这些页面的链接,那么这些页面还是会被搜索引擎所收录。

百度Spider的访问权限,和普通用户是一样的。因此,普通用户没有权限访问的内容,Spider也没有权限访问。之所以看上去某些访问权限限制内容被百度收录,原因有两点:

  A. 该内容在Spider访问时是没有权限限制的,但抓取之后,内容的权限发生了变化

  B. 该内容有权限限制,但是由于网站安全漏洞问题,导致用户可以通过某些特殊路径直接访问。而一旦这样的路径被公布在互联网上,则Spider就会循着这条路径抓出受限内容

如果您不希望这些私密性内容被百度收录,一方面可以通过Robots协议加以限制;另一方面,也可以通过反馈中心反馈给我们进行解决。


Public @ 2020-06-19 15:55:52

内容变更/快照内容错误怎么办?

如果网页内容(无论是内容还是网页标题或者其他信息)已经更改或者发现搜狗网页快照与您的网页内容不一致,在我们下次抓取网站并刷新索引前,网页快照仍然会包含原有的内容。因而这些内容仍然会出现在搜索结果中,您可以申请更新快照(http://fankui.help.sogou.com/index.php/web/web/index?type=2)来告知搜狗更新快照信息。

Public @ 2011-01-27 15:34:27

禁止搜索引擎收录的方法

禁止搜索引擎收录的方法什么是robots.txt文件?搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分

Public @ 2016-10-21 16:09:20

新网站怎么让百度快一点收录?

以下是让百度快速收录新网站的步骤: 1.建立网站地图:网站地图是一个XML文件,列出了网站上所有的URL。 创建这个文件并将其提交给百度,可以帮助百度爬虫更加有效地抓取你的网站。 2.添加网站到百度站长平台:百度站长平台使用了各种工具和资源来帮助管理员优化网站并追踪百度爬虫的行动。 注册并添加你的网站到百度站长平台,这将提高百度爬虫索引你网站的可能性。 3.创建社交媒体账户:社交媒体账户可以

Public @ 2023-04-03 12:50:20

cn域名收录实验小结

11号做了.cn域名新站在百度收录实验,现在过了一个星期,小结一下。11号早上6点,实验博客发表。Google蜘蛛在8点左右最早爬到了新站上,百度和雅虎蜘蛛也很快都开始抓网页。11号当天下午5,6点钟时,我在Google能搜索到新站已被收录。12号,雅虎收录。13号早上起来,看到博客留言说百度已经收录,我搜了一下,果然已经被收录了。zacseo-baidu-13122007.gif从发链接到百度收

Public @ 2019-10-02 15:34:39

更多您感兴趣的搜索

0.525544s