现在的网站绝大多数是数据库驱动，页面由程序实时生成，而不是真的在服务器上有一个静态HTML文件存在。当用户访问一个网址时，程序根据URL中的参数调用数据库数据，实时生成页面内容。因此动态页面相对应的URL原始状态也是动态的，包含问号、等号及参数。
更麻烦的是有时某些参数可以是任意值，服务器都能正常返回页面，虽然内容全是一样或非常相似的。例如，URL中的参数1234改为5678或其他数字，服务器很可能也返回200状态码。
所以以前的搜索引擎对动态URL敬而远之，要想网站页面被充分收录，站长需要把动态URL转化为静态URL。
来源：搜外网
用几个最常见的情况，直接举例说明：1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录：User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度：User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
尊敬的用户： 为了更好地保护网站主的合法权益、提升百度搜索用户搜索体验，百度搜索于2020年10月27日发布了新版robots协议，主要特性包括： 1. 支持抓取控制与数据保护视角的并存 新增规定了两个特殊的抓取指令： allow-if-previously-blocked 和 noindex-if-previously-indexed，用于方便网站主在控制抓取行为的同时，保护网站内容的安全
1、更好的迎合搜索引擎工作原理的爬行抓取机制；2、把网站URL静态化更有助于网站获得好的排名；3、URL静态化有利于用户体验、不容易出错4、可以提高网站访速度、完全性、稳定性
这是SEO过程中最经常碰到的问题，也是必须解决的问题。因为搜索引擎喜欢静态页面。从Web服务器的角度，这个问题转变为：如何将静态化的文件名称转化成参数。如何把动态链接静态化？需要两步来处理：1、把网页上带链接的地方，都换上新的静态化链接。搜索引擎和浏览器将通过该链接来发生请求。（有些人做修改不是在网页上，而是进行动态链接向静态链接的转向，这是严重错误的）2、在httpd.conf或.htacces
