搜索内容

包含标签:robots.txt 的文章
  • 认识“X-Robots-Tag”HTTP标头
    建站教程

    认识“X-Robots-Tag”HTTP标头

    一般情况,我们使用robots.txt文件来告知搜索引擎哪些文件/文件夹允许爬网或禁止爬网,还有X-Robots-Tag HTTP标头之类的东西,你知道吗?使用此功能对搜索引……
    多牛 05/09/2021
  • robots.txt的正确用法
    建站教程

    robots.txt的正确用法

    robots.txt(统一小写)是一种存放于网站根目录下的ASCII编码的文本文件,它通常告诉网络搜索引擎的漫游器(又称网络蜘蛛),此网站中的哪些内容是不应被搜索……
    多牛 05/09/2021