有什么方法可以屏蔽搜索引擎蜘蛛,禁止被收录
Admin 2022-08-22 群英技术资讯 1219 次浏览
这篇文章主要介绍“有什么方法可以屏蔽搜索引擎蜘蛛,禁止被收录”,有一些人在有什么方法可以屏蔽搜索引擎蜘蛛,禁止被收录的问题上存在疑惑,接下来小编就给大家来介绍一下相关的内容,希望对大家解答有帮助,有这个方面学习需要的朋友就继续往下看吧。拒绝搜索引擎收录网站的方法:可以在head标签中添加内容【<meta name="robots" content="noarchive">】,禁止搜索引擎抓取网站并显示网页快照。
一个新的网站建好之后,只要搜索引擎蜘蛛抓取到的、网站内容不是很差劲那么搜索引擎就很有可能收录我们的网站,如果因为某种原因不想让搜索引擎收录网站,那要如何操作?下面本篇文章就来给大家讲解一下。
方法一:设置 robots.txt 方法
可以利用设置robots.txt来屏蔽搜索引擎蜘蛛,那么什么是robots.txt?
搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。
请注意,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。
如何使用robots.txt屏蔽搜索引擎蜘蛛?
搜索引擎默认的遵守 robots.txt 协议,创建 robots.txt 文本文件放至网站根目录下,编辑代码如下:
User-agent: * Disallow: /
通过以上代码,即可告诉搜索引擎不要抓取采取收录本网站,注意慎用如上代码:这将禁止所有搜索引擎访问网站的任何部分。
如果只想禁止百度收录全站,可以编辑如下代码:
User-agent: Baiduspider Disallow: /
如果只想禁止Google收录全站,可以编辑如下代码:
User-agent: Googlebot Disallow: /
方式二:设置网页代码方法
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止搜索引擎抓取网站并显示网页快照。
<meta name="robots" content="noarchive">
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止百度搜索引擎抓取网站并显示网页快照。
<meta name="Baiduspider" content="noarchive">
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止谷歌搜索引擎抓取网站并显示网页快照。
<meta name="googlebot" content="noarchive">
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
在网站建设设计中我们总是能看到一些网页版块与版块之间的空白区域,这是我们所说的留白,留白的地方一般都位于图片、文字、列表等这些网站设计的元素周围,留白不一定是白色的,它可以是黑色,棕色,黄色,红色等任何颜色,下面南昌网站建设开发公司百恒科技小编来跟大家聊一下网站建设中为什么要留白。
网站排名究竟和什么有关系,企业们都比较关心自己网站的排名情况,这是网站知名度和点击率的直接反应,但是有一些网站的排名就怎么也上不去,到底原因是什么呢?
网站SEO中canonical标签有何用,什么情况使用??现在的网站基本都使用纯静态或伪静态链接,但实际有些网站程序处理不够严谨,生成静态URL后,网站上动态地址有些页面还保留着,造成搜索引擎重复收录,这就是伪静态后出现一个页面有多个URL可以访问的情况,今天我们讲下如何用canonical标签来处理这些细节问题。
新上线的网站怎么解决搜索引擎识别和信任度的问题?我们知道新站想要起来很难,权重总是上不去,这就和搜索引擎识别和信任度有关,该怎么解决这两个问题呢?下面我们就来看看详细的情况
颜值是个网络词汇,主要是对人或者物的外貌特征优劣程度打分,顾名思义,“颜”就是“外貌”,“值”就是分数,用网络用语就是指数。说一个网站的颜值,就是指网站首页设计效果,在网站首页设计上,走过一段漫长的摸索过程
成为群英会员,开启智能安全云计算之旅
立即注册关注或联系群英网络
7x24小时售前:400-678-4567
7x24小时售后:0668-2555666
24小时QQ客服
群英微信公众号
CNNIC域名投诉举报处理平台
服务电话:010-58813000
服务邮箱:service@cnnic.cn
投诉与建议:0668-2555555
Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 ICP核准(ICP备案)粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008