有什么方法可以屏蔽搜索引擎蜘蛛,禁止被收录
Admin 2022-08-22 群英技术资讯 666 次浏览
拒绝搜索引擎收录网站的方法:可以在head标签中添加内容【<meta name="robots" content="noarchive">】,禁止搜索引擎抓取网站并显示网页快照。
一个新的网站建好之后,只要搜索引擎蜘蛛抓取到的、网站内容不是很差劲那么搜索引擎就很有可能收录我们的网站,如果因为某种原因不想让搜索引擎收录网站,那要如何操作?下面本篇文章就来给大家讲解一下。
方法一:设置 robots.txt 方法
可以利用设置robots.txt来屏蔽搜索引擎蜘蛛,那么什么是robots.txt?
搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。
请注意,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。
如何使用robots.txt屏蔽搜索引擎蜘蛛?
搜索引擎默认的遵守 robots.txt 协议,创建 robots.txt 文本文件放至网站根目录下,编辑代码如下:
User-agent: * Disallow: /
通过以上代码,即可告诉搜索引擎不要抓取采取收录本网站,注意慎用如上代码:这将禁止所有搜索引擎访问网站的任何部分。
如果只想禁止百度收录全站,可以编辑如下代码:
User-agent: Baiduspider Disallow: /
如果只想禁止Google收录全站,可以编辑如下代码:
User-agent: Googlebot Disallow: /
方式二:设置网页代码方法
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止搜索引擎抓取网站并显示网页快照。
<meta name="robots" content="noarchive">
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止百度搜索引擎抓取网站并显示网页快照。
<meta name="Baiduspider" content="noarchive">
在网站首页代码<head>与</head>之间,加入如下代码,即可禁止谷歌搜索引擎抓取网站并显示网页快照。
<meta name="googlebot" content="noarchive">
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
不知道有没有细心地站长们发现,最近不知道百度是不是要有什么动作,很多站长都发现自己的网站百度索引的内容都有不同程度的下降,有的甚至达到断崖式下跌,移动端、PC端同步下降,严重一点的暴跌六成左右,不过网站流量却没有什么变化幅度,排名和关键词也正常,那么如果是正常情况下,出现索引量断崖式下跌站长们会想到哪些原因呢?
随着互联网的不断发展,网络推广对于广大企业来说已经成为了当下的一种趋势,是当下企业作为线上引流拓客的一种方法,当然网络推广的渠道也是很多的
随着互联网的不断发展,网站SEO优化深得广大企事业客户的喜爱,网站SEO优化可以让企业更好的在线上获取流量增加销售渠道,但是在网站SEO优化中我们也会由于违反搜索引擎规则而导致网站被K,网站被K的形式主要体现在全站被K、首页被K、内页被K这三种
做为网站设计者如果你的网站建设思想是“网页内容只是写给用户看” 你就已经out了,那是旧一代网站建设的思维,新一代SEO网站建设的思维是网页内容不仅要给用户看,更要写给搜索引擎看。
对于企业来说,往往都是只重结果不看过程的,就比如网站优化,企业可能只需要知道,我什么时候找了谁做网站优化,什么时间网站首页上了哪些词,什么时候所有的关键词都能有不
成为群英会员,开启智能安全云计算之旅
立即注册Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008