MongoDB如何实现MapReduce聚合
Admin 2022-11-23 群英技术资讯 2780 次浏览
在日常操作或是项目的实际应用中,有不少朋友对于“MongoDB如何实现MapReduce聚合”的问题会存在疑惑,下面小编给大家整理和分享了相关知识和资料,易于大家学习和理解,有需要的朋友可以借鉴参考,下面我们一起来了解一下吧。Mongodb是针对大数据量环境下诞生的用于保存大数据量的非关系型数据库,针对大量的数据,如何进行统计操作至关重要,那么如何从Mongodb中统计一些数据呢?
在Mongodb中,给我们提供了三种用于数据聚合的方式:
(1)简单的用户聚合函数;
(2)使用aggregate进行统计;
(3)使用mapReduce进行统计;
今天我们首先来讲讲mapReduce是如何统计,在后续的文章中,将另起文章进行相关说明。
MapReduce是啥呢?以我的理解,其实就是对集合中的各个满足条件的文档进行预处理,整理出想要的数据然后进行统计得到最终的统计结果。其中map函数用于对集合中的各个满足条件的文档进行预处理,整理出想要的数据。Reduce函数用于对整理出的数据进行处理得到统计结果。Map函数和Reduce函数都是JavaScript函数。
首先,我们先构造一个测试数据集test,使用js脚本往集合中随机插入一组数据,每条记录是哪个人花了多少钱买了什么东西。具体脚本test1.js如下:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;">for( var i=0; i<100; i++){
var rID=Math.floor(Math.random()*10);
var price = parseFloat((Math.random()*10).toFixed(2));
if(rID<3){
db.test.insert({"user":"majing","sku":rID,"price":price});
}
else if(rID>=3 && rID<5){
db.test.insert({"user":"wufenglei","sku":rID,"price":price});
}
else if(rID>=5 && rID<8){
db.test.insert({"user":"wufenglei","sku":rID,"price":price});
}
else {
db.test.insert({"user":"liyonghu","sku":rID,"price":price});
}
}</span></span>
接下来我们通过在控制台执行脚本来向数据库插入具体的数据,具体执行指令如下:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;">mongo 127.0.0.1:27017/test J:/test1.js</span></span>
执行之后,通过MongoVUE来查看下具体的数据,如下所示,数据已经插入到集合中了:

接下来,我们可以做几个简单的统计操作了。
(1)统计不同用户都买了多少个商品?编写js脚本test2.js,将结果保存到statis1集合中。
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">map=function(){
emit(this.user,1);
}
reduce=function(key, values){
var count = 0;
values.forEach(function(val){count += val});
return count;
}
db.test.mapReduce(map, reduce, {out:"statics1"});</span></span></span>
按照刚才执行脚本的方式执行test2.js,并查看数据:

从数据库就可以直观看到统计数据了,若想查看某个人如majing购买了多少个商品,直接使用
<span style="font-family:KaiTi_GB2312;">
<span style="font-size:18px;">
<span style="font-size:18px;">
<span style="font-family:KaiTi_GB2312;font-size:18px;">db.statics1.find({"_id":"majing"});
</span>
</span>
</span>
</span>
(2)统计每个用户购买的每个商品的数量情况
脚本test3.js如下所示:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">map=function(){
emit({user:this.user,sku:this.sku},1);
}
reduce=function(key, values){
var count = 0;
values.forEach(function(val){count += val});
return count;
}
db.test.mapReduce(map, reduce, {out:"statics2"});</span></span></span>
按照刚才执行脚本的方式执行test3.js,并查看数据:

总共返回了10条记录。此时如果我们想查找某个用户购买商品的情况,可以使用下面的查询方法:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">db.statics2.find({"_id.user":"majing"});</span></span></span>
如果我们想查找某个用户购买某个商品的情况,可以使用下面的查询方法:

(3)统计每个用户购买商品的总量及花费的总金额
脚本test4.js如下所示:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">map=function(){
emit({user:this.user},{totalprice:this.price,count:1});
}
reduce=function(key, values){
var res = {totalprice:0.00,count:1};
values.forEach(function(val){res.totalprice += val.totalprice;res.count+=val.count;});
return res;
}
db.test.mapReduce(map, reduce, {out:"statics3"});</span></span></span>
按照刚才执行脚本的方式执行test4.js,并查看数据:

(4)统计每个用户购买商品的平均价钱
在这个情景下,我们需要用到说道mapReduce里的另一个参数finalize,该参数是一个javascript脚本函数,用于对reduce后的集合进行一个后期处理操作。
执行脚本test5.js,具体如下所示
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">map=function(){
emit({user:this.user},{totalprice:this.price,count:1});
}
reduce=function(key, values){
var res = {totalprice:0.00,count:1,average:0};
values.forEach(function(val){res.totalprice += val.totalprice;res.count+=val.count;});
return res;
}
finalizeFunc=function(key,reduceResult){
reduceResult.totalprice=(reduceResult.totalprice).toFixed(2);
reduceResult.average=(reduceResult.totalprice/reduceResult.count).toFixed(2);
return reduceResult;
}
db.test.mapReduce(map, reduce, {out:"statics4",finalize:finalizeFunc});</span></span></span>
执行之后查看得到的数据,具体如下所示,显示了总价钱,商品数量和商品单价。

如果想查找某个人的,可以和上面的查询方法一样,使用find()方法进行查询:
<span style="font-family:KaiTi_GB2312;"><span style="font-size:18px;"><span style="font-size:18px;">db.statics4.find({"_id.user":"majing"});</span></span></span>
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
MongoDB 固定集合(Capped Collections) MongoDB 固定集合(Capped Collections)是性能出色且有着固定大小的集合,对于大小固定,我们可以想象其就像一个环形队列,当集合空间用完后,再插入的元素就会覆盖最初始的头部的元素! 创建固定集合 我们通过createCollection来创建一个固定集合,且capped选项设置为true: >db.createCollection(..
执行查询操作时,集合中的文档存在适当的索引,MongoDB就可以使用该索引限制必须检查的文档数量。MongoDB的索引可以分为六种,即单字段索引、复合索引、多键索引、地理空间索引、全文本索引以及哈希索引,六种索引的详细介绍,具体如下:
MongoDB Java 环境配置 在 Java 程序中如果要使用 MongoDB,你需要确保已经安装了 Java 环境及 MongoDB JDBC 驱动。 本章节实例适合 Mongo 3.x 以上版本。 你可以参考本站的Java教程来安装Java程序。现在让我们来检测你是否安装了 MongoDB JDBC 驱动。 首先你必须下载mongo jar包,
MongoDB中文档增删查改怎样操作的呢?分享一篇关于“MongoDB中的文档如何进行增删查改”的文章内容给大家,有需要的小伙伴可以自行参考下,希望小编所整理的资料能帮助到你解决问题,接下来就一起看一看吧!
文本总结了一些MongoDB Shell 命令,小编认为是比较实用的,因此分享给大家作参考,包括数据库、集合、文档、条件操作符来筛选查询结果等等内容,具有一定的参考价值,需要的朋友可以看看。
成为群英会员,开启智能安全云计算之旅
立即注册关注或联系群英网络
7x24小时售前:400-678-4567
7x24小时售后:0668-2555666
24小时QQ客服
群英微信公众号
CNNIC域名投诉举报处理平台
服务电话:010-58813000
服务邮箱:service@cnnic.cn
投诉与建议:0668-2555555
Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 ICP核准(ICP备案)粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008