MongoDB学习(使用分组、聚合和映射-归并)

使用分组、聚合和映射-归并  

  MongoDB的强大功能之一,是直接在服务器对文档的值进行复杂的操作,而不用先发文档发送到客户端在进行处理。

结果分组

  对大型数据集进行查询操作时,通常会根据文档的字段值对其进行分组。这可以在取回文档后通过代码来完成,但在服务器端查找的同时进行分组效率跟高。

  要将查询结果分组,可使用Collection对象的方法 group()。该语法为:

db.collection_name.group({key, reduce, initial, [keyf], [cond], finalize})

  参数列表:

  •   key:指定要根据哪些健进行分组。其属性为要用于分组的字段,值为 1。
  •   reduce:一个接受参数 obj 和 prev 的函数( function(obj,prev))。对于每个与查询匹配的文档,都执行这个参数。其中参数 obj 为当前文档,而 prev 是根据参数 initial 创建的对象。(可以通过obj来更新prev,如计数或累计)。
  •   initial:可以创建一个group分组字段,并包含初始值,用于在分组期间聚合数据。(常见的是使用一个计数器来跟踪匹配的文档数。{ initial : {"count" : 0 } } )。
  •   keyf:可选。指定一个函数,这个函数返回一个用于分组的key对象,用于替代参key。这样可以使用函数动态地指定根据哪些字段分组。
  •   cond:可选。查找条件,表示从哪些结果集中进行分组。
  •   finalize:可选。在reduce执行之后,结果集返回之前,对结果集进行的最终操作。可以精简数据。

  示例:

  数据集:

MongoDB学习(使用分组、聚合和映射-归并)

  执行分组命令:

db.student.group({
key:{age:1},
initial:{"count":0},
reduce:function(obj,prev) {
prev.count++;
}
})

  MongoDB学习(使用分组、聚合和映射-归并)

MongoDB聚合

理解 aggregate() 方法

  Collection对象提供了对数据执行聚合操作的方法 aggregate()。该方法主要用于数据处理(诸如统计平均值,求和等),并返回计算的结果。

db.collection_name.aggregate( operator, [ operator ,...] )

  参数 operator 是一系列聚合运算符,让您指定要在流水线的各个阶段对数据执行哪种聚合操作。执行的一个运算符后,将结果传给下一个运算符继续运算。

  该方法直接返回一个包含聚合结果的迭代器。

MongoDB学习(使用分组、聚合和映射-归并)

使用聚合框架运算符

  MongoDB提供的聚合框架非常强大,通过 aggrgate() 方法可以反复将一个聚合运算符的结果传递给下一个运算符。

MongoDB学习(使用分组、聚合和映射-归并)

  注意在引用文档中的字段名时,需要在字段名前加 $ ,表示这是一个字段值而不是字符串。

运算符 描述 示例
$project 通过重命名、添加或删除字段来重新定义文档。还能重新计算值以及添加子文档 { $project : { title : " $name " } }
$match 可以实现查找的功能 { $match : { value : { $gt : 50 } } }
$limit 限制文档数,返回结果集中的前 n 个数 { $limit : 5 }
$skip 丢弃结果集中的前 n 个文档,效率较低,依然会遍历前 n 个文档 { $skip : 5 }
$unwind 其值必须是数组字段的名称。对指定的数组进行分拆,为其中的每个值创建一个文档 { $unwind : { $myArr } }
$group 将文档分组并生成新的文档,可以进行一系列子命令 { $group : { _id : " $name " , num : { $sum : 1 } } }
$sort 将文档排序 { $sort : { name : 1 , age : -1 } }

MapReduce() 方法

  Map-Reduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。

  MongoDB提供的Map-Reduce非常灵活,对于大规模数据分析也相当实用。

db.collection_name.mapReduce( map , reduce , arguments );

  其中 map 是一个函数,用于分组,它将对数据集的每个对象执行它来生成一个键和值,这些值被加入到与键相关联的数组中,供归并阶段使用。

// map 函数
function() {
emit ( key , value );
}

  参数 reudce 也是一个函数,将对 map 函数生成的每个对象执行它。reduce 函数必须将键作为第一个参数,将与键相关联的值数组作为第二个参数,并使用值数组来计算得到与键相关联的单个值,再返回结果。

// reduce 函数 处理需要统计的字段
function ( key , value ) {
......统计字段处理
return result;
}

  参数 arguments 是一个对象,指定了检索传递给 map 函数的文档时使用的选项。

{
out : collection, // 统计结果存放集合 (不指定则使用临时集合,在客户端断开后自动删除)。
query : document, // 一个筛选条件,只有满足条件的文档才会调用map函数。(query。limit,sort可以随意组合)
sort : document, // 和limit结合的sort排序参数(也是在发往map函数前给文档排序),可以优化分组机制
limit : number // 发往map函数的文档数量的上限(要是没有limit,单独使用sort的用处不大)
}
上一篇:Linux 新手的学习笔记


下一篇:transform初学习