waid 发表于 2018-10-27 13:50:43

MongoDB集群插入数据测试

  上一篇建好的MongoDB集群中插入数据,看看性能如何。
  向test数据库的test集合插入五百万数据
  用时约11分钟

  查看集合状态
  


[*]mongos> db.test.stats(1024)
[*]{
[*]      "sharded" : true,
[*]      "ns" : "test.test",
[*]      "count" : 5000000,
[*]      "numExtents" : 61,
[*]      "size" : 273436,
[*]      "storageSize" : 839500,
[*]      "totalIndexSize" : 158685,
[*]      "indexSizes" : {
[*]                "_id_" : 158685
[*]      },
[*]      "avgObjSize" : 0.0546872,
[*]      "nindexes" : 1,
[*]      "nchunks" : 29,
[*]      "shards" : {
[*]                "shard1" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 0,
[*]                        "size" : 0,
[*]                        "storageSize" : 18460,
[*]                        "numExtents" : 8,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 7468,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 7,
[*]                        "indexSizes" : {
[*]                              "_id_" : 7
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard2" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 1256764,
[*]                        "size" : 68729,
[*]                        "avgObjSize" : 0.054687276210967216,
[*]                        "storageSize" : 121032,
[*]                        "numExtents" : 11,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 36744,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 39834,
[*]                        "indexSizes" : {
[*]                              "_id_" : 39834
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard3" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 3642282,
[*]                        "size" : 199187,
[*]                        "avgObjSize" : 0.05468741849203329,
[*]                        "storageSize" : 328024,
[*]                        "numExtents" : 14,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 90412,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 115621,
[*]                        "indexSizes" : {
[*]                              "_id_" : 115621
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard4" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 100954,
[*]                        "size" : 5520,
[*]                        "avgObjSize" : 0.05467836836579036,
[*]                        "storageSize" : 21980,
[*]                        "numExtents" : 7,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 11060,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 3209,
[*]                        "indexSizes" : {
[*]                              "_id_" : 3209
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard5" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 0,
[*]                        "size" : 0,
[*]                        "storageSize" : 328024,
[*]                        "numExtents" : 14,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 90412,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 7,
[*]                        "indexSizes" : {
[*]                              "_id_" : 7
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard6" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 0,
[*]                        "size" : 0,
[*]                        "storageSize" : 21980,
[*]                        "numExtents" : 7,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 11060,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 7,
[*]                        "indexSizes" : {
[*]                              "_id_" : 7
[*]                        },
[*]                        "ok" : 1
[*]                }
[*]      },
[*]      "ok" : 1
[*]}
  

  向test数据库的test集合插入一千万数据
  用时约33分钟

  查看集合状态
  


[*]mongos> db.test.stats(1024)
[*]{
[*]      "sharded" : true,
[*]      "ns" : "test.test",
[*]      "count" : 10000000,
[*]      "numExtents" : 81,
[*]      "size" : 546873,
[*]      "storageSize" : 1542568,
[*]      "totalIndexSize" : 316959,
[*]      "indexSizes" : {
[*]                "_id_" : 316959
[*]      },
[*]      "avgObjSize" : 0.0546873,
[*]      "nindexes" : 1,
[*]      "nchunks" : 39,
[*]      "shards" : {
[*]                "shard1" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 3231299,
[*]                        "size" : 176711,
[*]                        "avgObjSize" : 0.054687294490543895,
[*]                        "storageSize" : 307628,
[*]                        "numExtents" : 16,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 82448,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 102391,
[*]                        "indexSizes" : {
[*]                              "_id_" : 102391
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard2" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 2710175,
[*]                        "size" : 148212,
[*]                        "avgObjSize" : 0.05468724344368906,
[*]                        "storageSize" : 237612,
[*]                        "numExtents" : 13,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 66972,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 85935,
[*]                        "indexSizes" : {
[*]                              "_id_" : 85935
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard3" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 0,
[*]                        "size" : 0,
[*]                        "storageSize" : 328024,
[*]                        "numExtents" : 14,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 90412,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 7,
[*]                        "indexSizes" : {
[*]                              "_id_" : 7
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard4" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 1936150,
[*]                        "size" : 105883,
[*]                        "avgObjSize" : 0.05468739508819048,
[*]                        "storageSize" : 170640,
[*]                        "numExtents" : 12,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 49608,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 61359,
[*]                        "indexSizes" : {
[*]                              "_id_" : 61359
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard5" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 0,
[*]                        "size" : 0,
[*]                        "storageSize" : 328024,
[*]                        "numExtents" : 14,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 90412,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 7,
[*]                        "indexSizes" : {
[*]                              "_id_" : 7
[*]                        },
[*]                        "ok" : 1
[*]                },
[*]                "shard6" : {
[*]                        "ns" : "test.test",
[*]                        "count" : 2122376,
[*]                        "size" : 116067,
[*]                        "avgObjSize" : 0.05468729386310437,
[*]                        "storageSize" : 170640,
[*]                        "numExtents" : 12,
[*]                        "nindexes" : 1,
[*]                        "lastExtentSize" : 49608,
[*]                        "paddingFactor" : 1,
[*]                        "systemFlags" : 1,
[*]                        "userFlags" : 0,
[*]                        "totalIndexSize" : 67260,
[*]                        "indexSizes" : {
[*]                              "_id_" : 67260
[*]                        },
[*]                        "ok" : 1
[*]                }
[*]      },
[*]      "ok" : 1
[*]}
  

  解释一下查看集合状态的db.colletion.stats(scale)方法
  db.collection.stats()返回值都是按照字节处理
  你可以设定比例参数scale的值来调整,例如scale设为1024,则返回结果某些值按KB处理
  返回值各字段解释:
  sharded:是否可分片
  ns:命名空间,按照格式.
  count:该集合中的对象或文档数
  numExtents:连续的数据文件区域总数。
  Size:集合中数据的大小【scale值有影响】
  storageSize:分配给该集合的文档存储空间,该值不会减少。【scale值有影响】
  totalIndexSize:所有索引的总大小。【scale值有影响】
  indexSizes:该值表示集合中所有存在的索引。【scale值有影响】
  avgObjSize:集合中对象的平均大小。【scale值有影响】
  nindexes:集合的索引数,所有集合至少有一个索引在_id字段。
  nchunks:集合分块数。
  lastExtentSize:最近分配的扩展大小。【scale值有影响】
  paddingFactor:插入的时候在每个文档末尾增加的空间。这提供一个很小的额外磁盘空间让文档有些微的增长而不需要移动文档。mongod会自动计算该值
  systemFlags:2.2版新特性。反映该集合内部服务选项的标志。如1代表在_id字段有索引。
  userFlags:2.2版新特性。用户设置该集合的标志。在2.2版中唯一的用户标志是 usePowerOf2Sizes。如果usePowerOf2Sizes是可用的,userFlags就是1,其余都是0.
  查看各复制集情况
  shard1复制集
  


[*]{
[*]      "set" : "shard1",
[*]      "date" : ISODate("2013-01-13T14:27:13Z"),
[*]      "myState" : 1,
[*]      "members" : [
[*]                {
[*]                        "_id" : 1,
[*]                        "name" : "10.50.9.12:27017",
[*]                        "health" : 1,
[*]                        "state" : 1,
[*]                        "stateStr" : "PRIMARY",
[*]                        "uptime" : 99645,
[*]                        "optime" : Timestamp(1358086947000, 1),
[*]                        "optimeDate" : ISODate("2013-01-13T14:22:27Z"),
[*]                        "self" : true
[*]                },
[*]                {
[*]                        "_id" : 2,
[*]                        "name" : "10.50.9.13:27018",
[*]                        "health" : 1,
[*]                        "state" : 2,
[*]                        "stateStr" : "SECONDARY",
[*]                        "uptime" : 99643,
[*]                        "optime" : Timestamp(1358086947000, 1),
[*]                        "optimeDate" : ISODate("2013-01-13T14:22:27Z"),
[*]                        "lastHeartbeat" : ISODate("2013-01-13T14:27:12Z"),
[*]                        "pingMs" : 0
[*]                },
[*]                {
[*]                        "_id" : 3,
[*]                        "name" : "10.50.9.13:27019",
[*]                        "health" : 1,
[*]                        "state" : 2,
[*]                        "stateStr" : "SECONDARY",
[*]                        "uptime" : 99643,
[*]                        "optime" : Timestamp(1358086947000, 1),
[*]                        "optimeDate" : ISODate("2013-01-13T14:22:27Z"),
[*]                        "lastHeartbeat" : ISODate("2013-01-13T14:27:11Z"),
[*]                        "pingMs" : 0
[*]                }
[*]      ],
[*]      "ok" : 1
[*]}
  

  【太多字符,差不多的内容就不发了哎╮(╯▽╰)╭】
  各字段解释:
  set:复制集名
  date:当前的ISO时间
  myState:表明当前复制集状态,0~10分别代表
  编号状态
  0启动,1 阶段(分配配置)
  1主
  2次要
  3还原(初始同步,后回滚,停滞成员)
  4严重错误
  5启动,2 阶段(分叉线程)
  6未知状态(副本集从未连接到成员)
  7仲裁程序
  8死机
  9回滚
  10已删除
  
  syncingTo:只会在副节点出现,保存正在同步的实例的地址。
  members:保存复制集中的每个成员信息。
  name:该成员所在的地址。
  health:健康状态,1表明正在运行,0表明不运行。
  State:
  编号状态
  0启动,1 阶段(分配配置)
  1主
  2次要
  3还原(初始同步,后回滚,停滞成员)
  4严重错误
  5启动,2 阶段(分叉线程)
  6未知状态(副本集从未连接到成员)
  7仲裁程序
  8死机
  9回滚
  10已删除
  
  stateStr:描述成员状态的字符串。
  Uptime:启动至今的秒数。
  Optime:包含最近操作日志中该成员应用了的操作信息。
  optimeDate:最近该成员访问操作日志的时间。
  lastHeartbeat:最近从该成员得到的心跳信息的时间。
  pingMs:往返包在远程成员和本地实例的来回时间(毫秒)。
  Self:该查看复制集信息文档存储在当前mongod实例,值为true。
  数据插入脚本
  可直接在mongo下执行下列javascript代码
  插入五百万数据
  for(var i=0; i
页: [1]
查看完整版本: MongoDB集群插入数据测试