如果建立唯一索引的时候,有数据重复,则会报错,所以可以通过以下方法间接解决:

1.将数据导出json格式

./mongoexport -d liuniu -c tWechatMessage -o tWechatMessage.json

-d 数据库名
-c 集合名
-o 导出后的名字(也可以加上路径 )

2.删除当前集合的数据

db.tWechatMessage.remove({})

3.新建唯一索引

db.tWechatMessage.ensureIndex({"msg.MsgId":1},{unique:true});

4.导入刚才导出的数据

./mongoimport -d liuniu -c tWechatMessage --upsert /usr/dataserver/mongodb/bin/tWechatMessage.json

upsert会根据唯一索引去重复

mongodb 建立唯一索引,去除重复数据相关推荐

  1. mysql 唯一索引出现重复数据_MySQL 创建唯一索引忽略对已经重复数据的检查

    MySQL 创建唯一索引忽略对已经重复数据的检查 在创建唯一索引的基础上加上关键字"IGNORE "即可. # 重复数据 mysql> select aid,count(ai ...

  2. mysql 唯一索引出现重复数据_mysql使用唯一索引避免插入重复数据

    使用MySQL 索引防止一个表中的一列或者多列产生重复值 一:介绍MYSQL唯一索引 如果要强烈使一列或多列具有唯一性,通常使用PRIMARY KEY约束. 但是,每个表只能有一个主键. 因此,如果使 ...

  3. MYSQL 增加唯一索引对于重复数据的处理

    查看重复数据 select xx,yy,zz,COUNT(1) as num from TABLE1 group by xx,yy,zz having num>1; 获取重复数据最小的记录 se ...

  4. 数据库,唯一索引,重复数据处理

    为什么80%的码农都做不了架构师?>>>    //唯一索引,重复数据处理 1.为母表建立唯一主键(主键为自增,此字段在后面删除记录时会用到),同时 建立和母表一样的临时表(此表要建 ...

  5. mysql中如何去除重复数据_MySQL如何去除重复数据?

    这篇文章主要介绍了MySQL 去除重复数据实例详解的相关资料,需要的朋友可以参考下 MySQL 去除重复数据实例详解 有两个意义上的重复记录,一是完全重复的记录,也即所有字段均都重复,二是部分字段重复 ...

  6. mysql中如何去除重复数据_mysql数据库如何去除重复数据

    mysql数据库去除重复数据的方法:1.查询需要删除的记录,会保留一条记录:2.删除重复记录,只保留一条记录,代码为[delete a from test1 a, (...)as bid from t ...

  7. java 两个数组去重复数据_Java实现数组去除重复数据的方法详解

    本文实例讲述了Java实现数组去除重复数据的方法.分享给大家供大家参考,具体如下: 前一段时间被面试问到:如果一个数组中有重复元素,用什么方法可以去重?一时间会想到用一种方法,但是后来查阅资料后发现, ...

  8. Python_Dataframe_去除重复数据

    去除重复数据--drop_duplicates 去除指定单列或多列中的完全重复的项通过drop_duplicates()函数实现,需要利用Pandas包. 其中: 1.subset=[] 表示整个da ...

  9. 表之sql删除重复数据、查找去除重复数据、DISTINCT用法

    目录 一.查找去除重复数据 二.删除重复数据 三.DISTINCT用法 一.查找去除重复数据 数据如图: id可以理解为uuid,person_sort_code可以理解为唯一的标识,但是唯一标识重复 ...

最新文章

  1. python全栈简介_Python全栈(一)编程语言介绍
  2. HBase编程 API入门系列之put(客户端而言)(1)
  3. 【计算机网络】网络层 : ARP 协议 ( 使用 ARP 协议查找 目的主机 / 路由器 物理地址 )★
  4. 向大家推荐一个.Net游戏引擎:Artificial Engines
  5. JavaScript实现判断32位的数字是否为正数isPositive算法(附完整源码)
  6. Spring Boot 2.x(六):优雅的统一返回值
  7. C++substr()用法
  8. 【开通指南】 实时计算 Flink 全托管版本
  9. mysql数据库设计原则_mysql数据库设计总结
  10. unity 随机数_Unity 雨水滴到屏幕效果
  11. 3: 组件间的依赖管理(纯汉语版)
  12. 利用密码字典暴力破解渗透目标系统
  13. RHadoop的安装与试验
  14. 【STM32F429】第9章 ThreadX GUIX移植到STM32F429(IAR)
  15. 奋斗吧,程序员——第八章 衣带渐宽终不悔,为伊消得人憔悴
  16. 《算法艺术与信息学竞赛》之 递推 例一 月亮之眼 vijos 1540
  17. html页面上promt,HTML DOM prompt()方法使用 - 全文
  18. Tensorflow2.0的简单GCN代码(使用cora数据集)
  19. 双网卡电脑的Internet连接共享
  20. MATLAB smooth函数平滑处理

热门文章

  1. 【场景化解决方案】销帮帮酷应用,帮助企业销售团队实现精细化管理
  2. 【校招VIP】 产品行测考点之图的推理和分析
  3. 基于asp.net的服装销售管理系统
  4. php 转码问题,php 解决json_encode中文UNICODE转码问题
  5. ArGIS Engine专题(2)之地图同步
  6. 【实用的开源项目】使用云服务器部署TaleBook,简洁、强大的私人书籍管理系统!
  7. 注意ID不能使用除 ASCII 字母、数字、_、- 和 . 以外的字符
  8. 基于JAVA的智能小区物业管理系统【数据库设计、源码、开题报告】
  9. 腾讯开源DCache,分布式NoSQL存储系统
  10. 思腾合力「IW2211-4GR/2GR」专业双路机架式服务器