Apache Ignite——新一代数据库缓存系统

【编者按】飞速增长的数据需要大量存储，对这些数据的管理也不是一件容易的事。但相比于存储和管理，如何处理数据才是开发人员真正的挑战。对于TB级别数据的存储和处理通常会让开发人员陷入速度、可扩展性和开销的矛盾困境中。近日，Dmitriy Setrakyan在Dzone上撰文，为大家介绍了新一代数据库缓存系统Apache Ignite，由OneAPM工程师编译。

以下为译文

将数据存储在缓存中能够显著地提高应用的速度，因为缓存能够降低数据在应用和数据库中的传输频率。Apache Ignite允许用户将常用的热数据储存在内存中，它支持分片和复制两种方式，让开发者可以均匀地将数据分布式到整个集群的主机上。同时，Ignite还支撑任何底层存储平台，不管是RDBMS、NoSQL，又或是HDFS。

在集群配置好之后，数据集增加只需在Ignite集群中增加节点而不需要重启整个集群。节点数目可以无限增加，所以Ignite的扩展性是无穷的。在Ignite的配置上有下面这几个选项可供选择：

Write-Through和 Read-Through 

在Write-Through模式中，缓存中的数据更新会被同步更新到数据库中。 Read-Through则是指请求的数据在缓存中不可用时，会自动从数据库中拉取。

Write-Behind Caching

Ignite还提供了一种叫做Write-Behind Caching的数据库异步更新模式。默认情况下，Write-Through中每一次更新都会对数据库发起一次请求。如果使用Write-Behind Caching后写，对缓存的更新会整合成批次然后再发送给数据库。这对改删频繁的应用来说可以达到相当的性能提升。

自动化持久数据

Ignite提供了易用的schema映射工具，从而系统可以自动地与数据库整合。这一工具可以自动地连接数据库，并生成所有需要的XML OR-mapping配置以及Java域模型POJOs。

SQL查询

查询Ignite缓存很简单，使用的就是标准的SQL。Ignite支持所有的SQL函数、聚合和group操作，甚至支持分布式SQL JOINs。下面Ignite中一个SQL查询示例：

IgniteCache<Long, Person> cache = ignite.cache("mycache");// ‘Select’ query to concatenate the first and last name of all persons.SqlFieldsQuery sql = new SqlFieldsQuery(  "select concat(firstName, ' ', lastName) from Person");// Execute the query on Ignite cache and print the result.try (QueryCursor<List<?>> cursor = cache.query(sql)) {  for (List<?> row : cursor)    System.out.println("Full name: " + row.get(0));}

小结

Apache Ignite是一个聚焦分布式内存计算的开源项目，它在内存中储存数据，并分布在多个节点上以提供快速数据访问。此外，可选地将数据同步到缓存层同样是一大优势。最后，可以支持任何底层数据库存储同样让 Ignite成为数据库缓存的首先。

想要了解更多信息、文档、示例，请移步Apache Ignite官网。

原文链接：Apache Ignite for Database Caching （责编/仲浩）

来源：http://www.csdn.net/article/2015-09-28/2825815

内存数据组织 Apache Ignite

Apache Ignite 内存数组组织框架是一个高性能、集成和分布式的内存计算和事务平台，用于大规模的数据集处理。Ignite 为应用和不同的数据源之间提供一个高性能、分布式内存中数据组织管理的框架。

集群计算特性：

• 动态集群

• Fork-Join & MapReduce 处理

• 分布式闭包执行

• 负载均衡和容错

• 分布式消息和事件

• 线性可伸缩

内存缓存和数据网格关键特性：

• 分布式内存中缓存

• 优雅的伸缩方案

• 高性能

• 分布式内存中事务支持

• 分布式内存队列和其他数据结构

• Web 会话集群

• Hibernate L2 缓存集成

• 分布式 SQL 联合查询

内存数据流：

来源：http://www.oschina.net/p/apache-ignite

Apache Ignite(一)：简介以及和Coherence、Gemfire、Redis等的比较

一、Ignite简介

Apache Ignite 内存数组组织框架是一个高性能、集成和分布式的内存计算和事务平台，用于大规模的数据集处理，比传统的基于磁盘或闪存的技术具有更高的性能，同时他还为应用和不同的数据源之间提供高性能、分布式内存中数据组织管理的功能。

二、Ignite历史

Ignite来源于尼基塔·伊万诺夫于2007年创建的GridGain系统公司开发的GridGain软件，尼基塔领导公司开发了领先的分布式内存片内数据处理技术-领先的Java内存片内计算平台，今天在全世界每10秒它就会启动运行一次。他有超过20年的软件应用开发经验，创建了HPC和中间件平台，并在一些创业公司和知名企业都做出过贡献，包括Adaptec, Visa和BEA Systems。尼基塔也是使用Java技术作为服务器端开发应用的先驱者，1996年他在为欧洲大型系统做集成工作时他就进行了相关实践。

2014年3月，GridGain公司将该软件90%以上的功能和代码开源，仅在商业版中保留了高端企业级功能，如安全性，数据中心复制，先进的管理和监控等。2015年1月，GridGain通过Apache 2.0许可进入Apache的孵化器进行孵化，很快就于8月25日毕业并且成为Apache的顶级项目，9月28日即发布了1.4.0版，应该说发展、迭代速度非常之快。该技术相关资料较少，但确是一个很有潜力的技术，解决了大规模、大数据量、高并发企业级或者互联网应用面临的若干痛点。

三、Ignite和Hadoop以及Spark的关系

Ignite和Hadoop解决的是不同的问题，即使在一定程度上可能应用了类似的底层基础技术。Ignite是一种多用途，和OLAP/ OLTP内存中数据结构相关的，而Hadoop仅仅是Ignite原生支持（和加速）的诸多数据来源之一。

Spark是一个和Ignite类似的项目。但是Spark聚焦于OLAP，而Ignite凭借强大的事务处理能力在混合型的OLTP/ OLAP场景中表现更好。特别是针对Hadoop，Ignite将为现有的Map/Reduce，Pig或Hive作业提供即插即用式的加速，避免了推倒重来的做法，而Spark需要先做数据ETL，更适合新写的分析应用。

四、和类似技术的比较

在Ignite以前，大规模、大数据量、高并发企业级或者互联网应用为了解决数据缓存、降低数据库负载、提高查询性能等突出问题，很多采用了Hazelcast或者Oracle Coherence或者GemFire（比如12306网站）或者目前应用越来越广泛的Redis等缓存技术，本文对这些相关的技术做了简单的比较，基本内容来源于其官方网站，进行了翻译整理，方便更多的人了解他。

1.Ignite和Hazelcast

Apache Ignite和Hazelcast都提供了富数据网格的特性，解决了可扩展的分布式集群环境下在内存中对数据进行缓存和分区的问题。

Ignite和Hazelcast在缓存的方式上是有很多不同的，同时支持事务和数据的查询，下面的表格列出了一些主要的不同点，这些都是我们在选择内存数据网格产品时需要特别关注的。

2.Ignite和Coherence

Apache Ignite和Oracle Coherence都提供了富数据网格的特性，解决了可扩展的分布式集群环境下在内存中对数据进行缓存和分区的问题。

Ignite和Coherence在缓存的方式上是有很多不同的，同时支持事务和数据的查询，下面的表格列出了一些主要的不同点，这些都是我们在选择数据网格产品时需要特别关注的。

3.Ignite和Gemfire

Apache Ignite和Pivotal Gemfire都提供了富数据网格的特性，解决了可扩展的分布式集群环境下在内存中对数据进行缓存和分区的问题。

Ignite和Gemfire在缓存的方式上是有很多不同的，同时支持事务和数据的查询，下面的表格列出了一些主要的不同点，这些都是我们在选择数据网格产品时需要特别关注的。

4.Ignite和Redis

Apache Ignite和Redis都提供了分布式缓存的功能，但是每个产品提供的功能特性是非常不同的。Redis主要是一个数据结构存储，但是Ignite提供了很多内存内的分布式组件，包括数据网格、计算网格、流，当然也包括数据结构。

Ignite是一个内存数据组织，并且提供了更多的功能，无法进行一个一个对应功能特性的比较，但是我们仍然能对一些数据网格功能进行比较。

按照官方的说法，Ignite是很强大的整体解决方案和开发平台，功能很多而且复杂，没有提到缺点或者说坑，这个只能使用过程中逐步发现和解决，虽然Ignite本身历史尚短，但是既然来源于历史不算短的商业软件，还是经过实际生产环境验证的，基本功能的可用性肯定是有的。

来源：http://my.oschina.net/liyuj/blog/516836

Apache Ignite vs Apache Spark

出于我前面的贴子大赞了 Apache Ignite 的基于内存的文件系统和缓存功能，我将总结一下我将总结一下 Ignite 和 Spark 的主要区别。我发现这样的问题被重复提出。这很容易回答，因此不必在网上“挖坟”。 显而易见的一个不同就是 Ignite 是一个存于内存的计算系统，也就是把内存做为主要的存储设备。Spark 则是在处理时使用内存。系统的索引更快，提取时间减少，避免了序列/反序列等优点，使前者这种内存优先的方法更快。

思维特无敌 翻译于 5个月前 0人顶 顶 翻译的不错哦!

Ignite 的mapreduce 完全兼容 Hadoop MR API，因此大家可以简单的复用现有的MR代码，并让其以30倍的速度运行。 我准备发布的 Apache Bigtop in-memory stack的例子，将展示出这感人的加速。 另外，不同于Spark的 streaming，Ignite 并不受RDD 大小的限制。换句话说，你不需要在处理RDD前指定他的长度，你可以确实做到真正的流式处理。就是说，Ignite处理一个流式内容的时候是没有延迟的。 溢出是内存计算的通病：毕竟内存是有限的。在Spark中RDD是不可变长的，如果一个RDD创建的时候内存占用大于节点内存的1/2，那随后transformation跟generation的RDD很有可能占满整个节点内存，然后导致溢出。除非新的RDD是在另一个节点产生的。Tachyon 也在努力试图解决这个问题。

Frank_mc 翻译于 5个月前 0人顶 顶 翻译的不错哦!

Ignite 没有这种数据内存溢出的问题，因为他的缓存可以按照原子或事务的方式更新。无论如何，还是有可能溢出的：处理策略在这里有详细解释 -作为一个组件，Ignite也提供了first-class citizen的文件系统缓存层。注意，我已经定位过这个跟Ignite的不同，但是由于一些原因，我发的东西被他们删除了。我想知道为什么?;) -Ignite 使用 off-heap 内存，来避免 GC 中断，灰常有效。 -Ignite 保证强一致性。 -Ignite 完全支持 SQL99 作为一个支持 ACID 事务的方式。

Frank_mc 翻译于 5个月前 0人顶 顶 翻译的不错哦!

来源：http://www.oschina.net/translate/apache-ignite-vs-apache-spark

敢说 Apache Ignite 比 Tachyon 好？删帖！

编者说：本文的原作者在网上发表了 Apache Ignite 与 Tachyon 优劣的言论后，竟然发现帖子被无情的删除了，于是他贴出了与 Google 团队成员交流的邮件，顺便写下了下面的文章以表达愤懑之情。关于被删帖一事可点击此处查看。

在我发布 Apache Ignite （孵化中） 和 Tachyon 缓存项目之间差异说明之后，竟然发现文章被删除了。同时，我收到一份来自 Google 团队一名叫 tachyon-user 的私人邮件，上面解释了为什么文章“会被当做营销信息”而删除。

看来所有带有轻微批评 Tachyon 项目的信息都会被当做“营销信息”并且以真正“自由和开放“的名义删除掉！这个社区好像哪里搞错了。所以，我决定贴上曾经被他们退回的原始邮件。

你们自己判断：

From：<kboudnik@gmail.com>

Date：Fri，Apr  10，2015 at 11 : 46 PM

Subject：RE：Apache Ignite vs Tachyon

To：tachyon-user@googlegroups.com

实际上，你只是部分正确。

Apache Ignite 是一个发展成熟的内存计算（IMC）平台（又名数据结构）。 “支持 Hadoop 生态系统”只是结构的一个组成部分。它包括两个部分：-文件系统缓存：让 HDFS IO 性能显著提升的完全透明的缓存。从某种程度上说，这个和Tachyon 所要实现的功能相似。不像 Tacyon，Apache Ignite 缓存数据是更大的数据结构的一个组成部分，可以被任何 Ignite 服务使用。

- MR 加速器可以在 Ignite 内存引擎上运行“经典”的 MR 任务。基本上，Ignite MR （大量 SQL 列表和其他计算组件）是一个将数据储存在集群内存的方式。我会说 Ignite MT 比 Hadoop MR 快30倍（也就是 3000%）吗？顺便说下，它还不需要改变代码。

当你说“Tachyon...支持本地大数据堆栈”的时候，你应该要明白，Ignite Hadoop 加速也是支持本地化的：你可以在 IgniteFS 顶层运行 MR，Hive，HBase，Spark 等等，而且不需要改变任何事情。

顺 便截取一段给你看看：在 Ignite 系统文件缓存是“数据结构”范例的一部分，就像服务、高级集群、分布式消息、ACID 实时交易一样。加 HDFS 和 MR 加速层是很直接的，因为它们建立于高级的 Ignite 核心，而此核心已经实际运行了5年以上。不过，当你开始使用如 Tachyon 这样的内存文件系统，你会发现他很难实现相同企业级的计算。 没有任何抨击，就像刚才说的。

我建议你去看看 ignite.incubator.apache.org：读下文档，试着使用1.0版本的 Ignite ，下载：https://dist.apache.org/repos/dist/release/incubator/ignite/1.0.0/（安装很容易），然后加入我们的 Apache 社区。如果你有兴趣通过 Ignite 使用 Hadoop， Apache Bigtop 会给你一整套软件，包括无缝的集群部署，它能让你在几分钟之内开启全功能集群。

再透露下：我是 Apache 孵化器 Ignite 项目的导师。

Best regards,

Konstantin Boudnik

On Thursday, April 9, 2015 at 7:39:00 PM UTC-7, Pengfei Xuan wrote:
>
> 我所理解的, Apache Ignite (GridGain) 从传统的成长

Posted by Cos at 18:51

Source：drcos.boudnik.org

来源：http://www.oschina.net/news/62024/apache-ignite-incubating-vs-tachyon