使用JCS在Web门户应用中实现对象缓存(摘)

使用JCS在Web门户应用中实现对象缓存(摘)

• 同步复杂性: 复杂性的增长依赖于数据的种类，因为需要保证被缓存数据与数据源中原始数据的一致性。要不然，被缓存的数据就会与实际数据不一致，将会导致应用中的数据错误。
• Durability: 当服务器崩溃的时候，被缓存数据的修改回丢失。可以采用同步缓存避免该问题。
• 内存大小: 如果有大量没有用处的数据存放在缓存中，并且这些数据没有在正常的时间间隔内被释放，JVM 内存大小就会变得无法接受的庞大。

• 可以被网站上其他用户访问的安全信息。
• 用户描述信息。
• 私人信息，包括社会保险号码或信用卡明细信息。
• 经常变化的，并且不准确或不及时会引发问题的业务信息。

不应该被其它用户访问的特定于Session的数据。

缓存架构

        有很多种对象缓存架构（包括开放源代码的和商业的实现）在servlet容器和应用服务器中提供了分布式缓存。下面列出了一些现在可以使用的缓存框架：

开放源代码项目

• 来自于Jakarta的Java Caching System (JCS) (属于Turbine项目的一部分)
• OSCache
• Commons Collections (另一个Jakarta 项目)
• JCache API (SourceForge.net)

商业项目

• SpiritCache (来自于 SpiritSoft).
• Coherence (Tangosol)
• Javlin (eXcelon)
• Object Caching Service for Java (Oracle)

        如果你还有兴趣了解更多的缓存实现，本文最后的资源一节提供了所有这些框架的URL。

我在最初开始我对能满足我们所有的缓存需求的框架进行研究的时候，我先看到了Commons Collections 和 Java Caching System API 。我在最开始评估的主要标准就是容易使用、容易扩展，以及软件的成本。这两个框架都是开放源代码的，并且都来自于Apache Jakarta项目。

Commons Collections

        Commons Collections API 以一个Java类的形式提供了对象缓存算法，名称为LRUMap。如果你对缓存只有基本的需求，并且不是真正需要很多的扩展和缓存配置功能，那么Commons Collections 可能是一个不坏的选择，但不是作为一个企业级缓存系统的正确选择。如果你选择Common Collections来实现对象缓存，你将会手工定义/配置所有的缓存参数，如：最大缓存对象的数量，一个缓存对象的最长生命周期，刷新缓存或检查对象新鲜的中断时间等。

Java Caching System

        Java Caching System (JCS)， Jakarta Turbine 项目的一部分， 与Commons Collections相比更有成熟、更具扩展性。通过为频繁访问的对象维护动态对象池的方法，它提供了提升整个系统性能的灵活、可配置的解决方案。就像在它的网站上提到的，JCS 已经超越了简单地在内存中缓存对象的范围。它为一个企业级的缓存系统提供了许多必需的重要功能：

• 内存管理
• Disk overflow (和重整)
• 元素分组
• 快速嵌套地移除
• 数据期限管理
• 可扩展的框架
• 完全可配置的运行时参数
• 远程同步
• 远程存储恢复
• 通过HTTP、TCP或者UDP协议实现可选的横向分布元素。

        JCS 提供了无故障点的框架， 允许完全的session失败转移（在集群环境中），包括支持最多到256个服务器的session数据分布。它也提供了配置一个或多个数据存储选项的灵活性，例如：内存缓存、磁盘缓存，或者在远程机器上的缓存。

所有这些包括在JCS中的优秀功能让它成为满足我们的web门户项目的一个优秀的对象缓存产品选择

使用JCS构造Web 门户缓存框架

缓存框架的目标

        在开始设计对象缓存框架之前，首先列出了在新的框架中需要达到的目标。以下就是目标的列表：

• 在web门户应用中快速访问频繁使用的数据。
• 将缓存中类型类似的对象进行组合。
• 提供可配置的缓存管理，以便我可以通过描述方式而不是编码方式修改参数。
• 提供可靠的和可扩展的框架，以便我将来可以转换到其它第三方的缓存API。
• 可以生成统计数据来监测缓存的效率，以及使用数据缓存后应用性能的提升效果。

安装和配置

        在web应用中安装和配置JCS是非常简单的事情。从Jakarta Turbine网站下载压缩文件，解压缩文件到临时目录，并拷贝JSC.jar文件（jcs-1.0-dev.jar）到servlet容器的通用目录（在我的web应用中使用的servlet容器是Tomcat，通用目录在windows下就是%TOMCAT_HOME%\common\lib，在再Unix类型的系统下就是$TOMCAT_HOME/common/lib）。你可能还需要commons-collections.jar, commons-lang.jar, 和 commons-logging.jar 这些文件存在于web应用的类路径下以便使用JCS。

对象缓存框架的主要原理在图1和图2的UML图中展示出来了

                                                                                                           图 (1)

                                                                                                           图 (2)

框架的主要原理

缓存属性

        我们将所有的缓存参数配置在名为cache.ccf的属性文件中。这些参数包括缓存信息如：内存中存储的对象的最大数量，缓存时间（过了时间之后缓存的数据九自动从内存中释放），中断时间（elapsed time since last access time）， 内存缓存名称（例如：缓存算法如LRU或MRU）等。在当前版本的JCS中，缓存属性文件是纯文本格式的。SpiritCache framework，一种来自SpiritSoft的Jcache API商业实现，支持XML格式的缓存配置。

        确认该属性文件存放在类路径中。注意：如果你需要使用其它不同的文件来存放缓存属性的话，JCS 也提供了方法来指定一个配置文件的名称。请参考JCS的 Javadocs 学习如何从其它非缺省的属性文件中读取缓存配置信息。

        下面列出来的是web应用使用缓存功能需要了解的一些Java类。这些类存放在本文的示例代码的common.caching包中。这些类的Javadocs也包括在源代码压缩包中。 （图2 中的类图显示了这些Java类的关系）

ICacheManager

        这是客户应用实现所有缓存有关操作（如：存储、访问以及释放缓存中的数据）的主接口（契约）。客户程序可以是JSP、Struts Action类，或者就是一个POJO对象。创建该接口用于对客户端隐藏所有缓存的实现细节，这样当我们将来需要切换另一种的第三方缓存API的时候无需对客户端代码做任何调整。

BaseCacheManager

        这是web门户缓存框架的主类。是对ICacheManager 接口的最基本实现。创建BaseCacheManager 用于在一个类中集中所有缓存相关的方法。它被设计为单例模式保证在servlet容器的JVM中有且仅有一个ICacheManager 的实例被创建。在多web服务器/servlet容器实例共同处理web请求的集群环境中，每个JVM将会创建独立的ICacheManager 实例。如果将来你要转换到不同的缓存API ，这是唯一需要为新的缓存API修改的类。如果你切换到JCache-兼容的缓存实现，对缓存管理器的修改将会是很小的。

ICacheLoader

        该接口用于在web客户端实现真正的数据访问逻辑。所有需要使用缓存机制的客户端应用必须实现该接口。它包括仅有的一个方法叫做loadCacheObject() ，有两个输入参数：一个String参数制定缓存区域名称，一个对象参数制定缓存键值。这样，缓存管理器将知道在缓存的对象超过指定的“生存时间”的时候，使用哪个客户端程序（运行loadCacheObject 方法）来重载缓存中的对象 。

ICacheKey

        ICacheKey 接口创建的目的是为了隐藏特定的创建缓存键值的细节。有时候缓存的键值不是一个简单的字符串。它可能像多个对象组合起来一样复杂，从数据源获取这些值需要多个查找方法而不是单一的方法。在这种情况下， ICacheKey 接口可以被用来定义创建缓存键值的所有复杂的逻辑。这样，缓存键值创建逻辑将会被定义为独立的类。我编写了一个简单的类TestCacheKey 实现了该接口并实现了getCacheKey() 方法来演示使用该接口的方法。

CacheRegions

        一个 缓存区域 被定义为一个组织起来的命名空间用于容纳一组缓存对象集合。你需要在配置文件中定义缓存区域来实现在一块单独的内存空间中存储数据，管理缓存数据的有效期限。如果需要的话，对有相似特征的对象（例如：生存时间和业务用途）应该被缓存在相同的缓存区域中，让它们可以在相同的时间失效。我定义了分离的缓存区域来存储静态数据和小变动数据。为了避免同步操作带来的效率影响，我对每个缓存区域使用了单独的Cache (JCS) 实例。

CacheElementInfo

        该类用于封装所有的缓存统计信息（例如：命中数、不中数、命中比例等），用来监测在web应用中所有缓存对象的效率。

编译, 构建, 和单元测试

        用Ant创建了一个构建脚本来编译我的对象缓存框架的所有代码。Ant的构建脚本build.xml, 放在WEB-INF\classes 目录下。我还编写了Junit测试客户端来测试使用web门户缓存框架的不同缓存场景。测试脚本CachingTestCase, 放在WEB-INF\classes\common\caching\test 目录下。解压缩示例代码到一个新的web应用目录，如果要验证Junit测试脚本，从命令行运行以下命令：

切换当前目录到%TOMCAT_HOME%/webapps/web-app-name/WEB-INF/classes （在Unix测试环境中，目录应该是$TOMCAT_HOME/webapps/web-app-name/WEB-INF/classes）。

运行以下命令：

• ant common.compile
  编译缓存框架中所有的Java类。
• ant common.runjunit
  用于运行Junit测试脚本。测试脚本使用Log4J API来显示所有的输出信息。

考虑何时使用对象缓存的指导方针

        当你决定要在你的web应用中缓存一些特定类别的数据的时候，请参照这些指导方针。缓存的应用应该经过谨慎地考虑，只有当其它方法，如：数据访问等，已经无法再进一步改进的时候才需要使用缓存。缓存将会带来复杂性，让维护工作变得更加复杂。因此，必须统筹考虑性能和缓存带来的复杂性的平衡关系。

        当考虑使用缓存的时候，需要考虑对象的预定执行时间和刷新率或者叫做对象的生存时间。缓存不能容纳所有我们想要存储的数据，因此缓存使用的内存及时得到释放，即可以通过定义合理的生存时间实现，也可以在数据不再需要的时候显式地释放被缓存的对象。可以指定缓存算法如最近被访问算法（LRU）或者最少被使用算法（LFU）以便缓存基于访问频率来释放对象。Jack Shirazi的著作 Java 性能调整 提供了一个关于缓存主题的非常有趣的讨论，讨论了什么类型的数据应该被缓存，以及何时使用缓存的建议。

        注意缓存框架并没有处理在web应用中需要被缓存的对象的创建（例如：从数据源检索数据的数据访问逻辑并没有在缓存类中编写）。这要依赖于客户程序来定义真正的数据访问逻辑。像Java数据对象等技术通常用于在企业级web应用中封装数据访问逻辑。参考O´Reilly的 Java 数据对象 来学习更多的关于如何将数据访问层与业务逻辑层分离的知识。

结论

        本文提供了对使用Jakarta的Java缓存系统（JCS）来为web门户应用开发对象缓存框架的概要介绍。该框架非常稳定并可以被重用于其它任何web应用，甚至可以用于客户/服务器模式的Java应用程序。本文详细介绍了web门户缓存框架的工作原理，并提供了Junit测试脚本来对不同场景的缓存框架进行测试。

        JCS was built as a system close to JCACHE Java Temporary Caching API (JSR-107), a description of the caching system used in Oracle 9i and other popular caching frameworks. 该规范可能会在将来的JDK发行版本中作为一种Java扩展框架。我的其中一个目的就是让web门户缓存框架与JCS保持松散耦合。这样的话，如果我将来需要转换到另一种框架（例如Jcache），我可以在对web门户应用客户程序代码不做大的调整的情况下完成切换。

        我现在通过记录缓存监测信息的日志（使用Log4J API）如：命中数、不中数、命中率来衡量缓存的效率。可能将来有其它参数需要被监测来衡量缓存的效率。同样的，用来测量使用或不使用缓存对数据访问的反馈时间，应该使用一些负载测试工具如：Grinder或者Jmeter来测试其伸缩性和性能效果。

        在机群环境下保持缓存同步将是一个挑战，因为每个servlet容器将会在自己的JVM中拥有一个缓存管理器实例。解决该问题的方法就是创建消息驱动Bean（MDB）在需要刷新数据的时候通知所有的缓存管理器。

        通常的对象查找方法，如：简单的Hashtable、JNDI甚至是EJB，提供了在内存中存放对象并通过键值查找对象的方法。但是任何一种方法都没有提供当对象不需要的时候从内存中移出的机制，或者当访问对象迟于对象存放期限的时候自动创建对象的机制。HttpSession 对象 (in the servlet package) 也允许对象被缓存，但是它没有共享、失效、单一对象存放期满、自动装载或者spooling 这些缓存框架需要具备的基础机制。

        虽然将缓存功能集成到web应用中需要额外的设计和开发工作，但我认为缓存带来的利益大于额外付出的工作。我已经看到在我实现了缓存框架之后 ，我的web应用的性能有很大的提高，特别是在访问静态数据和查找结果方面。该web应用模块目前处于测试阶段。在不久的将来，我会提供一些性能方面的测试数据（包括使用与不使用缓存的情况）来比较缓存如何帮助设计更快、更具伸缩性的web应用。

参考资源

• Java 性能调整, Jack Shirazi, O´Reilly
• JCS 主页
• JCache API
• OSCache
• SpiritCache
• Commons Collections
• Coherence
• Object Caching Service for Java