多线程缓存事例

Posted 2020-08-27 路漫漫，其修远，吾将上下而求索

注:文章示例由上而下，安全级别越高。

示例1.

         public interface Computable<A,V>{
		 V compute(A arg) throws InterruptedException;
	 }
	 public class ExpensiveFunction implements Computable<String,BigInteger>{
		 public BigInteger compute(String arg){
			 //在经过长时间的计算后
			 return new BigInteger(arg);
		 }
	 }
	 public class Memoizer1<A,V> implements Computable<A, V>{
		 @GuardedBy("this")
		 private final Map<A,V> cache = new HashMap<A, V>();
		 private final Computable<A, V> c;
		 
		 public Memoizer1(Computable<A, V> c){
			 this.c = c;
		 }
		 public synchronized V compute(A arg) throws InterruptedException{
			 V result = cache.get(arg);
			 if(result ==null){
				 result = c.compute(arg);
				 cache.put(arg, result);
			 }
			 return result;
		 }
	 }        

 问题是：HashMap 不是线程安全的，因此采用的是将compute方法进行同步。但是这样只能保证每次只有一个线程执行compute方法，有明显的可伸缩性问题。

 

示例2.

        public class Memoizer2<A,V> implements Computable<A, V>{
		 private final Map<A,V> cache = new ConcurrentHashMap<A, V>();//线程安全，高效
		 private final Computable<A,V> c;
		 private Memoizer2(Computable<A,V> c){
			 this.c = c;
		 }
		 
		 public V compute(A arg) throws InterruptedException{
			 V result = cache.get(arg);
			 if(result == null ){
				 result = c.compute(arg);
				 cache.put(arg,result);
			 }
			 return result;
		 }
	 }

 示例2问题在于：如果某个线程启动了一个开销很大的计算，而其他线程并不知道这个计算正在进行，那么很可能会重复这个计算。

 

示例3.

        public class Memoizer3<A,V> implements Computable<A, V>{
		 private final Map<A,Future<V>> cache = new ConcurrentHashMap<A, Future<V>>();
		 private final Computable<A,V> c;
		 private Memoizer3(Computable<A,V> c){
			 this.c = c;
		 }
		 
		 public V compute(final A arg) throws InterruptedException{
			 Future<V> f = cache.get(arg);//检查计算是否存在
			 if(f == null){
				 Callable<V> eval = new Callable<V>(){
					 public V call() throws InterruptedException{
						 return c.compute(arg);
					 }
				 };
				 FutureTask<V> ft = new FutureTask<V>(eval);//不存在，创建FutureTask
				 f = ft;
				 cache.put(arg, ft);//注册到map中
				 ft.run();//开始执行计算
			 }
			 try {
				return f.get(); //获得最后计算结果
			} catch (ExecutionException e) {
				
			}
		 }
	 }

FutureTask ：表示一个计算的过程，这个过程可能已经计算完成，也可能正在进行。如果有结果可用，那么FutureTask.get将立即返回结果，否则会一直阻塞，直到结果计算出来再将其返回。

示例3问题在于：仍然存在两个线程重复计算的问题。因为if语句块是复合操作（“若没有则添加”），无法保证原子性。解决这个问题也很简单，只要使用ConcurrentMap 中的原子方法 putIfAbsent就可以啦。

请看示例4

 public class Memoizer4<A,V> implements Computable<A, V>{
		 private final Map<A,Future<V>> cache = new ConcurrentHashMap<A, Future<V>>();
		 private final Computable<A,V> c;
		 private Memoizer4(Computable<A,V> c){
			 this.c = c;
		 }
		 
		 public V compute(final A arg) throws InterruptedException{
			 while(true){
				 Future<V> f = cache.get(arg);//检查计算是否存在
				 if(f == null){
					 Callable<V> eval = new Callable<V>(){
						 public V call() throws InterruptedException{
							 return c.compute(arg);
						 }
					 };
					 FutureTask<V> ft = new FutureTask<V>(eval);//不存在，创建FutureTask
					 f = ft;
					 cache.putIfAbsent(arg, ft);//注册到map中, putIfAbsent原子方法
					 ft.run();//开始执行计算
				 }
				 try {
					 return f.get(); //获得最后计算结果
				 } catch (ExecutionException e) {
					 
				 }
			 }
		 }
	 }