JAVA反序列化的简单探究

本文主要是探究，在反序列化过程中是怎么调用到readObject、readResolve、readExternal方法的问题

新建一个需要被序列化的类ObjectA，写入readResolve和readObject方法：

 package com.yy.serialize.readResolve;
 
 import java.io.IOException;
 import java.io.Serializable;
 
 public class ObjectA implements Serializable {
     private ObjectA() {
     }
 
     private static final ObjectA objectA = new ObjectA();
 
     public static ObjectA getInstance() {
         return objectA;
     }
     private Object readResolve() {
         System.out.println("执行了readResolve方法");
         return objectA;
     }
 
     private void readObject(java.io.ObjectInputStream in) throws IOException, ClassNotFoundException {
         //执行默认的readObject()方法
         in.defaultReadObject();
         System.out.println("执行了readObject方法");
     }
 }

另一个类ObjectB则写入了readExternal方法：

 package com.yy.serialize.readResolve;
 
 import java.io.Externalizable;
 import java.io.IOException;
 import java.io.ObjectInput;
 import java.io.ObjectOutput;
 
 public class ObjectB implements Externalizable {
     @Override
     public void writeExternal(ObjectOutput out) throws IOException {
         System.out.println("执行了writeExternal");
     }
 
     @Override
     public void readExternal(ObjectInput in) throws IOException, ClassNotFoundException {
         System.out.println("执行了readExternal");
     }
 }

测试类：

 package com.yy.serialize.readResolve;
 
 import java.io.*;
 
 public class SerializeDemo {
     public static void main(String[] args) throws Exception {
         ObjectA objectA = ObjectA.getInstance();
         ObjectB objectB = new ObjectB();
 
         // 序列化
         FileOutputStream fos = new FileOutputStream("a.txt");
         ObjectOutputStream oos = new ObjectOutputStream(fos);
         oos.writeObject(objectA);
         oos.flush();
 
         // 反序列化
         FileInputStream fis = new FileInputStream("a.txt");
         ObjectInputStream ois = new ObjectInputStream(fis);
         ois.readObject();
 
 
     }
 }

运行测试类生成a.txt文件后，可以使用SerializationDumper查看字节流的数据：

这里有两个关键的标识

TC_OBJECT：标记后面的数据为Object对象

TC_CLASSDESC：类描述符标识，表示一个类中的所有信息

     TC_CLASSDESC - 0x72
       className
         Length - 36 - 0x00 24
         Value - com.yy.serialize.readResolve.ObjectA - 0x636f6d2e79792e73657269616c697a652e726561645265736f6c76652e4f626a65637441
       serialVersionUID - 0xee 44 c6 e6 0d b3 64 b5
       newHandle 0x00 7e 00 00
       classDescFlags - 0x02 - SC_SERIALIZABLE
       fieldCount - 0 - 0x00 00
       classAnnotations
         TC_ENDBLOCKDATA - 0x78
       superClassDesc
         TC_NULL - 0x70

调用分析

在ois.readObject下个断点

进入ObjectInputStream#readObject方法，看到其调用了readObject0

跟进readObject0，在此函数中，根据了tc值来进行switch，此时的tc值为TC_OBJECT，也就是0x72十进制数115

在case TC_OBJECT中，调用了readOrdinaryObject

跟进readOrdinaryObject中，发现调用了readClassDesc方法，并把值赋给了desc

跟进readClassDesc，此方法用来分发处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法

tc的值就是TC_CLASSDESC的值0x72，转成10进制就是114，然后进入switch判断后转到case TC_CLASSDESC:

跟进readNonProxyDesc方法，调用了resolveClass方法后，把值赋给了cl

继续跟进resolveClass后，发现使用了Class.forName来创建了ObjectA对象，然后把创建的对象进行return返回

回到readNonProxyDesc，此时cl值变成了ObjectA对象，然后把cl对象传入了initNonProxy，并且赋值给了desc

最后readNonProxyDesc方法返回了desc的值

返回的desc的值赋给了调用处readClassDesc的descriptor，然后又进行了返回

最后回到了readOrdinaryObject方法中

在这里先总结下这几个方法分别做了什么操作

总结下上面的流程顺序为：

readOrdinaryObject -》 readClassDesc -》 readNonProxyDesc -》 readResolve方法

readClassDesc ：分发用于处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法

readNonProxyDesc ：真正用来处理字节流中的TC_CLASSDESC方法，会调用resolveClass进行创建反序列化的对象

resolveClass：是用Class.forName来创建ObjectA对象的地方，在这里可以做一个检查校验，用于反序列化拦截。weblogic中补丁拦截就是在此进行的

到这里三个方法都讲了用途后，还剩最后一个readOrdinaryObject 了

readOrdinaryObject

这里的readOrdinaryObject就是真正操作调用序列化类中，readObject、readResolve、readExternal方法的地方

接着上面debug，拿到了desc的值后往下走，做了一个判断desc.isExternalizable，如果序列化的接口是Externalizable类型，就进入readExternalData，否则进入readSerialData

此处的ObjectA对象接口类型是Serializable，所以进入了readSerialData方法

最后readSerialData方法中用了反射进行调用反序列化对象的readObject方法

回到readOrdinaryObject，接下来就是调用readResolve方法的地方了

用if进行判断，为true则用反射调用反序列化对象的readResolve方法

引用一张xz上师傅文章的流程图：

https://xz.aliyun.com/t/8443#toc-2

总结

方法调用的流程顺序：

readOrdinaryObject -》 readClassDesc -》 readNonProxyDesc -》 readResolve方法

readClassDesc ：分发用于处理字节流中TC_CLASSDESC的方法，用switch来选择需要处理的方法

readNonProxyDesc ：真正用来处理字节流中的TC_CLASSDESC方法，会调用resolveClass进行创建反序列化的对象

resolveClass：是用Class.forName来创建ObjectA对象的地方，在这里可以做一个检查校验，用于反序列化拦截。weblogic中补丁拦截就是在此进行的

readOrdinaryObject：用于调用序列化类中，readObject、readResolve、readExternal的方法

本文始发于微信公众号（安全羊）：JAVA反序列化的简单探究