一种逆向分析协议状态机模型的有效方法

计算机工程与应用 ›› 2011, Vol. 47 ›› Issue (19): 63-67.

一种逆向分析协议状态机模型的有效方法

田园，李建斌，张振

大连理工大学软件学院，辽宁大连 116620

收稿日期:1900-01-01 修回日期:1900-01-01 出版日期:2011-07-01 发布日期:2011-07-01

Effective approach to re-engineering of protocol’s state machine model

TIAN Yuan，LI Jianbin，ZHANG Zhen

School of Software，Dalian University of Technology，Dalian，Liaoning 116620，China

Received:1900-01-01 Revised:1900-01-01 Online:2011-07-01 Published:2011-07-01

摘要/Abstract

摘要： 网络协议的逆向分析技术无论对可信软件的验证、保护还是对恶意软件机理的分析都具有重要用途。由于协议的内在复杂性，重构与其源程序一致的高级模型对分析尤为有益，其中又以有限状态机模型最为典型。建立一种重构网络协议状态机模型的有效方法，主要依据所记录的协议会话的消息流及协议软件实际执行的指令流，通过对指令流反编译并应用改进的形式分析及验证技术构建出状态对象、转移关系及状态转移条件。该方法从协议的会话实例重构出充分一般的状态机模型，效率可行并具有逻辑上可证明的精确性。在详细阐述理论基础之后，也讨论了该方法的实现和应用。

关键词: 网络协议, 协议逆向工程, 有限状态机, 可执行程序

Abstract: Protocol reverse engineering is important to both trusted software verification，protection and malware analysis.Because of protocol’s complexity，it’s particularly helpful to reconstruct high-level model which is consistent with the protocol’s source code among which the Finite State Machine（FSM） model is the most widely used.This paper proposes an efficient method to reconstruct network protocol’s FSM model from the recorded transcripts and execution traces in protocol’s sessions via decompilation and enhanced formal analysis/verification techniques，resulting in state instances，transition relations and state-transition conditions in the FSM.As a result，a generic FSM model is reconstructed from execution trace instances with practical efficiency and provable soundeness.In addition to theoretical description，the engineering evaluation and application of this method is also discussed.

Key words: network protocol, protocol reverse engineering, Finite State Machine（FSM）, executable binary

田园，李建斌，张振. 一种逆向分析协议状态机模型的有效方法[J]. 计算机工程与应用, 2011, 47(19): 63-67.

TIAN Yuan，LI Jianbin，ZHANG Zhen. Effective approach to re-engineering of protocol’s state machine model[J]. Computer Engineering and Applications, 2011, 47(19): 63-67.

[1]	王迪，李彩虹，郭娜，刘国名，高腾腾. 基于模糊势场法的移动机器人局部路径规划[J]. 计算机工程与应用, 2021, 57(6): 212-218.
[2]	伍旭东，唐麒，张伟，张健，魏急波，王一军. 基于扩展有限状态机的SCA符合性测试方法研究[J]. 计算机工程与应用, 2021, 57(16): 263-268.
[3]	郭娜，李彩虹，王迪，张宁，刘国名. 结合预测和模糊控制的移动机器人路径规划[J]. 计算机工程与应用, 2020, 56(8): 104-109.
[4]	徐正国，姚佳奇，郑辉. 具有抗噪性能的协议分类特征研究[J]. 计算机工程与应用, 2018, 54(17): 95-102.
[5]	康红凯，吴礼发，洪征，庄洪林，张亚丰. 一种基于FSM的BGP-4协议模糊测试方法[J]. 计算机工程与应用, 2017, 53(6): 111-117.
[6]	彭家寅. 扰动模糊有限状态机的转移结构[J]. 计算机工程与应用, 2017, 53(16): 1-9.
[7]	李冬辉，张斌，费晓飞. 基于OSBE的属性访问控制模型[J]. 计算机工程与应用, 2015, 51(7): 84-87.
[8]	胡忠刚，娄全福，孙小迎. 格值有限状态机的一些性质[J]. 计算机工程与应用, 2015, 51(21): 70-73.
[9]	尤枫，边毅，赵瑞莲. EFSM模型的字符串类型测试数据自动生成[J]. 计算机工程与应用, 2014, 50(16): 57-61.
[10]	马君亮，汪西莉，何聚厚，肖冰. 增强型Anti-Xprobe2的研究与设计[J]. 计算机工程与应用, 2012, 48(32): 1-4.
[11]	杨京开1，陈秀红2. 直觉模糊有限状态机的子系统[J]. 计算机工程与应用, 2012, 48(25): 52-56.
[12]	尤枫，闫宇，赵瑞莲. 含过程调用EFSM模型测试数据生成[J]. 计算机工程与应用, 2011, 47(32): 87-90.
[13]	杨韬¹，邓红莉²，邵晨曦³. 基于Agent和FSM的细胞信号转导网络仿真[J]. 计算机工程与应用, 2011, 47(3): 221-224.
[14]	张秀平，杨国武，李晓瑜. MMU协处理器的一种软件模拟模型[J]. 计算机工程与应用, 2011, 47(3): 57-60.
[15]	张牧1，严军荣2. 802.11s中RM-AODV路径选择协议的研究[J]. 计算机工程与应用, 2011, 47(21): 109-111.