Term-Prompted and Dual-Path Text Generation for Aspect Sentiment Triplet Extraction
-
摘要:
方面情感三元组抽取（aspect sentiment triplet extraction，ASTE）是方面级情感分析（aspect based sentiment analysis，ABSA）中具有挑战性的子任务之一，旨在从文本中抽取方面术语、观点术语和情感极性三元组. 近期基于生成式的抽取方法取得了出色的表现，这些方法通过顺序串联目标三元组来实现自回归式三元组生成. 然而，这种串联方法可能导致无序三元组之间存在顺序依赖，从而在解码过程中引入错误累积. 为解决这个问题，提出了基于术语提示双路文本生成（term-prompted and dual-path text generation，TePDuP）的方法. 该方法首先利用机器阅读理解（machine reading comprehension，MRC）实现方面术语和观点术语的并行化抽取，然后将它们作为提示前缀来引导条件式三元组的生成，形成双路文本生成框架. 同时，在训练阶段引入计划采样的方法来修正MRC抽取错误所带来的偏差. 为进一步提高性能，引入生成概率将方面术语和观点术语引导的结果合并，以增强模型的鲁棒性. 基于ASTE-DATA-V2数据集的实验结果表明，提出的方法是有效的且明显优于其他基线模型，并给出具体案例分析，证明该方法一定程度上解决了前述问题.
Abstract:Aspect sentiment triplet extraction (ASTE) is a challenging subtask within aspect-based sentiment analysis. It aims to extract triplets consisting of aspect terms, opinion terms, and sentiment polarities from texts. In the recent past, generative extraction techniques have demonstrated remarkable efficacy through the sequential concatenation of target triplets, thereby enabling the autoregressive generation of triplets. However, this concatenation method may lead to sequential dependencies among unrelated triplets, introducing error accumulation during decoding. To address this issue, we propose a term-prompted and dual-path text generation (TePDuP) method. This method first utilizes machine reading comprehension (MRC) to extract aspect and opinion term in parallel, and then uses them as prompt prefixes to guide conditional triplet generation, forming a dual-path text generation framework. Meanwhile, during the training phase, we incorporate scheduled sampling as a corrective measure to mitigate the bias stemming from MRC extraction. Furthermore, in order to enhance performance to an even greater extent, we incorporate generation probabilities to merge outcomes guided by aspect and opinion terms, thereby augmenting the resilience of the model. Experimental results on the ASTE-DATA-V2 dataset show that the proposed method is effective and significantly outperforms other baseline models, and provide case studies to demonstrate that the method solves the aforementioned problem to some extent.
-
软件的安全性是关键的非功能需求. 在软件开发中有必要采取全面和有效的测试方法，识别程序中的污点、漏洞等缺陷，避免带病部署[1]. 传统测试方法往往只能针对特定的输入和输出，难以覆盖所有可能的情况，而模糊测试提供了解决该问题的有效途径[2]，通过生成随机、不合法或异常的输入，监测受检程序面向输入的处理过程是否出现程序崩溃、程序异常、挂起等安全违例事件，以此检验目标程序的容错能力和安全性. 模糊测试已广泛应用于软件安全测试[3]、网络安全测试[4]、Web应用程序测试[5]、移动应用程序测试[6]、智能设备安全测试[7]等诸多场景. 当前模糊测试方法可以从2个维度进行分类.
其一是根据对受检程序的信息掌握程度递增，分为黑盒类、白盒类和灰盒类的模糊器. 黑盒类只需了解输入与输出关系，无需掌握受检程序的内部结构，通常使用随机生成器生成不同的输入，根据程序反应确定是否存在漏洞，可用性和可重现性较高[8-9]. 白盒类对受检程序的内部结构、源代码和调试状态有深入了解，有较好的代码覆盖率，通常使用符号执行和路径分析等生成测试用例[10-11]. 灰盒类则是对输入输出关系与内部结构掌握的均衡方案，通常使用程序静态和动态分析生成有效的测试用例[12-14].
其二是按照提供给受检程序的测试样本生成方法的不同，分为2种模糊器：一种是基于样本突变的模糊器[15-16]，主要通过对预置的测试用例种子进行突变（如算数运算、字节反转等）来创建新的测试用例，其关键在于使得所选择的用于突变的用例尽可能不同，以提高代码覆盖率；另一种是基于生成的模糊器[17]，其在测试开始阶段并不提供相应的测试用例，而是根据预先掌握的被测试系统特定的协议、语法或者输入用例结构建模，据此生成输入并创建测试用例.
为了提高软件缺陷的检测准确率和分析效率，当前大多数模糊测试方法要么考虑提升测试的代码覆盖率[18-19]，从而发现程序中更多的缺陷；要么动态修改和监控程序行为[20-21]，用来了解程序内部的实现过程；要么探索程序执行路径的可达性[22]，并提取关键部分的数据进行计算模拟来发现程序缺陷. 出于对恶意者的戒备或知识产权的保护，软件产品的内部处理逻辑往往实施校验或保护机制，这既无助于提高代码分析的覆盖率和准确率，又增加了测试资源开销. 因此，关注对程序中普遍存在的保护机制的绕过能力，深入程序内部处理逻辑，并使得测试资源的投入向有利于测试的方向倾斜，将有利于降低模糊测试的分析开销，提高程序缺陷检测的准确率和效率. 检测效率与模糊测试工具对受检程序内部信息的掌握程度密切相关，测试工具发展方向也由最初的完全随机向逐渐具备有效策略指导转变[23]，而指导策略的有效性依赖于对受检程序运行所获得的相关信息量. 同时，受检程序的代码体量与运行环境的复杂性等影响着内部信息的驳杂程度，将导致部分实验结果的准确率下降. 在测试阶段对捕获到的信息进行清洗，有助于降低测试复杂度并缓解准确率下降.
本文考虑多因素影响，要求能有效提升样本代码覆盖率，并结合检出率引导测试方向的策略，提出了一种新的基于执行上下文信息导向的程序缺陷模糊检测方法，其本质属于基于样本突变的灰盒模糊测试. 相比于传统随机发散的模糊测试，对程序脆弱点的暴露能力、受检程序代码的探索效率、突变生成测试用例的质量等方面均有很好的提升. 主要贡献有3个方面：
1）引入共性逻辑概念，将程序保护机制的识别归为共性逻辑提取的范畴，基于程序面向不同输入的上下文信息存在差异的特点，提出了共性逻辑提取算法，并在干涉规则的约束下，提出了对程序内部结构的探索提升算法，有很好的保护机制突破能力.
2）提出了突变操作相关区域潜力值pValue的更新算法，结合局部性原理为测试用例的突变操作进行的位置进行潜力值评估，有利于优化模糊测试的样本生成策略，指导新测试用例生成. 既提供了有效测试用例，也保留了模糊测试本身的随机性.
3）基于以上方法，设计并实现了基于执行上下文导向及保护突破的程序缺陷模糊检测原型工具CBFuzzer，在程序缺陷的模糊检测应用上有很好的表现. 利用CBFuzzer在13个测试任务中发现了126个新的漏洞并取得了相应的CVE ID（见附录A表A1，截至2023年8月10日，125个编号已通过审核）.
A1 CBFuzzer获得的CVE（截至2023年8月10日）A1. CVEs Obtained by the CBFuzzer(As of August 10, 2023)漏洞类型 CVE ID heap buffer overflow CVE-2022- 33047 (C)CVE-2022- 35034 (M)CVE-2022- 35035 (M)CVE-2022- 35070 (M)CVE-2022- 35036 (M)CVE-2022- 35037 (M)CVE-2022- 35038 (M)CVE-2022- 35088 (M)CVE-2022- 35039 (M)CVE-2022- 35040 (M)CVE-2022- 35041 (M)CVE-2022- 35094 (M)CVE-2022- 35042 (M)CVE-2022- 35043 (M)CVE-2022- 35044 (M)CVE-2022- 35104 (M)CVE-2022- 35045 (M)CVE-2022- 35046 (M)CVE-2022- 35047 (M)CVE-2022- 35081 (M)CVE-2022- 35048 (M)CVE-2022- 35049 (M)CVE-2022- 35050 (M)CVE-2022- 38228 (H)CVE-2022- 35051 (M)CVE-2022- 35052 (M)CVE-2022- 35053 (M)CVE-2022- 36144 (H)CVE-2022- 35054 (M)CVE-2022- 35055 (M)CVE-2022- 35056 (M)CVE-2022- 35020 (M)CVE-2022- 35058 (M)CVE-2022- 35059 (M)CVE-2022- 35060 (M)CVE-2022- 35017 (M)CVE-2022- 35061 (M)CVE-2022- 35062 (M)CVE-2022- 35063 (M)CVE-2022- 35012 (M)CVE-2022- 35064 (M)CVE-2022- 35066 (M)CVE-2022- 35068 (M)CVE-2022- 35010 (M)CVE-2022- 35069 (M)CVE-2022- 35098 (M)CVE-2022- 35113 (M)CVE-2022- 35090 (M)CVE-2022- 37781 (H)CVE-2022- 35080 (M)CVE-2022- 36142 (H)CVE-2022- 35016 (M)CVE-2022- 32324 (C)CVE-2022- 35109 (M)CVE-2022- 36139 (H)CVE-2022- 36150 (M)CVE-2022- 35089 (M)CVE-2022- 35105 (M)CVE-2022- 35015 (M)CVE-2022- 35067 (M)CVE-2022- 35096 (M)CVE-2022- 38229 (H)CVE-2022- 35007 (M)CVE-2022- 36143 (H)SEGV CVE-2022- 35022 (M)CVE-2022- 35023 (M)CVE-2022- 35024 (M)CVE-2022- 36153 (M)CVE-2022- 35025 (M)CVE-2022- 35026 (M)CVE-2022- 35027 (M)CVE-2022- 36145 (M)CVE-2022- 35028 (M)CVE-2022- 35029 (M)CVE-2022- 35030 (M)CVE-2022- 35019 (M)CVE-2022- 35031 (M)CVE-2022- 35032 (M)CVE-2022- 35065 (M)CVE-2022- 38234 (M)CVE-2022- 32325 (M)CVE-2022- 35086 (M)CVE-2022- 35087 (M)CVE-2022- 36140 (M)CVE-2022- 35092 (M)CVE-2022- 35095 (M)CVE-2022- 35097 (M)CVE-2022- 35014 (M)CVE-2022- 35100 (M)CVE-2022- 35101 (M)CVE-2022- 35106 (M)CVE-2022- 38233 (M)CVE-2022- 35108 (M)CVE-2022- 35114 (M)CVE-2022- 38235 (M)CVE-2022- 36141 (M)CVE-2022- 36151 (M)CVE-2022- 35002 (M)CVE-2022- 35000 (M)CVE-2022- 35018 (M)memory issue CVE-2022- 35433 (M)CVE-2022- 35085 (M)CVE-2022- 35110 (M)CVE-2022- 36155 (M)CVE-2022- 36146 (M)CVE-2022- 35009 (M)CVE-2022- 36152 (M)FPE CVE-2022- 35091 (M)CVE-2022- 38230 (M)CVE-2022- 35434 (M)CVE-2022- 34999 (M)CVE-2022- 35013 (M)CVE-2022- 35004 (M)CVE-2022- 36148 (M)stack buffer overflow CVE-2022- 35107 (M)CVE-2022- 35111 (M)CVE-2022- 35099 (M)CVE-2022- 38227 (H)CVE-2022- 35008 (M)global buffer overflow CVE-2022- 35021 (M)CVE-2022- 35093 (M)CVE-2022- 35011 (H)CVE-2022- 34998 (H)CVE-2022- 35003 (H)use after free CVE-2022- 36149 (M)CVE-2022- 35033 *注：括号中内容为漏洞的安全等级，根据漏洞CVSS评估系统划定，L代表低危，M代表中危，H代表高危，C代表严重. 另外，带*标的CVE编号表示审查中状态. 1. 相关工作
1.1 模糊测试对输入用例结构的探索
高效的模糊测试工具往往依赖于对受检程序的内部逻辑及结构，甚至开发者的习惯等信息的掌握. 通常，利用符号执行、路径分析、程序插桩等技术来获得输入用例的逻辑，并建立相应的模糊测试用例. 研究表明将符号执行与模糊测试结合可以获得比各自单独分析更好的效果[24]. 大部分符号执行工具基于底层编译器中间表示进行分析，包含了详细的源代码信息，具有较高的测试精度，依赖于约束求解产生覆盖复杂条件分支的测试用例[25]，其主要挑战在于符号执行中的路径爆炸和运算符的完整解析能力.
符号执行与路径分析密切相关. Noller等人[26]基于模糊测试生成路径相关的输入，并以符号执行生成满足条件的输入作为补充，实现了基于模糊化工具（Kelinci）和符号化路径分析的程序评估. Ognawala等人[27]通过模糊化孤立函数来发现漏洞，并采用符号执行确定漏洞被利用的可行性，在代码覆盖率、漏洞发现量和时间消耗等方面具有优势，不足在于若有影响孤立函数内部状态的全局变量，易引起路径搜索空间爆炸. Sargsyan等人[28]针对大型代码库的定期模糊测试的时间问题，通过提取用于分支条件的常数值，作为对输入缓冲区进行突变的依据，能更快地覆盖程序路径. Zheng等人[15]提出了一种程序代码的静态模糊变异方法，在漏洞进化规律的指导下，检测威胁程序安全的潜在进化路径，以提高在语法树级别生成包含漏洞的突变样本的效率. Huang等人[29]针对不可达路径导致计算资源浪费问题，提出了一种虚假执行路径的修剪方法，在路径中引导灰盒模糊器，以避免不必要的程序执行. 以上方法在减少模糊测试中的路径冗余、建立有效的测试用例，以及降低人工成本等方面具有意义，给本文的测试样本在漏洞产出率引导突变方向提供了启发，但在深层次的路径关联、代码保护机制影响等方面仍有许多工作要做.
程序插桩用于模糊测试中有利于获得输入用例结构的状态分布，进而完成种子选择并实现均匀的程序状态覆盖[30]，成为覆盖率导向的模糊测试常见的技术. 极具代表性的是2013年Zalewski[31]发布的模糊测试工具AFL，通过对受检程序进行轻量级插桩处理和共享内存区域维护捕获程序运行的内部信息，并开创性地用于模糊测试的种子文件选择、测试用例评估等过程，在程序的代码覆盖率和漏洞测试效率上有很好的表现，对模糊测试领域产生了深远的影响. 如UltraFuzz[32]，Fuzz4B[33]等都是基于AFL衍生而来. 此外，由谷歌公司维护的OSS-Fuzz[34]，LibFuzzer[35]，Honggfuzz[36]等，以及微软公司维护的SAGE[37]，Project OneFuzz[38]等工具均使用了插桩技术，以帮助捕获目标信息，制定相应的模糊策略. 在模糊测试实践中，一方面，使用基于编译器的静态插桩作为辅助已成为事实上的标准，主要用于安全性强化和导向信息收集，有利于提升程序缺陷的发现能力[39]. 另一方面，动态二进制插桩允许在不修改源代码的情况下，插入自定义代码，监控程序的执行过程，有助于掌握模糊测试输入用例的结构情况，并有利于测试用例的完善和优化[40]. 尽管如此，插桩过程存在的插桩代码的准确性、代码注入带来的性能影响等问题仍是插桩技术面临的挑战.
1.2 模糊测试中输入输出关系的分析
模糊测试通过构造各种异常和随机数据作为输入数据，并提交模糊器输出的测试用例给受检程序，在这个过程中检测目标系统对不合理或意外情况的反应. 对输入输出关系的分析，有助于理解模糊器生成模糊数据的过程及其性质，最终为改进模糊器的生成算法以及评估模糊测试用例的质量提供保障. 黑盒模糊测试需要在不访问源代码的情况下通过构建攻击来发现应用程序中的漏洞[9]. 申莹珠等人[41]提出协议状态模糊测试技术，利用协议中的客户端消息集和服务器端响应消息集构造输入输出关系，对网络安全协议的实现逻辑进行黑盒测试分析，发现了多条期望路径外的特别路径及可能的安全隐患. 灰盒测试则可以利用并分析部分目标运行信息，制定有效的测试策略，保障生成的输入数据的测试有效性. Doupé等人[42]提出了一种应用程序内部状态机推断的方法，即通过遍历Web应用程序的状态机，来查找和模糊用户的输入向量，并观察与输出的差异关系，以此来发现程序安全缺陷. Alexi等人[43]为已有代码建立相关记录值数据库，并据此驱动模糊器来生成输入，在R语言中进行了模糊验证，具有较好地揭示函数中的签名输出和分析程序行为的能力.
模糊测试要求生成的输入与程序状态保持适宜性并能完整执行，才能保障测试的有效进行，而黑盒测试情况缺少对目标信息的掌握，使得黑盒相比灰盒在实际应用上有更大的局限性. Cheng等人[44]研究了一种策略驱动的黑盒模糊器框架，为每个接口设置唯一的模糊器，并精确定义目标接口的消息格式、状态维护方法、需要变异的字段位置和特定的输入变异方法. 这些信息有利于生成模糊输入并发现程序中的深层执行缺陷，但大量原始种子信息的生成计算、多请求消息的处理等对模糊器工作影响较大. Redini等人[45]建立用于黑盒测试中生成最佳模糊输入的函数（称为模糊触发器），在任何数据转换函数之前执行，并在输入验证代码之后再次执行. 该模糊触发器生成的输入不受应用端净化代码的约束，也不会因其无效格式而被丢弃. 这为对软件保护机制的识别与突破研究提供了启示. 对模糊测试过程中输入输出关系的分析，一方面要考虑有效的输入与对应的输出异常之间的关系，以确定程序缺陷的存在. 另一方面要注意模糊输入的有效性，避免因保护机制的验证约束导致模糊输入无效和较低的代码覆盖率.
1.3 存在的问题
当前模糊测试的诸多方案是就如何提升模糊测试的结果表现而展开，仍然面临两大技术问题：一是如何突破程序中存在的软件保护机制，使得测试能覆盖到程序深层次的代码逻辑；二是如何有效生成新的测试用例，完成程序内部执行路径探索的优化以及污点、漏洞等缺陷产出效率的提升.
针对软件保护机制的识别与突破的问题，通常在校验位置处进行相关代码的转译、重写或修补[46]，依赖于对软件代码的静态分析，结合软件动态运行信息的捕获、分析与策略制定等，往往存在测试前期开销大、样本修复不易和复现困难等情况[3]. 例如，Li等人[18]注意到传统模糊测试由于变异的粒度固定，因此重写源码中的相关校验代码，使得校验字段首字节的枚举变异能正确反映用于指导模糊器突变的代码覆盖率，但相比其他方案模糊测试的速度严重下滑.
针对如何高效地生成测试用例以完成对受检程序的漏洞发现和程序内部探索的问题，主要考虑样本突变的内容和方向性选择[20]. 比如，Lemieux等人[19]注意到常规模糊测试策略很难覆盖到的某些分支，将其定义为稀有分支，利用分支标识和分支命中次数的结构来引导样本突变向能够触及稀有分支的方向倾斜，实现了一个AFL优化的工具FairFuzz，一定程度上规避了传统的依靠代码覆盖率导致部分代码无法得到有效测试的问题.
2. 提出的方法
2.1 研究动机
传统模糊测试方法无论是用例的结构分析、受检程序内部探索的策略，还是模糊器的输入生成，都具有较大随机性和发散性，导致模糊测试的效率不高，这是实现对受检程序的保护机制识别与突破、内部结构快速探索的难点所在. 本文根据保护机制、程序内部代码分支等的实施特征，提出相关内容的上下文的捕获、分析并利用，以达到对程序内部的快速探索，包括对保护机制的突破. 研究发现AFL，LibFuzzer，Honggfuzz等模糊测试工具都是通过预定义一些突变运算符，决定对种子在哪里（如哪些字节）进行突变以及如何突变（如添加、删除或替换字节）. 同时，不同的变异操作在同一测试程序上挖掘有价值测试用例的效果不同，以及同一操作在不同程序上的效果也不同，特别是如AFL在低效的变异操作上浪费了较多的时间[47]. 因此，对模糊测试进行突变和适当干预，并观察突变影响用来对测试样本进行调整修复，以有利于获得高质量的模糊测试用例.
基于上述思想，本文研究一种新的程序缺陷模糊检测方法，提出实现受检程序内部快速探索（包括对保护机制的突破），以及高质量测试用例生成的解决方案. 该方法对目标程序执行中涉及程序状态转移的部分指令具体的上下文信息进行捕获与分析，设计并实现相关的探索提升算法完成对受检程序内部的快速探索. 同时，通过历史突变操作进行的位置记录，根据突变后对应测试用例的结果表现，综合评估该突变位置所在区域的潜力，优化样本突变策略，以指导有效测试用例的生成.
2.2 总体方法
高效的模糊测试应该将有限的算力投入到有价值和有意义的测试中，因此，有必要运用收敛模糊测试过程中随机性的策略，以提升整体测试表现. 方法的核心在于模糊测试的随机性收敛，依赖于对程序运行过程中的执行上下文信息的分析，构建相应的测试指导规则，引导模糊测试的有效进行.
定义1. 执行上下文信息. 是指正在执行的程序或线程的上下文环境，包括但不限于程序计数器、堆栈信息、寄存器状态、标志寄存器等.
执行上下文是程序执行到某程序位置时的一种程序状态描述. 这种状态随着程序逻辑的执行而时刻变化，相比于静态分析方法，动态地对执行上下文进行分析更能准确地把握程序的执行状况. 本文关注的执行上下文信息是标志寄存器，特别是将条件转移指令的执行上下文信息作为采集对象，原因在于这类指令关乎执行流程和执行状态的转移，进而表现出程序的不同逻辑走向，而保护机制的实施正符合该特点，因此将保护机制归类于条件转移指令的一部分.
基于执行上下文导向及保护突破的程序缺陷模糊检测方法，主要包含5个环节：
1）执行上下文信息采集. 主要包括功能性插桩和初检2部分. 前者根据需要，有针对性地对目标程序进行插桩；后者根据种子用例进行分类，分别将相应类标签下的子样本输入给程序，并在程序执行过程中，根据插桩位置收集相应的执行上下文信息.
2）共性逻辑提取. 根据分类后测试用例执行过程中收集到的上下文信息，提取程序的共性逻辑，其过程包含对保护机制的识别.
3）内部快速探索. 对程序内部结构进行快速探索，包含对保护机制的突破，以及通过对非常规程序执行状态的模拟，达到对隐匿性强的脆弱点进行尝试性发现.
4）用例修复. 对内部快速探索环节中发现有价值内容的测试用例进行修复，以保证其可复现性.
5）样本突变指导. 用于指导生成高质量的模糊测试样本，同时保留模糊测试本身具备的随机性.
3. 执行上下文信息和突破保护的模糊检测
3.1 执行上下文信息采集
3.1.1 功能性插桩
出于对程序运行时的上下文信息收集与分析，以及必要时对上下文实施干涉的需要，基于执行上下文信息导向的程序缺陷模糊测试方法首先完成对目标程序进行传统插桩之外的功能性附加（主要是上下文捕获的动作），即是在传统插桩代码上额外添加上下文收集的插桩代码.
一段AFL的原生插桩代码如图1所示. 其中，根据use_64bit标志来选择使用trampoline_fmt_64版本或trampoline_fmt_32版本的插桩代码. 图2是在AFL插桩trampoline_fmt_32版本基础上，通过功能性插桩代码部署__log_context_action方法来采集执行上下文信息. 如果插桩场景为use_64bit标志位无效，同时识别到当前插桩位置是条件转移指令时，则在当前插桩位置完成附加有__log_context_action功能的桩代码（即trampoline_fmt_32）的添加. 在运行阶段，相关桩代码被执行时，由__log_context_action完成此程序执行时刻的上下文收集.
3.1.2 初 检
插桩环节完成上下文捕获的陷阱设置，而上下文捕获的动作需要事件来触发. 因此，对受检程序执行完功能性插桩后，由初检环节提供程序输入并驱动程序运行，通过事件对插桩代码进行触发并捕获执行上下文信息. 初检是以种子用例为主要操作对象，针对输入的用例在目标程序处理过程中获取执行上下文信息. 对于给定用例所采集到的内容，可以被视作目标程序对该测试用例处理流程的一种整体性描述，能够为后续相关环节的执行上下文分析提供数据源.
定义2. posDes. 是当前测试用例在程序中任意的指令位置pos处的运行状态，或者说，posDes是程序运行过程中在任意的指令位置pos处采集到的、用于描述该位置执行状态的上下文信息，可描述为⟨insID，context，curState，historyState，isValue⟩五元组. 其中insID是在插桩过程中随机分配给当前程序位置pos的唯一标识符，用于模糊测试工具标识当前位置使用；context字段包含采集到的上下文内容；curState，historyState，isValue字段用于方法的后续环节，如curState用于内部快速探索来指示是否对当前程序位置的上下文实施干涉，historyState用于指示之前测试过程中是否对该位置实施过干涉，isValue指明对pos位置实施干涉后测试效果是否提升.
一个关于posDes的执行上下文信息采集场景的例子是，程序位置pos存在桩代码，当pos位置被执行前，桩代码会先行执行，由__log_context_action完成对当前程序位置pos的上下文收集，形成此程序执行时刻的状态描述.
定义3. caseDes. 是测试队列T中每个测试用例testcase在目标程序PEI内部执行过程中，由上下文采集模块Collector采集的结果，它是由posDes五元组信息组成的集合，可描述为
caseDes::=Collector(PEI，testcase)，∀testcase∈T. 本文依赖于程序面向不同测试用例的处理过程中的执行上下文差异. 在微观的指令层面，受检程序根据测试用例内容的不同，实际处理过程中存在上下文差异；在宏观的测试用例合法性层面，受检程序内部上下文差异的程度会更加显著，甚至表现为处理流程的不同. 在初检时，首先将初始的种子用例Seeds按照合法性不同分为2类测试用例：满足合法性要求的测试用例wellformedCase 和不满足合法性要求的测试用例malformedCase. 随后驱动经过功能性插桩后的程序PEI，将wellformedCase 和 malformedCase中每一个测试用例作为输入提交给目标程序进行处理，并在过程中由上下文采集模块Collector完成相应的上下文采集，形成caseDes.
3.2 共性逻辑提取
定义4. wellformedCaseDes. 是caseDes的集合，其中caseDes是在目标程序PEI接收并处理T1集合中一个测试用例testcase的过程中，由上下文采集模块Collector采集的内容，此处T1是满足合法性要求的测试用例集合，可描述为
wellformedCaseDes::=⋃testcase∈T1Collector(PEI,testcase). 定义5. malformedCaseDes. 是caseDes的集合，其中caseDes是在目标程序PEI接收并处理T2集合中一个测试用例testcase的过程中，由上下文采集模块Collector采集的内容，这里T2是不满足合法性要求的测试用例集合，可描述为
malformedCaseDes::=⋃testcase∈T2Collector(PEI,testcase). 共性逻辑提取的出发点是基于目标程序接收不同测试用例的处理流程的差异（如执行的处理流程不同、同一处理逻辑的执行上下文不同等）寻找相同的部分，该特征也存在于程序的保护机制之中. 基于差异表现，共性逻辑用来表达程序对某一类测试用例处理逻辑中的核心部分，包含保护机制的逻辑、相应分类下的处理逻辑. 共性逻辑提取模块根据测试用例的合法性对通过初检采集到的caseDes进行分类，形成wellformedCaseDes 和 malformedCaseDes，三者存在以下关系：
∀caseDes∈(wellformedCaseDes∨malformedCaseDes). 实际上，对于满足目标程序对测试用例的合法性所采集到的上下文信息caseDes1 和不满足目标程序合法性要求的测试用例所采集到的上下文信息caseDes2是存在差异的，这种差异可以表现在上下文采集位置pos的不同，也可以表现在相同程序位置pos采集到的上下文内容不同（如在程序保护机制所在位置上的采集）. 正是这种差异性存在，给了提取共性逻辑的可操作空间.
插桩后的目标程序接收不同输入测试用例，其内部的处理逻辑随输入测试用例的不同而存在差异，这在插桩代码的执行情况上已得到体现，同时也会反映插桩代码的命中情况. 例如，对于某代码桩，程序在接收某些测试用例后的处理流程中该代码桩被执行，称为代码桩命中；反之则称为代码桩不命中. 共性逻辑提取对这部分插桩代码的命中情况进行统计与分析. 兼顾到程序中存在的循环结构可能带来的统计偏差，本文仅将代码桩的首次命中视为有效计数. 因此，衡量某处逻辑是否属于该类测试用例共性逻辑的方法是在该类别下的所有测试用例的执行过程中，对于某个逻辑是否属于该类测试用例共性逻辑的衡量标准（即有效计数值），按照是否超过衡量的阈值进行判断. 对于保护机制而言，其在所有测试用例均会被执行到，所以保护逻辑部分在判定上是属于共性逻辑.
定义6. localBpHit. 是以程序位置pos对应的insID为键和flag为值的哈希表，可表示为hash[insID]= flag.
localBpHit用来描述当前分析的测试用例，其中flag字段表明了根据insID对应逻辑在当前测试用例处理过程中是否为有效计数（即是否为首次命中）.
定义7. globalBpHit. 是以程序位置pos对应的insID为键和hitCount为值的哈希表，可表示为hash[insID]= hitCount.
globalBpHit用来对当前类的测试用例进行描述，其中hitCount字段记录了针对当前统计到的程序位置pos以及其对应的insID在某一类测试用例执行过程中的有效计数的数量值（即首次命中的次数）.
算法1. 共性逻辑提取.
输入：集合caseDesSet；/*即wellformedCaseDes 或malformedCaseDes*/
输出：提取的共性逻辑commonLogic.
① for each caseDes in caseDesSet do
② for each posDes in caseDes do /*遍历当前测试 用例的上下文采集情况*/
③ flag = getFlag(localBpHit, posDes.insID)；
④ if flag = 0 then
⑤ setFlag(localBpHit, posDes.insID)；
⑥ incHitCount(globalBpHit, posDes.insID)；
⑦ end if
⑧ end for
⑨ end for
⑩ insIDSet = globalBpHit.keys()；
⑪ for insID in insIDSet do
⑫ hitCount = globalBpHit[insID]；
⑬ if hitCount > threshold then
⑭ commonLogic.append(insID)；/*判定为共性逻 辑，对逻辑位置进行记录*/
⑮ end if
⑯ end for
⑰ return commonLogic.
算法1中，行④利用localBpHit的flag字段对当前采集到的posDes是否为首次在localBpHit命中进行判断. 若为首次，则视为有效计数，并使用incHitCount方法对globalBpHit中相应内容进行更新. 随后遍历globalBpHit，检测某类测试用例中逻辑位置insID在该类测试用例测试过程中有效计数值的情况，判断该值是否超过阈值threshold（根据当前提取的类中测试用例数量选取阈值），从而完成对应程序逻辑是否属于该类测试用例的共性逻辑的判定. 设N为算法输入的caseDesSet所包含面向对应类别测试用例上下文提取结果caseDes的数量，M为在处理单个caseDes时所对应的上下文采集点的数量，那么，在保证实现目标功能下，算法1的整体时间复杂度为O(NM)，即与N和M呈线性关系.
根据初检阶段存在2类测试用例的特征，算法1至少启动2次，分别针对2类测试用例的执行上下文采集结果形成的集合wellformedCaseDes和malformedCaseDes进行测试用例的共性逻辑提取.
3.3 内部快速探索
内部快速探索的工作模式是作为弥补传统测试方法的功能插件而存在，其操作对象是已提取的共性逻辑，目的是实现对程序内部关键逻辑的快速探索.
内部快速探索主要解决2个问题：一是程序内部探索效率慢；二是漏洞或污点本身可能并未表现出破坏性，但当恶意程序的执行链路对漏洞或污点位置代码进行触发并恶意利用时才显露其破坏性. 对于第2个问题，本文注意到这些恶意构造出来的执行链路往往与不正确、非常规的程序状态转移有关. 传统的模糊测试方法无法对这种状态转移进行模拟，导致对于这类隐匿性强的脆弱类型的发现能力有限.
内部快速探索依赖探索提升算法，实现对程序执行流程尝试性地主动干预，即通过干涉测试用例的处理过程中的执行上下文信息，以达成突破保护机制，实现对程序内部的快速探索，以及模拟非常规程序状态转换的功能目标.
3.3.1 干涉规则
内部快速探索的需求场景是对保护机制的突破、程序内部的快速探索，以及不正确或非常规的程序状态转换模拟，其行为特征均与程序中条件转移指令密切相关. 条件转移指令的实施离不开标志寄存器的内容. 可将x86架构的CPU中标志寄存器EFLAGS的各标志位比特信息作为执行上下文信息的主要内容.
干涉规则是内部快速探索的核心，主要完成对执行上下文信息的干涉，实现对程序执行流程的干预. 本文方法对于执行上下文是一种指令级别的采集，这使得源数据集十分庞杂，增加了数据处理的负担. 为了减少非必要分析工作的比重，干涉规则的作用对象限于共性逻辑位置的执行上下文信息. 干涉规则是内部快速探索对执行上下文内容context进行干涉所遵循的操作规则，可描述为
contextopflipMask→flipedContext. 其中op是干涉对应的运算操作，表示该程序执行时刻的上下文context与干涉因子flipMask之间的运算方式；flipedContext是干涉后的上下文.
对上下文实施干涉的本质是对条件转移指令的执行逻辑所涉及的上下文进行干涉，从而左右指令的转移结果. 根据实施逻辑的复杂程度可分为简单条件转移指令与复杂条件转移指令.
简单条件转移指令对应的flipMask和op操作对应关系如表1所示. 这些简单条件转移指令，只需要通过翻转修改context中对应条件转移指令检查的内容即可完成干涉. 以je转移指令为例，若实施干涉，则需要对context中ZF值进行翻转.
表 1 简单条件转移指令的flipMask与op关系Table 1. Relationship Between flipMask and op in Simple Conditional Transfer Instructions条件转移指令 flipMask内容 指令检查的标志 op je/jne/jz/jnz 0x40 ZF XOR js/jns/jl/jnl 0x80 SF XOR jp/jnp 0x4 PF XOR jo/jno/jge/jnge 0x800 OF XOR jb/jnb/jc/jnc 0x1 CF XOR 由于ZF标志在context[6]，因此选择op操作为XOR，flipMask = 0x40，使用干涉规则“context XOR 0x40 → flipedContext”即可快速完成对ZF的翻转修改，从而左右je指令的转移结果.
复杂条件转移指令是多个标志位影响转移指令的执行结果，如图3所示. 以jbe指令为例，如图3（a）所示，jbe指令检查CF和ZF标志，当CF或ZF至少1个有效，则转移实现. CF，ZF标志分别位于EFLAGS的第0位和第6位. 当“context[0] | context[6]”有效，即CF，ZF至少1个有效，代表未干涉的jbe指令结果是转移实现. 内部快速探索若需要对jbe指令结果进行干涉，将此时context经过干涉规则后的flipContext在CF，ZF标志均设置为0即可.
![]()
图 3 复杂条件转移指令的flipMask与op关系Figure 3. Relationship between flipMask and op in complex conditional transfer instructions选择op操作为AND，flipMask=0xFFFFFFBE.当context中CF，ZF均为0，意味着jbe指令转移未实现，内部快速探索若需要对jbe指令结果进行干涉，要求实施干涉后的flipContext在CF，ZF标志至少1个有效即可. 设置op=XOR，flipMask=0x1，对context的CF实施翻转修改即可实现干涉. 总之，图3所示的逻辑在本质上是对于完成干涉后的上下文flipContext，在对应条件转移指令的分支转移表现与干涉前context上的分支转移表现是相反的.
3.3.2 探索提升
探索提升依赖于fork函数方法. 在Unix/Linux操作系统中可以通过fork创建新进程的系统调用函数，也可以创建与原进程一样的新进程. 新进程从原进程的当前位置开始运行，并使用原进程的资源和状态，包括虚拟地址空间、文件描述符、信号处理器等.
算法2. 探索提升.
输入：测试用例tesecase，测试用例上下文采集情况caseDes，受检的目标程序PEI，测试用例所属类下的共性逻辑CL（commonLogic）；
输出：repairQueue.
① for run PEI on testcase until insID match insID in CL do
② curPosDes = getPosDes (caseDes,insID)；/*获取 当前程序位置的上下文采集内容*/
③ if curPosDes.historyState = 0 then
④ curPosDes.curState = R()；/*随机函数*/
⑤ elseif curPosDes.historyState & isValuable then /*此前对该处逻辑的干涉并存在表现提升*/
⑥ curPosDes.curState = R()；
⑦ else
⑧ curPosDes.curState = 0；
⑨ end if
⑩ if curPosDes.curState then
⑪ if fork() = 0 then /*在子进程中*/
⑫ modifyContext()；/*对上下文进行干涉*/
⑬ (trace_bits, result) = subprocessWake()；
⑭ if result ≠ boring then
⑮ isvaluable()；
⑯ repairQueue.add(testcase, caseDes)；/*需 要进行样本修复的队列*/
⑰ DiscoverBoostPool.add(testcase, caseDes)；
⑱ end if
⑲ end if
⑳ end if
㉑ Parent process test continue；
㉒ end for
程序接受测试用例tesecase并开始执行，当程序运行位置insID属于共性逻辑时，算法2的行②通过getPosDes方法对当前共性逻辑对应的insID，在测试用例testcase整体上下文收集结果caseDes中，获取对应的上下文描述信息，并以定义2的五元组形式存入curPosDes中. 行③~⑨的运算逻辑决定curState字段的内容，该字段用于指示探索提升是否需要对该处上下文实施干涉，其中方法R随机映射为0或1，用以保留模糊测试自身的随机性. 当curState=1，算法2需要对此位置实施干涉，在当前测试位置fork 出子进程. 父进程则按照行㉑以常规测试流程（不干涉程序流程）进行测试. 需要注意的是对子进程的处理，即行⑫使用modifyContext方法对子进程内部的执行上下文实施干涉. 随后放行子进程，并观测后续测试的结果. 行⑭，若存在有利于测试结果的提升，如新路径发现、程序异常等，则启动isvaluable方法对指示该轮测试中实施干涉的程序位置（即posDes中curState字段为1的部分）进行标记，或者说，对能带来测试提升的干涉位置所对应的posDes中的isValue字段设置为1，用来表示干涉该位置对测试表现有提升. isValue字段为后续是否继续对相同位置进行干涉尝试提供参考. 最后，将测试用例testcase添加到对应的队列中.
算法2包含采用算法1实现共性逻辑提取的输出模块以及干涉操作模块. 干涉操作模块的复杂度为O(P)，其中P是目标程序对实施干涉的后续测试的开销，2个模块之间的数据传递开销为O(K)，其中K是共性逻辑模块的输出所包含的逻辑数量. 因此，算法2的整体复杂度为O(NM) +O(P) + O(K).
图4是一段程序的某段处理逻辑映射到算法2上的核心操作流程，其中，Vulnerable Point是脆弱点，模糊测试期望对该脆弱点进行暴露. 因此，需要对2处关键的分支转移进行控制：一是图4中实线方框部分，此为共性逻辑中与保护机制有关的特殊部分；二是条件转移指令je LBB0_3. 算法2对二者的干涉手法是一致的，以后者为例，具体的干涉流程有4个步骤：
![]()
图 4 程序关键汇编指令与探索提升算法的映射的操作过程Figure 4. The operation process of mapping the key assembly instructions of a sample program①对应算法2中行③~⑨的逻辑，使用方法R在保留一定随机性的基础上对该位置的curState字段进行设置，用于指示是否实施干涉. 如图4中的第1步，方法R设置curState = 1表明对该位置实施干涉.
②通过forkserver创建出子进程. 处理逻辑根据父子进程而不同，其中，虚线箭头部分表示父进程按照传统测试流程进行（不实施干涉），而子进程部分对应虚线框子进程内容部分.
③在子进程内部，根据此时条件转移指令je完成对干涉规则中的flipMask及运算规则op的设置.
④对上下文进行干涉，干涉的结果使得je指令的执行结果区别于干涉之前的执行结果.
图4展示了示例程序关键汇编指令映射到算法2上的操作流程，完成了je指令执行结果变为步入脆弱点（即Vulnerable Point）所在程序位置，同时在父子进程中使得je指令的2个逻辑分支都被纳入测试面，即为算法2的探索提升过程.
采取类似的实施流程进行干涉可以达到对保护机制的突破. 当出现有价值的发现，才进行相应输入值的求解，这样可以减少不必要的算力投入，并且相比于完全依赖于模糊测试随机发散，通过碰撞求解获得突破保护机制具体值的方式，在测试过程中具有更高的可靠性.
3.4 用例修复
为了找出使程序表现异常的输入，要求测试结果对于当前样本在目标程序执行过程中的上下文具有可复现性. 可以根据给定样本对该样本的执行上下文的复现，进而分析出程序执行到触发脆弱点的完整调用链路，实现对脆弱点的定位、分析与修复. 在反馈程序脆弱点给相应的开发者时，需要漏洞披露结果的可复现性作为支撑.
内部快速探索的作用过程能够强行干涉程序的执行流程，这是出于探索提升算法核心功能的需要. 不幸的是，这种强行干涉会破坏当前样本执行结果的可复现性.
用例修复方法对测试过程中由于干涉程序流程而发现有价值内容（如程序发现新执行路径、出现安全违例、程序崩溃等）的测试用例进行修复. 对程序执行流程进行的干涉属于一次性的干涉，执行结果并非持久，即同样的测试样本，若在目标程序执行过程中不施加相同的干涉，则无法对执行结果进行复现. 用例修复的核心功能便是对存在探索价值发现的测试样本进行修复，达到对测试用例执行结果持久化的目的.
用例修复引入符号执行技术，通过程序分析得到让特定代码块被执行的输入，契合了用例修复的功能需求. 将输入的位置进行符号化，在程序运行过程中，根据程序的执行逻辑给该符号施加约束，当程序执行到目标代码块时形成该符号的一个约束条件集合，最后使用约束求解器完成对约束条件集合的求解. 对于用例修复的需求场景，只需要对内部快速探索环节施加干涉的位置进行轻量化的符号执行技术应用. 用例修复操作的对象是探索提升算法所维护的repairQueue. 探索提升通过对上下文干涉实现劫持程序的执行流程，将对模糊测试结果有提升的样本添加到待修复的队列中. 添加的内容包含测试用例testcase和对应的描述信息caseDes，其中caseDes描述了对应测试用例在目标程序执行过程中的干涉情况.
用例修复需要完成以下核心功能：首先，当repairQueue不为空，取出repairQueue中的⟨testcase， caseDes⟩对，遍历caseDes并筛选出该testcase实施干预的程序位置，即五元组信息中curState字段为1 对应的插桩位置；接着利用逆向分析技术、hook技术得出程序位置相关操作数位于testcase中的对应内容；最后将testcase中相关内容进行符号化，启动符号执行引擎，求解状态转换符号所对应的值.
3.5 样本突变指导
样本突变策略用于指导突变操作并生成新测试用例. 该策略的优劣对于模糊测试的结果表现至关重要. 在样本突变策略的指导下通过不断突变生成测试用例，期望在这过程中的某些测试用例得以触发程序异常或安全违例等事件发生，从而达到对程序内部运行异常位置进行检测的目的. 因此，突变环节的策略设置很大程度决定了突变生成高质量测试用例的效率. 高质量的测试用例能在代码覆盖率、程序异常发现数量等指标上表现优异. 与传统方法相比，样本突变指导维护着生成新测试用例环节中突变操作对应突变位置的潜力值pValue，并通过该值为突变策略生成新测试用例提供参考.
AFL是基于代码覆盖率的遗传算法生成策略，通过保留测试结果表现优异的测试样本，并用于产生新测试用例的突变母本，但在具体的突变位置的选择上存在盲目性，导致生成高质量测试用例效率较低. 为了解决AFL在生成高质量测试用例表现低效的问题，引入程序局部性原理，假定输入给程序的测试用例的某个字段内容在程序执行过程中存在样本质量指标上的提升，那么，对于该字段周围一定范围内的内容做相应的突变操作所生成的新测试用例，在模糊测试过程中可能带来相同的效益[20].
样本突变模块中的导向性突变并不关心具体输入测试用例每个存储单元里的内容，而主要考虑对突变操作区（MutateZone）进行潜力评估，并设置突变操作实施范围的约束. 潜力值pValue表示对当前突变操作区的内容进行突变所生成的测试用例，在测试质量评估指标上可能带来提升的可能性. 本文样本突变环节中以pValue为导向，期望将突变操作实施范围约束在指定的区域内（即pValue高的突变操作区）进行，在提升突变所产生的高质量测试用例概率的同时，也保留了模糊测试本身具备的随机性操作空间.
3.5.1 突变操作区构造方法
导向性突变指导的操作粒度，是突变操作区对应于测试用例进行突变操作区构造的大小. 突变操作区构造包括突变操作区的划分以及相应描述表的构建. 其中，描述表中的表项用于描述测试用例的某个突变操作区信息，包含各个突变操作区的唯一标识MzId、由当前突变操作区内容进行计算的校验值，以及突变操作区的pValue. 需要注意的是，每次突变操作所生成的测试用例会继承母本的突变操作区描述表. 区别于母本突变操作区描述表，新测试用例突变操作区描述表改变的是涉及突变导致内容发生改变的对应突变操作区的校验值.
根据指令级别程序对输入的存取单元来构造突变操作区，该操作区的大小决定了对pValue评估的粒度. 以构造512 b单位的突变操作区为例，首先，接受输入流并将内容填充到突变操作区中，将输入流分成以512 b为单位的块. 随后，对当前突变操作区描述表进行构建，根据当前内容计算校验值并设置初始化突变操作区的pValue. 重复上述操作，循环处理完输入流的全部内容，构造出当前测试用例的突变操作区划分. 后续则根据测试用例的执行表现对突变操作区描述表的信息进行更新.
3.5.2 pValue更新
pValue用于表示一个突变操作区的潜力值，初始值为0. pValue越大，意味着对该突变操作区进行突变操作所生成的新测试用例，对于提升模糊测试结果的可能性越大. pValue更新策略根据当前测试用例是否第1次被目标程序接收并执行存在差异.
算法3. pValue更新.
输入：受检的目标程序PEI，用于突变的母本测试用例testcase；
输出：更新后的测试用例突变操作区描述表.
① if isDebut then /*判断testcase是否首次出现*/
② MutateZoneBuild(testcase)；
③ methodFlag = 0；
④ else
⑤ methodFlag = 1；
⑥ end if
⑦ if methodFlag then
⑧ targetZone = pValuePeek()；/*突变操作位置*/
⑨ mutateFile = AFL_Mutate(targetZone)；/*针对 targetZone进行突变，生成新的测试用例*/
⑩ else
⑪ mutateFile = AFL_Mutate()；/*AFL突变*/
⑫ targetZone = diff(newZInfoSet, baseZInfoSet)；
⑬ end if
⑭ (trace_bits, result) = Execute(PEI, mutateFile)；/* 由突变生成的用例表现评估pValue*/
⑮ if result = Crash then /*程序出现异常Crash */
⑯ pValueINC(targetZone)；
⑰ Tcrash.add(mutateFile)；/*发现新的漏洞*/
⑱ end if
⑲ if result = NewEdgeFound then /*覆盖率提升*/
⑳ pValueINC(targetZone)；
㉑ T.add(mutateFile)；/*发现新的路径*/
㉒ end if
㉓ if result = boring then
㉔ pValueDEC(targetZone)；
㉕ Discard(mutateFile)；/*无新发现，舍弃当前干 涉位置*/
㉖ end if
算法3中，MutateZoneBuild方法对当前测试用例进行突变操作区划分并初始化所有对应的描述信息形成基本描述表baseZInfoSet，并设置methodFlag标志. 随后根据情况有2种突变策略选择：一种是当测试用例并非首次出现在测试过程中，即此测试用例至少测试过1轮或者是由其他测试用例突变产生，此时，用于描述该测试用例所有突变操作区的baseZInfoSet，满足样本突变指导模块介入策略调整的要求. 另一种是AFL原生的突变策略，该策略适用于测试用例首次出现在测试过程的情况，在突变操作区描述表baseZInfoSet刚完成初始化后，所包含的信息不满足样本突变指导模块介入策略调整的要求，因为此时该测试用例所有突变操作区的pValue均为初始值，不具备参考价值.
算法3是导向性突变组件和执行模块的协作. 导向性突变组件负责突变操作区的维护与测试用例的突变，复杂度为O(Q)，其中Q为突变测试用例对应的突变操作区的数量. 执行模块基于导向性突变组件输出的突变测试用例，驱动目标程序对突变测试用例进行处理，其复杂度为O(P). 2个模块之间的数据传递开销为O(Z)，其中Z是导向性突变组件输出的突变测试用例所包含的突变操作区数量. 因此，算法3的整体复杂度为O(Q) + O(P) + O(Z).
算法3中的targetZone通过行⑧的pValuePeek方法选取pValue高的突变操作区作为突变操作的位置. 对于AFL原生的突变策略而言，targetZone是由行⑫的diff方法计算得出，主要是基于突变操作必定对某突变操作区内容进行过更新，这将导致根据该突变操作区的内容重新计算得到的校验值与原值存在差异. diff方法通过比对更新后的newZInfoSet与更新前的baseZInfoSet之间每个突变操作区内容的校验值差异，从而定位突变位置所在的突变操作区（即targetZone）. 行⑭将突变生成的新测试用例mutateFile提交给目标程序PEI执行. 行⑮~㉖根据mutateFile的测试表现，评估对于targetZone的突变是否带来收益，从而更新targetZone的pValue.
pValue的更新具备一定的可拓展性，可根据测试用例其他可能的运行情况，如timeout，hangs等进行拓展. 算法3展示的是依赖测试用例执行表现的3类情况：其一是程序执行出现崩溃，即出现程序异常Crash.其二是代码覆盖率存在提升情况. 以上二者需要增加targetZone的pValue. 其三是无提升的boring情况，表明当前突变生成的mutateFile对于测试结果表现不存在提升，则相应地需要降低targetZone的pValue.
4. 实验与分析
4.1 实验环境与数据
实验所用机器的配置是：6核3.0 GHz的Intel® i5-12500H CPU，16 GB RAM，Ubuntu LTS 18.04操作系统. 原型工具开发使用Visual Studio Code集成开发环境. 实验选择了13个受检项目对本文方法及其原型工具CBFuzzer的有效性等进行验证. 受检的13个受检项目包括otfcc，swftools，xpdf，advancecomp，swfmill，pngdec，ffjpeg，jpegdec，jpeg-quansmoorth，jpgoptim，pdfalto，tifig，fdkaac（含1.0.2 和 1.0.3版本）. 项目初始测试用例来源于程序开发中公布的示例文件和历史缺陷poc文件、网络收集和模糊字典等. 对于各测试任务搜集初始样本，比如，对于pngdec，ffjpeg，jpegdec等处理程序，搜集一些合法图片样本和畸形图片样本作为初始测试用例.
4.2 程序缺陷的模糊检测工具CBFuzzer
参考AFL和使用C语言设计并实现了执行上下文信息导向和保护机制突破的模糊检测原型工具CBFuzzer. 在实验阶段对13个受检项目进行CBFuzzer的应用和测试，取得了较好的实验效果.
CBFuzzer由上下文信息收集模块、共性逻辑提取模块、队列维护模块、驱动模块、样本突变模块、执行模块6个主要功能模块构成，如图5所示，其中虚线框部分涵盖本文方法相关的大部分算法、功能以及突变策略调整.
图5中，预处理部分主要完成本文方法的准备工作，包括对受检程序P进行功能性插桩处理生成PEI、初始种子用例的初检、共性逻辑的提取三大功能. 队列维护模块管理模糊测试队列，由驱动模块的调度器从测试队列T中取出本轮测试所需的测试用例testcase. 样本突变模块是根据突变策略完成对测试用例testcase的突变生成突变样本文件，并提交给执行模块进行测试. 执行模块主要由探索提升和过程观测器2个组件构成，前者在一般测试流程的基础上按照探索提升算法完成模块功能；后者用于观测目标程序PEI对输入的处理过程信息，观测结果提供给驱动模块的测试用例评估器进行样本质量评估. 若存在测试结果的提升且无需进行用例修复，则直接将对应测试用例添加到测试队列T中；否则说明需要进行用例修复，如果成功修复，则添加到测试队列T中，反之则丢弃该测试用例.
4.3 实验结果及分析
模糊测试理论上是可以不断进行的，何时中止测试任务需要测试人员根据测试的过程状态进行判断. 在实验阶段，中止测试任务的判断基准是测试的过程对于测试结果表现的提升很微弱，比如代码覆盖率指标不再上升、不再产生新的异常等.
利用实验对比验证以下4个方面的问题：
1）整体方法的有效性验证.
2）相关关键模块的有效性验证.
3）对不同类型漏洞的检测能力.
4）工具运行性能的分析.
第一，对于整体方法的有效性验证，与AFL[31]及其优化方案FairFuzz[19]的测试表现进行对比分析. 由于本文模糊测试最终目的在于对程序脆弱点进行暴露，因此通过对目标程序的脆弱点的暴露能力来反映方法的有效性. 表2是CBFuzzer，AFL，FairFuzz对有代表性的6个受检项目otfcc，swftools，xpdf，swfmill，advancecomp，pngdec的脆弱点暴露情况.
表 2 CBFuzzer与AFL和FairFuzz在6个测试项目上的脆弱点暴露情况Table 2. Exposure of Vulnerability Points on Six Test Items for CBFuzzer, AFL and FairFuzz受检项目 AFL FairFuzz CBFuzzer（本文） Crash
数量unique Crash
数量Crash
数量unique Crash
数量Crash
数量对AFL的
提升率/%对FairFuzz的
提升率/%unique Crash
数量对AFL的
提升率/%对FairFuzz的
提升率/%otfcc 136 37 149 42 186 36.76 24.83 49 32.43 16.67 swftools 147 21 161 25 179 21.77 11.18 29 38.10 16.00 xpdf 179 6 196 8 215 20.11 19.79 10 66.67 25.00 swfmill 103 6 113 6 124 20.39 9.73 8 33.33 33.33 advancecomp 134 5 147 6 159 18.66 6.80 7 40.00 16.67 pngdec 56 6 61 6 68 21.43 11.48 7 16.67 16.67 表2中，Crash表示当前测试用例可导致目标程序运行过程中出现安全违例事件，这些事件由脆弱点被触发而导致. unique Crash则是去重后的Crash. 模糊测试方法对于同一处脆弱点的不同触发路径视为不同的脆弱点. 换言之，Crash指标表示模糊测试工具对于脆弱点的触发能力，Crash的发现数量是衡量模糊测试工具在测试过程中模块表现的指标，unique Crash数量是实际脆弱点的检出数量.
根据表2，在6个受检项目的Crash和unique Crash的发现数量上，CBFuzzer 相比AFL和FairFuzz均有不同程度的提升. 与AFL相比，CBFuzzer在otfcc项目上的Crash发现数量较为显著，提升率达到36.76%，在其他受检项目上提升率均在20% 浮动，最低的达到18.66%. 同时，在xpdf项目上的unique Crash发现数量上表现优异，提升率达到66.67%. 与FairFuzz在6个受检项目中的实验数据表现相比，CBFuzzer在Crash发现数量上有不错的提升，在otfcc项目中提升比例达到了24.83%. 另外，CBFuzzer在unique Crash发现数量指标上相比于FairFuzz，提升比例均在16%以上. 基于以上实验结果，在整体的脆弱点暴露情况方面， CBFuzzer相比于AFL和FairFuzz均有着很好的程序脆弱点暴露能力的提升，验证了整体方法的有效性.
第二，从CBFuzzer实施流程角度对实验数据进行分析，验证CBFuzzer关键模块的有效性，主要包括对探索提升模块和样本突变模块的验证. 其中，探索提升模块的验证依赖于探索提升算法实现对目标程序内部结构的快速探索，对于某些探索成功的部分，可能AFL并未对其进行覆盖，这将导致Crash可能存在新的触发路径或新的脆弱点. CBFuzzer在Crash发现数量上有2种来源：一是在生成新测试用例的突变阶段，由突变策略指导的导向性突变；二是由于探索提升算法的介入，导致新Crash发现或者新的执行位置被纳入测试范围，从而导致Crash有新的触发路径. 样本突变模块的验证可以通过引发程序Crash对应的测试用例是否经过用例修复环节来区分其来源.
图6和图7是CBFuzzer与AFL在13个受检项目中的Crash和unique Crash对应测试用例的来源构成. 对于CBFuzzer的发现，算法2和算法3决定了CBFuzzer测试用例的来源是否经过用例修复环节分为mutate generate和after repair这2个部分. 其中mutate generate部分是由CBFuzzer突变模块生成的测试用例导致的Crash，after repair部分意味着实施过上下文干涉并且经用例修复成功的Crash测试用例. AFL的Crash样本来源单一，只有突变阶段的生成来源，这部分有着与CBFuzzer在样本突变模块相似的行为，存在一定的可比较性.
![]()
图 7 CBFuzzer和AFL在unique Crash上的对比Figure 7. Comparison of CBFuzzer and AFL on unique Crash图6展示的是CBFuzzer与AFL的Crash发现数量对比. CBFuzzer相对于AFL的Crash发现数量在13个受检项目中有着不同程度的提升，提升较为显著的是otfcc，swftools，xpdf，swfmill，advancecomp，对应的提升数值分别为50，32，36，21，25.尽管受检程序的代码体量与测试的结果表现有一定的关系，但同时也说明了CBFuzzer通过探索提升环节模块的设置及样本突变模块中对突变策略的调整是有效的，并且相比AFL有着更好的测试提升表现.
图7是对CBFuzzer发现的unique Crash进行分类. 其中以增值形式体现的用例修复部分是用例修复环节对于探索提升阶段有价值的发现，并且是成功修复的部分. 该部分数据的存在表明探索提升环节结合用例修复环节在测试阶段正常发挥作用，实现了程序内部快速探索（包括对保护机制的突破）以及模拟非常规程序状态转换的预期目标，并且其中一部分成功修复的样本属于unique Crash.在模糊测试中往往更注重对unique Crash的发掘，图7数据验证了探索提升环节对unique Crash有着针对性的发掘. 综上，我们得出CBFuzzer对于脆弱点的触发能力和暴露能力均优于AFL，同时也验证了CBFuzzer关键模块的有效性.
第三，根据实验过程中检出的漏洞按照漏洞类型进行分类，验证CBFuzzer对常规类型脆弱点以及高隐蔽性脆弱点的检出能力. 原型工具CBFuzzer在13个测试任务中共发现了126个新的漏洞，相关信息已报告给软件开发者，并已提交给CVE®组织
1 ，如附录A表A1所示.对已检出的脆弱点根据类型进行分类，实验获得了CBFuzzer对不同类型脆弱点的暴露能力，如图8所示. CBFuzzer对已分类的7种漏洞类型的脆弱点暴露能力均存在着不同程度的提升. 其中heap buffer overflow与SEGV漏洞类型属于常见漏洞类型，CBFuzzer在这类常规漏洞类型的检出数量上高于AFL，检出数量的提升值分别为21和9. 对于其余隐匿性较高的5种漏洞类型，CBFuzzer 也有着不错的表现，其中对于use after free类型，AFL在13个测试任务中甚至没有检出，而CBFuzzer发现了2处. 实验结果表明CBFuzzer对于常规漏洞类型和隐匿性较高的漏洞类型，均有着更高的检测能力.
![]()
图 8 CBFuzzer和AFL对不同类型的脆弱点的暴露能力Figure 8. Exposure ability of CBFuzzer and AFL for different types of vulnerability points第四，在工具的运行性能上，由于CBFuzzer附加了额外的功能，在具体实施过程中会增加额外的开销，已预期可能使得模糊测试工具的运行效率有一定的下滑.
图9描述的是CBFuzzer，AFL，FairFuzz这3个工具的整体运行性能比较. 其中，平均执行速度是模糊测试工具中用于衡量测试工具效率的指标，表示模糊测试工具单位时间内的测试项执行数，该指标根据测试项和测试方法的复杂程度不同表现存在着差异. 图9（a）展示的是在不同测试项目上的平均执行速度的对比情况. CBFuzzer和FairFuzz由于额外功能的附加，增加了二者在测试过程中的复杂度，使得整体的平均执行速度出现下滑，CBFuzzer的下滑比例在21.8%左右. 图9（b）显示了CBFuzzer对于CPU的使用率整体在AFL和FairFuzz之上，从实验结果可以看出3个工具在实验阶段对CPU资源的依赖程度上是CBFuzzer > FairFuzz > AFL.性能出现一定程度的下滑与系统资源的消耗增大的问题在方法设计初期是可预见的.
![]()
图 9 CBFuzzer与AFL、FairFuzz在操作性能上的比较Figure 9. Comparison of operational performance for CBFuzzer, AFL and FairFuzz性能在可接受范围内出现折中的主要原因是：CBFuzzer在实现相关功能时，相比其他模糊测试方法引入更多的信息，进行了一些策略调整，比如引入符号执行技术对实施干涉程序位置对应输入值的求解以及对突变操作进行的位置进行评估等，这些都是导致整体性能出现下滑的原因. 不过，相比运行性能上的折中，我们关注实验阶段中CBFuzzer的表现结果，认为这部分测试资源的投入是有价值并且必要的. 另外，与FairFuzz相比，CBFuzzer在平均执行速度指标上有少量下滑，主要原因在于测试流程中纳入了其他测试方案所不考量的因素，例如样本突变模块中对于历史突变操作进行位置的记录以及用例修复中引入的符号执行技术等. 这种对测试过程中的信息进行捕获和运用，以及外部技术的引入会增加相应测试任务的负累. 相应的解决方案可对相应策略进行优化，例如用例修复环节可能存在部分约束条件明确无解的情况，这意味着存在某程序状态转移链路是不可达的，即对这部分位置实施上下文干涉的测试结果是无法完成测试结果可持久化的，通过识别并标记这些位置，在后续测试中不再对它们实施干涉，避免算力的无效投入.
5. 结 论
基于程序面向不同输入所对应的处理逻辑不同或者相同处理逻辑处的执行上下文的不同，设计相应的方法、模块在这些逻辑位置的上下文信息进行捕获、分析及利用，提出了一种基于执行上下文信息导向的程序缺陷模糊测试方法，实现了对目标程序内部结构的快速探索以及样本突变策略的优化. 延续AFL的思想，对本文方法涉及的功能模块进行设计与开发，形成了基于执行上下文信息导向的程序缺陷模糊测试方法的原型工具CBFuzzer.通过实验，在受检的13个受检项目中验证了方法和工具的有效性.
对比AFL，FairFuzz，CBFuzzer的测试表现， CBFuzzer对于受检程序的整体脆弱点暴露能力上优于AFL和FairFuzz，并且对隐匿性较强的脆弱类型的暴露能力也有所提升. 在性能方面，CBFuzzer在衡量测试速率的平均执行速度指标上相比AFL下降幅度在21.8%左右，对于CPU的使用率方面，CBFuzzer整体在AFL之上，说明CBFuzzer 对于系统资源的依赖程度相较AFL明显. 综合考虑测试过程中的资源开销增加与脆弱点的暴露能力提升，CBFuzzer额外的开销是有必要且存在价值的.
下一步工作考虑关联更多程序指令的执行特点与执行上下文之间的关系，对基于执行上下文信息导向的程序缺陷模糊测试方法进行扩展，以提升模糊测试工具对程序内部的探索效率以及更高的脆弱点暴露能力. 同时，对相应模块进行设计优化，在保证检出效果的前提下，降低工具对性能和资源的依赖.
作者贡献声明：唐成华提出了概念、模型和算法思路，完成论文修改；蔡维嘉负责数据整理、算法实现与验证并撰写论文；杨萌萌开展数据及实验项目分析；强保华负责论文审阅与修订.
-
![]()
图 2 Seq2Seq对不同三元组顺序的训练和预测
注：SOS是start of sentence缩略词；EOS是end of sentence缩略词
Figure 2. Training and prediction of Seq2Seq for different triplet orders
![]()
图 4 错误三元组之后的后续生成的三元组的精确率
Figure 4. The precision subsequently generated triples following incorrect triples
![]()
图 5 不同目标三元组数量下的F1值比较
Figure 5. Comparison of F1-score with different number of target triplets
表 1 ASTE-DATA-V2数据集的4个子数据集上的主要实验结果
Table 1 Main Experimental Results of the Four Sub-Datasets of ASTE-DATA-V2 Dataset
% 模型 14res 14lap 15res 16res P R F1 P R F1 P R F1 P R F1 Peng-two-stage[18] 43.24 63.66 51.46 37.38 50.38 42.87 48.07 57.51 52.32 46.96 64.24 54.21 JET[18] 70.56 55.94 62.40 55.39 47.33 51.04 64.45 51.96 57.53 70.42 58.37 63.83 GTS[18] 68.09 69.54 68.81 59.40 51.94 55.42 59.28 57.93 58.60 68.32 66.86 67.58 EMC-GCN[18] 71.21 72.39 71.78 61.70 56.26 58.81 61.54 62.47 61.93 65.62 71.30 68.33 Span-ASTE[21] 72.89 70.89 71.85 63.44 55.84 59.38 62.18 64.45 63.27 69.45 71.17 70.26 SBN[22] 76.36 72.43 74.34 65.68 59.88 62.65 69.93 60.41 64.82 71.59 72.57 72.08 STAGE[23] 78.58 69.58 73.76 70.56 55.16 61.88 72.33 58.93 64.94 78.38 69.10 73.45 BMRC* 75.19 68.31 71.58 70.70 53.77 61.09 64.33 58.76 61.42 73.22 65.95 69.40 RoBMRC* 73.15 71.83 72.48 65.52 59.85 62.56 65.77 65.36 65.56 70.39 73.54 71.93 COM-MRC* 71.76 70.82 71.29 65.52 63.58 64.54 65.84 65.98 65.91 65.64 74.32 69.71 BART-ABSA[18] 65.52 64.99 65.25 61.41 56.19 58.69 59.14 59.38 59.26 66.60 68.68 67.62 ParaPhrase* 73.41 70.82 72.09 64.31 58.74 61.40 60.85 64.74 62.73 70.42 71.79 71.10 GAS[28] 72.16 60.78 62.10 70.10 UIE-base[31] 72.55 62.94 64.41 72.86 Seq2Path[32] 75.52 65.27 65.88 73.67 BDTF[20] 75.53 73.24 74.35 68.94 55.97 61.74 68.76 63.71 66.12 71.44 73.13 72.27 TePDuP（本文） 80.79 73.20 76.80 74.79 60.58 66.93 73.35 61.64 66.92 77.53 74.51 75.99 注：“*”标记的方法的数据来自我们复现的结果，黑体数值表示最优值. 
下载: 导出CSV
表 2 ASTE-DATA-V2数据集的4个子数据集上方面术语抽取与观点术语抽取结果
Table 2 Extraction Results of ATE and OTE for the Four Sub-Datasets of ASTE-DATA-V2 Dataset
% 数据集 方面术语抽取 观点术语抽取 P R F1 P R F1 14res 87.03 74.95 80.54 85.58 74.65 79.74 14lap 87.77 74.03 80.32 87.14 72.38 79.07 15res 83.94 76.49 80.04 81.17 74.64 77.76 16res 83.99 78.60 81.21 83.66 82.68 83.17
下载: 导出CSV
表 3 ASTE-DATA-V2数据集的4个子数据集上基于术语提示的文本生成结果
Table 3 Text Generation Results Based on Term Prompts for the Four Sub-Datasets of ASTE-DATA-V2 Dataset
% 数据集 提示路径 文本生成 P R F1 14res 方面术语 83.18 82.79 82.99 观点术语 85.10 81.79 83.41 14lap 方面术语 74.30 70.10 72.14 观点术语 75.24 73.29 74.25 15res 方面术语 73.03 73.81 73.41 观点术语 77.71 77.38 77.54 16res 方面术语 83.57 82.42 82.99 观点术语 83.16 81.71 82.42
下载: 导出CSV
表 4 不同预训练模型在ASTE-DATA-V2数据集的4个子数据集上的F1值表现
Table 4 Performance of Different Pre-Trained Models on the Four Sub-Datasets of ASTE-DATA-V2 Dataset in Terms of F1-score
% 模型 预训练模型 预训练模型参数量 14res 14lap 15res 16res 平均 BMRC BERT-base-uncased 109×106 67.99 57.82 60.02 65.75 62.90 T5-base. encoder 110×106 71.58 61.09 61.42 69.40 65.87 RoBMRC BERT-base-uncased 109×106 72.62 62.12 65.63 73.16 68.38 T5-base. encoder 110×106 72.48 62.56 65.56 71.93 68.13 COM-MRC BERT-base-uncased 109×106 72.01 60.17 64.53 71.57 67.07 T5-base. encoder 110×106 71.29 64.54 65.91 69.71 67.86 BART-ABSA BART-base 139×106 65.25 58.69 59.26 67.62 62.71 GAS T5-base 223×106 72.16 60.78 62.10 70.10 66.29 ParaPhrase T5-base 223×106 72.09 61.40 62.73 71.10 66.83 Seq2Path T5-base 223×106 75.52 65.27 65.88 73.67 70.09 UIE UIE-base 223×106 72.55 62.94 64.41 72.86 68.19 UIE-large 750×106 74.52 63.88 67.15 75.07 70.16 BDTF BERT-base-uncased 109×106 74.35 61.74 66.12 72.27 68.62 DeBERTa-v3-base 184×106 75.48 66.71 68.22 75.36 71.44 TePDuP（本文） BART-base 139×106 72.21 62.01 62.82 71.36 67.10 T5-small 61×106 73.17 62.46 64.70 73.70 68.51 T5-base 223×106 76.80 66.93 66.92 75.99 71.66 T5-large 750×106 77.16 67.75 68.25 76.46 72.40 注：黑体数值表示最优值，划线数值表示次优值.
下载: 导出CSV
表 5 ASTE-DATA-V2数据集的4个子数据集上的F1值消融实验结果
Table 5 F1-score Ablation Experimental Results on the Four Sub-Datasets of ASTE-DATA-V2 Dataset
% 模型 14res 14lap 15res 16res 与TePDuP
平均F1值
的差值TePDuP（本文） 76.80 66.93 66.92 75.99 w/o S-S（本文） 75.32 66.42 65.14 74.96 –1.20 w/o OTP（本文） 74.96 64.85 65.09 72.68 –2.27 w/o OTP & S-S（本文） 74.44 64.02 64.39 71.53 –3.07 w/o ATP（本文） 74.23 64.88 63.32 73.51 –2.68 w/o ATP & S-S（本文） 73.15 64.46 62.40 72.42 –3.55 BART-ABSA 65.25 58.69 59.26 67.62 –8.96 GAS 72.16 60.78 62.10 70.10 –5.38 ParaPhrase 72.09 61.40 62.73 71.10 –4.83 SEL-base 71.27 58.69 59.60 70.24 –6.71 UIE-base 72.55 62.94 64.41 72.86 –3.47 注：w/o S-S（scheduled-sampling）表示在TePDuP基础上去掉计划采样优化，w/o OTP（opinion term prompt）表示没有方面术语提示路径的答案，w/o OTP & S-S表示没有方面术语提示路径的答案并且还去掉了计划采样优化；类似地，w/o ATP（aspect term prompt）和w/o ATP & S-S分别表示没有方面术语提示路径的答案以及同时没有方面术语提示路径的答案和计划采样优化.
下载: 导出CSV
-
[1] Liu Bing. Sentiment Analysis and Opinion Mining[M]. San Rafael, CA: Morgan & Claypool Publishers, 2012
[2] Pontiki M, Galanis D, Pavlopoulos J, et al. SemEval−2014 task 4: Aspect based sentiment analysis[C]//Proc of the 8th Int Workshop on Semantic Evaluation. Stroudsburg, PA: ACL, 2014: 27−35
[3] Yin Yichun, Wei Furu, Dong Li, et al. Unsupervised word and dependency path embeddings for aspect term extraction[C]//Proc of the 25th Int Joint Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2016: 2979−2985
[4] Li Xin, Bing Lidong, Li Piji, et al. Aspect term extraction with history attention and selective transformation[C]//Proc of the 27th Int Joint Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2018: 4194−4200
[5] Ma Dehong, Li Sujian, Wu Fangzhao, et al. Exploring sequence-to-sequence learning in aspect term extraction[C]//Proc of the 57th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2019: 3538−3547
[6] Liu Pengfei, Joty S, Meng Helen. Fine-grained opinion mining with recurrent neural networks and word embeddings[C]//Proc of the 2015 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2015: 1433−1443
[7] Wu Shengqiong, Fei Hao, Ren Yafeng, et al. Learn from syntax: Improving pair-wise aspect and opinion terms extraction with rich syntactic knowledge[C]//Proc of the 30th Int Joint Conf on Artificial Intelligence. Berlin: Springer, 2021: 3957−3963
[8] Wang Yequan, Huang Minlie, Zhu Xiaoyan, et al. Attention-based LSTM for aspect-level sentiment classification[C]//Proc of the 2016 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2016: 606−615
[9] Chen Peng, Sun Zhongqian, Bing Lidong, et al. Recurrent attention network on memory for aspect sentiment analysis[C]//Proc of the 2017 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2017: 452−461
[10] Jiang Qingnan, Chen Lei, Xu Ruifeng, et al. A challenge dataset and effective models for aspect-based sentiment analysis[C]//Proc of the 2019 Conf on Empirical Methods in Natural Language Processing and the 9th Int Joint Conf on Natural Language Processing. Stroudsburg, PA: ACL, 2019: 6280−6285
[11] Zhang Mi, Qian Tieyun. Convolution over hierarchical syntactic and lexical graphs for aspect level sentiment analysis[C]//Proc of the 2020 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2020: 3540−3549
[12] Chen Zhuang, Qian Tieyun. Relation-aware collaborative learning for unified aspect-based sentiment analysis[C]//Proc of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2020: 3685−3694
[13] Zhao He, Huang Longtao, Zhang Rong, et al. Spanmlt: A span-based multi-task learning framework for pair-wise aspect and opinion terms extraction[C]//Proc of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2020: 3239−3248
[14] Peng Haiyun, Xu Lu, Bing Lidong, et al. Knowing what, how and why: A near complete solution for aspect-based sentiment analysis[C]//Proc of the 34th AAAI Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2020: 8600−8607
[15] Zhang Chen, Li Qiuchi, Song Dawei, et al. A multi-task learning framework for opinion triplet extraction[C]//Proc of the Findings of the Association for Computational Linguistics: EMNLP 2020. Stroudsburg, PA: ACL, 2020: 819−828
[16] Xu Lu, Li Hao, Lu Wei, et al. Position-aware tagging for aspect sentiment triplet extraction[C]//Proc of the 2020 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2020: 2339−2349
[17] Wu Zhen, Ying Chengcan, Zhao Fei, et al. Grid tagging scheme for aspect-oriented fine-grained opinion extraction[C]//Proc of the Findings of the Association for Computational Linguistics: EMNLP 2020. Stroudsburg, PA: ACL, 2020: 2576−2585
[18] Chen Hao, Zhai Zepeng, Feng Fangxiang, et al. Enhanced multi-channel graph convolutional network for aspect sentiment triplet extraction[C]//Proc of the 60th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2022: 2974−2985
[19] 刘欣逸,宁博,王明,等. 基于句法增强的细粒度情感三元组抽取方法[J]. 计算机研究与发展,2023,60(7):1649−1660 Liu Xinyi, Ning Bo, Wang Ming, et al. Fine-grained sentiment triplet extraction method based on syntactic enhancement[J]. Journal of Computer Research and Development, 2023, 60(7): 1649−1660 (in Chinese)
[20] Zhang Yice, Yang Yifan, Li Yihui, et al. Boundary-driven table-filling for aspect sentiment triplet extraction[C]//Proc of the 2022 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2022: 6485−6498
[21] Xu Lu, Chia Y K, Bing Lidong. Learning span-level interactions for aspect sentiment triplet extraction[C]//Proc of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th Int Joint Conf on Natural Language Processing. Stroudsburg, PA: ACL, 2021: 4755−4766
[22] Chen Yuqi, Chen Keming, Sun Xian, et al. A span-level bidirectional network for aspect sentiment triplet extraction[C]//Proc of the 2022 Conf Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2022: 4300−4309
[23] Liang Shuo, Wei Wei, Mao Xianling, et al. STAGE: Span tagging and greedy inference scheme for aspect sentiment triplet extraction[C]//Proc of the 37th AAAI Conf Artificial Intelligence. Palo Alto, CA: AAAI, 2023: 13174−13182
[24] Mao Yue, Shen Yi, Yu Chao, et al. A joint training dual-MRC framework for aspect based sentiment analysis[C]//Proc of the 35th AAAI Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2021: 13543−13551
[25] Chen Shaowei, Wang Yu, Liu Jie, et al. Bidirectional machine reading comprehension for aspect sentiment triplet extraction[C]//Proc of the 35th AAAI Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2021: 12666−12674
[26] Zhai Zepeng, Chen Hao, Feng Fangxiang, et al. COM-MRC: A context-masked machine reading comprehension framework for aspect sentiment triplet extraction[C]//Proc of the 2022 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2022: 3230−3241
[27] Liu Shu, Li Kaiwen, Li Zuhe. A robustly optimized BMRC for aspect sentiment triplet extraction[C]//Proc of the 2022 Conf of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Stroudsburg, PA: ACL, 2022: 272−278
[28] Zhang Wenxuan, Li Xin, Deng Yang, et al. Towards generative aspect-based sentiment analysis[C]//Proc of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th Int Joint Conf on Natural Language Processing. Stroudsburg, PA: ACL, 2021: 504−510
[29] Zhang Wenxuan, Deng Yang, Li Xin, et al. Aspect sentiment quad prediction as paraphrase generation[C]//Proc of the 2021 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2021: 9209−9219
[30] Yan Hang, Dai Junqi, Ji Tuo, et al. A unified generative framework for aspect-based sentiment analysis[C]//Proc of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th Int Joint Conf on Natural Language Processing. Stroudsburg, PA: ACL, 2021: 2416−2429
[31] Lu Yaojie, Liu Qing, Dai Dai, et al. Unified structure generation for universal information extraction[C]//Proc of the 60th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2022: 5755−5772
[32] Mao Yue, Shen Yi, Yang Jingchao, et al. Seq2Path: Generating sentiment tuples as paths of a tree[C]//Proc of the Findings of the Association for Computational Linguistics: 60th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2022: 2215−2225
[33] Zhang R H, Liu Qianying, Fan A X, et al. Minimize exposure bias of Seq2Seq models in joint entity and relation extraction[C]//Proc of the Findings of the Association for Computational Linguistics: EMNLP 2020. Stroudsburg, PA: ACL, 2020: 236−246
[34] Bengio S, Vinyals O, Jaitly N, et al. Scheduled sampling for sequence prediction with recurrent neural networks[C]//Proc of the 28th Int Conf on Neural Information Processing Systems. Cambridge, MA: MIT, 2015: 1171−1179
[35] Bu Jiahao, Ren Lei, Zheng Shuang, et al. ASAP: A Chinese review dataset towards aspect category sentiment analysis and rating prediction[C]//Proc of the 2021 Conf of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Stroudsburg, PA: ACL, 2021: 2069−2079
[36] Zhou Xinjie, Wan Xiaojun, Xiao Jianguo. Representation learning for aspect category detection in online reviews[C]//Proc of the 29th AAAI Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2015: 417−424
[37] Huang Binxuan, Carley K M. Parameterized convolutional neural networks for aspect level sentiment classification[C]//Proc of the 2018 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2018: 1091−1096
[38] Hu Mengting, Zhao Shiwan, Zhang Li, et al. CAN: Constrained attention networks for multi-aspect sentiment analysis[C]//Proc of the 2019 Conf on Empirical Methods in Natural Language Processing and the 9th Int Joint Conf on Natural Language Processing. Stroudsburg, PA: ACL, 2019: 4601−4610
[39] Ruder S, Ghaffari P, Breslin J G. A hierarchical model of reviews for aspect-based sentiment analysis[C]//Proc of the 2016 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2016: 999−1005
[40] Chen Shaowei, Liu Jie, Wang Yu, et al. Synchronous double-channel recurrent network for aspect-opinion pair extraction[C]//Proc of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2020: 6515−6524
[41] Cai Hongjie, Tu Yaofeng, Zhou Xiangsheng, et al. Aspect-category based sentiment analysis with hierarchical graph convolutional network[C]//Proc of the 28th Int Conf on Computational Linguistics. Stroudsburg, PA: ACL, 2020: 833−843
[42] Luo Huaishao, Li Tianrui, Liu Bing, et al. DOER: Dual cross-shared RNN for aspect term-polarity co-extraction[C]//Proc of the 57th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2019: 591−601
[43] Li Xin, Bing Lidong, Li Piji, et al. A unified model for opinion target extraction and target sentiment prediction[C]//Proc of the 33rd AAAI Conf on Artificial Intelligence. Palo Alto, CA: AAAI, 2019: 6714−6721
[44] He Ruidan, Lee Wee Sun, Ng Hwee Tou, et al. An interactive multi-task learning network for end-to-end aspect-based sentiment analysis[C]//Proc of the 57th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2019: 504−515
[45] Devlin J, Chang Mingwei, Lee K, et al. BERT: Pre-training of deep bidirectional transformers for language understanding[C]//Proc of the 2019 Conf of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Stroudsburg, PA: ACL, 2019: 4171−4186
[46] Peters M E, Neumann M, Iyyer M, et al. Deep contextualized word representations[C]//Proc of the 2018 Conf of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Stroudsburg, PA: ACL, 2018: 2227−2237
[47] Radford A, Wu J, Child R, et al. Language models are unsupervised multitask learners[EB/OL]. 2019[2023-10-22]. https://cdn.openai.com/better-language-models/language_models_are_unsupervised_multitask_learners.pdf
[48] Li Xiaoya, Feng Jingrong, Meng Yuxian, et al. A unified MRC framework for named entity recognition[C]//Proc of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2020: 5849−5859
[49] Li Xiaoya, Yin Fan, Sun Zijun, et al. Entity-relation extraction as multi-turn question answering[C]//Proc of the 57th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2019: 1340−1350
[50] Raffel C, Shazeer N, Roberts A, et al. Exploring the limits of transfer learning with a unified text-to-text transformer[J]. The Journal of Machine Learning Research, 2020, 21(1): 5485−5551
[51] Lewis M, Liu Yinhan, Goyal N, et al. BART: Denoising sequence-to-sequence pre-training for natural language generation, translation, and comprehension[C]//Proc of the 58th Annual Meeting of the Association for Computational Linguistics. Stroudsburg, PA: ACL, 2020: 7871−7880
[52] Pontiki M, Galanis D, Papageorgiou H, et al. SemEval−2016 task 5: Aspect based sentiment analysis[C]//Proc of the 10th Int Workshop on Semantic Evaluation. Stroudsburg, PA: ACL, 2016: 19−30
[53] Pontiki M, Galanis D, Papageorgiou H, et al. SemEval−2015 task 12: Aspect based sentiment analysis[C]//Proc of the 9th Int Workshop on Semantic Evaluation. Stroudsburg, PA: ACL, 2015: 486−495
计量
- 文章访问数: 81
- HTML全文浏览量: 29
- PDF下载量: 21
