Processing math: 62%
  • 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

FireLink:一种面向芯粒设计空间探索的评估框架

李开, 曾坤, 荣培涛, 陈志强, 张甜, 王永文

李开, 曾坤, 荣培涛, 陈志强, 张甜, 王永文. FireLink:一种面向芯粒设计空间探索的评估框架[J]. 计算机研究与发展, 2025, 62(5): 1108-1122. DOI: 10.7544/issn1000-1239.202440082
引用本文: 李开, 曾坤, 荣培涛, 陈志强, 张甜, 王永文. FireLink:一种面向芯粒设计空间探索的评估框架[J]. 计算机研究与发展, 2025, 62(5): 1108-1122. DOI: 10.7544/issn1000-1239.202440082
Li Kai, Zeng Kun, Rong Peitao, Chen Zhiqiang, Zhang Tian, Wang Yongwen. FireLink: An Evaluation Framework for Chiplet Design Space Exploration[J]. Journal of Computer Research and Development, 2025, 62(5): 1108-1122. DOI: 10.7544/issn1000-1239.202440082
Citation: Li Kai, Zeng Kun, Rong Peitao, Chen Zhiqiang, Zhang Tian, Wang Yongwen. FireLink: An Evaluation Framework for Chiplet Design Space Exploration[J]. Journal of Computer Research and Development, 2025, 62(5): 1108-1122. DOI: 10.7544/issn1000-1239.202440082
李开, 曾坤, 荣培涛, 陈志强, 张甜, 王永文. FireLink:一种面向芯粒设计空间探索的评估框架[J]. 计算机研究与发展, 2025, 62(5): 1108-1122. CSTR: 32373.14.issn1000-1239.202440082
引用本文: 李开, 曾坤, 荣培涛, 陈志强, 张甜, 王永文. FireLink:一种面向芯粒设计空间探索的评估框架[J]. 计算机研究与发展, 2025, 62(5): 1108-1122. CSTR: 32373.14.issn1000-1239.202440082
Li Kai, Zeng Kun, Rong Peitao, Chen Zhiqiang, Zhang Tian, Wang Yongwen. FireLink: An Evaluation Framework for Chiplet Design Space Exploration[J]. Journal of Computer Research and Development, 2025, 62(5): 1108-1122. CSTR: 32373.14.issn1000-1239.202440082
Citation: Li Kai, Zeng Kun, Rong Peitao, Chen Zhiqiang, Zhang Tian, Wang Yongwen. FireLink: An Evaluation Framework for Chiplet Design Space Exploration[J]. Journal of Computer Research and Development, 2025, 62(5): 1108-1122. CSTR: 32373.14.issn1000-1239.202440082

FireLink:一种面向芯粒设计空间探索的评估框架

基金项目: 高层次科技创新人才工程人选自主科研项目(22-TDRCJH-02-006);国家自然科学基金青年科学基金项目(NSFC-62202481);国防科技大学科研计划项目(ZK22-05)
详细信息
    作者简介:

    李开: 2000年生. 博士研究生. 主要研究方向为微处理器体系结构设计、芯片设计空间探索

    曾坤: 1983年生. 博士,副研究员. CCF会员. 主要研究方向为微处理器体系结构、并行计算

    荣培涛: 2000年生. 硕士研究生. 主要研究方向为微处理器体系结构设计、FPGA加速仿真

    陈志强: 1998年生. 博士研究生. 主要研究方向为微处理器体系结构设计、片上网络

    张甜: 1999年生. 硕士研究生. 主要研究方向为通用稀疏矩阵乘法

    王永文: 1977年生. 博士,教授. CCF高级会员. 主要研究方向为处理器微体系结构、高性能计算

    通讯作者:

    王永文(yongwen@nudt.edu.cn

  • 中图分类号: TP391.9

FireLink: An Evaluation Framework for Chiplet Design Space Exploration

Funds: This work was supported by the TDRCJH Program (22-TDRCJH-02-006), the National Natural Science Foundation of China for Young Scientists (NSFC-62202481), and the Research Program of National University of Defense Technology (ZK22-05)
More Information
    Author Bio:

    Li Kai: born in 2000. PhD candidate. His main research interests include microprocessor architecture design and chip design space exploration

    Zeng Kun: born in 1983. PhD, associate professor. Member of CCF. His main research interests include microprocessor architecture and parallel computing

    Rong Peitao: born in 2000. Master candidate. His main research interests include microprocessor architecture design and FPGA accelerated simulation

    Chen Zhiqiang: born in 1998. PhD candidate. His main research interests include microprocessor architecture design and network on chip

    Zhang Tian: born in 1999. Master candidate. Her main research interest includes general sparse matrix multiplication

    Wang Yongwen: born in 1977. PhD, professor. Senior member of CCF. His main research interests include processor microarchitecture, and high performance computing

  • 摘要:

    基于先进封装技术的芯粒(Chiplet)集成芯片在制造成本、设计效率以及专用定制等方面更具优势,是延续芯片性能增长的有效途径. 设计空间探索(design space exploration,DSE)作为体系结构量化分析的重要方法,能够帮助设计者理解并权衡设计参数间的复杂关系. 但是将传统的芯片体系结构DSE方法直接应用于Chiplet设计时,存在评估不全面、模拟不精确以及探索效率低下等问题,针对这些问题提出了解决方案FireLink,作为一个面向Chiplet设计空间探索的评估框架,它支持Chiplet微架构以及互连网络的建模和模拟,具备高效评估性能、功耗、面积和成本指标的能力. 此外,在该框架下采用了ID3(iterative dichotomiser 3)机器学习算法进行了实验,结果显示该框架能够有效提高DSE的效率. 与现有的DSE框架和方法相比,FireLink在评估全面性、建模完整性和高效性方面具有显著优势,使得设计者能够在更短时间内探索更广泛的设计空间,进而选定较优的Chiplet设计方案.

    Abstract:

    The Chiplet-integrated chip based on advanced packaging technology offers a number of advantages in terms of manufacturing cost, design efficiency and special customization, etc. We represent a new and effective method of maintaining the performance growth of the chip in the post-Moore era. As an important method of quantitative analysis of architectural design, design space exploration (DSE) can assist designers in comprehending and evaluating the intricate interrelationships between design parameters. However, when applying the traditional DSE method directly to the Chiplet design, it gives rise to issues such as incomplete evaluation, inaccurate simulation, and low efficiency. The solution to these problems is FireLink, an evaluation framework for Chiplet design space exploration. FireLink supports the modelling and simulation of Chiplet microarchitectures and interconnection networks, and is capable of efficiently evaluating performance, power, area and cost metrics. Furthermore, experiments are conducted using ID3 (iterative dichotomiser 3) machine learning algorithm in this framework, which has been demonstrated to effectively improve the efficiency of DSE. In comparison with existing DSE methodologies, FireLink exhibits notable advantages in comprehensiveness of evaluating, completeness of modeling and efficiency of DSE, therefore designers can explore a wider range of design space in a shorter time, so as to select a better Chiplet design scheme.

  • 科学研究在推动社会发展和技术进步中起着至关重要的作用. 科学假设的生成是科研过程中的一个基础环节,它为实验设计和理论探索提供了方向. 然而,随着科学文献数量的急剧增加和研究领域的不断深化,研究人员在提出科学假设时面临着巨大的挑战. 一方面,研究人员需要从大量的文献中提取有价值的信息,这是一个耗时且劳力密集的过程[1];另一方面,创新的科学假设往往需要跨学科的知识和深入的洞察力[2],而这些难以通过传统方法迅速实现.

    在这种背景下,人工智能(artificial intelligence,AI),尤其是大语言模型(large language models,LLMs),因其强大的数据处理能力和信息整合能力,成为科学研究中的一种重要工具. LLMs通过在大量的文本数据上进行训练,能够理解和生成复杂的文本信息,表现出在不同任务上处理和生成知识的能力[3]. 例如,GPT-4等模型不仅在文本生成上表现出色,还在诸如编程[4]、法律[5]和生物医药[6]等专业领域展示了其应用潜力. 在科学研究领域,LLMs已被用于各种任务,包括药物发现、医疗诊断和材料性能预测[7],为研究人员提供了强大的支持,特别是在快速浏览和整理大量科学文献时显示出其独特优势. 例如,LLMs能够自动识别文献中的关键概念和关联,从而加速文献综述的编写过程.

    在当前的科学研究与工程实践中,大部分研究关注于如何使用LLMs将已有的理论或技术从初步阶段快速推进到成熟阶段[8],以此提升科学研究的效率,即从“1~100”的过程. 这包括一些过程繁杂但对创新要求较低的任务,如自动化文献总结、科学文章撰写以及代码实现等. 尽管这一阶段的研究对技术发展和应用普及至关重要,但它依赖于已有的框架和理论基础. 然而,科学探索从无到有的初始阶段,即从“0~1”的过程,在许多情况下被忽视. 这一阶段涉及到新假设的提出、初步概念的形成以及新理论的构建. 正是这些活动定义了科学研究的前沿性和创新性,好的科学假设的提出是科学进步的启动器和基石[9].

    科学假设生成指的是在科学研究的前期阶段,系统地整合现有知识并探索新的理论路径,以提出具有创新性的主张与思路的过程. 尽管LLMs在科学研究中提供了强大的支持,它们在生成科学假设的应用上还是存在明显的不足和局限. 首先,LLMs依赖于大量预训练数据,这些数据无法及时反映科学前沿的最新进展,而学术界的知识更新非常迅速,尤其是在如计算机、生物、材料等快速发展的领域,导致模型在生成假设时依赖于过时或不完整的信息[10],无法站在科学前沿的“巨人肩膀”上进行有效创新. 其次,虽然LLMs能生成看似复杂的科学内容,但这些内容在科学内容的准确性和深度上显得不足,缺乏真正的创新性和深度,倾向于重复训练数据中的模式,而不是提出创新的科学理论或方法[11]. 这些挑战主要源于LLMs的固有局限性和科学研究的复杂需求. 这也表明,尽管LLMs为科学假设的生成提供了新的可能,但要实现其在科学研究中的有效应用,生成具备研究深度与创新性的假设,仍需深入探索和改进.

    科学假设决定着整个研究的质量和方向,高质量的科学假设应当能够在已有研究的基础上进一步深化和创新. 在这个步骤中,如何让LLMs产生创新,则成为最关键的问题. Guilford[12]在结构智力理论中提出,创新产生于思维的发散和收敛过程之中. 发散思维是指从一个问题或主题出发,能够生成多种可能的答案或解决方案的能力. 这种思维模式强调的是想象力、创造力和多样性的生成. 收敛思维则是指针对特定问题找到具体、正确答案的能力. 这种思维模式更多关注逻辑推理、精确度和效率. 科学研究的创新思路就来源于对研究问题的发散思考和收敛具化. 发散过程需要在一定信息基础上,对问题和解决方案进行扩展与探索,这一过程通常通过交流、讨论和辩论来激发;而收敛过程则需要深入理解问题并对特定方向进行深入探索,而这依赖于人类专家具备的高阶洞见能力. 这些正是LLMs在创新过程中面临的挑战,导致发散的角度不够广泛、收敛的方向不够精准和可靠.

    为了解决LLMs在生成科学假设中存在的问题,本文基于结构智力理论,提出了基于人机协作的多智能体框架(human-in-the-loop multi-agent framework, HILMA). 如图1所示,HILMA框架包括基于引文网络的文献系统化检索增强、知识增强型LLMs研究想法生成、人机协作的多智能体辩论迭代3个模块. 首先,针对LLMs在知识动态更新上的不足这一问题,本文通过检索增强的方法为LLMs注入最新的科研相关知识,在无需对模型进行昂贵的重新训练或复杂的微调的情况下,通过低成本的上下文提示来弥补LLMs在动态知识更新上的不足,从而使其在生成科学假设时具备最新且完备的科学研究进展. 其次,通过引入基于多智能体辩论的假设迭代增强方法,以辩论方式模拟人类的发散思维,激发LLMs的能力,使用发散思维来产生尽可能多的初步假设. 在该框架中,不同的智能体角色负责从多个角度审视和辩论初始假设,通过丰富的讨论和批评性反馈,增加假设的多样性和深度. 这种方法模拟了科学界的同行评审过程,提升了假设的科学性和实用性. 最后,为了进一步提升LLMs的专业性和针对性,HILMA框架结合了人类专家的高阶洞察力和模型的数据处理能力. 通过在辩论过程中实时引入人类学者的直觉和专业知识,以指导模型的假设生成过程,并通过收敛思维从中选择最有潜力的方案进行进一步深化和精炼. 这种协作旨在最大化利用了LLMs潜力和人类的洞察力,以生成更符合实际研究需求的科学假设. 这一综合策略的应用,能够显著提升LLMs在科学研究领域中的应用效果,使得生成的假设在质量和创新性方面满足科学研究的要求.

    图  1  HILMA框架示意图
    Figure  1.  Illustration of HILMA framework

    综上所述,本文的主要贡献包括4个方面:

    1) 本文系统地分析了LLMs在处理科学创造性问题时所面临的局限性,揭示了其在发散思维和收敛思维等方面的不足;

    2) 本文提出了科学文献的结构化组织查询方法,通过对文献引文网络的自适应组织和构建,有效地整合了最新的科学研究成果,确保为LLMs提供全面且前沿的知识;

    3) 受结构智力理论的启发,提出了人机协作的多智能体辩论框架,可在多智能体和人类的协作下,模仿人类的发散思维和收敛思维过程,有效地产生和精炼科学假设,提升其质量与创新性;

    4) 通过基于人类和模型的系列评估,实验结果证明了所提HILMA框架的优越性,相较于现有LLMs驱动的基线模型,HILMA生成的科学假设在创新性、实用性、可行性等方面均有显著提升.

    本节讨论聚焦于3个与本研究密切相关的研究方向:科学假设生成、知识增强的LLMs,以及人机协作的智能系统. 这些领域的发展为本研究奠定了理论基础,提供了技术前沿.

    基于人工智能的科学假设生成是AI4Science领域的核心问题,旨在利用人工智能辅助或自动化科学探索的初始阶段[13-14]. 已有研究主要集中在研发能够从现有数据中预测新科学现象的算法和模型[15]. 近年来,随着机器学习技术的蓬勃发展,尤其是深度神经网络在众多数据密集型任务上的成功应用,科学假设生成的研究也扩展到更复杂的科学问题求解中. LLMs是这一趋势的新发展,如何利用其所保有的参数化知识提出合理有用的科学假设,成为了一个备受关注的问题[16-17];例如,Shojaee等人[18]研究借助LLMs的编程能力,以有效发现科学方程. Lu 等人[19]提出了关于 AI 科学家的构想,其通过设定初始模板,促使LLMs生成众多研究思路. 与此同时,将这些思路与现有文献中的方法进行对比,进而筛选出评分较高的研究思路,以应用于后续的实验中. 尽管在科学研究的求解和应用中对LLMs的探索不断深入[20],但它们生成的科学假设在创新性和深度方面仍存在较大不足.

    本研究基于结构智力理论中的发散思维和收敛思维,提出人机协作的多智能体框架. 通过结合实时的系统化知识检索增强机制,动态整合最新科研进展,为模型提供前沿完备的信息基础. 同时,通过多智能体辩论和人机协作,进一步优化和精炼生成的假设,增强假设的多样性和论证深度.

    LLMs的生成阶段存在幻觉[21-22]、有害性[23]、伪事实性[24]和缺乏长时记忆[25]等问题,知识增强被认为是克服这些局限性的有效方法[26]. 知识增强的LLMs首先使用外部检索器从特定的知识源(如百科、图谱和数据库等)检索相关的结构化和非结构化知识,然后将检索到的知识作为LLMs的外部上下文信息,引导LLMs生成以知识为基础的回答[27].

    已有研究关注于检索器和阅读器的优化,研究人员使用稀疏检索器,如BM25[28]和TF-IDF[29]进行相关性计算并检索. 然而,稀疏方法在提取文本内容的语义特征方面存在不足[30]. 为解决问题,研究人员提出基于语言模型的密集检索方法,通过将文档和查询编码为稠密向量,有效地表示文本内容的语义特征[31-32]. 一些近期研究探索LLMs作为检索器的性能,Shen等人[33]首次证明LLMs可以在多个基准数据集上作为零样本检索器使用,而Ma等人[34]提出了一种利用LLMs的Listwise Reranker,在不使用任务特定训练数据的情况下实现了强大的重新排序效果. Sun等人[35]探究了LLMs的相关性排名,发现经过引导的LLMs能够达到最先进的监督方法的性能.

    知识增强模型能够准确捕捉和应用专业知识,在需要深度领域知识的科学研究中尤为重要. Jeong等人[36]在生物医学领域引入知识增强的LLMs,通过检索特定领域的文档和让LLMs自我反思,能够生成准确且有解释性的答案,有效地支撑了生物医学领域的发展. 此外,一些研究尝试实时更新模型的知识库,以保证其输出的时效性和准确性[37]. 通过知识增强,不仅提高了LLMs在特定领域内的表现,还能够适应快速变化的科研环境,生成与当前研究前沿对齐的内容.

    人机协作的智能系统强调智能系统与人类的互补性,旨在将人类的创造力和决策能力与机器的计算能力和数据处理速度相结合[38],协同完成特定任务. 传统研究主要集中于提高人与机器人、人工智能系统等智能体交互的效率,以满足人类需求[39]. LLMs的兴起标志着该领域的重大转变,人类的反馈和推理在增强智能体能力方面的作用日益彰显,能够显著提升智能体的表现. 最近的研究采用启发式规则或可学习的算法引导智能体寻求人类的帮助[40-41]. 此外,研究者开始重视探究特定的引导提示,以激励基于LLMs的智能体主动寻求人类的输入,从而在这些协作系统中构建更具互动性和协作性的应用[42-43]. Feng等人[44]设计了一种通用可学习的方法,通过直接规划的形式,实现人类与LLMs之间的高效协作. Dhillon等人[45]的研究表明,通过提供AI辅助,可以显著提升人类用户的写作质量和效率. Li等人[46]探讨了LLMs在人机协同软件开发与演化中的应用及其带来的挑战,强调了人在软件开发与演化中的主导地位和可信保障的重要性. 在需求工程领域,Jin等人[47]提出了ChatModeler框架,通过LLMs和人类的协同合作,优化了需求获取和建模过程. 该框架利用模型自动处理任务,减轻人类的负担,同时能根据反馈进行调整,提高需求模型的质量和交互效率.

    在科学研究领域,人机协作系统具备重要意义. 复杂科学问题的研究要求同时具备深厚的专业知识和高效的信息处理能力,而人类与LLMs在这一过程中各自具备独特的优势. 通过人机协作,能够提高科学假设的质量和创新性,共同创造出符合科学标准且创新性强的科学假设.

    本研究提出了一种新的科学假设生成框架HILMA,旨在通过人机协作和多智能体技术,从海量的科学文献中提取和生成有价值的科学假设. 首先,HILMA通过关键词查找与研究主题相关的文献,并且基于文献引用关系网络进行拓展和筛选,确保输入数据的质量和相关性;然后,基于系统化的文献信息,使用LLMs进行深入探索与分析,生成初步的科学假设;最后,利用人机协作的多智能体系统进行科学假设迭代,模拟创新孕育的思维发散和收敛过程,最终实现科学假设生成的准确性和创新性.

    为了给LLMs提供系统化的科学知识,本节提出了基于引文网络的文献系统化检索增强方法. 通过对文献引文网络的自适应组织和构建,有效地整合了最新和广泛的科学研究成果,系统性地梳理不同研究点的研究脉络,确保为LLMs提供的知识具备前沿性和系统性. 方法主要分为2个部分:自顶向下的子图引文网络构建从相关研究关键词出发,查找相关中心文献,并且基于中心文献深入挖掘,构建子图引文网络;自底向上的文献网络综述生成则从各个子图引文网络出发,汇总每个子图网络的研究脉络和现状,形成高阶的子图研究综述. 二者相结合,能够实现对特定领域文献的深入挖掘和梳理,为LLMs提供系统可靠的文献知识来源,图2展示了基于引文网络的文献系统化检索增强流程.

    图  2  基于引文网络的文献系统化检索增强流程示意图
    Figure  2.  Illustration of systematic literature retrieval enhancement process

    为了在科学文献领域进行系统化检索增强,采用基于引文网络的方法,旨在构建一个结构化的文献组织和查询系统. 本节详细介绍了自顶向下的子图引文网络构建过程,包括关键词检索、文献筛选和网络拓展等步骤.

    首先,利用 Semantic Scholar API[48]进行核心关键词的检索,以获取与研究内容相关的文献的数字对象唯一标识符(digital object unique identifier, DOI). 这一步骤的关键在于选择能够准确代表研究领域核心的关键词,以确保检索结果的准确性和全面性. 由于检索结果数量庞大且杂乱,需要对文献进行筛选,保留具有重要性和影响力的中心文献. 这一步骤借助文献的被引次数,文献类型以及文献来源来进行评估和排序. 具体地,定义中心文献集合为{c1,c2,,cm},其中m表示中心文献的数量.

    基于确定的中心文献,将从引文、被引和相关文献3个维度进行子图网络的拓展与构建. 具体地,通过文献的引用关系、被引关系、相关关系来构建基于特定中心文献c的子图引文网络,表示为Gc=(Vc,Ec),其中V表示网络的节点集合,E表示边集合. 引用网络、被引网络、相关网络的构建过程可以通过以下公式表示:

    Ecite={(vi,vc)|viVcite,ic}, (1)
    Ecited={(vi,vc)|viVcited,ic}, (2)
    Erelated={(vi,vc)|viVrelated,ic}, (3)
    Gc=(VciteVcitedVrelated,EciteEcitedErelated), (4)

    通过以上步骤,能够从一个中心文献构建出一个结构化、多维度的文献网络,该网络以中心文献为核心,囊括了与研究内容密切相关的文献,以及研究的发展脉络和趋势. 为进一步的研究提供了深入的信息基础和理论支持.

    尽管经过筛选,所构建的每个子图引文网络仍然较为庞大(数十篇). 考虑到LLMs上下文窗口长度以及计算效率,本文采取自底而上的文献网络综述生成方法,将每个子图引文网络中的文献进行汇总,让LLMs生成该研究的综述.

    对于每个子图引文网络Gi=(Vi,Ei),其每个节点表示一篇文献,LLMs将利用节点中的文献文本信息,结合其对研究领域的深入理解,撰写研究综述. 这些综述将涵盖该子图引文网络所涉及的研究主题、研究方法、研究成果等方面. 在撰写综述的过程中,LLMs将考虑到文献之间的相互关系,以及其在研究领域中的重要性和影响力.

    经由上述过程,每个子图引文网络Gi都拥有一个对应研究综述si,其中i{1,2,,m},这些综述将为LLMs提供科学假设生成和辩论的信息基础,避免不必要的计算和重复查询. 同时,这些综述还可以为用户提供全面而系统的研究概览,促进其对后续假设生成的理解.

    通过自顶向下的子图引文网络构建和自底向上的文献网络综述生成,建立了一个结构化、系统化的知识库,囊括了完善的具体文献和不同子领域的文献综述,为后续的假设生成和验证提供坚实的基础.

    在构建了基于引文网络的文献系统化检索增强机制后,本节将探讨如何应用知识增强型LLMs来生成具有深度和创新性的研究想法. 该过程旨在整合结构化和系统化的文献知识,直接融入模型的推理和生成能力中,以克服传统LLMs生成创新科学假设的局限性.

    首先,利用自上而下的子图引文网络构建方法,得到了围绕特定中心文献组织的高度结构化的文献子集. 这些子集形成了多维度的信息,为LLMs提供了丰富的背景知识和上下文信息. 每个子图都是围绕其核心文献构建的. 通过分析每个子图的研究综述{s1,s2,,sm},LLMs能够从研究意义、潜在的研究空间、未来发展趋势等角度进行评分,从而选择出最具研究潜力和价值的子图. 该选择过程可以形式化表示为

    argmax (5)

    其中score表示LLMs对综述的评分.

    选定研究目标后,将对应的目标子图{G_t}中的文献进行进一步的结构化组织,使LLMs能够充分获取该领域的发展脉络与研究现状. 在此基础上,LLMs将综合这些文献中的知识和其自身的语言生成能力,生成全面而有效的研究想法. 该想法生成过程可以用以下公式表示:

    {h_0} = LLM(P,{G_t},{s_t}), (6)

    其中{h_0}表示初始生成的科学假设,P为指令提示(prompt),{G_t}为选定的目标引文子图,{S_t}{G_t}的研究综述.

    通过这种知识增强的方法,LLMs生成的研究提案不仅具有更高的可信度和创新性,而且能够提升研究提案的整体质量. 知识增强型LLMs不仅可以加速研究想法的生成过程,而且为科学发现的第一阶段提供了更高效的支持.

    在严谨的科学研究探索中,创新性假设的孵化是一个动态且迭代的过程,要求不断质疑、修正与深化. 本节介绍一种创新的人机协作策略,通过多智能体辩论迭代机制,旨在实现科学假设的深度精炼与优化. 此方法的核心在于利用来自不同背景和专业知识的智能体(包括LLMs和人类专家)的多样化视角,通过辩论和批判性思考来迭代地精炼和增强初步生成的研究想法,确保每个假设都经过全面的考量和验证.

    多智能体辩论迭代的过程设计如下:

    1)角色分配. 每个智能体被分配一个特定角色,包括假设提出者、审阅者和中立分析师. 这些角色帮助结构化辩论,使每个智能体可以从不同的角度审视问题.

    2)初始假设生成. 基于3.2节知识增强型LLMs的输出,首先形成一组初步的科学假设.

    3)开放式辩论. 智能体之间进行开放式辩论,每个智能体根据其角色提出支持或反对假设的论点. 此阶段旨在揭示假设的潜在弱点和未考虑的变量. 人类专家在过程中参与并且引导智能体的辩论方向.

    4)证据集成. 辩论中提出的有效点将用于修改或强化假设. 该过程包括请求更多引文子图、重新分析已有数据或引入新的科学理论. 人类专家在此过程中扮演仲裁者的角色,适时引导辩论的深度与广度,同时根据辩论进程中的关键发现,向知识增强型LLMs提出数据查询或模型调整的需求,以获取更多支持或反驳假设的证据.

    5)迭代循环. 这一过程可以多次迭代,每次辩论后都对假设进行评估和调整,直到达到预定的科学严格性和创新性标准. 每回合辩论后,整合者智能体汇总辩论要点,与人类专家共同评估假设的改进空间,从而迭代生成更加成熟与精细的假设版本.

    多智能体辩论迭代的主要目的是利用集体智慧来提高假设的质量和可靠性. 每个假设都经过详尽的挑战和防御,从而确保其在逻辑上的健全性和实证基础上的坚实性,有助于揭示那些可能未被单一智能体注意到的新的研究方向或方法论问题.

    在研究框架中,人机协作是关键的一步,它结合了人类专家的创造性思维和高阶决策能力与LLMs的高效数据处理与整合的能力. 此环节的核心目的是充分发挥人类与LLMs智能体各自的优势,共同创造出符合科学标准且创新性强的科学假设. 在这一过程中,人类专家负责提供方向性指导、深入分析和复杂决策,这包括指出未被发现的假设漏洞、提供额外的专业知识或重新定义问题的边界,而多智能体则在大数据处理、假设迭代和模式提取方面发挥作用. 人机协作模式不仅加速了科学假设的生成过程,还增强了假设的适用性和准确性,确保生成的科学假设既有深度又有广度,同时能够适应复杂多变的科研环境.

    图3所示,本研究开发了一个人机协作科学假设生成平台,旨在提升科研人员在科学假设生成过程中的效率和准确性. 平台由功能区和对话区组成. 在功能区,用户可以选择LLMs基座和文献检索源,并控制智能体之间的对话进程及最终结论的汇总. 在对话区,用户可通过对话框输入想要探索的研究主题或科学问题,平台能够根据输入自主开展系统化的文献检索、增强总结,并生成初步的科学假设.

    图  3  人机协作假设生成平台
    Figure  3.  Human-machine collaboration hypothesis generation platform

    平台允许研究人员实时监控和管理多智能体协同生成的科学假设,并在多智能体对话过程中进行介入和调整. 实时监控功能不仅让研究人员能够全面了解假设生成的进展,还允许他们对生成的假设进行实时评估和调整,从而确保最终生成的假设更加符合实际科研需求.

    在本节中,将描述数据集、模型、评估设置和实施细节.

    通过Semantic Scholar的API接口获取实时的学术文献信息. 在HILMA框架中,使用Qwen-Max作为基座LLMs,版本为qwen-max-0403,top_k设置为0.8,temperature设置为0.85. 本文以材料学科为例,让20名材料专业的研究生就各自的研究领域提出5个真实的研究问题,共获得100个不同的研究主题.

    基于100个材料科学的研究问题,使用3.2节提到的基线模型生成对应的科学假设. 每个基线共获得100个科学假设用于评测,共计600个生成的科学假设用于评估.

    由于科学假设生成是一个全新任务,尚无直接可用的对比基线. 因此,将完整的HILMA框架,与下列通用基线以及消融变体进行比较:

    1) ChatGPT[49]. ChatGPT是由OpenAI开发的LLMs,能够生成连贯且具有创造性的文本,广泛应用于对话系统、内容创作和文本生成任务. 本基线使用ChatGPT直接生成科学假设.

    2) CoT[50]. CoT(chain-of-thought)是一种提示工程方法,旨在引导LLMs逐步思考,以生成更加可靠的回答. 在实验中,本基线通过在提示词中加入逐步思考的指令,引导LLMs进行科学假设生成.

    3) ICL[51]. ICL(in-context learning)是一种通过上下文提示进行学习和生成的技术,依赖于提供给模型的输入上下文,以便生成相关的输出. 在实验中,使用人工撰写科学假设样例作为上下文提示,让模型参考这些示例生成科学假设.

    4) RAG. RAG(retrieval-augmented generation)是一种结合检索和生成的技术,通过在生成过程中动态检索相关文献来增强模型的生成能力. 通过主题关键词实时检索相关的科研论文摘要,选取前10篇提供给LLMs作为辅助参考. 这一方法能够在一定程度上缓解LLMs知识更新不及时的问题,提供更为新颖和前沿的科研信息.

    5) Multi-Agent. 多智能体系统通过多个具有不同角色和功能的智能体协同工作来实现复杂任务. 本研究设计了多智能体框架基线,其中不同的智能体负责不同的任务,包括假设提出者、批评者或中立分析师. 通过智能体之间的自动化协作和辩论,迭代生成科学假设. 该方法旨在最大化利用集体智慧,提高假设的科学性和创新性.

    鉴于科学假设生成是一个新任务,没有已知基准可以衡量生成质量. 因此,采用基于模型的自动评估与人类评估相结合的方法,来验证实验基准上的不同模型.

    基于模型的评估:参考最近使用LLM判断输出文本质量的范式[52-53],使用GPT-4来判断生成的科学假设的质量. 以5个不同的标准衡量科学假设的质量,然后要求评估模型对每个标准的生成思路进行5点李克特量表评分[54]. 表1中提供了用于引导评估的详细的专家制定的标准和提示.

    表  1  模型评估中使用的5点李克特评分量表
    Table  1.  The 5-Point Likert Scale Used in Model Evaluation
    评估指标 评分 描述
    创新性1没有任何新颖之处,重复已有的研究成果.
    2有少量新颖之处,但大部分内容是已有知识的延伸.
    3有一些新的观点或方法,但总体仍基于已有的框架.
    4提出了较为新颖的观点或方法,有显著的创新点.
    5极具创新性,提出了全新的观点或方法,
    可能引发领域内的重大变革.
    实用性1完全没有实际应用价值,难以转化为实际应用.
    2有一定的理论价值,但实际应用价值有限.
    3有一定的实际应用潜力,但需进一步研究和验证.
    4具备较高的实际应用价值,具有较好的转化前景.
    5极具实际应用价值,能够迅速转化为具体
    应用并产生显著效益.
    可行性1完全不可行,技术或资源方面难以实现.
    2可行性较低,面临较大的技术或资源挑战.
    3有一定的可行性,但需要克服一些技术或资源障碍.
    4基本可行,技术和资源要求在可控范围内.
    5完全可行,现有技术和资源可以支持其实现.
    数据支持1完全缺乏数据支持,无法验证假设.
    2数据支持有限,无法充分验证假设.
    3有一定的数据支持,但不完全,需进一步数据验证.
    4有较充分的数据支持,能够验证假设的大部分内容.
    5数据支持非常充分,能够全面验证假设.
    理论基础1缺乏理论基础,无法与现有科学理论相一致.
    2理论基础薄弱,与现有科学理论存在较大矛盾.
    3有一定的理论基础,但与现有科学理论存在
    一些不一致.
    4具有较好的理论基础,能够与现有科学理论相结合.
    5理论基础非常坚实,与现有科学理论完全一致,
    并有可能推动理论的发展.
    整体评价1整体评价很差,假设缺乏科学价值和实际意义.
    2整体评价较差,假设存在较多不足之处.
    3整体评价一般,假设有一定价值但需改进.
    4整体评价较好,假设具备较高的科学价值和实际意义.
    5整体评价非常好,假设具有重要的科学
    价值和实际意义.
    下载: 导出CSV 
    | 显示表格

    基于人类的评估:类似于基于模型的评估,同一个主题下不同基线模型生成的科学假设将被两两配对,让人类评注者在2个隐去了模型信息的回答之间进行成对比较,选择质量更高的科学假设. 为了实现这一目标,本研究开发了在线评估平台(如图4所示),标注者登录平台后,平台会自动推送针对同一个主题的匿名答案对,评注者通过点击按钮即可实现标注,协同能够自动保存并统计评注者的偏好选择结果. 为了保证人类评估的质量,专家评注者均为熟悉该领域的硕士与博士研究生,且至少发表过1篇学术论文. 评估过程共由5位专家评注者进行.

    图  4  构建的人工在线评测平台
    Figure  4.  The constructed artificial online evaluation platform

    为了比较本文模型与基准方法的效果差异,对生成的科学假设数据进行了基于LLMs评分测试. 表2展示了不同基线模型李克特量表的GPT-4评分结果.

    表  2  不同基线的模型评估效果
    Table  2.  Comparison of Different Baselines
    模型创新性实用性可行性数据支持理论基础总体评价
    ChatGPT3.293.412.802.273.273.07
    CoT3.813.982.942.373.643.32
    ICL4.094.073.212.603.723.70
    RAG4.103.943.182.653.803.61
    Multi-Agent4.514.203.132.464.083.96
    HILMA
    (本文)
    4.604.253.402.804.204.10
    下载: 导出CSV 
    | 显示表格

    首先,从基线模型的整体评分来看,LLMs生成的科学假设在实用性和理论基础方面取得了相对较高的分数,这主要归因于LLMs在海量文本上的预训练,能够掌握大量基础理论和常识知识. 然而,在创新性、可行性和数据支持3个评分维度上效果不佳. 这是因为LLMs局限于已经见过的重复知识和模式,缺乏创新性思维,并且容易提出不切实际的想法,缺乏可行性和理论支持.

    其次,通过对比CoT,ICL,ChatGPT的表现,可以发现通过引导LLMs逐步思考和提供具体的科学假设样例,其能够有效的提升生成假设的质量,这说明通用的LLMs能力提升方法对科学假设任务也是适用的;通过检索最新的相关文献,RAG方法能够显著提升生成的科学假设质量,这得益于模型能够获取最新的科研进展,有效地提升了创新性和数据支撑评分,使得生成的科学假设具备前沿性和有效性. 此外,得益于多智能体迭代讨论,Multi-Agent取得了更优的模型评分,说明通过最大化利用集体智慧,能够提高假设的科学性和创新性.

    本文的HILMA框架显著优于所有的基线模型,创新性评分达到了4.6分,总评分是所有基线中唯一突破4分的模型,达到了“具备较高的科学价值和实际意义”的标准. 实验结果表明通过充分利用人类与LLMs智能体各自的优势,有助于创造出符合科学标准且创新性强的科学假设. 此外,实验结果突出了人机协作的重要性,在这一过程中,人类专家负责提供方向性指导、深入分析和复杂决策,而LLMs则通过引文网络构建、多智能体迭代等不断优化假设,增强了假设的适用性和准确性,确保生成的科学假设既有深度也有广度.

    为了进一步验证人机协作的重要性,首先使用HILMA框架生成了未经讨论的初始假设,然后基于此进行人机协作迭代生成最终的科学假设,以对比二者的评分差异. 如图5 所示,实验结果表明,通过人机协作迭代能够在所有指标上显著提升模型的生成效果. 这是因为人类专家能够提供方向性指导,帮助LLMs进行复杂决策和启发新思路. 在人机迭代过程中,一些细节错误和假设不合理的地方也能够被及时发现和改正,进一步提升假设的整体质量.

    图  5  初始假设与人机协作后的假设对比
    Figure  5.  Comparison of initial hypotheses and hypotheses After human-machine collaboration

    图6展示了基于子图引文网络生成的科学假设与基于LLMs本身的科学假设的雷达图对比. 经过了子图引文网络能够显著增强LLMs生成科学假设的创新性与总体评价,表明子图引文网络能够为LLMs提供最新的科学文献与研究进展,帮助LLMs从最新研究中探索创新思路与前沿方法.

    图  6  子图引文网络的引入对生成质量的影响
    Figure  6.  The impact of subgraph citation network introduction on generation quality

    为验证多轮辩论迭代的效果,开展了多轮评估实验. 基于相同的初始假设,在不同的迭代轮次终止并生成科学假设,以观察其质量随迭代轮次的变化. 如图7所示,经过多轮迭代,Multi-Agent和HILMA方法的整体质量均有所提升,这是因为在多轮辩论中,假设中存在的明显缺陷和不足能够被发现和纠正.

    图  7  迭代次数与人机协作的影响
    Figure  7.  The impact of iteration count on human-machine collaboration

    然而,注意到 Multi-Agent方法在迭代2轮后质量有所提升,但在后续轮次中出现了停滞甚至下降的现象. 这主要是由于多智能体缺乏对科研的深刻理解,在讨论中容易集体跑偏,过度关注无关细节,忽略了科学假设的核心内容. 相比之下,HILMA方法的假设质量随着迭代次数的增加表现出更高的稳定性. 人类专家的高阶洞见能够及时纠正讨论中的偏差,指出问题所在,不断提升科学假设的总体质量. 这突显了人机协作的重要性.

    表3展示了HILMA在开源模型Llama 3(llama3-70b-instruct[55])、Qwen 72B(qwen1.5-72b-chat[56])和闭源模型GPT-3.5(gpt-3.5-turbo[57])、通义千问(Qwen-Max[58])上的实验效果. 结果表明,生成的假设质量与模型本身的能力密切相关,基座模型越强,生成的假设质量越高. 其中,Qwen-Max表现出最佳的效果.

    表  3  不同基座大语言模型的生成效果对比
    Table  3.  Comparison of Different Large Language Models
    基座模型创新性实用性可行性数据
    支持
    理论
    基础
    整体
    评价
    GPT-3.54.054.013.122.453.693.57
    Llama 34.084.083.072.283.873.62
    Qwen 72B4.174.003.142.513.963.77
    Qwen Max4.604.253.402.804.204.10
    下载: 导出CSV 
    | 显示表格

    对基线模型进行人工评估,图8展示了不同模型初始假设与人机协作后假设的对比情况. 热力图展示了在人工评测中,两两模型评测的胜率.

    图  8  基于人工评估的模型胜率热力图
    Figure  8.  Heatmap of model win rates from human evaluation

    图8所示,HILMA框架生成假设在与其他模型的对比中胜率显著,说明其整体质量优于其他基线模型. 在初始假设的对比中,ChatGPT,RAG,Multi-Agent,HILMA的质量依次递增,其中HILMA框架的初始假设质量最高. 这与3.4节的模型评估结果一致,进一步验证了HILMA框架在科学假设生成中的优越性和潜力.

    表4展示了以“氮化硅陶瓷”为主题词,ChatGPT,RAG,Multi-Agent,HILMA生成的科学假设. 其中,ChatGPT的假设提出了结合材料科学和电子工程的设计思路,但缺乏对如何实现这种结合的具体细节. RAG通过检索增强的方法,提出了微系统的概念,但同样缺少具体的实施步骤和技术细节,使得这些假设在转化为研究方案时存在一定难度.

    表  4  以“氮化硅陶瓷”为研究主题的科学假设生成案例
    Table  4.  Case Study of Scientific Hypothesis Generation on "Silicon Nitride Ceramics"
    模型 科学假设
    ChatGPT我建议在硅氮化陶瓷的研究中,结合材料科学和电子工程的领域. 利用电子工程中传感器技术和材料科学中的纳米结构设计原理,设计并研发一种新型的硅氮化陶瓷传感器. 该传感器可用于高温、高压或腐蚀性环境下的测量,并具有更高的灵敏度和精准度. 这一想法受到材料科学中硅氮化陶瓷的高温稳定性和电子工程中传感器技术的启发.
    RAG我提议开发一种集成的硅氮化物微系统,该系统利用辐射热交换和优化的热响应时间来提高传感器对温度变化的敏感性. 受上述关于自由站立硅氮化物膜热耦合特性的研究启发,我们可以设计微机械谐振器,其中辐射热交换被刻意管理和利用,以增强其作为温度传感器的性能. 通过精确控制膜的尺寸、厚度和发射率,可以调整辐射热交换在总热耦合中的贡献. 此外,结合高真空环境中的实验验证,我们可以创建一个模拟平台来预测和优化这些微系统的热噪声和频率噪声特性. 这样,我们不仅可以提高现有传感器的性能,还能为未来的温度感应和热管理应用开辟新途径.
    Multi-Agent我提议结合氮化硅陶瓷的研究和实验,探索其在腐蚀抑制领域的应用潜力. 氮化硅陶瓷具有优异的耐磨、耐腐蚀和高温稳定性,因此可以作为一种新型的腐蚀抑制材料,特别适用于极端环境下的金属保护.

    首先,可以通过化学合成方法,制备不同形貌和结构的氮化硅陶瓷颗粒或涂层,并使用表征技术(如SEM,TEM,XRD)对其进行详细的形貌和结构分析. 这有助于优化氮化硅陶瓷材料的合成方法,从而提高其实际应用价值.

    其次,利用电化学技术(如EIS和PDP),评估氮化硅陶瓷材料对金属表面腐蚀的抑制效果,并研究其与金属表面的电化学反应动力学和机理. 这将有助于深入理解氮化硅陶瓷材料的腐蚀抑制机理,从而提高其实际应用效果.

    进一步,结合量子化学计算方法(如DFT),预测氮化硅陶瓷材料在不同腐蚀介质下的吸附行为和电子转移机制,以深入理解其腐蚀抑制机理. 这有助于优化氮化硅陶瓷材料的设计和应用范围,提高其实际应用效果.

    最后,探索氮化硅陶瓷与其他腐蚀抑制剂(例如有机分子或无机纳米材料)的复合应用,以期望获得协同效应,提高金属表面的腐蚀防护性能. 这将为腐蚀抑制领域提供新的思路和方法,推动相关交叉研究的进一步探索.

    这一系列综合研究将有助于拓展氮化硅陶瓷材料在腐蚀抑制领域的应用范围,为开发新型高效的金属腐蚀抑制策略提供新的理论和实践基础. 期待这一综合性研究能够为相关领域的科学研究和工程实践带来积极的影响.
    HILMA
    (Ours)
    我提议,通过设计一种多级结构的氮化硅陶瓷复合材料,该材料同时整合了微纳尺度的增强相和智能响应型腐蚀抑制剂,以实现超耐腐蚀、自适应修复及显著提高机械性能的革新目标. 此复合材料的核心设计包括以下几个层次:

    1)基层优化. 首先,对氮化硅基层进行成分与微观结构的双重优化,采用Y2O3稳定的α-Si3N4为主相,结合溶胶-凝胶法制备的超细晶粒(< 500 nm),以确保材料本体的高强度和高韧性. 通过梯度分布的晶粒尺寸设计,从表面到内部逐步增大晶粒,以获得更好的表面耐磨性及整体抗裂纹扩展能力.

    2)微米级增强相分散. 在基层内均匀分散碳化硅(SiC)晶须或短纤维作为第2相增强材料,利用其高模量和优异的界面粘结性,进一步提升复合材料的断裂韧性和耐磨性. 通过控制其体积分数和定向排列,可以有效引导裂纹偏转和桥接,减少裂纹扩展.

    3)纳米级智能抑制剂包覆. 在表面微结构层,将智能响应型有机抑制剂(如温敏或pH敏感型聚合物包裹的苯并咪唑衍生物)通过原位聚合法包覆在纳米粒子(如SiO2)表面,随后嵌入到氮化硅表面层. 这些智能抑制剂在遇到腐蚀介质时能自动释放活性分子,迅速封闭陶瓷表面的微裂纹或缺陷,同时在介质条件恢复时重新吸附回纳米载体,实现自适应的腐蚀防护.

    4)梯度功能涂层. 最外层采用CVD技术沉积一层梯度功能涂层,从富含智能抑制剂的表面逐渐过渡到富含耐磨增强颗粒(如类金刚石碳)的底层,旨在结合化学抑制与物理阻挡的双重防护机制,进一步提升耐腐蚀与耐磨性能.

    通过综合运用先进材料科学、纳米技术和智能材料设计理念,此多级结构氮化硅陶瓷复合材料有望在极端环境下展现前所未有的耐久性和可靠性,特别适用于航空航天、深海探索及高级能源系统等对材料性能要求极高的领域. 实验验证将涵盖从材料合成、微观结构表征、腐蚀行为评估到机械性能测试的全方位研究,以全面评估该创新方案的有效性和潜在应用价值.
    下载: 导出CSV 
    | 显示表格

    相比之下,Multi-Agent和HILMA生成的科学假设则更加具体且具有可操作性. Multi-Agent详细描述了化学合成、电化学技术、量子化学计算等实验方法,并提供了清晰的研究路径. HILMA的假设则更为全面和深入,它提出了一种多级结构的氮化硅陶瓷复合材料设计,详细阐述了每一层级材料设计的方法,给出了预期的微观结构和性能提升的理论解释. 这些详细的方法和步骤使这一假设更容易转化为实际的科研实践,具备较高的可操作性和可实施性,更符合使用者的预期.

    在当今科学研究不断发展的背景下,创新性假设的生成变得尤为重要. 然而,面对海量科学文献和复杂的跨学科知识体系,传统的科研方法在信息处理与知识整合方面面临巨大挑战. 本文提出了一种基于人机协作的多智能体科学假设生成框架,通过结合结构智力理论中的发散思维和收敛思维,有效地提升了科学假设的生成质量和创新性. 实验结果表明,与现有的基线模型相比,HILMA框架在生成高质量科学假设方面展现出了显著的优势. 这不仅在理论上验证了结构智力理论在科学研究中的应用价值,更在实践中证明了人机协作在科学创新中的潜力.

    本框架结合了多智能体和人类协作,具备广泛的可扩展性,但仍然存在一些不足,主要体现在系统化检索效率与人机协调难度上. 为了让LLMs具备充足且系统化的知识,HILMA需要对大量文献进行检索、筛选和总结,这一过程涉及多次的文献API检索和LLMs的调用,耗时较长,可能影响用户体验;在人机协作上,当前市面上可用的LLMs均为助理模型,存在过度倾向于满足人类的指令的问题,因此,人类的微小意见可能对整个协作的走向和最终生成内容产生较大影响,进而影响科学假设的完整性. 因此,如何更好地均衡人类和多智能体之间的协作需要进一步的探索研究. 此外,虽然HILMA是通用的科学假设生成框架,但是受限于原始数据和评测条件,目前只在材料科学领域验证了HILMA的效果,并且缺少实际实验结果的支撑,需要结合材料合成实验来进一步验证科学假设的可行性和效果.

    未来,拓展 HILMA框架至不同的学科领域将成为重点探索的方向. 鉴于不同学科在研究内容和方式上存在较大差异,单一框架难以在所有学科均取得理想效果. 从数据视角来看,对于像医学影像、电子信号、语音学等这类在数据处理方面对图像、信号、音视频等有着巨大需求的专业,单纯的文本增强生成往往难以达成良好的成效. 探索如何利用多模态LLMs实现多模态的系统化检索增强,是一个值得深入研究的方向. 多元的数据能够进一步提升假设生成的可靠性和完整性.

    此外,伴随各个学科的理论和技术不断相互交叉与融合,学科交叉已成为显著趋势. 如何针对不同领域构建专家智能体,针对同一课题分配多领域角色以实现学科交叉讨论,也将是一个值得深入探究的重要内容. 通过进一步优化人机协作机制和智能体辩论策略,科学研究的效率和创新性有望得到进一步提升,为解决复杂的科学问题和推动技术进步提供新的思路和方法.

    作者贡献声明:陈子阳提出了算法思路和实验方案,并撰写论文;赵翔提出指导意见,完成论文的修改和校对;赵润豪参与了文献调研和论文修订工作;倪子淇完成了文献调研、实验数据收集和论文修订工作;叶益聪提出指导意见.

  • 图  1   FireLink框架示意图

    Figure  1.   Illustration of FireLink framework

    图  2   芯片建模示意图

    Figure  2.   Illustration of chip modeling

    图  3   成本模型示意图

    Figure  3.   Illustration of cost model

    图  4   设计空间探索流程示意图

    Figure  4.   Illustration of DSE

    图  5   Chiplet分区示意图

    Figure  5.   Illustration of Chiplet partitions

    图  6   Chiplet划分在成本上的差异

    Figure  6.   Difference in the cost of Chiplet partition

    图  7   Chiplet布局示意图

    Figure  7.   Illustration of Chiplet layout

    图  8   PPAC参数选取对Chiplet布局评估的影响

    Figure  8.   Influence of PPAC parameter selection on Chiplet layout evaluation

    图  9   设计参数对测试程序性能的影响

    Figure  9.   Impact of design parameters on the performance of the test program

    表  1   Chipyard支持工具的功能

    Table  1   Functions of the Tools Supported by Chipyard

    工具 功能 目标
    Rocket Chip[37] RISC-V SoC生成器 处理器微架构
    Constellation[38] NoC 生成器 互连网络
    Verilator[39] 软件模拟器 软件模拟器
    RISC-V Tools[40] 系统开发工具链 可执行测试程序
    FireSim[41] 硬件模拟框架 硬件加速模拟
    FireMarshal[42] 工作负载生成器 自定义工作负载
    下载: 导出CSV

    表  2   DSE工具和研究工作对比

    Table  2   Comparison of DSE Tools and Research Work

    工具/方法 NoC 速度 评估指标 评估精度
    Gem5 很慢 性能
    GPGPU 很慢 性能
    HGBO-DSE[46] PPA
    BOOM-Explorer[47] 性能、功耗
    ScaleHLS[48] 很快 性能
    AutoDSE[49] 性能
    SoC-Tuner[50] PPA
    SODA[51] 很慢 PPA
    MOOS[52] 很慢 性能、功耗
    FireLink(本文) PPAC
    下载: 导出CSV

    表  3   实验相关参数

    Table  3   Experimental Relative Parameters

    配置 参数 取值
    处理器核 类型 Rocket Core
    数目 8
    L1缓存 关联度 4路组相联
    大小/KB 32
    延迟 2
    L2缓存 关联度 8路组相连
    大小/KB 4×512
    内存通道 数目 4
    互联网络 虚拟通道数 4
    Chiplet内/间报文传输速度 4/1
    Chiplet内/间有效负载宽度 128/32
    FPGA 型号 U250
    运行频率/MHz 80
    下载: 导出CSV

    表  4   Rocket核微架构设计参数空间

    Table  4   Microarchitecture Design Parameter Space of Rocket Core

    模块设计参数取值
    MulmulUnroll1,2,4,6,8,10,12,14,16
    sfmaLatency1,2,3,4,5,6,7,8
    dfmaLatency1,2,3,4,5,6,7,8
    nPMPs1,2,4,6,8, 10,12,14,16
    CachenSets2,4,8,16,32
    nWays1,2,4,6,8,10,12,14,16
    nTLBSets1,2,4,6,8,10,12,14,16
    nTLBWays2,4,8,16,32
    nMSHRs1,2,3,4,5,6,7,8,9
    BTBnEntires4,8,12,16,24,28
    nPages1,2,4,6,8,10,12,14,16
    下载: 导出CSV

    表  5   Chiplet架构设计方案及评估结果

    Table  5   Chiplet Architecture Design Schemes and Evaluation Results

    架构设计 目标 参数选择
    配置 布局类型 Chiplet E
    网络微架构 4,4:1,4,80,64,128, Mesh
    核微架构 4,2,4,4,16,4,4,4,2,28,8
    评估 性能 功耗 面积 成本
    ×0.93 ×1.03 ×1.13 ×0.86
    下载: 导出CSV
  • [1] 王占国. 后摩尔时代的微电子技术探讨[C/OL]//第十四届全国化合物半导体材料、微波器件和光电器件学术会议论文集. 北京:中国电子学会,2006[2024-02-01]. https://d.wanfangdata.com.cn/conference/6370041

    Wang Zhanguo. Discussion on microelectronics technology in the post-Moore era[C/OL]//Proc of the 14th National Conf on Compound Semiconductor Materials, Microwave Devices and Optoelectronic Devices. Beijing: Chinese Institute of Electronics, 2006[2024-02-01]. https://d.wanfangdata.com.cn/conference/6370041 (in Chinese)

    [2]

    DeBenedictis E P. It's time to redefine Moore’s law again[J]. Computer, 2017, 50(2): 72−75

    [3]

    Munoz R. Furthering Moore’s law integration benefits in the Chiplet era[J]. IEEE Design & Test, 2024, 41(1): 81−90

    [4]

    Psaila N, Nekkanty S, Shia D, et al. Detachable optical Chiplet connector for co-packaged photonics[J]. Journal of Lightwave Technology, 2023, 41(19): 6315−6323 doi: 10.1109/JLT.2023.3285149

    [5]

    Sharma D D, Pasdast G, Qian Zhiguo, et al. Universal Chiplet interconnect express (UCIe): An open industry standard for innovations with Chiplets at package level[J]. IEEE Transactions on Components, Packaging and Manufacturing Technology, 2022, 12(9): 1423−1431 doi: 10.1109/TCPMT.2022.3207195

    [6]

    Yoshida J. AMD, TSMC & IMEC show their Chiplet playbooks at ISSCC[EB/OL]. 2021[2024-02-01]. https://www.eetimes.com/amd-tsmc-imec-show-their-chiplet-playbooks-at-isscc/

    [7]

    Gaitonde D. AMD next-generation FPGA built from Chiplets[C/OL]//Proc of the 35th IEEE Hot Chips Symp (HCS). Piscataway, NJ: IEEE, 2023 [2024-02-01]. https://doi.org/10.1109/HCS59251.2023.10254722s

    [8]

    Suggs D, Subramony M, Bouvier D. The AMD “Zen 2” processor[J]. IEEE Micro, 2020, 40(2): 45−52 doi: 10.1109/MM.2020.2974217

    [9] 刘新阳. 5G半导体产业发展和创新趋势思考[J]. 中兴通讯技术,2021,27(4):51−52

    Liu Xinyang. Thoughts on the development and innovation trend of 5G semiconductor industry[J]. ZTE Technology Journal, 2021, 27(4): 51−52 (in Chinese)

    [10]

    Kenji S, Zhang Xiaobo. Semiconductor optical amplifier and gain chip used in wavelength tunable lasers[J]. ZTE Communications, 2021, 19(3): 81−87

    [11] 蔡济帆,徐增熠,迟楠. 可见光通信星座整形与人工智能解调技术[J]. 中兴通讯技术,2022,28(4):19−24

    Cai Jifan, Xu Zengyi, Chi Nan. Visible light communication constellation shaping and artificial intelligence demodulation technology[J]. ZTE Technology Journal, 2022, 28(4): 19−24 (in Chinese)

    [12]

    Zhang Chenchen, Zhang Nan, Cao Wei, et al. AI-based optimization of handover strategy in non-terrestrial networks[J]. ZTE Communications, 2021, 19(4): 98−104

    [13]

    Binkert N, Beckmann B, Black G, et al. The Gem5 simulator[J/OL]. ACM SIGARCH Computer Architecture News, 2011[2024-02-01]. https://doi.org/10.1145/2024716.2024718

    [14]

    Bakhoda A, Yuan G L, Fung W W L, et al. Analyzing CUDA workloads using a detailed GPU simulator[C]//Proc of the IEEE Int Symp on Performance Analysis of Systems and Software. Piscataway, NJ: IEEE, 2009: 163−174

    [15]

    Carlson T E, Heirman W, Eeckhout L. Sniper: Exploring the level of abstraction for scalable and accurate parallel multi-core simulation[C/OL]//Proc of the Int Conf for High Performance Computing, Networking, Storage and Analysis (SC’11). Piscataway, NJ: IEEE, 2021 [2024-02-01]. https://doi.org/10.1145/2063384.2063454

    [16]

    Xu Yinan, Yu Zihao, Tang Dan, et al. Towards developing high performance RISC-V processors using agile methodology[J]. IEEE Micro, 2023, 43(4): 1−9 doi: 10.1109/MM.2023.3277902

    [17] 徐昌宇. Chiplet和全新微架构走近英特尔全新至强处理器[J]. 微型计算机,2023(18):93−97

    Xu Changyu. Chiplet and new microarchitecture approach Intel’s new Xeon processor[J]. Micro Computers, 2023(18): 93−97 (in Chinese)

    [18]

    Feng Yinxiao, Ma Kaisheng. Chiplet Actuary: A quantitative cost model and multi-Chiplet architecture exploration[C]//Proc of the 59th ACM/IEEE Design Automation Conf (DAC '22). New York: ACM, 2022: 121−126

    [19]

    Ahmad M, DeLaCruz J, Ramamurthy A. Heterogeneous integration of Chiplets: Cost and yield tradeoff analysis[C/OL]//Proc of the 23rd Int Conf on Thermal, Mechanical and Multi-Physics Simulation and Experiments in Microelectronics and Microsystems (EuroSimE). Piscataway, NJ: IEEE, 2022 [2024-02-01]. https://doi.org/10.1109/EuroSimE54907.2022.9758914

    [20]

    Kim J, Murali G, Park H, et al. Architecture, chip, and package codesign flow for interposer-based 2.5-D Chiplet integration enabling heterogeneous IP reuse[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems, 2020, 28(11): 2424−2437 doi: 10.1109/TVLSI.2020.3015494

    [21]

    Kabir M A, Peng Yarui. Chiplet-package co-design for 2.5 D systems using standard ASIC CAD tools[C]//Proc of the 25th Asia and South Pacific Design Automation Conf (ASP-DAC). Piscataway, NJ: IEEE, 2020: 351−356

    [22] 张乾龙,侯锐,杨思博,等. 体系结构模拟器在处理器设计过程中的作用[J]. 计算机研究与发展,2019,56(12):2702−2719

    Zhang Gianlong, Hou Rui, Yang Sibo, et al. The role of architecture simulators in processor design[J]. Journal of Computer Research and Development, 2019, 56(12): 2702−2719 (in Chinese)

    [23] 周俊成. 面向CPUChiplet的联合模拟技术研究[D]. 武汉:华中科技大学,2022

    Zhou Juncheng. Research on joint simulation technology for CPU cores [D]. Wuhan: Huazhong University of Science and Technology, 2022 (in Chinese)

    [24]

    Zhi Haocong, Xu Xianuo, Han Weijian, et al. A methodology for simulating multi-Chiplet systems using open-source simulators[C/OL]//Proc of the 8th Annual ACM Int Conf on Nanoscale Computing and Communication (NANOCOM’21). New York: ACM, 2021[2024-02-01]. https://doi.org/10.1145/3477206.3477459

    [25]

    Bachrach J, Vo H, Richards B, et al. Chisel: Constructing hardware in a scala embedded language[C]//Proc of the Design Automation Conf. New York: ACM, 2012: 1212−1221

    [26]

    Bharadwaj S, Yin Jieming, Beckmann B, et al. Kite: A family of heterogeneous interposer topologies enabled via accurate interconnect modeling[C/OL]//Proc of the 57th ACM/EDAC/IEEE Design Automation Conf (DAC’20). Piscataway, NJ: IEEE, 2020[2024-02-01]. https://doi.org/10.1109/DAC18072.2020.9218539

    [27]

    Li Fuping, Wang Ying, Cheng Yuanqing, et al. Gia: A reusable general interposer architecture for agile Chiplet integration[C/OL]//Proc of the IEEE/ACM Int Conf on Computer Aided Design (ICCAD). Piscataway, NJ: IEEE, 2022[2024-02-01]. https://ieeexplore.ieee.org/document/10069926

    [28]

    Wang Mengdi, Wang Ying, Liu Cheng, et al. Network-on-interposer design for agile neural-network processor chip customization[C]//Proc of the 58th ACM/IEEE Design Automation Conf (DAC). Piscataway, NJ: IEEE, 2021: 49−54

    [29]

    Yin Jieming, Lin Zhifeng, Kayiran O, et al. Modular routing design for Chiplet-based system[C]//Proc of the 45th ACM/IEEE Annual Int Symp on Computer Architecture (ISCA). Piscataway, NJ: IEEE, 2018: 726−738

    [30]

    Wang Chenghan, Xu Qinzhi, Nie Chuanjun, et al. A multiscale anisotropic thermal model of Chiplet heterogeneous integration system[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems, 2024, 32(1): 1−12

    [31]

    Liu Kaiyuan, Qin Houyun, Guo Jiarui, et al. Stress and fatigue life studies of solder joints in an advanced packaging with Chiplet[C]//Proc of the Int Conf on Mechatronics, IoT and Industrial Informatics (ICMIII). Piscataway, NJ: IEEE, 2023:187−191

    [32] 张中,乔新宇,龙欣江,等. 2.5D Chiplet 封装结构的热应力研究[J]. 传感技术学报,2023,36(7):1024−1031

    Zhang Zhong, Qiao Xinyu, Long Xinjiang, et al. Research on thermal stress of 2.5D Chiplet package structure[J]. Journal of Sensing Technology, 2023, 36(7): 1024−1031 (in Chinese)

    [33]

    Pal S, Petrisko D, Kumar R, et al. Design space exploration for Chiplet-assembly-based processors[J]. IEEE Transactions on Very Large Scale Integration (VLSI) Systems, 2020, 28(4): 1062−1073 doi: 10.1109/TVLSI.2020.2968904

    [34] 王梦迪,王颖,刘成,等. Puzzle:面向深度学习集成芯片的可扩展框架[J]. 计算机研究与发展,2023,60(6):1216−1231

    Wang Mengdi, Wang Ying, Liu Cheng, et al. Puzzle: A scalable framework for deep learning integrated chips[J]. Journal of Computer Research and Development, 2023, 60(6): 1216−1231(in Chinses

    [35]

    Ehrett P, Austin T, Bertacco V. Chopin: Composing cost-effective custom chips with algorithmic Chiplet[C]//Proc of the 39th IEEE Int Conf on Computer Design (ICCD). Piscataway, NJ: IEEE, 2021: 395−399

    [36]

    Lan Jingjing, Nambiar V P, Sabapathy R, et al. An automatic chip-package co-design flow for multi-core neuromorphic computing SiPs[C]//Proc of the 22nd IEEE Electronics Packaging Technology Conf (EPTC). Piscataway, NJ: IEEE, 2020: 77−80

    [37]

    Asanović K, Avižienis R, Bachrach J, et al. The rocket chip generator[R/OL]. 2016[2024-02-01]. http://www.eecs.berkeley.edu/Pubs/TechRpts/2016/EECS-2016-17.html

    [38]

    Zhao J, Agrawal A, Nikolic B, et al. Constellation: An open-source SoC-capable NoC generator[C/OL]//Proc of the 15th IEEE/ACM Int Workshop on Network on Chip Architectures (NoCArc). Piscataway, NJ: IEEE, 2022 [2024-02-01]. https://doi.org/10.1109/NoCArc57472.2022.9911299

    [39]

    Snyder W, Wasson P, Galbi D, et al. Verilator[CP/OL]. [2024-02-01]. https://github.com/verilator/verilator

    [40]

    Gonzalez A, Zhao J, Snyder T, et al. riscv-tools[CP/OL]. [2024-02-01]. https://github.com/ucb-bar/riscv-tools-feedstock

    [41]

    Karandikar S, Mao H, Kim D, et al. FireSim: FPGA-accelerated cycle-exact scale-out system simulation in the public cloud[J]. IEEE Micro, 2018, 39(3): 29−42

    [42]

    Pemberton N, Amid A. FireMarshal: Making HW/SW co-design reproducible and reliable[C]//Proc of the IEEE Int Symp on Performance Analysis of Systems and Software (ISPASS). Piscataway, NJ: IEEE,2021: 299−309

    [43]

    Amid A, Biancolin D, Gonzalez A, et al. Chipyard: Integrated design, simulation, and implementation framework for custom SoCs[J]. IEEE Micro, 2020, 40(4): 10−21 doi: 10.1109/MM.2020.2996616

    [44]

    Shah D, Hung E, Wolf C, et al. Yosys+nextpnr: An open source framework from verilog to bitstream for commercial FPGAs[C/OL]//Proc of the 27th IEEE Annual Int Symp on Field-Programmable Custom Computing Machines (FCCM). Piscataway, NJ: IEEE, 2019[2024-02-01]. https://doi.org/10.1109/FCCM.2019.00010

    [45] 陈志强,周宏伟,冯权友,等. 面向多核处理器的可配置缓存一致性协议设计与实现[J]. 计算机研究与发展,2021,58(6):1166−1175

    Chen Zhiqiang, Zhou Hongwei, Feng Quanyou, et al. Design and implementation of configurable cache coherence protocol for multi-core processors[J]. Journal of Computer Research and Development, 2021, 58(6): 1166−1175 (in Chinese)

    [46]

    Kuang Huizhen, Cao Xianfeng, Li Jingyuan, et al. HGBO-DSE: Hierarchical GNN and Bayesian optimization based HLS design space exploration[C]// Proc of the Int Conf on Field Programmable Technology (ICFPT). Piscataway, NJ: IEEE, 2023: 106−114

    [47]

    Bai Chen, Sun Qi, Zhai Jianwang, et al. BOOM-Explorer: RISC-V BOOM microarchitecture design space exploration framework[C/OL]//Proc of the IEEE/ACM Int Conf on Computer Aided Design (ICCAD). Piscataway, NJ: IEEE, 2021[2024-02-01]. https://doi.org/10.1109/ICCAD51958.2021.9643455

    [48]

    Ye Hanchen, Jun H, Jeong H, et al. ScaleHLS: A scalable high-level synthesis framework with multi-level transformations and optimizations: invited[C]//Proc of the 59th ACM/IEEE Design Automation Conf (DAC’22). New York: ACM, 2022: 1355–1358

    [49]

    Sohrabizadeh A, Yu C H, Gao Min, et al. AutoDSE: Enabling software programmers design efficient FPGA accelerators[J]. ACM Transactions on Design Automation of Electronic Systems, 2022, 27(4): 1−27

    [50]

    Chen Shixin, Zheng Su, Bai Chen, et al. SoC-Tuner: An importance-guided exploration framework for DNN-targeting SoC design[C]//Proc of the 29th Asia and South Pacific Design Automation Conf (ASP-DAC). Piscataway, NJ: IEEE, 2024: 207−212

    [51]

    Minutoli M, Castellana V G, Tan Cheng, et al. SODA: A new synthesis infrastructure for agile hardware design of machine learning accelerators[C/OL]//Proc of the IEEE/ACM Int Conf on Computer Aided Design (ICCAD). Piscataway, NJ: IEEE, 2020[2024-02-01]. https://doi.org/10.1145/3400302.3415781

    [52]

    Deshwal A, Jayakodi A K, Joardar B K, et al. MOOS: A multi-objective design space exploration and optimization framework for NoC enabled manycore systems[J]. ACM Transactions on Embedded Computing Systems, 2019, 18(5): 1−23

    [53] 陈桂林,王观武,胡健,等. Chiplet封装结构与通信结构综述[J]. 计算机研究与发展,2022,59(1):22−30

    Chen Guilin, Wang Guanwu, Hu Jian, et al. Survey on Chiplet packaging structure and communication structure[J]. Journal of Computer Research and Development, 2022, 59(1): 22−30 (in Chinese)

    [54] 娄冕,张海金,杨靓,等. 基于Chisel语言的RISC-V处理器设计技术[J]. 微电子学与计算机,2021,38(3):51−55

    Lou Mian, Zhang Haijin, Yang Liang, et al. RISC-V processor design technology based on Chisel language[J]. Microelectronics and Computers, 2021, 38(3): 51−55 (in Chinses

    [55] 邢座程,马安国,张承义,等. SoC体系结构级功耗模拟与优化技术[C]// 第十三届计算机工程与工艺会议论文集(NCCET’09). 北京:中国计算机学会,2009:161−166

    Xing Zuocheng, Ma Anguo, Zhang Chengyi, et al. SoC architecture-level power simulation and optimization techniques[C]//Proc of the 13th Computer Engineering and Technology Conf (NCCET’09). Beijing: CCF, 2009: 161−166 (in Chinses

    [56]

    Cadence. 3D-IC design solutions[EB/OL]. [2024-02-01]. https://www.cadence.com/en_US/home/solutions/3dic-design-solutions.html

    [57]

    Synopsys. 3D-IC compiler[EB/OL]. [2024-02-01]. https://www.synopsys.com/implementation-and-signoff/3dic-design.html

    [58]

    Quinlan J R. Induction of decision trees[J]. Machine Learning, 1986, 1(1): 81−106

    [59]

    Beamer S, Asanović K, Patterson D. The GAP benchmark suite[CP/OL]. [2024-02-01]. https://github.com/sbeamer/gapbs

    [60]

    Kurihara T, Li Yamin. A cost and performance analytical model for large-scale on-chip interconnection networks[C]//Proc of the 4th Int Symp on Computing and Networking (CANDAR). Piscataway, NJ: IEEE, 2016: 447−450

    [61]

    UC Berkeley. riscv-tests[CP/OL]. [2024-02-01]. https://github.com/riscv-software-src/riscv-tests

图(9)  /  表(5)
计量
  • 文章访问数:  84
  • HTML全文浏览量:  26
  • PDF下载量:  39
  • 被引次数: 0
出版历程
  • 收稿日期:  2024-02-01
  • 修回日期:  2024-10-10
  • 录用日期:  2024-10-14
  • 网络出版日期:  2024-10-21
  • 刊出日期:  2025-04-30

目录

/

返回文章
返回