• 中国精品科技期刊
  • CCF推荐A类中文期刊
  • 计算领域高质量科技期刊T1类
高级检索

图像描述生成研究进展

李志欣, 魏海洋, 张灿龙, 马慧芳, 史忠植

李志欣, 魏海洋, 张灿龙, 马慧芳, 史忠植. 图像描述生成研究进展[J]. 计算机研究与发展, 2021, 58(9): 1951-1974. DOI: 10.7544/issn1000-1239.2021.20200281
引用本文: 李志欣, 魏海洋, 张灿龙, 马慧芳, 史忠植. 图像描述生成研究进展[J]. 计算机研究与发展, 2021, 58(9): 1951-1974. DOI: 10.7544/issn1000-1239.2021.20200281
shu
Li Zhixin, Wei Haiyang, Zhang Canlong, Ma Huifang, Shi Zhongzhi. Research Progress on Image Captioning[J]. Journal of Computer Research and Development, 2021, 58(9): 1951-1974. DOI: 10.7544/issn1000-1239.2021.20200281
Citation: Li Zhixin, Wei Haiyang, Zhang Canlong, Ma Huifang, Shi Zhongzhi. Research Progress on Image Captioning[J]. Journal of Computer Research and Development, 2021, 58(9): 1951-1974. DOI: 10.7544/issn1000-1239.2021.20200281
shu
李志欣, 魏海洋, 张灿龙, 马慧芳, 史忠植. 图像描述生成研究进展[J]. 计算机研究与发展, 2021, 58(9): 1951-1974. CSTR: 32373.14.issn1000-1239.2021.20200281
引用本文: 李志欣, 魏海洋, 张灿龙, 马慧芳, 史忠植. 图像描述生成研究进展[J]. 计算机研究与发展, 2021, 58(9): 1951-1974. CSTR: 32373.14.issn1000-1239.2021.20200281
shu
Li Zhixin, Wei Haiyang, Zhang Canlong, Ma Huifang, Shi Zhongzhi. Research Progress on Image Captioning[J]. Journal of Computer Research and Development, 2021, 58(9): 1951-1974. CSTR: 32373.14.issn1000-1239.2021.20200281
Citation: Li Zhixin, Wei Haiyang, Zhang Canlong, Ma Huifang, Shi Zhongzhi. Research Progress on Image Captioning[J]. Journal of Computer Research and Development, 2021, 58(9): 1951-1974. CSTR: 32373.14.issn1000-1239.2021.20200281
shu

图像描述生成研究进展

  • 1(广西多源信息挖掘与安全重点实验室(广西师范大学) 广西桂林 541004)

  • 2(西北师范大学计算机科学与工程学院 兰州 730070)

  • 3(中国科学院智能信息处理重点实验室(中国科学院计算技术研究所) 北京 100190) (lizx@gxnu.edu.cn)

基金项目: 国家自然科学基金项目(61966004,61663004,61866004,61762078)；广西自然科学基金项目(2019GXNSFDA245018,2018GXNSFDA281009,2017GXNSFAA198365)
详细信息

  • 中图分类号: TP391

Research Progress on Image Captioning

  • 1(Guangxi Key Laboratory of Multi-Source Information Mining and Security (Guangxi Normal University), Guilin, Guangxi 541004)

  • 2(College of Computer Science and Engineering, Northwest Normal University, Lanzhou 730070)

  • 3(Key Laboratory of Intelligent Information Processing (Institute of Computing Technology, Chinese Academy of Sciences), Chinese Academy of Sciences, Beijing 100190)

Funds: This work was supported by the National Natural Science Foundation of China (61966004, 61663004, 61866004, 61762078) and the Guangxi Natural Science Foundation (2019GXNSFDA245018, 2018GXNSFDA281009, 2017GXNSFAA198365).

HTML全文

    摘要
  • 摘要: 图像描述生成结合了计算机视觉和自然语言处理2个研究领域，不仅要求完备的图像语义理解，还要求复杂的自然语言表达，是进一步研究符合人类感知的视觉智能的关键任务.对图像描述生成的研究进展做了回顾.首先，归纳分析了当前基于深度学习的图像描述生成方法涉及的5个关键技术，包括整体架构、学习策略、特征映射、语言模型和注意机制.然后，按照发展进程将现有的图像描述生成方法分为四大类，即基于模板的方法、基于检索的方法、基于编码器-解码器架构的方法和基于复合架构的方法，并阐述了各类方法的基本概念、代表性方法和研究现状，重点讨论了基于编码器-解码器架构的各种方法及其创新思路，如多模态空间、视觉空间、语义空间、注意机制、模型优化等.接着，从实验的角度给出图像描述生成的常用数据集和评估措施，并在2个基准数据集上比较了一些典型方法的性能.最后，以提升图像描述的准确性、完整性、新颖性、多样性为依据，展示了图像描述生成的未来发展趋势.
    Abstract: Image captioning combines the two research fields of computer vision and natural language processing. It requires not only complete image semantic understanding, but also complex natural language expression. It is a crucial task for further research on visual intelligence in line with human perception. This paper reviews the research progress on image captioning. Firstly, five key technologies involved in current deep learning based image captioning methods are summarized and analyzed, including overall architecture, learning strategy, feature mapping, language model and attention mechanism. Then, according to the development process, the existing image captioning methods are divided into four categories, i.e. template based methods, retrieval based methods, encoder-decoder architecture based methods and compositional architecture based methods. We describe the basic concepts, representative methods and research status of each category. Furthermore, we emphatically discuss the various methods based on encoder-decoder architecture and their innovative ideas, such as multimodal space, visual space, semantic space, attention mechanism, model optimization, and so on. Subsequently, from the experimental point of view, we show the common benchmark datasets and evaluation measures in the field of image captioning. In addition, we compare the performance of some typical methods on two benchmark datasets. Finally, based on improving the accuracy, integrity, novelty and diversity of image caption, several future development trends of image captioning are presented.
    • HTML全文
    • 参考文献(0)
    • 相关文章
    • 施引文献(59)

  • 期刊类型引用(43)

    1. 周显春，喻佳. 基于图神经网络的人工自然语言语义挖掘仿真. 计算机仿真. 2024(01): 344-348 . 百度学术
    2. 程卓. 基于特征学习的无线传感网络入侵行为检测方法. 现代传输. 2024(01): 76-79 . 百度学术
    3. 杨鹏，贺钧，李卫军，李娟. 基于贪婪算法的网络通信未知蠕虫检测仿真. 计算机仿真. 2024(04): 373-377 . 百度学术
    4. 王洁，吕奕飞. 基于流量异常特征的无线网络攻击行为检测方法. 电脑知识与技术. 2024(11): 78-80 . 百度学术
    5. 杨芳，刘全明. 考虑时滞影响的无线传感网络蠕虫病毒自适应检测方法. 传感技术学报. 2024(06): 1073-1077 . 百度学术
    6. 张邢昀，田乔宇，卢煜程，丁国如. 基于知识图谱的通信目标行为分析方法. 通信技术. 2024(07): 701-710 . 百度学术
    7. 李浩. 基于深度学习的网络流量入侵检测方法研究. 电脑知识与技术. 2024(23): 96-99+110 . 百度学术
    8. 胡艳华，张春玉，崔亚楠，韦灵. 基于混沌免疫聚类的网络信息流异常检测方法. 计算机仿真. 2024(08): 400-403+496 . 百度学术
    9. 陈山，吴丽莎，张凯，程轶红，程亚萍，冯驰. 基于LoRa通信的大规模用电信息采集与传输系统设计. 自动化技术与应用. 2024(10): 153-157 . 百度学术
    10. 刘珊，李瑞，王尧. 基于改进长短期记忆网络的新能源场站网络安全评估方法研究. 电信科学. 2024(10): 124-133 . 百度学术
    11. 王祝先，赵忠凯，叶润泽，关兴民，杨智涛，宋邦钰. IPV6多跳网络环境下双通道快速切换算法的构建研究. 应用科技. 2024(05): 101-106 . 百度学术
    12. 周燕，肖莉. 基于改进关联聚类算法的网络异常数据挖掘. 计算机工程与设计. 2023(01): 108-115 . 百度学术
    13. 张国宏. 大规模网络流量数据异常快速检测研究. 长江信息通信. 2023(02): 110-112 . 百度学术
    14. 贾万祥，张平华. 基于多特征识别的非线性网络流量异常检测方法. 湖北科技学院学报. 2023(02): 145-150 . 百度学术
    15. 刘拥民，黄浩，石婷婷，欧阳金怡，刘翰林，谢铁强. 轻量级词典协同记忆聚焦处理的Web攻击检测研究. 重庆理工大学学报(自然科学). 2023(03): 172-182 . 百度学术
    16. 苏文明. 基于M-ATS的动态网络伪装攻击挖掘算法. 湖北理工学院学报. 2023(02): 21-24+58 . 百度学术
    17. 苏江文，宋立华. 基于无监督学习的电力系统网络潜在多步攻击实时检测方法. 电气自动化. 2023(02): 15-17 . 百度学术
    18. 许馨元，李越鹏，王媛媛. 基于改进CURE聚类算法的网络用户异常行为识别方法. 微型电脑应用. 2023(05): 174-177+181 . 百度学术
    19. 马伟，田静，高振怀. 光纤传感网络空间中攻击节点捕获方法研究. 激光杂志. 2023(07): 189-193 . 百度学术
    20. 任春梅，白欣雨，黄岩. 新型电力系统中信息网络攻击行为辨识方法. 电工技术. 2023(13): 233-237 . 百度学术
    21. 毛莉君，王心妍. 基于能耗信任值的无线传感网络克隆攻击检测方法. 传感技术学报. 2023(07): 1122-1127 . 百度学术
    22. 谢从贵. 一种融合实例和聚类信息的网络入侵攻击分类研究. 常熟理工学院学报. 2023(05): 29-35 . 百度学术
    23. 宋国顺. 基于特征加权聚合的传感网络多模式攻击检测方法. 通化师范学院学报. 2023(10): 74-80 . 百度学术
    24. 杨波，徐胜超，毛明扬，陈刚，王宏杰. 基于流量特征的区域互联网攻击源IP地址检测. 计算机测量与控制. 2023(10): 285-290+298 . 百度学术
    25. 窦萌萌，程小辉. 开放网络中分布式隐私数据主动防御仿真分析. 计算机仿真. 2023(09): 385-389 . 百度学术
    26. 梁卫芳，张爽. 基于相遇记录的域间路由协议攻击检测模型. 计算机仿真. 2023(10): 468-472 . 百度学术
    27. 杨春霞，陶可瑞，宋永生. 深度学习算法的舰船网络安全状态识别. 舰船科学技术. 2023(21): 193-196 . 百度学术
    28. 郁滨，熊俊. 基于平衡迭代规约层次聚类的无线传感器网络流量异常检测方案. 电子与信息学报. 2022(01): 305-313 . 百度学术
    29. 周燕茹. 一种基于统计模型的网络阻塞攻击防御方法. 遵义师范学院学报. 2022(02): 94-98 . 百度学术
    30. 杜淑颖. 基于密度峰值聚类的网络入侵检测. 软件. 2022(06): 40-46 . 百度学术
    31. 俞永飞. 基于人工蜂群算法的网络攻击流量自动辨识研究. 内蒙古民族大学学报(自然科学版). 2022(04): 277-283 . 百度学术
    32. 孙茜，吴鸣. N-Gram模型下网络客户端病毒防御方法仿真. 计算机仿真. 2022(10): 400-404 . 百度学术
    33. 倪雪莉，王群，梁广俊. 智能穿戴设备的安全与隐私威胁研究. 信息网络安全. 2022(10): 98-107 . 百度学术
    34. 林志达，张华兵，曹小明，周英耀. 基于Hurst指数方差分析的堡垒机攻击检测方法. 自动化与仪器仪表. 2022(11): 60-63+68 . 百度学术
    35. 樊凯，冯国聪，刘祥. 基于网络熵的网络攻击身份快速追踪方法. 自动化技术与应用. 2022(12): 101-104+151 . 百度学术
    36. 董新玉，解滨，赵旭升，高新宝. 多视角层次聚类下的无线网络入侵检测算法. 计算机科学与探索. 2022(12): 2752-2764 . 百度学术
    37. 谭伦荣，王辉. 基于深度卷积神经网络的无线通信网络异常攻击检测. 重庆科技学院学报(自然科学版). 2022(06): 60-64 . 百度学术
    38. 郭倩林，张翰林. 大规模集群网络疑似攻击自主检测方法仿真. 计算机仿真. 2021(03): 264-267+340 . 百度学术
    39. 苏绍培. 船舶航线远程控制网络攻击信息实时检测方法. 舰船科学技术. 2021(06): 172-174 . 百度学术
    40. 曾宏志，史洪松. 半监督技术和主动学习相结合的网络入侵检测方法. 吉林大学学报(理学版). 2021(04): 936-942 . 百度学术
    41. 王永财. 基于半监督学习的计量运行数据协同检测技术. 信息与电脑(理论版). 2021(14): 33-35 . 百度学术
    42. 陶庆凤. 基于人工蜂群算法的无线网络攻击行为的辨识研究. 宁夏师范学院学报. 2021(07): 89-95 . 百度学术
    43. 秦云涛. 基于网络流量解析的网络攻击检测系统的设计与实现. 信息与电脑(理论版). 2021(17): 207-210 . 百度学术

    其他类型引用(16)

    • 资源附件(0)
计量
  • 文章访问数:  942
  • HTML全文浏览量:  8
  • PDF下载量:  435
  • 被引次数: 59
出版历程
  • 发布日期:  2021-08-31

目录

摘要
HTML全文
    参考文献(0)
    相关文章
    施引文献
    资源附件(0)

    /

    返回文章
    返回
    邮件订阅 RSS
    微信订阅号<br/>（实时资讯）

    微信订阅号
    （实时资讯）

    微信服务号<br/>（同步网站）

    微信服务号
    （同步网站）

    微信视频号<br/>（视频分享）

    微信视频号
    （视频分享）

    CCF<br/>（扫码入会）

    CCF
    （扫码入会）

    版权所有 © 《计算机研究与发展》编辑部

    本系统由北京仁和汇智信息技术有限公司开发  百度统计