Survey on Machine Learning for Database Systems
-
摘要: 数据库系统经过近50年的发展,虽然已经普遍商用,但随着大数据时代的到来,数据库系统在2个方面面临挑战.首先数据量持续增大期望单个查询任务具有更快的处理速度;其次查询负载的快速变化及其多样性使得基于DBA经验的数据库配置和查询优化偏好不能实时地调整为最佳运行时状态.而数据库系统的性能优化进入瓶颈期,优化空间收窄,进一步优化只能依托新的硬件加速器来实现,传统的数据库系统不能够有效利用现代的硬件加速器;数据库系统具有成百个可调参数,面对工作负载频繁变化,大量繁琐的参数配置已经超出DBA的能力,这使得数据库系统面对快速而又多样性的变化缺乏实时响应能力.当下机器学习技术恰好同时符合这2个条件:应用现代加速器以及从众多参数调节经验中学习.机器学习化数据库系统将机器学习技术引入到数据库系统设计中.一方面将顺序扫描转化为计算模型,从而能够利用现代硬件加速平台;另一方面将DBA的经验转化为预测模型,从而使得数据库系统更加智能地动态适应工作负载的快速多样性变化.将对机器学习化数据库系统当前的研究工作进行总结与归纳,主要包括存储管理、查询优化的机器学习化研究以及自动化的数据库管理系统.在对已有技术分析的基础上,指出了机器学习化数据库系统的未来研究方向及可能面临的问题与挑战.Abstract: As one of the most popular technologies, database systems have been developed for more than 50 years, and are mature enough to support many real scenarios. Although many researches still focus on the traditional database optimization tasks, the performance improvement is little. Actually, with the advent of big data, we have met the new gap obstructing the further performance improvement of database systems. The database systems face challenges in two aspects. Firstly, the increase of data volume requires the database system to process tasks more quickly. Secondly, the rapid change of query workload and its diversity make database systems impossible to adjust the system knobs to the optimal configuration in real time. Fortunately, machine learning may be the dawn bringing an unprecedented opportunity for the traditional database systems to lead us to the new optimization direction. In this paper, we introduce how to combine machine learning into the further development of database management systems. We focus on the current research work of machine learning for database systems, mainly including the machine learning for storage management and query optimization, as well as automatic database management systems. This area has also opened various challenges and problems to be solved. Thus, based on the analysis of existing technologies, the future challenges, which may be encountered in machine learning for database systems, are pointed out.
-
Keywords:
- database systems /
- machine learning /
- learned index /
- automatic database systems
-
-
期刊类型引用(30)
1. 马超红,郝新丽,孟小峰,张旭康. 机器学习赋能的多维数据查询处理研究综述. 计算机学报. 2025(01): 100-123 . 百度学术
2. 姜璐璐,高锦涛. 面向机器学习的数据库参数调优技术综述. 计算机工程与应用. 2024(03): 1-16 . 百度学术
3. 刘帅,乔颖,罗雄飞,赵怡婧,王宏安. 时序数据库关键技术综述. 计算机研究与发展. 2024(03): 614-638 . 本站查看
4. 赖思超,吴小莹,彭煜玮,彭智勇. 数据库索引调优技术综述. 计算机研究与发展. 2024(04): 929-954 . 本站查看
5. 朱镕佳,杨宇轩,李振东,陈硕,唐朝阳,唐晓雨. 基于树莓派的智能零售系统设计. 现代信息科技. 2024(19): 189-192+198 . 百度学术
6. 蔡盼,张少敏,刘沛然,孙路明,李翠平,陈红. 智能数据库学习型索引研究综述. 计算机学报. 2023(01): 51-69 . 百度学术
7. 曹蓉,鲍亮,崔江涛,李辉,周恒. 数据库系统参数调优方法综述. 计算机研究与发展. 2023(03): 635-653 . 本站查看
8. 杨荣利,王伟,杨栋,周东阳. 基于两因素模糊时间序列的一次风机指标预测. 电子设计工程. 2023(07): 91-94+99 . 百度学术
9. 唐楚哲 ,王肇国 ,陈海波 . 机器学习方法赋能系统软件:挑战、实践与展望. 计算机研究与发展. 2023(05): 964-973 . 本站查看
10. 张政,段怡,高志峰,张欢. 机器学习在手术中液体治疗的应用. 中国数字医学. 2023(07): 81-85 . 百度学术
11. 杜维柱,张晓华,卢毅,王书渊,沈彦伶. 基于机器学习与数值预报技术的电网短期临近气象预警模型设计. 电子设计工程. 2023(19): 99-103 . 百度学术
12. 曹卫东,金超. 基于birch聚类的可更新机器学习索引模型. 计算机工程与设计. 2023(11): 3328-3334 . 百度学术
13. 王鹏. “智慧工会”实现路径. 科技资讯. 2022(02): 10-12 . 百度学术
14. 张静,农昌瑞,张海兵,张亚周. 基于深度学习的发动机叶片故障检测技术. 航空发动机. 2022(01): 68-75 . 百度学术
15. 孟小峰,余艳. 在跨学科交叉融合中深发展社会计算与社会智能. 计算机科学. 2022(04): 3-8 . 百度学术
16. 欧群雍,谭同德,冯学晓. 基于机器学习的软件定义网络数据流子序列匹配算法. 国外电子测量技术. 2022(04): 70-76 . 百度学术
17. 杜清华,张凯. 一种高效的跨平台工作流优化方法. 计算机工程. 2022(07): 13-21+28 . 百度学术
18. 姬莉霞,赵耀,马郑祎,赵润哲,张晗. 基于iForest-BiLSTM-Attention的数据库负载预测方法. 郑州大学学报(理学版). 2022(06): 66-73 . 百度学术
19. 张洲,金培权,谢希科. 学习索引:现状与研究展望. 软件学报. 2021(04): 1129-1150 . 百度学术
20. 潘璇,徐思涵,蔡祥睿,温延龙,袁晓洁. 基于深度学习的数据库自然语言接口综述. 计算机研究与发展. 2021(09): 1925-1950 . 本站查看
21. 蒙芳,翟建丽. 学习行为大数据可视化的网络数据库学习仿真. 计算机仿真. 2021(09): 216-220 . 百度学术
22. 陈镭. 基于机器学习的数据库系统自动调参研究. 软件导刊. 2021(11): 148-151 . 百度学术
23. 崔栋,温巧燕,张华,王华伟. QML:一种混合空间索引结构. 通信学报. 2021(12): 1-16 . 百度学术
24. 陶镇威. 基于机器学习的Oracle数据库故障预测技术探索. 现代工业经济和信息化. 2020(02): 70-71 . 百度学术
25. 桂树强,周实,张家季,耿欣. 基于BIM的轨道交通项目管理框架体系研究与实践. 人民长江. 2020(03): 147-152 . 百度学术
26. 宋雨萌,谷峪,李芳芳,于戈. 人工智能赋能的查询处理与优化新技术研究综述. 计算机科学与探索. 2020(07): 1081-1103 . 百度学术
27. 陈珂锐,孟小峰. 机器学习的可解释性. 计算机研究与发展. 2020(09): 1971-1986 . 本站查看
28. 唐吉深,覃少华. 大型数据库重复记录检测与优化研究. 现代电子技术. 2020(17): 77-81 . 百度学术
29. 蔡洪浩,罗应华,张荣鑫,杨喻淳. 基于机器学习的智能光电对抗系统. 电子技术与软件工程. 2020(13): 79-80 . 百度学术
30. 陶姿邑. 基于深度学习的数据库重复记录检测算法. 微型电脑应用. 2020(12): 174-176 . 百度学术
其他类型引用(33)
计量
- 文章访问数: 2551
- HTML全文浏览量: 14
- PDF下载量: 2077
- 被引次数: 63