CPU与GPU上几种矩阵乘法的比较与分析

计算机工程与应用 ›› 2011, Vol. 47 ›› Issue (19): 9-11.

CPU与GPU上几种矩阵乘法的比较与分析

刘进锋，郭雷

西北工业大学自动化学院，西安 710129

收稿日期:1900-01-01 修回日期:1900-01-01 出版日期:2011-07-01 发布日期:2011-07-01

Comparison and analysis of matrix multiplications on GPU and CPU

LIU Jinfeng，GUO Lei

School of Automation，Northwestern Polytechnical University，Xi’an 710129，China

Received:1900-01-01 Revised:1900-01-01 Online:2011-07-01 Published:2011-07-01

摘要/Abstract

摘要： 描述了矩阵乘法在CPU上的三种实现方法和在GPU上基于CUDA架构的四种实现方法，分析了高性能方法的原由，发现它们的共同特点都是合理地组织数据并加以利用，这样能有效地减少存取开销，极大地提高算法的速度。其中CPU上的最优实现方法比普通算法快了200多倍，GPU上的最优实现方法又比CPU上的最优实现方法快了约6倍。

关键词: 矩阵乘法, 统一计算设备架构, 图形处理器, 存储模式

Abstract: Three matrix multiplications on CPU and four CUDA-based matrix multiplications on GPU are described，the causes of high performance are analyzed and the common characteristic of efficient algorithm is that data are properly organized and rationally utilized，and therefore the access cost effectively reduced and the speed is greatly improved.The best optimized implementation on CPU gain more 200 times fast than the common one，the best optimized implementation on GPU gain about 6 times fast than the best one on CPU.

Key words: matrix multiplication, Compute Unified Device Architecture（CUDA）, Graphic Processing Unit（GPU）, storage pattern

刘进锋，郭雷. CPU与GPU上几种矩阵乘法的比较与分析[J]. 计算机工程与应用, 2011, 47(19): 9-11.

LIU Jinfeng，GUO Lei. Comparison and analysis of matrix multiplications on GPU and CPU[J]. Computer Engineering and Applications, 2011, 47(19): 9-11.

[1]	杨捷，吴素萍. 点云重建的并行算法[J]. 计算机工程与应用, 2020, 56(6): 213-219.
[2]	朱超，吴素萍. 特征点检测DoG并行算法[J]. 计算机工程与应用, 2020, 56(10): 36-43.
[3]	范昱伶1，王美丽1，何东健2. 基于OpenCL的点云分割方法[J]. 计算机工程与应用, 2018, 54(1): 191-195.
[4]	高遵海，高颖，程果. 图的赋权路径矩阵与所有点对最短路径问题[J]. 计算机工程与应用, 2017, 53(9): 47-50.
[5]	丁祥武，陈金鑫，王梅. 异构计算平台上列存储系统的并行连接优化策略[J]. 计算机工程与应用, 2017, 53(5): 73-80.
[6]	刘高明1，2，荣葵2，朱辉1，谭怀亮2. 应用于嵌入式RTOS的图形显示系统设计[J]. 计算机工程与应用, 2016, 52(9): 190-195.
[7]	公维理. 基于嵌入式CPU-GPU的高清鱼眼视频实时校正系统[J]. 计算机工程与应用, 2016, 52(14): 172-179.
[8]	李正夫1，2，王希诚3，李克秋1，姚翔3，董悦丽2. CUDA平台下信息熵多种群遗传算法设计[J]. 计算机工程与应用, 2016, 52(1): 12-16.
[9]	仲济源，梅魁志，温哲西. GIST特征提取的异构并发流计算实现[J]. 计算机工程与应用, 2015, 51(6): 139-144.
[10]	张延松1，2，苏明川1，张宇1，王方舟1. 位图连接索引服务机制研究[J]. 计算机工程与应用, 2015, 51(5): 107-115.
[11]	林敏，钟一文. 三种GPU并行的自适应邻域模拟退火算法[J]. 计算机工程与应用, 2015, 51(22): 70-76.
[12]	董丽丽，董玮，张翔. 利用CUDA提高内存数据聚类效能的研究[J]. 计算机工程与应用, 2015, 51(22): 243-251.
[13]	朱正东1，刘袁1，魏洪昌１，颜康1，王寅峰2，董小社1. 面向CPU-GPU架构的源到源自动映射方法[J]. 计算机工程与应用, 2015, 51(21): 41-47.
[14]	曾博1，2，雷友诚1，王丛知2，邱维宝2，冯歌2，曾成志2，杨戈2，郑海荣2. 基于CUDA的声辐射力弹性成像算法研究[J]. 计算机工程与应用, 2015, 51(18): 249-254.
[15]	汪宏1，2，王鹏1，2. 基于GPU的AC模式匹配改进算法[J]. 计算机工程与应用, 2015, 51(18): 7-12.