基于通用以太网卡的高性能通信库设计和实现

计算机工程与应用 ›› 2007, Vol. 43 ›› Issue (12): 112-115.

基于通用以太网卡的高性能通信库设计和实现

胡长军李景祥常晓东李建江

清华大学计算机科学与技术系北京科技大学

收稿日期:2006-09-06 修回日期:1900-01-01 出版日期:2007-04-20 发布日期:2007-04-20
通讯作者: 李景祥

Design and implementation a high performance communication library based on commodity Ethernet NICs

Received:2006-09-06 Revised:1900-01-01 Online:2007-04-20 Published:2007-04-20

摘要/Abstract

摘要： 采用硬件无关的设计方法，在Linux下实现了一个基于通用以太网卡的高性能集群通信库HPCL/Ethernet。该库利用Linux操作系统的网络设备接口实现了对各种以太网NIC(Network Interface Card) 的支持，在软件层实现一个轻量级通信协议支持消息的可靠传输。采用通道简化缓冲区管理，固定缓冲区策略来减少消息拷贝，采用中断回收技术、链路层直接处理消息来优化通信。测试结果表明，该通信库在传输小消息时具有很低延迟，在传输大消息时具有高带宽的特点。传输消息长度为1196字节时带宽高达1.18E+08 bytes/s，是千兆以太网卡硬件带宽的94.4%。

关键词: 集群, 通信库, 通用以太网, 中断回收技术, 固定缓冲区策略

Abstract: A high performance communication library independent of hardware called HPCL/Ethernet is implemented based on commodity Ethernet NICs on the Linux. HPCL/Ethernet supports commodity Ethernet NICs by using the network device interface on the Linux kernel. Message reliable delivery is guaranteed in the software layer. Channel abstract simplify buffer management and fixed-buffer policy adopted for avoiding message copy. Both interrupt reaping technology and the policy of message processing in link layer are also used to optimize communication. The experimental results show that the HPCL/Ethernet is characteristic of low latency with short payload message and high bandwidth with long payload message. It provides 1.18E+08 bytes/s of bandwidth which is 94.4% of hardware-level bandwidth for 1196 bytes message.

Key words: cluster, communication library, commodity Etherne, Interrupt reaping, fixed-buffer policy

胡长军李景祥常晓东李建江. 基于通用以太网卡的高性能通信库设计和实现[J]. 计算机工程与应用, 2007, 43(12): 112-115.

[1]	张俊，廖雪花，余旭玲，雷蒙. 关系型数据库内存化存储模型研究[J]. 计算机工程与应用, 2021, 57(19): 123-128.
[2]	金之雁，杨磊，林隽民，王哲. 广义共轭余差法的通信避免算法[J]. 计算机工程与应用, 2020, 56(3): 74-79.
[3]	张新伟，李康，郁龚健，刘家航，李佩琦，柴志雷. 基于ZYNQ集群的神经形态计算加速研究与实现[J]. 计算机工程与应用, 2020, 56(21): 65-71.
[4]	刘树仁，冯超敏，蔡长宁，樊莉. 基于分级存储的石油勘探地震处理应用研究[J]. 计算机工程与应用, 2019, 55(13): 266-270.
[5]	熊安萍1，2，夏玉冲1，杨方方1. 一种Spark集群下的shuffle优化机制[J]. 计算机工程与应用, 2018, 54(4): 72-76.
[6]	王方1，王晓原1，2，刘振雪1，王建强2，孔栋1，王云云1. 基于完全信息多人动态博弈的车道选择模型[J]. 计算机工程与应用, 2018, 54(23): 238-245.
[7]	申泽星，彭云建，岳喜顺. 集群服务器在混合请求下的负载均衡优化算法[J]. 计算机工程与应用, 2018, 54(18): 99-104.
[8]	彭丽苹，吕晓丹，蒋朝惠. 基于Ceph集群的能耗管理策略研究[J]. 计算机工程与应用, 2018, 54(10): 66-72.
[9]	熊安萍1，2，朱恒伟1，罗宇豪1. Storm流式计算框架反压机制研究[J]. 计算机工程与应用, 2018, 54(1): 102-106.
[10]	程振京1，2，李海波1，黄秋兰1，程耀东1，陈刚1. 高能物理云平台中的弹性计算资源管理机制[J]. 计算机工程与应用, 2017, 53(8): 8-14.
[11]	曹芳波，吕娜，陈柯帆，张步硕，刘创. 航空集群网络可靠性估计路由选择策略[J]. 计算机工程与应用, 2017, 53(24): 129-135.
[12]	刘烁阳，周丽娟，任仲山，张树东. 眼科医疗影像文件存取下的HDFS负载均衡[J]. 计算机工程与应用, 2017, 53(2): 253-259.
[13]	刘斌1，何进荣1，耿耀君1，王最2. 并行机器学习算法基础体系前沿进展综述[J]. 计算机工程与应用, 2017, 53(11): 31-38.
[14]	刘迪1，2，朱立谷1，2，张雷1，2，冯东煜1，2. 基于强挂起弱预测机制的负载均衡模型研究[J]. 计算机工程与应用, 2017, 53(10): 90-95.
[15]	刘圣卓，姜进磊，杨广文. 一种用于虚拟集群的镜像按需分发框架[J]. 计算机工程与应用, 2016, 52(2): 1-6.