DPD v2.0 当前依赖Mlx版本
Mellanox OFED 2.4-1.
Firmware version 2.33.5000 and higher.

1> 编译 mlx4 libraries
http://dpdk.org/download/mlx4/
因要使用 ibv_xxx 系列工具, ibv_xxx 不建议再使用DPDK.org下载的 mlx4 libraries.  可使用 MLNX OFED 内置 mlx4 libraries.  必须采用动态编译方式,方能运行正确.

编译完   MLNX OFED mxl4 libraries , 使用 make install DESTDIR=xxx , 并打包.
2> 编译DPDK v2.0.0

3> 编译mlx4 ofed 内核模块及mstflint程序
http://www.mellanox.com/page/products_dyn?product_family=26&mtag=linux_sw_drivers
注意 MLNX_OFED 2.4-1.0.0 只支持以下OS与内核版本
 - RHEL/CentOS 6.3      x86_64
 - RHEL/CentOS 6.4      x86_64/PPC
 - RHEL/CentOS 6.5      x86_64/PPC
 - RHEL/CentOS 6.6      x86_64/PPC
 - RHEL/CentOS 7.0      x86_64/PPC
 - SLES11 SP2           x86_64/PPC
 - SLES11 SP3           x86_64/PPC
 - SLES12               x86_64
 - OEL 6.4              x86_64
 - OEL 6.5              x86_64
 - OEL 6.6              x86_64
 - Citrix XenServer Host 6.2    i686
 - Fedora 19            x86_64
 - Fedora 21            x86_64
 - Ubuntu 12.04.4       x86_64
 - Ubuntu 14.04         x86_64/PPC4le
 - Ubuntu 14.10         x86_64/PPC4le
 - Debian 6.0.9         x86_64
 - Debian 7.5           x86_64
 - Debian 7.6           x86_64
 - kernel 3.10.48
 - kernel 3.11.10
 - kernel 3.14.12
 - kernel 3.15.5
 - kernel 3.16
 - kernel 3.17
 - kernel 3.18

Note: 建议使用RHEL相关的内核, 直接可以使用RPM安装相应模块.

编译mlx4内核模块
tar -zxvf mlnx-ofa_kernel-2.4.tgz
cd mlnx-ofa_kernel-2.4
# 配置,当前采用的是RHEL7第一版内核, 可用  yumdownloader --source kernel-3.10.0-123 下载.
./configure --with-mlx4_fc-mod  --with-mlx4_inf-mod --with-core-mod --with-user_mad-mod --with-user_access-mod --with-addr_trans-mod --with-mlx4-mod --with-mlx4_en-mod --with-ipoib-mod --with-srp-mod --with-rds-mod --with-iser-mod --kernel-version=3.10.0-mlx --modules-dir=/lib/modules/3.10.0-mlx/ --kernel-sources=/work/kernel-3.10.0-123.el7.src/linux-3.10.0-123.el7
make 
make install # 建议安装,方便建立内核依赖关系

Note: 如为自定义内核配置,CONFIG_INFINIBAND 确认为 'n' 或者 'm', 否则此模块打包进内核在加载mlx4模块时会提示符号冲突.

编译 mft 内核模块,mstflint 使用.
tar -zxvf kernel-mft-3.8.0.tgz
cd kernel-mft-3.8.0
make KPVER=/work/kernel-3.10.0-123.el7.src/linux-3.10.0-123.el7
得到  mst_pciconf.ko  mst_pci.ko

编译 mstflint
tar -zxvf mstflint-3.8.0-1.27.gf3d39b6.tar.gz
cd mstflint-3.8.0
./configure --disable-inband --prefix=/usr
make install

4 . 加载模块 
将模块打包并安装到目标机器下
modprobe  ib_uverbs
modprobe  mlx4_en
modprobe  mlx4_core
modprobe  mlx4_ib log_num_mgm_entry_size=-1
# 加载mst相关内核
insmod  mst_pci.ko
insmod  mst_pciconf.ko
运行  ibv_devinfo 获取设备信息
# ibv_devinfo  -v
hca_id: mlx4_0
transport:                      InfiniBand (0)
fw_ver:                         2.33.5100
node_guid:                      0002:c903:00fa:a480
sys_image_guid:                 0002:c903:00fa:a483
vendor_id:                      0x02c9
vendor_part_id:                 4099
hw_ver:                         0x1
board_id:                       MT_1090110019
phys_port_cnt:                  2
max_mr_size:                    0xffffffffffffffff
page_size_cap:                  0xfffffe00
max_qp:                         392632
max_qp_wr:                      16351
device_cap_flags:               0x005c9c76
BAD_PKEY_CNTR
BAD_QKEY_CNTR
AUTO_PATH_MIG
CHANGE_PHY_PORT
UD_AV_PORT_ENFORCE
PORT_ACTIVE_EVENT
SYS_IMAGE_GUID
RC_RNR_NAK_GEN
XRC
Unknown flags: 0x004c8000
device_cap_exp_flags:           0xD122001600000000
EXP_DEVICE_QPG
EXP_UD_RSS
EXP_MEM_WINDOW
EXP_MEM_MGT_EXTENSIONS
EXP_MW_TYPE_2B
EXP_CROSS_CHANNEL
EXP_MR_ALLOCATE
EXP_SHARED_MR
EXT_ATOMICS
Unknown flags: 0x8000000000000000
max_sge:                        32
max_sge_rd:                     0
max_cq:                         65408
max_cqe:                        4194303
max_mr:                         524032
max_pd:                         32764
max_qp_rd_atom:                 16
max_ee_rd_atom:                 0
max_res_rd_atom:                6282112
max_qp_init_rd_atom:            128
max_ee_init_rd_atom:            0
atomic_cap:                     ATOMIC_HCA (1)
log atomic arg sizes (mask)             8
max fetch and add bit boundary  64
log max atomic inline           3
max_ee:                         0
max_rdd:                        0
max_mw:                         0
max_raw_ipv6_qp:                0
max_raw_ethy_qp:                0
max_mcast_grp:                  131072
max_mcast_qp_attach:            244
max_total_mcast_qp_attach:      31981568
max_ah:                         2147483647
max_fmr:                        0
max_srq:                        65472
max_srq_wr:                     16383
max_srq_sge:                    31
max_pkeys:                      128
local_ca_ack_delay:             15
hca_core_clock:                 427
max_klm_list_size:              0
max_send_wqe_inline_klms:       0
max_umr_recursion_depth:        0
max_umr_stride_dimension:       0
general_odp_caps:
rc_odp_caps:
NO SUPPORT
uc_odp_caps:
NO SUPPORT
ud_odp_caps:
NO SUPPORT
dc_odp_caps:
NO SUPPORT
xrc_odp_caps:
NO SUPPORT
raw_eth_odp_caps:
NO SUPPORT
max_dct:                        0
port:   1
state:                  PORT_DOWN (1)
max_mtu:                4096 (5)
active_mtu:             1024 (3)
sm_lid:                 0
port_lid:               0
port_lmc:               0x00
link_layer:             Ethernet
max_msg_sz:             0x40000000
port_cap_flags:         0x00010000
max_vl_num:             2 (2)
bad_pkey_cntr:          0x0
qkey_viol_cntr:         0x0
sm_sl:                  0
pkey_tbl_len:           1
gid_tbl_len:            128
subnet_timeout:         0
init_type_reply:        0
active_width:           4X (2)
active_speed:           10.0 Gbps (4)
phys_state:             DISABLED (3)
GID[  0]:               fe80:0000:0000:0000:0202:c9ff:fefa:a481
port:   2
state:                  PORT_DOWN (1)
max_mtu:                4096 (5)
active_mtu:             4096 (5)
sm_lid:                 0
port_lid:               0
port_lmc:               0x00
link_layer:             InfiniBand
max_msg_sz:             0x40000000
port_cap_flags:         0x02504868
max_vl_num:             8 (4)
bad_pkey_cntr:          0x0
qkey_viol_cntr:         0x0
sm_sl:                  0
pkey_tbl_len:           128
gid_tbl_len:            128
subnet_timeout:         0
init_type_reply:        0
active_width:           4X (2)
active_speed:           2.5 Gbps (1)
phys_state:             POLLING (2)
GID[  0]:               fe80:0000:0000:0000:0002:c903:00fa:a482
ibv_devices 可获取设备相关 GUID
# ibv_devices
device                 node GUID
------              ----------------
mlx4_0              0002c90300faa480
connectx_port_config 在 mlnx-ofa_kernel-2.4-OFED.2.4.1.0.0.1 包的 ofed_scripts目录下,用于设置端口模式;
将端口配置成Ethernet模式;
# ./connectx_port_config
ConnectX PCI devices :
|----------------------------|
| 1             0000:02:00.0 |
|----------------------------|
Before port change:
auto (eth)
auto (ib)
|----------------------------|
| Possible port modes:       |
| 1: Infiniband              |
| 2: Ethernet                |
| 3: AutoSense               |
|----------------------------|
Select mode for port 1 (1,2,3): 2
Select mode for port 2 (1,2,3): 2
After port change:
eth
eth
ifconfig 查看新增网卡设备.
# ifconfig  -a
eth0      Link encap:Ethernet  HWaddr 00:1E:67:9C:D4:90  
inet addr:192.168.1.37  Bcast:192.168.1.255  Mask:255.255.255.0
UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
RX packets:872 errors:0 dropped:0 overruns:0 frame:0
TX packets:734 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:67141 (65.5 KiB)  TX bytes:82711 (80.7 KiB)
Memory:d0b20000-d0b40000
eth1      Link encap:Ethernet  HWaddr 00:1E:67:9C:D4:91  
BROADCAST MULTICAST  MTU:1500  Metric:1
RX packets:0 errors:0 dropped:0 overruns:0 frame:0
TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:0 (0.0 B)  TX bytes:0 (0.0 B)
Memory:d0b00000-d0b20000
eth2      Link encap:Ethernet  HWaddr 00:02:C9:FA:A4:81  
BROADCAST MULTICAST  MTU:1500  Metric:1
RX packets:0 errors:0 dropped:0 overruns:0 frame:0
TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:0 (0.0 B)  TX bytes:0 (0.0 B)
eth3      Link encap:Ethernet  HWaddr 00:02:C9:FA:A4:82  
BROADCAST MULTICAST  MTU:1500  Metric:1
RX packets:0 errors:0 dropped:0 overruns:0 frame:0
TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:1000
RX bytes:0 (0.0 B)  TX bytes:0 (0.0 B)
lo        Link encap:Local Loopback  
inet addr:127.0.0.1  Mask:255.0.0.0
UP LOOPBACK RUNNING  MTU:65536  Metric:1
RX packets:225 errors:0 dropped:0 overruns:0 frame:0
TX packets:225 errors:0 dropped:0 overruns:0 carrier:0
collisions:0 txqueuelen:0
RX bytes:25200 (24.6 KiB)  TX bytes:25200 (24.6 KiB)
查看新增网卡驱动属性.
ethtool -i eth2
driver: mlx4_en
version: 2.4-1.0.0 (Apr 22 2015)
firmware-version: 2.33.5100
bus-info: 0000:02:00.0
ethtool -i eth3
driver: mlx4_en
version: 2.4-1.0.0 (Apr 22 2015)
firmware-version: 2.33.5100
bus-info: 0000:02:00.0
由此mlx4加载成功.
5> 运行测试程序
./testpmd -c 0xffff -m 4096 -n 1 -r 1 -- --rx=1 --tx=2 -i
set fwd txonly
start all
show port stats all
./trafgen --port0 port0.conf
参考:
http://dpdk.org/doc/guides/nics/mlx4.html

搭建 Mellanox ConnectX-3 EN 10/40 Gbps 网卡 DPDK 运行环境相关推荐

  1. 升级 Mellanox ConnectX-3 EN 10/40 Gbps 网卡固件

    确认 ib_uverbs mlx4_en mlx4_core mlx4_ib mst_pciconf 已加载, mstflint 已编译安装. 1> 确认mlx固件版本 查询 mlx 设备信息 ...

  2. w8系统搭建php网站,360W8系统下如何配置PHP网站运行环境

    为例,跟大家带来具体的设置步骤,供大家学习参考使用! 1.大家可以现在百度软件中心下载我们需要的软件到电脑,然后解压到自己电脑,提醒大家将文件解压到电脑的磁盘根目录.还要说一句,目前小编介绍的方法适用 ...

  3. 10天确定Python,运行环境(超详细步骤)

    倘若有人告诉你,他在学习Python编程,却没有安装运行环境,那你赶紧叫他滚,并离他远点,因为他在欺骗你的感情. 没有安装运行环境,程序根本无法跑起来,对错不能知根知底,试问是在学编程,还是在跟空气对 ...

  4. 通过Mellanox ConnectX NIC使用XDP加速

    通过Mellanox ConnectX NIC使用XDP加速 Accelerating with XDP over Mellanox ConnectX NICs XDP(eXpress Data Pa ...

  5. 背水一战 Windows 10 (40) - 控件(导航类): AppBar, CommandBar

    原文:背水一战 Windows 10 (40) - 控件(导航类): AppBar, CommandBar [源码下载] 背水一战 Windows 10 (40) - 控件(导航类): AppBar, ...

  6. 黑苹果NVIDIA显卡驱动程序【 WebDriver-387.10.10.10.40.131+支持macOS 10.13.6 High Sierra (17G8037)版本】

    黑苹果NVIDIA显卡驱动程序 [ WebDriver-387.10.10.10.40.131+支持macOS 10.13.6 High Sierra (17G8037)版本] 驱动下载地址:点击此处

  7. 黑苹果NVIDIA显卡驱动程序【 WebDriver-387.10.10.10.40.105+支持 macOS 10.13.6 High Sierra (17G65)版本】

    黑苹果NVIDIA显卡驱动程序 [ WebDriver-387.10.10.10.40.105+支持 macOS 10.13.6 High Sierra (17G65)版本] 下载地址:点击此处

  8. 黑苹果NVIDIA显卡驱动程序【 WebDriver-387.10.10.10.40.130+支持macOS 10.13.6 High Sierra (17G8030)版本】

    黑苹果NVIDIA显卡驱动程序 [ WebDriver-387.10.10.10.40.130+支持macOS 10.13.6 High Sierra (17G8030)版本] 驱动下载链接:点击此处

  9. 黑苹果NVIDIA显卡驱动程序【 WebDriver-387.10.10.10.40.123+支持 macOS 10.13.6 High Sierra (17G6029)版本】

    黑苹果NVIDIA显卡驱动程序 [ WebDriver-387.10.10.10.40.123+支持 macOS 10.13.6 High Sierra (17G6029)版本] 驱动专用下载地址:点 ...

最新文章

  1. 使用python爬虫抓站的一些技巧总结:进阶篇
  2. 如何选择生产行业ERP系统?有哪些价值?
  3. LeetCode Algorithm 3. 无重复字符的最长子串
  4. java将html实体字符转换成正常字符
  5. 一个关于winform多线程的教程(pdf)
  6. LeetCode—222. 完全二叉树的节点个数
  7. Elasticsearch的倒排索引是什么?
  8. 【kafka】kafka Group coordinator lookup for group
  9. oracle整张表转置,从Oracle表格行列转置说起...
  10. NLP之路-查看获取文本语料库
  11. 细谈getRequestDispatcher()与sendRedirect()的区别
  12. 数据分析数据可视化(三)
  13. 矩阵快速乘法---代码
  14. java rni_Java面试总结
  15. 计算机模拟在材料加工研究中的应用,计算机在材料科学中的应用
  16. 神经网络控制器设计原理,神经网络控制系统设计
  17. SQL server 2005下载地址
  18. 转载防丢-caffe训练集搭建
  19. 工作小记 编译 ffmpeg gpu 版本
  20. selenium+python自动化(完整脚本一)

热门文章

  1. EasyExcel根据模板导出动态修改sheet名称
  2. 2.Maven创建以及依赖、继承、聚合
  3. ajax complete写法,JQuery ajaxComplete()用法及代码示例
  4. 98.网络安全渗透测试—[常规漏洞挖掘与利用篇14]—[SESSION身份验证绕过漏洞与测试]
  5. 2021年熔化焊接与热切割报名考试及熔化焊接与热切割最新解析
  6. UnityShader学习笔记 Unity的表面着色器
  7. XP计算机管理员账户隐藏了怎么办,xp administrator隐藏如何找回解决方案
  8. 怀揣梦想和责任,天空卫士让国人在UCS领域掌握核心科技
  9. IOST 项目更新:BB ,展望正面 | TokenInsight
  10. 【线性代数】5-3:克莱姆法则,逆和体积(Cramers Rule,Inverses,and Volumes)