本案例中使用的服务器测试环境如下：

服务器：H3C R390X G2

操作系统：RHEL7.3

SR-IOV网卡型号：Brocadcom 530FLB (BCM57810芯片)

1.    首先在BIOS中开启网卡的SR-IOV的支持

服务器开机自检按ESC或DEL进入BIOS Setup，点击Advanced -> 选中530FLR网卡。 默认Multi-Function Mode为SF，这里改成SR-IOV

2.    操作系统中开启IOMMU支持

执行dmesg | grep -i iommu看操作系统是否开启了IOMMU支持，如果没开启，则编辑如下

# vi /etc/default/grub

...

GRUB_CMDLINE_LINUX="nofb splash=quiet console=tty0 intel_iommu=on

...

重新生成grub配置文件

#grub2-mkconfig -o /boot/efi/EFI/redhat/grub.cfg

#reboot

重启后查看iommu启动情况

#dmesg | grep -i iommu

则表示开启成功

3.    系统中查看网卡，我们使用的是BCM57810芯片的网卡(Broadcom)

查看网卡信息

4.    开启网卡的VF端口

注意：首先要确保端口是up状态

#ifup ens9f0

查看sriov的端口数量

# cat /sys/class/net/ens9f0/device/sriov_numvfs

0

如果返回结果是0，表示没有VF接口

5.    开启VF端口

# echo 8 > /sys/class/net/ens9f0/device/sriov_numvfs

备注：enable VF时，可能会报错如下：

[  641.704649] bnx2x 0000:03:00.0: not enough MMIO resources for SR-IOV

[  641.704656] [bnx2x_enable_sriov:2514(ens9f0)]pci_enable_sriov failed with -12

上面的报错通常是BIOS issue，可能是BIOS不支持 (The BIOS is not providing enough MMIO space for VFs)

参考文档：https://access.redhat.com/solutions/37376

解决办法: 在kernel中再加入一个参数pci=realloc

修改/etc/default/grub，在之前的iommu选项后，加入该参数

重新生成grub

#grub2-mkconfig -o /boot/efi/EFI/redhat/grub.cfg

#reboot

6.    检查VF开启情况

经过刚刚的设置之后，再次执行下面的命令后，即可查看到VF port

# echo 8 > /sys/class/net/ens9f0/device/sriov_numvfs

# lspci | grep –i ethernet

# ip addr show

但是所有的mac地址都是00:00:00:00:00:00

根据Broadcom bnx2x driver的readme描述，这属于正常情况

https://downloads.hpe.com/pub/softlib2/software1/pubsw-linux/p1050551721/v140545/README

Known issues/Limitations/Caveats

-----------------------------------

-The bnx2x driver now assigns all zeroes as the MAC address for SR-IOV virtual functions. Users need to manually configure valid MAC addresses for virtual functions using iproute2 or ifconfig methods

7.    手动设置VF的MAC地址

# ip link show

先查看MAC地址

手动设置MAC地址

# ip link set enp3s1f1 addr 14:aa:bb:cc:dd:01

下面的脚本是为了实现自动化配置所有VF端口的命令

# counter=1; for i in $(ip a | grep enp3s1 | awk '{print $2;}' | tr -d ":"); do ip link set $i addr aa:bb:cc:dd:ee:$counter; ((counter++)); done

注意：需要适当修改enp3s1端口名称为实际端口的名称