客服电话
APP下载
迪恩网络APP
随时随地掌握行业动态
官方微信
扫描二维码
关注迪恩网络微信公众号
|
SRIOV介绍、VF直通配置，以及包转发率性能测试 目录
1. SRIOV介绍 ▷ 传统方式的瓶颈：qemu的网卡，传统方式是使用tap网卡，桥接到宿主的bridge上，但性能很差，尤其是包转发率很低，难以满足对性能要求比较高的场景。性能差的主要原因是路径太长，经过的内核设备太多，根本原因在于linux/unix内核本身就不是为高性能而设计的，linux/unix更适合做控制平面，而不是转发平面。 先给出性能测试的结论，SRIOV VF直通相比传统tap+bridge方案，性能提升： ▷ 发包转发率提高: 677% 2. 环境说明 机型：Dell PowerEdge R620 3. 开启SRIOV 在BIOS里开启SRIOV，如图所示 注：即使BIOS里开启全局SRIOV，网卡也依然可以当作普通网卡使用 需要在BIOS里开启VT-d grub配置iommu iommu=pt intel_iommu=on 4. 生成VF # 启动网卡 ip link set p1p1 up # 查看pf的pci编号 lshw -c network -businfo # 查看网卡支持的vf数量 cat /sys/bus/pci/devices/0000:41:00.0/sriov_totalvfs # 生成vf，建议加入开机启动 echo 63 > /sys/bus/pci/devices/0000:41:00.0/sriov_numvfs 注意：若没有屏蔽宿主的VF驱动，则在生成vf后还必须等待一会时间才能在宿主上看到所有命名完成的网卡（否则会看到一堆ethX网卡），vf数量越多需要等待时间越长，63个vf，差不多需要10秒 5. VF直通 如果qemu是通过libvirt管理的，有3种配置方法： ▷ 方法1（interface）：在devices段落里加入 <interface type='hostdev' managed='yes'> <mac address='52:54:00:ad:ef:8d'/> <source> <address type='pci' domain='0x0000' bus='0x41' slot='0x10' function='0x0'/> </source> <vlan> <tag id='4010'/> </vlan> </interface> 上面<source>中address的地址，可以根据“lshw -c network -businfo”来配置，比如 pci@0000:41:10.0 p1p1_0 ▷ 方法2（hostdev）：在devices段落里加入 <hostdev mode='subsystem' type='pci' managed='yes'> <source> <address domain='0x0000' bus='0x41' slot='0x10' function='0x0'/> </source> </hostdev> 上面<source>中address的地址，也是根据“lshw -c network -businfo”来配置 ▷ 方法3（net-pool） 为每个PF网卡定义一个net-pool，即分别编辑一个xml文件。这里仅展示一个PF，编辑sriov-int.xml <network> <name>sriov-int</name> <forward mode='hostdev' managed='yes'> <pf dev='p1p1'/> </forward> </network> 加入到libvirt net-pool、激活、并设置开机启动 virsh net-define sriov-int.xml virsh net-start sriov-int virsh net-autostart sriov-int 虽然配置了net-autostart，但并不管用，因为物理机启动时候，经常会在启动生成vf（假设在rc.local里生成vf）之前就启动libvirt，而这个net-pool（sriov-int）本应该在vf生成后才能启动，因此建议在rc.local里增加如下内容来确保启动 ip link set p1p2 up echo 63 > /sys/bus/pci/devices/0000:41:00.0/sriov_numvfs virsh net-start sriov-int 然后，在vm的xml里增加 <interface type='network'> <mac address='52:54:00:ad:ef:8d'/> <source network='sriov-int'/> <vlan> <tag id='4010'/> </vlan> </interface> 3种方法如何选择 ▷ 方法1：功能多，可以配置mac和vlan 存在一个bug，当本宿主所有vm使用某个PF的VF总数超过VF上限后，不会报错，也能启动，但是可能会有异常，并且vm如果被destroy关机，那么对应的VF就会出问题，比如使用ip link set p1p1 vf 0 mac 00:00:00:00:00:00来做重置时候，会提示“RTNETLINK answers: Cannot allocate memory”，而且难以修复，即使修复，也不知道有没有看不见的异常存在。 没有办法知道某个vm使用的是哪个vf，因此如果要对vf设置限速或者开关spoofchk时候，只能先在宿主上通过“ip link show dev p1p1 | grep MAC地址”方式来获得vf号，然后才能设置限速等操作 综上所述：使用方法3最便捷，但是存在bug，因此需要做好逻辑来防止vm使用vf总数超过上限的情况。 6. 开启irqbalance x520是2队列，x710是4队列，需要在vm里启动中断平衡服务（irqbalance），否则只会有一个cpu来处理数据包。 另外，这与宿主上vf的query_rss无关。 7. VM迁移 直通网卡属于PCI设备，而libvirt和qemu却不支持带有非USB的PCI设备的vm做迁移，包括冷迁移和热迁移。因此热迁移无法实现。 冷迁移，有2种方案: ▷ detach掉vf网卡，然后使用libvirt做迁移，迁移过去后，再在新宿主上attach vf网卡 注意：不能在vm关机时候用libvirt的迁移功能，有时候会导致虚拟机消失掉，包括原宿主和新宿主 8. 带宽限速 只能限制出站带宽，无法限制入站带宽 ip link set p1p1 vf 0 max_tx_rate 100 表示出站带宽限速100Mbps，不同网卡有差别: ▷ x520网卡最小限速11Mbps，最大限速10000Mbps，设为0表示不限速。若小于11或大于10000则会报错 注意：vm关机后vf的带宽限速不会复位 9. 安全 仅支持源mac过滤和网卡mac防篡改，不支持其他安全防护（防arp欺骗就无法实现） 源mac过滤 ip link set p1p1 vf 0 spoofchk on 表示vm里发出的包，如果源mac不是指定mac，那么数据包不允许通过。注意：vm关机后vf的spoofchk不会复位 网卡mac防篡改 ▷ 在宿主上修改mac，vm里的mac不会跟着改；在vm里修改mac，在宿主上可以看到变化 在宿主上手动修改mac方法（vm关机和开机情况下都可以改）: ip link set p1p1 vf 0 mac aa:bb:cc:dd:ee:ff 建议: ▷ 在vm启动前对vf做一次重置 10. 其他使用限制 ▷ 直通到vm里的vf网卡里无法桥接到vm里的linux bridge，这也导致ebtables无法使用，iptables可以使用 11. 性能测试 测试方法： ▷ 多台vm同时发包，一台vm收包，分别观察发包性能和收包性能 配置： ▷ vm配置均为4核8G 测试结果： 测试结论： 使用SR-IOV+VF直通方式可以明显提升包转发率，1对1的测试结果看到kernel态发包可以达到3.5Mpps，收包可以达到1.9Mpps ▷ 发包比vxlan提高: 1196%，比vlan提高: 677%。此结果参考1对1（1个发包vm，1个收包vm） 说明： ▷ kernel态单核数据包(64B)处理能力为2Mpps 更多测试结果： 以下测试使用的packet大小为64B ▷ kernel态，3层转发性能:发包器使用不同的source ip ▪ BCM57800:2Mpps ▷ kernel态，2层转发性能:发包器使用不同的source mac ▪ BCM57800:2Mpps ▷ kernel态下vxlan封装能力 ▪ vxlan内层使用不同的source ip发包 ▷ dpdk用户态，2层转发性能:发包器使用不同的source ip ▪ BCM57800:不支持 ▷ SR-IOV模式 ▪ X520总量11.2Mpps，每vm为11.2Mpps/vm总数(即VF数) 总结： ▷ kernel态下的中断平衡的依据因素:2层依据source mac,3层依据source ip 注意： ▷ kernel态下，利用多队列RSS中断平衡提升吞吐率，会导致cpu非常高 12. windows虚拟机使用VF 到网卡官网下载对应驱动并安装，经测试，win2012默认就有82599（x520）驱动，但版本旧 13. 运维命令 # 查看网卡支持的vf数量 cat /sys/bus/pci/devices/0000:41:00.0/sriov_totalvfs # 宿主屏蔽VF驱动后查看vf和pf的对应 https://github.com/intel/SDN-NFV-Hands-on-Samples/blob/master/SR-IOV_Network_Virtual_Functions_in_KVM/listvfs_by_pf.sh 载下来后执行./listvfs_by_pf.sh即可 # 宿主屏蔽VF后查看哪些VF正在被使用 yum install dpdk-tools dpdk-devbind --status # 查看网卡对应哪个socket lstopo-no-graphics # lspci查看网卡信息 lspci -Dvmm|grep -B 1 -A 4 Ethernet # 宿主上查看具体VF流量（仅支持x520，x710查不到） ethtool -S p1p1 | grep VF 14. 宿主屏蔽VF驱动 echo "blacklist ixgbevf" >> /etc/modprobe.d/blacklist.conf 表示当物理机启动时候，默认不加载ixgbevf驱动，但是如果手动modprobe ixgbevf，则也会加载驱动。 如果当前已经加载了ixgbevf，想卸载，则需要如下步骤 echo 0 > /sys/bus/pci/devices/0000:41:00.0/sriov_numvfs rmmod ixgbevf echo 63 > /sys/bus/pci/devices/0000:41:00.0/sriov_numvfs 附. 包转发率测试方法 modprobe pktgen：发包通过pktgen来发，收包通过sar -n DEV来看，发的是udp包
#!/bin/bash
NIC="eth1"
DST_IP="192.168.1.2"
DST_MAC="52:54:00:43:99:65"
modprobe pktgen
pg() {
echo inject > $PGDEV
cat $PGDEV
}
pgset() {
local result
echo $1 > $PGDEV
result=`cat $PGDEV | fgrep "Result: OK:"`
if [ "$result" = "" ]; then
cat $PGDEV | fgrep Result:
fi
}
# Config Start Here -----------------------------------------------------------
# thread config
# Each CPU has own thread. Two CPU exammple. We add ens7, eth2 respectivly.
PGDEV=/proc/net/pktgen/kpktgend_0
echo "Removing all devices"
pgset "rem_device_all"
echo "Adding ${NIC}"
pgset "add_device ${NIC}"
# device config
# delay 0 means maximum speed.
CLONE_SKB="clone_skb 1000000"
# NIC adds 4 bytes CRC
PKT_SIZE="pkt_size 64"
# COUNT 0 means forever
COUNT="count 0"
DELAY="delay 0"
PGDEV=/proc/net/pktgen/${NIC}
echo "Configuring $PGDEV"
pgset "$COUNT"
pgset "$CLONE_SKB"
pgset "$PKT_SIZE"
pgset "$DELAY"
pgset "dst ${DST_IP}"
pgset "dst_mac ${DST_MAC}"
# Time to run
PGDEV=/proc/net/pktgen/pgctrl
echo "Running... ctrl^C to stop"
pgset "start"
echo "Done"
# Result can be vieved in /proc/net/pktgen/eth[3,4]
▷ 将脚本开头的eth1改为发包对应的网卡 pktgen-dpdk # 固定ip固定mac set 0 dst ip 192.168.10.240 set 0 src ip 192.168.10.245/24 set 0 dst mac c8:1f:66:d7:58:ba set 0 src mac a0:36:9f:ec:4a:28 # 可变source ip可变source mac stop 0 range 0 src ip 192.168.0.1 192.168.0.1 192.168.200.200 0.0.0.1 range 0 dst ip 10.1.1.241 10.1.1.241 10.1.1.241 0.0.0.0 range 0 dst mac c8:1f:66:d7:58:ba c8:1f:66:d7:58:ba c8:1f:66:d7:58:ba 00:00:00:00:00:00 range 0 src mac a0:36:9f:ec:4a:28 a0:36:9f:ec:4a:28 a0:36:9f:ec:ff:ff 00:00:00:00:01:01 range 0 src port 100 100 65530 1 range 0 dst port 100 100 65530 1 range 0 size 64 64 64 0 enable 0 range enable 0 latency start 0 # 按50%的速率发包 set 0 rate 50 附. 参考文档 openstack关于sriov的限制 迁移 线速 以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持极客世界。 |
请发表评论