Linux 資料包生成器使用指南¶
啟用 CONFIG_NET_PKTGEN 以將 pktgen 編譯並構建為核心內建或模組。首選模組方式；如果需要，執行 modprobe pktgen。一旦執行，pktgen 會為每個 CPU 建立一個執行緒，並將其親和性繫結到該 CPU。監控和控制透過 /proc 進行。最簡單的方法是選擇一個合適的示例指令碼並進行配置。
在雙 CPU 上
ps aux | grep pkt
root 129 0.3 0.0 0 0 ? SW 2003 523:20 [kpktgend_0]
root 130 0.3 0.0 0 0 ? SW 2003 509:50 [kpktgend_1]
用於監控和控制，pktgen 建立
/proc/net/pktgen/pgctrl
/proc/net/pktgen/kpktgend_X
/proc/net/pktgen/ethX
為 NIC 調優以獲得最佳效能¶
預設的 NIC 設定（很可能）並未針對 pktgen 的人工過載型別基準測試進行調優，因為這可能會損害正常的用例。
特別是增加 NIC 中的 TX 環形緩衝區
# ethtool -G ethX tx 1024
更大的 TX 環形緩衝區可以提高 pktgen 的效能，但在一般情況下可能會造成損害，1) 因為 TX 環形緩衝區可能大於 CPU 的 L1/L2 快取，2) 因為它允許 NIC 硬體層中更多的排隊（這不利於緩衝區膨脹）。
不應貿然斷定硬體 TX 環形緩衝區中的資料包/描述符會導致延遲。驅動程式通常會因各種效能原因而延遲清理環形緩衝區，並且停滯在 TX 環形緩衝區中的資料包可能只是在等待清理。
這種清理問題尤其存在於 ixgbe 驅動程式（Intel 82599 晶片）中。此驅動程式 (ixgbe) 結合了 TX+RX 環形緩衝區清理，並且清理間隔受 ethtool --coalesce 引數“rx-usecs”設定的影響。
對於 ixgbe，例如使用“30”會產生約 33K 中斷/秒 (1/30*10^6)。
# ethtool -C ethX rx-usecs 30
核心執行緒¶
Pktgen 會為每個 CPU 建立一個執行緒，並將其親和性繫結到該 CPU。這透過 procfile /proc/net/pktgen/kpktgend_X 控制。
示例：/proc/net/pktgen/kpktgend_0
Running:
Stopped: eth4@0
Result: OK: add_device=eth4@0
最重要的是分配給執行緒的裝置。
兩個基本的執行緒命令是
add_device DEVICE@NAME -- 新增單個裝置
rem_device_all -- 移除所有關聯裝置
將裝置新增到執行緒時，會建立一個相應的 procfile，用於配置此裝置。因此，裝置名稱需要是唯一的。
為了支援將同一裝置新增到多個執行緒（這對於多佇列 NIC 很有用），裝置命名方案透過“@”進行了擴充套件：device@something
“@”之後的部分可以是任何內容，但通常使用執行緒號。
檢視裝置¶
“Params”部分包含配置資訊。“Current”部分包含執行統計資訊。結果在執行結束後或中斷後列印。示例
/proc/net/pktgen/eth4@0
Params: count 100000 min_pkt_size: 60 max_pkt_size: 60
frags: 0 delay: 0 clone_skb: 64 ifname: eth4@0
flows: 0 flowlen: 0
queue_map_min: 0 queue_map_max: 0
dst_min: 192.168.81.2 dst_max:
src_min: src_max:
src_mac: 90:e2:ba:0a:56:b4 dst_mac: 00:1b:21:3c:9d:f8
udp_src_min: 9 udp_src_max: 109 udp_dst_min: 9 udp_dst_max: 9
src_mac_count: 0 dst_mac_count: 0
Flags: UDPSRC_RND NO_TIMESTAMP QUEUE_MAP_CPU
Current:
pkts-sofar: 100000 errors: 0
started: 623913381008us stopped: 623913396439us idle: 25us
seq_num: 100001 cur_dst_mac_offset: 0 cur_src_mac_offset: 0
cur_saddr: 192.168.8.3 cur_daddr: 192.168.81.2
cur_udp_dst: 9 cur_udp_src: 42
cur_queue_map: 0
flows: 0
Result: OK: 15430(c15405+d25) usec, 100000 (60byte,0frags)
6480562pps 3110Mb/sec (3110669760bps) errors: 0
配置裝置¶
這透過 /proc 介面完成，最簡單的方法是透過示例指令碼中定義的 pgset。您需要指定 PGDEV 環境變數才能使用示例指令碼中的函式，例如：
export PGDEV=/proc/net/pktgen/eth4@0
source samples/pktgen/functions.sh
示例
pg_ctrl start starts injection.
pg_ctrl stop aborts injection. Also, ^C aborts generator.
pgset "clone_skb 1" sets the number of copies of the same packet
pgset "clone_skb 0" use single SKB for all transmits
pgset "burst 8" uses xmit_more API to queue 8 copies of the same
packet and update HW tx queue tail pointer once.
"burst 1" is the default
pgset "pkt_size 9014" sets packet size to 9014
pgset "frags 5" packet will consist of 5 fragments
pgset "count 200000" sets number of packets to send, set to zero
for continuous sends until explicitly stopped.
pgset "delay 5000" adds delay to hard_start_xmit(). nanoseconds
pgset "dst 10.0.0.1" sets IP destination address
(BEWARE! This generator is very aggressive!)
pgset "dst_min 10.0.0.1" Same as dst
pgset "dst_max 10.0.0.254" Set the maximum destination IP.
pgset "src_min 10.0.0.1" Set the minimum (or only) source IP.
pgset "src_max 10.0.0.254" Set the maximum source IP.
pgset "dst6 fec0::1" IPV6 destination address
pgset "src6 fec0::2" IPV6 source address
pgset "dstmac 00:00:00:00:00:00" sets MAC destination address
pgset "srcmac 00:00:00:00:00:00" sets MAC source address
pgset "queue_map_min 0" Sets the min value of tx queue interval
pgset "queue_map_max 7" Sets the max value of tx queue interval, for multiqueue devices
To select queue 1 of a given device,
use queue_map_min=1 and queue_map_max=1
pgset "src_mac_count 1" Sets the number of MACs we'll range through.
The 'minimum' MAC is what you set with srcmac.
pgset "dst_mac_count 1" Sets the number of MACs we'll range through.
The 'minimum' MAC is what you set with dstmac.
pgset "flag [name]" Set a flag to determine behaviour. Current flags
are: IPSRC_RND # IP source is random (between min/max)
IPDST_RND # IP destination is random
UDPSRC_RND, UDPDST_RND,
MACSRC_RND, MACDST_RND
TXSIZE_RND, IPV6,
MPLS_RND, VID_RND, SVID_RND
FLOW_SEQ,
QUEUE_MAP_RND # queue map random
QUEUE_MAP_CPU # queue map mirrors smp_processor_id()
UDPCSUM,
IPSEC # IPsec encapsulation (needs CONFIG_XFRM)
NODE_ALLOC # node specific memory allocation
NO_TIMESTAMP # disable timestamping
SHARED # enable shared SKB
pgset 'flag ![name]' Clear a flag to determine behaviour.
Note that you might need to use single quote in
interactive mode, so that your shell wouldn't expand
the specified flag as a history command.
pgset "spi [SPI_VALUE]" Set specific SA used to transform packet.
pgset "udp_src_min 9" set UDP source port min, If < udp_src_max, then
cycle through the port range.
pgset "udp_src_max 9" set UDP source port max.
pgset "udp_dst_min 9" set UDP destination port min, If < udp_dst_max, then
cycle through the port range.
pgset "udp_dst_max 9" set UDP destination port max.
pgset "mpls 0001000a,0002000a,0000000a" set MPLS labels (in this example
outer label=16,middle label=32,
inner label=0 (IPv4 NULL)) Note that
there must be no spaces between the
arguments. Leading zeros are required.
Do not set the bottom of stack bit,
that's done automatically. If you do
set the bottom of stack bit, that
indicates that you want to randomly
generate that address and the flag
MPLS_RND will be turned on. You
can have any mix of random and fixed
labels in the label stack.
pgset "mpls 0" turn off mpls (or any invalid argument works too!)
pgset "vlan_id 77" set VLAN ID 0-4095
pgset "vlan_p 3" set priority bit 0-7 (default 0)
pgset "vlan_cfi 0" set canonical format identifier 0-1 (default 0)
pgset "svlan_id 22" set SVLAN ID 0-4095
pgset "svlan_p 3" set priority bit 0-7 (default 0)
pgset "svlan_cfi 0" set canonical format identifier 0-1 (default 0)
pgset "vlan_id 9999" > 4095 remove vlan and svlan tags
pgset "svlan 9999" > 4095 remove svlan tag
pgset "tos XX" set former IPv4 TOS field (e.g. "tos 28" for AF11 no ECN, default 00)
pgset "traffic_class XX" set former IPv6 TRAFFIC CLASS (e.g. "traffic_class B8" for EF no ECN, default 00)
pgset "rate 300M" set rate to 300 Mb/s
pgset "ratep 1000000" set rate to 1Mpps
pgset "xmit_mode netif_receive" RX inject into stack netif_receive_skb()
Works with "burst" but not with "clone_skb".
Default xmit_mode is "start_xmit".
示例指令碼¶
samples/pktgen 目錄下有一系列 pktgen 教程指令碼和輔助工具。輔助檔案 parameters.sh 支援在所有示例指令碼中輕鬆且一致地解析引數。
使用示例和幫助
./pktgen_sample01_simple.sh -i eth4 -m 00:1B:21:3C:9D:F8 -d 192.168.8.2
用法：
./pktgen_sample01_simple.sh [-vx] -i ethX
-i : ($DEV) output interface/device (required)
-s : ($PKT_SIZE) packet size
-d : ($DEST_IP) destination IP. CIDR (e.g. 198.18.0.0/15) is also allowed
-m : ($DST_MAC) destination MAC-addr
-p : ($DST_PORT) destination PORT range (e.g. 433-444) is also allowed
-t : ($THREADS) threads to start
-f : ($F_THREAD) index of first thread (zero indexed CPU number)
-c : ($SKB_CLONE) SKB clones send before alloc new SKB
-n : ($COUNT) num messages to send per thread, 0 means indefinitely
-b : ($BURST) HW level bursting of SKBs
-v : ($VERBOSE) verbose
-x : ($DEBUG) debug
-6 : ($IP6) IPv6
-w : ($DELAY) Tx Delay value (ns)
-a : ($APPEND) Script will not reset generator's state, but will append its config
還列出了正在設定的全域性變數。例如，必需的介面/裝置引數“-i”設定變數 $DEV。複製 pktgen_sampleXX 指令碼並根據自己的需求進行修改。
中斷親和性¶
請注意，將裝置新增到特定 CPU 時，最好也分配 /proc/irq/XX/smp_affinity，以便 TX 中斷繫結到同一 CPU。這可以減少釋放 skbs 時的快取顛簸。
此外，使用裝置標誌 QUEUE_MAP_CPU，它將 SKB 的 TX 佇列對映到正在執行的執行緒的 CPU（直接來自 smp_processor_id()）。
啟用 IPsec¶
透過簡單設定即可啟用帶有 ESP 封裝和傳輸模式的預設 IPsec 轉換
pgset "flag IPSEC"
pgset "flows 1"
為了避免破壞現有使用 AH 型別和隧道模式的測試臺指令碼，您可以使用“pgset spi SPI_VALUE”來指定要使用的轉換模式。
當前命令和配置選項¶
Pgcontrol 命令:
start
stop
reset
執行緒命令:
add_device
rem_device_all
裝置命令:
count
clone_skb
burst
debug
frags
delay
src_mac_count
dst_mac_count
pkt_size
min_pkt_size
max_pkt_size
queue_map_min
queue_map_max
skb_priority
tos (ipv4)
traffic_class (ipv6)
mpls
udp_src_min
udp_src_max
udp_dst_min
udp_dst_max
node
flag
IPSRC_RND
IPDST_RND
UDPSRC_RND
UDPDST_RND
MACSRC_RND
MACDST_RND
TXSIZE_RND
IPV6
MPLS_RND
VID_RND
SVID_RND
FLOW_SEQ
QUEUE_MAP_RND
QUEUE_MAP_CPU
UDPCSUM
IPSEC
NODE_ALLOC
NO_TIMESTAMP
SHARED
spi (ipsec)
dst_min
dst_max
src_min
src_max
dst_mac
src_mac
clear_counters
src6
dst6
dst6_max
dst6_min
flows
flowlen
rate
ratep
xmit_mode <start_xmit|netif_receive>
vlan_cfi
vlan_id
vlan_p
svlan_cfi
svlan_id
svlan_p
參考資料
ftp://robur.slu.se/pub/Linux/net-development/pktgen-testing/
ftp://robur.slu.se/pub/Linux/net-development/pktgen-testing/examples/
2004 年埃爾朗根 Linux-Kongress 的論文。- ftp://robur.slu.se/pub/Linux/net-development/pktgen-testing/pktgen_paper.pdf
致謝
感謝 Grant Grundler 在 IA-64 和 parisc 上的測試，以及 Harald Welte、Lennert Buytenhek、Stephen Hemminger、Andi Kleen、Dave Miller 和許多其他人。
祝您在 Linux 網路開發中好運。