开源一个云环境网络流量镜像项目 Packet-Agent（参与送 PS4）

[joocejie]

项目背景

  传统网络数据分析会在交换机上配置网络数据镜像， 将 Packet 复制后发送到目标机器，实现网络流量镜像的功能。
  而在云平台上，目前网络数据采集还没有统一的方案。针对私有云平台，目前有流表数据包复制采集、在 hypervisor 上监听采集、vmware 平台分布式虚交换机配置采集、libpcap 抓包采集等方案。
  对于 vmware 平台分布式虚交换机配置采集的方案，性能较好，不占用客户机资源，但其属于商业产品，且只适用于购买 vmware 私有云用户；而在 hypervisor 上监听采集，目前有产品开发，性能较好，但只适用于 OpenStack 私有云；采用 OVS 流表方案，优势是免费，不占用客户机资源，但是配置复杂，且只能用于 OpenStack 私有云。
  因此，开发基于 libpcap + GRE 封装转发的应用，或许是云平台目前最优的网络流量镜像方案。其使用简单、开源、适用于各类公有云和私有云。

Packet-Agent 简介

  Netis Packet Agent ( https://github.com/Netis/packet-agent) 基于 libpcap 技术，从业务网卡抓包，进行 GRE 封装后将采集到的数据包发送到另一台远端机器，供分析使用。

Docker Kubernetes 支持

  Packet-Agent 对 Kubernetes 也提供了支持方案。简单来说，Packet-Agent 封装成容器后，与需要监控的业务容器放在同一个 K8S Pod 中，与其共享网络层并抓包镜像网络流量。
  具体方案见项目文档：K8S_traffic_mirror

参与 Packet-Agent 项目

  欢迎大家参与此项目，包括 star, fork, 提交 pull-request, 报告 bug, 提出任何意见或建议，或者将该项目介绍给相关的朋友。衷心感谢。

抽奖回馈社区

  为感谢大家的支持，抽奖送一台 PS4 主机，抽奖方法如下：

1. 在这个帖子下面回复参与讨论。
2. 获奖资格：从现在起到 2019/09/18 23:59:59 参与讨论的前 500 名用户具有获奖资格。
3. 中奖号码 = 2019/09/19 日 A 股大盘收盘点数 * 100 % 所有具有获奖资格的用户排序去除重复后的总数（'*'是乘法，'%'是数学取余数）
4. 比如：有 @y_user @x_user @z_user @x_user 3 个用户依次回复了 4 次，那么所有具有获奖资格的用户排序去除重复后就是 @x_user @y_user @z_user，分配给他们的抽奖号码依次是 0，1，2。假设 A 股收盘点数是 3012.34 点，那么 3012.34 * 100 % 3，中奖号码就是 1，中奖用户就是 @y_user
5. 提示：因为会排序去重，多次回复不会增加中奖概率。

前 500 位名单如下，依次编号 0~499：

0hey0：编号 0
0ps：编号 1
0x3f3f
1005gel
109109
12
123s
1more
1rror
284376485
3CH0
402645707
40huo
49degree
7gugu
810244966
8629
99911a
AJDX3906
AaronLiu00
Ahs
Ahy
AidenChen
AlexaZhou
AmadeusGhost
AnonymousM
Believer
BoiledEgg
BriFuture
ChenXuting
ChristopherWu
CoCoMcRee
Coande
CodeWind
CrazyRain0001
Cyron
Despacito
DrJoseph
DreamSpace
E1n
ESeanZ
Famio
Flyerwzb
FuryBean
FuturesXu
G1n233
GM
Hauserkk
Hugehard
IDCFAN
ITJoker
Isight
JKing
JL1990
JasperYanky
Jiuyu
Joker3120
JunkLeo
JusticeShi
Juszoe
KasuganoSoras
Keyes
Kimiato
KingPL
Kinnice
LWXYFER
LXVC
LazYFire
Licsber
LinusTor
Lisylfn
LittleYangYang
MITOO
Macolor21
MiaRunis
Mikewu
MioAkiyama
Motoi
MrMario
MyFaith
Nasei
NoirStrike
OrangeM21
Orenoid
PeterPig
PickMio
PlayByMyself
PyCode
RanchoTuring
Realucas
Rehtt
Rheinmetal
SaberJack
Sanko
Saszr
Shunte
SmallZheng
Suvigotimor
TangCuYu2333
Tenlp
TheWalkingDead
Themyth
Tink
Tong16
UnknownR
Vanctol
VermouthcZzz
WhyLiam
Wien
WilliamYang
XSG
YFeei
YenvY
Yorkzhu
Zainxu
ZiLong
Zsh110
Zzdex
aWangami
aaaaaaaaa
abelce
actar
acz154
ahaxzh
alexzhan
alikesi
allencloud
alpha2016
alschw
anjiannian
anoper
archknight
arfaWong
aru
atan
az422
azh7138m
azuginnen
b1gCi
b1rdb0y
baixiaoyu2997
blueset
bobsam
bolshevik
bomb77
bullettrain1433
buried
bxb100
byron
c
c0878
carbon
caserest
cbangchenLL7
cc3630
chanots
chashao
chinafeng
chinvo
chuanqirenwu
chy373180
cjc2017
cjpjxjx
cmllwxxl
cnbattle
co3site
codereric
controller
coolair
cornelia
corningsun
cosmo
crabtsk
crs0910
csx163
cxh2000210
cxy1234
cyssxt
d5
dabaibai
dewi
dixeran
dontbesad
dream7758522
drlalll
duola
einvince
elbertzhu
epicSoldier
eptwd
everydiao
ezioruan
falcon05
fatelight
fathuman
fcj558
feifan00x
felixcode
fghshunzi
fhvch：编号 199

fire2y：编号 200
fishofcat
flxxy
fo3xx
frostcake
gIrl1990
galenzhao
gangsta
gaobh
gcod
gdcbhtd
geekzjj
gleox
goodryb
gotounix
gstqc
guoluwei
gxvv
h4lt
hangvane
haofly
harryge
harryge01
hebin
hebingchang
hedys
hfutzj
hillw4h
hohoho
huadi
huishu
huiwl
hzwjz
i0error
iAcn
iThink
iakisey
iamalive2008
icekingcy
ifulikeweirdo
il1707
ilixin
illl
imNull
imay
ittianyu
iture
ivanyin
iwtbauh
javashell
jaylong
jerrodpoole
jiang123574
jiangming1399
jiexixijie
jiezhi
jimages
jjxh
jkbspin
johnnie502
joocejie
jsdtxm
jsnjfz
jsonzz
just1
justin2018
kaixuan1901
kakudesu
kalagxw
kebyn
killeder
killerzhangsan
koalaMagic
kohos
koromon
kraymond
ksedz
kukat
kutear
laowei222
ldm0
leafleave
lee82014312
leesh853761
lilihangzhou
linpm
litao3rd
littleghosty
liu19931020
liujiajun1999
liuymf
livexia
lixile
ljlljl0
lmaq
lockerhyz
lostexile
loveyu
lqzhgood
lrvy
lscho
luckybo
luoqing1477
luozic
lycc
lyuehh
lzy4happy
manhere
maohhgg
maooyer
marsLeo
mason961125
meeken
menyakun
mhcyong
ming7435
miragetu
mlhadoop
moln
molvqingtai
monkey2
moonrailgun
morethansean
moryxsw
mosesyou
movax21h
mpb
mrcn
mulei200
mulu
mymike
mynamewang0
mywaiting
n37r06u3
nameldk
natforum
nomoon
nooper
oIMOo
octobersnow
okjb
oovveeaarr
orcinusorca
orient
pandachow
phithon
pinkward
plaknight
poison123
polythene
ponder
ptlkStar
qdpoboy
qiangmin
qinghon
qmake
qq29701
qq625692420
raffaellolin
rainfox
ranleng
rapperx2
reticentfat
richard1122
rinsingw
rjie2008
rosu
ruiyinjinqu
runningding
ryV60s
saberlove
salmon5
scoful
sdandroid
select
sep9999
set01
setsena
sevenphp
sgq1128
shadowyue
shdcn
shell314
shishen10
shuaizi
sike03
siknet
silaike
silenceboychen
singerll
sixm
slwl123
smilzman
sniperking1234
songjiaxin2008
spemoon
squallsdjl
sreal
st4rg4z3r
standin000：编号 399

starrycat：编号 400
stayreal
steptodream
stevenbipt
sun522198558
suyuyu
swulling
syy
tailaqumos
tangtj
test23
tetora
tf141
tfdetang
thoutherKai
thulof
tingchina
tongz
tookbra
totopo
tsukiikekaoru
tt0411
tuot
tyhunter
tyx1703
uhian
unknownservice
uptime
vast0906
vcinex
vipdog73
vipwpcom
visitant
vjnjc
vstar
wangxxxing
wanyulaowang
weixingna
whtsky
wingoo
wlw0327
wojfsdj
wph95
wuYin
wwek
wy53
wzw
x2ve
xddxdd
xduanx
xiangchen2011
xianxianyu
xiaobanlong
xiaodog
xiaome
xiaonec
xiazero
xiazhiisgood
xiongbiao
xiri
xiubin
xml123
xmoon
xrds7986
xsephiroth
xuc
xuecan
xuqianyu
y547679519
yangfan1999
yatestxw
yeya24
ylhawj
ysicing
ytlm
yufj
yukiww233
yycpro
yyork
yzyun08
z919126592
zavieryip
zealinux
zenze
zerozz
zhangqilin
zhchyu999
zhengjian
zhensjoke
zhouyg
zhuawadao
zjx1993
zongwan
zpfhbyx
zsdroid
ztnuaa
zvcs
zytomorrow
zzmstring
zzw1998：编号 499

[JKing]

wow 不错哦

[killerzhangsan]

不知道作用是什么，对什么业务有什么好处

[anoper]

分母+1

[jsonzz]

测试环境可以回放生产环境的真实的流量，不错

[einvince]

我可以抢救一下

[Nasei]

缺一台 ps4 达成全机种成就(逃

[Famio]

分母还来得及

[Coande]

祝越来越好

[1rror]

6

[uptime]

500 之前排个队

[archknight]

400 前分母+1

[KasuganoSoras]

试试运气，感觉不错

[vjnjc]

还在 500 名内。
本来以为是要贡献代码才有资格参与 ps4 抽奖，没想到是回复啊。。。
用法看不太懂啊，是不是 copy 流量往第二台机器上发？

[oIMOo]

从产生 idea 到作品诞生，是个很有成就感的过程

[huiwl]

继续加一，祝越来越好

[raffaellolin]

虽然我不了解，可是听说有 ps4 可以送给我男朋友我就来劲了

[jiexixijie]

分子.jpg

[ldm0]

bd （ doge

[Jiuyu]

增加分母～

[Mikewu]

来了来了

[G1n233]

抓住机会（

[Lisylfn]

成为分母

[h4lt]

这个业务上正好有需求。
学习了。

[huishu]

分母来了。

[gleox]

看起来和[RawCap.exe]( https://www.netresec.com/?page=rawcap)功能类似，建议设备的命令行参数可以参考下 RawCap，更加友好些。提供了多个选择，还跨平台，支持下。

[phithon]

机会？

[AmadeusGhost]

分母+1

[lilihangzhou]

分母++

[livexia]

还可以成为分母

[Yorkzhu]

分母++

[tt0411]

还在 500 内, 加油~

[Apllex]

增强

[1more]

分母加 1

[rjie2008]

分母加 1

[tingchina]

看起来不错

[Themyth]

我没想到这个可以干嘛用呢？是为了分析流量么？

[PeterPig]

分母加一

[Hugehard]

先回复，然后慢慢看前面说了啥

[Joker3120]

分母+1

[fghshunzi]

分母+1

[Sanko]

分母

[dream7758522]

加油

[0ps]

凑一下

[zzw1998]

分母！

[ztnuaa]

分母

[akafeng]

分母！

[zhuawadao]

厉害了

[rosu]

分母+1

[syy]

分母+1

[hebingchang]

分母+1

[thoutherKai]

分母+1

[jiangming1399]

我要当分子！

[icekingcy]

算法有意思 项目未来可能用得上

[0hey0]

分母分子啥的不重要，参与感最重要 /狗头

[hzwjz]

真的嘛…我会不会是那个分子

[tsukiikekaoru]

期待一个新版

[DreamSpace]

拉低中奖率

[Orenoid]

+1

[xiongbiao]

因吹斯听

[kohos]

感觉可以用来抓包调试一些不加密的接口

[jerrodpoole]

支持

[joocejie]

@iwtbauh 我理解 tcpdump 的方法可以把包的 IP/Port/Protocol 等 meta 信息送到远端，对包的完整 payload 信息处理不好。如果我理解的不对，请指正。

[joocejie]

@steptodream Packet-Agent 只负责抓取，不包含分析的部分。

[joocejie]

@n37r06u3 友商前社员你好。

[joocejie]

@abelce 默认所有包都抓，支持 libpcap 的 bpf 语法过滤包。流量在单 CPU 负载不满的情况下基本不丢包。

[joocejie]

@rinsingw true

[joocejie]

@killerzhangsan 见 165 楼。我们主要是做实时业务监控。

[joocejie]

@vjnjc 可以这么理解

[joocejie]

@gleox 谢谢，我参考一下。

[joocejie]

@Themyth 是的，分析流量做业务监控。当然你也可以用作其他用途。

[kalagxw]

不错，看起来软路由上可以用

[49degree]

这样做，分析成本太高了吧

[BriFuture]

继微博之后又一抽奖工具

[iwtbauh]

@joocejie #362

tcpdump 也可以通过 -s 0 参数记录 payload 吧，我想问的是这个软件比我之前提到的方案（组合现有程序）有什么优势。我以前就 tcpdump 过远程主机流量转发给本地工作站的 Wireshark 分析流量。

[NoirStrike]

分母~

[qq29701]

这个不错 Mark 一下收藏

[lee82014312]

没得说，赶紧拉低中奖概率

[poison123]

分母分母

[cjpjxjx]

万一中了呢

[ylhawj]

看起来不错，支持一下

[aru]

万一中了呢

[mymike]

看到了 psps4 支持一下

[dixeran]

当分子

[qmake]

哈哈 好东西 有时间要看一看

[crs0910]

项目看不懂还可以学习下抽奖方法

[Vanctol]

支持支持

[xddxdd]

尝试成为分子

[rainfox]

支持一下

[lscho]

表示看不懂

[tuot]

不错诶，支持，研究一下

[alpha2016]

NBNB

[CodeWind]

参与一下

[vast0906]

np，支持一波

[leesh853761]

这活动不错，我来参与一下

[frostcake]

支持支持

[meeken]

前来成为分子

[xml123]

第一次见抽这么贵的礼物的……

[loveyu]

PS4 我来啦

[zenze]

好像还没到五百 凑分子

[hangvane]

万一呢