自动驾驶网络?

前几天和发布自动驾驶网络的某司领导聊的时候,他提到过很多公司对于Telemetry只用来做可视化,很少做分析,我只是礼节上的点点头,而事实上这些AI分析自动优化的事情
,我已经两年前就做完了,当年在某司创新大赛拿奖的视频也放出来吧,反正竞品都有了就不保密了,不知道华为做ADN用了多少人
,思科做这整个项目从架构到代码到上面AI模型的训练数据分析到前端UI就我一个人完成的~ 当然视频是我很棒的好基友艺术家做的~
整体架构的设计如下:

自动驾驶网络?

来看看华为同样的ADN架构,当然需要强调的是我认为华为做的这东西真的也不错,至少概念上很先进,代码上没用过不知道。但是还是问题想的不够大,需要更加大气一点,另外同样的想法从一开始被所有人怼,到被行业接受,我是打心底里的高兴的~

自动驾驶网络?

其实对于遥测数据的利用,还有很多有趣的场景,这个项目的本质是智能分发,整个对模型的管控上还有很多有趣的技术,其实最关键的还是如何对遥测数据产生商业洞察。

例如前几天回答华为10个数学问题第六题的内容可以参考右边这文:
The Art of Telemetry 
几年前我就有工程样品演示了:


当年我的野心可不是简单的AI遥测,而是构建一个高性能的分布式智能处理框架,网络包是数据,用户数据也是数据,不光网络上玩AIOps,数据处理上构建物联网场景吊打Flink的流计算平台,就像某司的杰出工程师说的那样,数据需要在尽量靠近源的地方处理。所以这个项目大佬们的评价如下:


其网络安全相关的案例几个月前某文提及过的
“人工智能” 还是 “人工智障”(1)
前半段在调侃AI,
摘抄一部分
跟网络相关的


网络故障分析(Network Performance Assurance)

这一段就是zartbot.AI去调戏zartbot.Net做的,也就是所谓的AIOps

本质上机器学习的主要就是解决两类问题:分类(Classification)和回归(Regression),对于网络管理员而言,通过回归分析可以对网络状态进行一个分数度量,而分类则是通过决策树等一系列算法自动推理出故障源并分析出故障原因,只贴个图。

是不是一下子就省掉了大量的琐碎的运维工作时间,至于里面的模型,用了LightGBM或者XGBOOST做的决策树,其它的就无可奉告了。我只告诉你这些功能全部做到了路由器上,无论是低端的千元机到高端的1M USD的大机器,我可是第一个在路由器上直接玩神经网络的人哦~

而且我还是那个传说中的全栈工程师(zartbot.Front/ zartbot.Backend/zartbot.Net/ zartbot.AM/zartbot.Cook) ,我绝对不叫苦,还免费送AI(zartbot.AI)模型训练, 老板你们财务室还缺人不?zartbot.Fin可以做财务和当基金经理~


小小淘气一些,因为怕大家看累了,回到正题。
网络安全分析(Security Assurance)

与以往的破坏行为不同,现在网络安全的最大威胁来自于勒索,常见的做法是让受控主机和C&C(Command and Control,简称C2)主机进行通信并接受控制,勒索的触发都需要涉及如何和C2通信。C2自然会是那种过街老鼠,东躲西藏,通常的做法是按照某种特定的算法生成一个DNS域名,通过查询获得地址,例如wannacry所采用的域名。

那么是否能够通过深度学习来学会这些域名规则呢?我们把Alexa的前100M个网站作为白名单, 360等网站收集的数据作为黑名单,来训练一个模型就行了啊

如上图所示,白名单在左,黑名单在右,完全转换成一串数字了吧。训练很简单LSTM炼丹就好了。参数都不用多调整。

这样一台能够自动发现Malicious Host的路由器就诞生了,所有的功能都可以在路由器上完成,DNS报文DPI,完了送模型推理,发现问题直接下ACL封禁~ 当然还有一种办法就是买某司的OpenDNS服务,自带了这些功能~

异常检测

其实各行各业用的最多的便是异常检测和预测性检验/预测性运维,对于一些传感器的参数进行异常预测,例如金融中高频交易常见的对异常订单的预测,这些地方可以使用传统的时间序列分析,当然也有现代的方法就是RNN去拟合。

常见的实现是Facebook的Prophet:https://facebook.github.io/prophet/

而针对金融行业常用的就是ARIMA这样的模型计算自回归,具体可以参考下面这本书

一些较为简单的场景,特别是很多运维数据具有季节性周期时,还可以Seasonal Decompose一类的算法,分离趋势和周期性波动,对于系统容量预测和运维异常(观测残差)等非常有用,下图大概是我8年前做的一个实验

要想领先整个行业五六年的,欢迎找我商讨技术扶贫事宜~ 喵喵~

自动驾驶网络?》来自互联网,仅为收藏学习,如侵权请联系删除。本文URL:http://www.hashtobe.com/353.html