人工智能在网络流量安全智能分析系统中实现和验证人工智能

本文主要对网络流量安全智能分析系统中的AI关键技术应用及系统的实现和验证进行全面的阐述。本文通过研究实时流量的采集、存储、分析过程,构建安全数据分析模型,将智能化的分析方法应用到网络流量采集与分析中,提高网络威胁与违规行为的精准识别研判能力,从而能够及时发现并追踪溯源潜伏周期更长、攻击手段更加隐蔽的威胁,为应急响应与预警处置提供有力的数据支撑。

1AI在安全领域的应用

AI在安全领域的应用是当前国内外企业技术创新和应用创新的重点。中国工程院院士方滨兴指出了新技术和安全之间存在的两种关系:第一种是新技术服务于安全即新技术赋能安全,既可以服务于防御,也可以服务于攻击;第二种是新技术引入新的安全问题,即新技术和安全是伴生关系。AI作为新技术,既可以赋能网络安全,提升网络防护能力,也可以被恶意利用,增强攻击性和破坏影响力。同时,AI技术自身存在脆弱性,如果被攻击者利用,可能会引发新的安全风险。

2AI在安全领域应用的现状

3AI在网络流量智能分析中的应用

3.1系统功能架构

通过对积累的异常行为和网络攻击的数据特征进行深入研究,将研究结果用于网络流量深度检测,可以突破目前的瓶颈,增强对未知威胁的识别能力和上报能力。按照流程,网络安全流量智能分析系统需将采集到的数据进行处理后入库,然后从数据库中提取要分析的数据,使用智能分析模块进行分析,最终提供异常行为监测、威胁监测,以及数据共享配置管理。系统功能架构如图1所示。

图1功能架构

3.2系统软件架构

按照体系架构的设计,软件实现上划分为数据采集、数据汇入、存储计算、数据智能分析、安全应用5个部分。软件架构如图2所示。

图2系统软件架构

数据采集层通过探针实时接收全流量数据,并实时进行流量智能识别。收集到的数据,通过数据接入接口,进入数据汇入层。在数据汇入层实现数据的预处理、数据入库,并进行相应的数据治理,比如提供数据源的管理和监控。

存储计算层,提供分布式的存储与计算环境,以及资源调度机制。

数据智能分析层可以提供检索分析、智能安全分析和调查分析。其中的智能安全分析,可以在智能模型的基础上,提供关联分析、深度分析、行为分析、机器学习等分析类型。同时可以对模型进行统一的任务管理、调控和智能修正等操作。

安全应用层使用基础的智能分析工具,提供专项监测,如异常行为监测、威胁监测、安全监测,并提供数据共享的配置管理。

3.3系统关键技术

网络流量安全智能分析中,主要结合并应用的AI关键技术如下文所述。

3.3.1基于自学习的网络威胁特征轮廓扫描技术

流量自学习扫描是为了扫描出正常状态下的网络基线,在流量学习中最重要的是学习配置结构。学习配置结构是描述学习方式及学习结果应用方式,主要包含配置学习周期时长、学习次数(包括无限次)、扫描策略生成方式、扫描策略自动生成条件等。

3.3.2隐蔽恶意流量检测技术

很多恶意攻击者对安全规则、内控措施非常了解,他们很清楚哪种操作实施到哪种程度会触发报警。因此,恶意人员会通过降低非法操作行为的次数和规模,潜藏在正常流量中以避免被传统安全系统检测到,达到隐蔽攻击的目的,而传统的检测方式难以检测此类隐蔽威胁。隐蔽恶意流量检测技术通过利用长周期分流量行为进行构建,将行为特征进行横向与纵向对比,检测长期低频等隐蔽恶意流量行为。

3.3.3基于隐马尔科夫的行为序列建模技术

基于隐马尔科夫的行为序列建模技术首先提取网络流量数据中的行为特征作为当前被检测用户的行为特征;其次提取训练序列的行为特征,建立正常序列库,并训练序列的马尔科夫链状态集,计算该马尔科夫链状态的转移概率矩阵,以此来描述用户的正常行为;最后将被检测用户的行为特征与历史行为特征进行对比,判断当前行为是否为异常行为:如果两者的偏离超过一定阈值,则认为是异常的;如果两者的偏离在正常范围内,则认为正常。

3.3.4异常登陆行为检测技术

针对账号的异地登陆、频繁登陆进行检测,通过对安全域过滤、维度过滤、条件过滤等算子的研究,对异常登陆行为进行识别。

3.3.5恶意链接检测技术

常见的网络攻击中,恶意链接经常扮演着重要角色,并被广泛应用到各种类型的攻击中,如钓鱼、垃圾邮件、SQL注入以及恶意软件。传统的识别方法是基于黑名单检测和规则检测,但黑名单具有漏判严重、时效性低的缺点,而规则检测容易被攻击者绕过。恶意链接检测技术基于机器学习算法,通过分析恶意链接的特点提取关键特征进行训练,可以弥补黑名单和规则检测的不足。

3.3.6基于大数据的分布式关联分析技术

将异常流量、异常行为、潜在威胁等分析结果作为输入数据的同时,接入各种其他类型的数据,如安全日志、流量数据、资产数据、漏洞数据、威胁情报数据等,并使用基于大数据的分布式关联分析技术、图计算技术等,实现追踪溯源,以及实现高级持续性攻击、定向攻击等场景分析。

4系统的实现、演示和验证

4.1演示验证环境

为了验证网络流量安全智能分析系统的数据采集、存储、深度分析、智能识别威胁和实时监测异常流量的能力,需对网络流量安全智能分析系统进行功能验证与安全场景的演示验证。网络流量安全智能分析系统在实际验证过程中,部署于单位网络出口处。网络流量安全智能分析系统在演示验证环节,使用系统最小部署模式,如图3所示。

图3网络流量安全智能分析系统演示验证部署

4.2系统分析模型

通过针对网络特点进行安全场景的构建和对数据分析模型的研究,并综合运用通用的智能分析方法和威胁识别技术,如表1所示,构建了网络流量安全智能分析系统中常用的网络安全场景下的数据分析模型、实现思路和运用的智能算子的对应关系。

表1数据模型、实现思路和运用的智能算子对应表

4.3关键指标验证

5应用场景

本系统的研究成果可应用于以下场景:(1)面向大规模网络的全维流量智能分析。可进行分布式的、多网络节点的全维流量采集,由系统生成分析模型,自动感知网络明文流量中的异常行为、异常流量并及时报警,识别非法应用协议、网络攻击行为,提升用户应对应用系统异常行为的处理效率。(2)面向网络空间作战的未知威胁深度检测。利用该系统可提升未知威胁的发现能力,并且可以灵活扩展威胁识别算法,从而提高检测的准确性,并能够告警上报未知的恶意代码和异常行为。(3)面向高级持续性威胁的网络攻击溯源分析。系统使用智能化的数据模型从全流量数据中分析出攻击者的路径和所处的攻击阶段,对持续性威胁进行追踪和溯源分析。(4)全局网络安全预警。系统可对网内各个关键节点中的潜在恶意行为、攻击行为综合监测,对监测结果及时响应和上报,通过协同防御手段进行安全预警,实现全局防护。

6结语

本文将智能化分析方法应用到网络流量采集与分析中,可以提高复杂网络的实时监测能力,提高网络威胁与违规行为精准识别研判能力,能应对潜伏周期更长、攻击手段更加隐蔽的威胁。本文设计的网络流量安全智能分析系统能够及时发现安全威胁并追踪溯源,可以为应急响应与预警处置提供有力的数据支撑。本文方案的应用目标是达到网络流量分析的智能化,通过建立网络流量安全智能分析模型,自动感知网络明文流量中的异常行为、异常流量并及时报警,识别非法应用协议、网络攻击行为。

THE END
1.阿里云大数据&AI数据分析人工智能ODPS大数据阿里云大数据和AI产品服务。开放数据处理服务ODPS提供强大的数据分析和管理功能;开源大数据产品支持更加灵活地构建大数据平台;AI和机器学习产品提供AI工程平台和智算服务。https://www.aliyun.com/product/bigdata/apsarabigdata
2.AI数据分析工具排行榜,2024年最受欢迎的智能分析软件!在2024年,AI数据分析工具市场持续繁荣,涌现了众多受欢迎的智能分析软件。以下是10款在AI数据分析领域表现突出的工具: 1. WPS AI(集成于WPS Office) 亮点:虽然WPS AI可能不直接以独立的AI数据分析工具存在,但WPS Office套件中的AI功能可以显著提升数据分析的效率和准确性。WPS AI可能包含智能数据分析、预测建模等功能...https://ai.wps.cn/cms/6ZITFUGZ.html
3.AI足球预测软件足球大数据预测分析? AI足球大数据爬虫分析预测一体化项目(golang) 项目地址 https://gitee.com/aoe5188/foot image 项目简介 ? foot-parent 是一个集足球数据采集器,简单分析的项目. 程序采用golang开发,项目模块化结构清晰完整,非常容易入手并进行二次开发分析. AI球探为程序全自动处理,全程无人为参与干预足球分析预测程序. ...https://www.jianshu.com/p/ed748eae96c9/
1.速度收藏,年度最强AI神器合集来了!除此之外,还有一点特别牛,你可以发送链接给他,它会自动总结网页的内容并对其分析。这点已经暴打很多市面上的软件。而且它具备了直接生成论文分析、大纲、文档对话、笔记、翻译功能,能解决绝大部分阅读难题。 同时包阅还具备智能评估论文选题、分析开题报告、模拟答辩评审等实用功能,为你的科研提供全方位的帮助。 https://blog.csdn.net/MoreTools/article/details/143723224
2.ai软件评测报告深度学习平台竞争力对比分析简介人工智能ai软件哪个好:市场上最受欢迎的五款AI工具 在这个信息爆炸的时代,人工智能(AI)技术已经渗透到我们生活的方方面面,从智能助手到自动驾驶,从数据分析到图像识别。随着技术的不断进步,各种各样的ai软件涌现出来,其中包括深度学习平台、机器人开发工具、自然语言处理系统等。那么,在众多选择中,人工智能ai软件...https://www.86gfzk1jm.cn/shu-ma/465811.html
3.2024年不可错过的顶级人工智能数据分析工具开源地理空间基金会...利用多种大数据工具进行分析 全面的数据集成和管理 结论 对于希望利用数据的力量来推动增长并做出明智决策的企业来说,人工智能驱动的数据分析工具至关重要。 通过实施本文中提到的顶级人工智能数据分析工具,企业可以分析大量数据,识别趋势和模式,并获得宝贵的见解以改进其业务流程。无论是刚刚开始探索数据分析领域还是已经精...https://www.osgeo.cn/post/14ec8
4.AI大数据分析软件推荐:洞察数据背后的价值创业仆数据分析,不再是“技术宅”的专属 以前,大数据分析需要专业的技术和代码,只有少数人能够掌握。而现在,随着人工智能技术的飞速发展,许多AI大数据分析软件应运而生,让普通人也能轻松上手,挖掘数据背后的价值。 软件推荐: 1. Tableau: Tableau是一款功能强大的数据可视化工具,它可以将复杂的数据转化为清晰易懂的图表和...https://cyepu.com/55801.html
5.ai大数据分析软件人工智能数据分析Zoho Analytics 是Bi商业智能数据分析系统,支持ai大数据分析,您可提出问题并即时获得见解。Ask Zia 可以理解您模棱两可的问题并且根据背景信息给出答案。https://www.zoho.com.cn/analytics/zia/index.html
6.足球人工智能大数据,AI人工智能的发展趋势足球大数据ai智能推荐软件 国内做体育数据的哪些公司比较好 Ai人工智能预测竞彩 一、百度世界杯预测(AI大数据分析,揭秘世界杯胜负趋势) 1、百度世界杯预测(AI大数据分析,揭秘世界杯胜负趋势) 2、随着世界杯的临近,足球迷们都在热切地期待着这个全球最盛大的足球盛宴。而对于许多人来说,预测世界杯的胜负趋势是一件非常...http://www.qdnrbs.cn/news/content/2024-06/13/171_2528943.html
7.不止于AI绘画!盘点AI在15个领域的应用优设网网址:https://www.signal-ai.com/ 13. 大数据分析平台 Palantir Palantir 是一家美国的软件服务公司,以大数据分析出名,主要客户为政府机构和金融机构。 大数据分析:允许客户对大量的敏感数据进行分析,以防止欺诈,确保数据安全等,通常应用于的高度保密的政府项目及高价值商业项目。该技术已经为 JPMorgan 每年节约了数亿...https://www.uisdc.com/ai-to-b
8.ai分析股票软件哪个好用?智能ai行情分析股票手机app汇总作为一类集成了人工智能技术的金融分析工具,具有ai分析功能的股票app,通常是利用机器学习、深度学习、大数据分析等技术来辅助投资者进行股票市场的分析和预测。智能ai股票软件能够处理大量的历史交易数据,识别市场趋势,预测股价走势,并提供交易信号或策略建议。用户使用ai分析股票其目的是帮助投资者提高决策的准确性,优化投资...https://www.itmop.com/key/aifenxigupiaoapp/
9.大数据分析治理挖掘可视化分析工具与服务提供商美林数据是新一代国产一体化大数据分析与应用平台,为用户提供大数据分析,数据治理,数据挖掘,数据可视化分析于一体的服务,助力企业挖掘数据深层价值。https://www.asktempo.com/
10....全域数字零售AI大数据专家Nint任拓集团是中国较早向品牌客户提供电商大数据测量的数据服务机构。始终植根于数字零售领域,提供具增长洞见及决策价值的数据分析服务。http://www.ecdataway.com/
11.拼多多商家信息怎么采集?好用的拼多多商家数据采集软件推荐拼多多氧气站也是一款非常不错的拼多多信息采集软件。它可以帮助用户获取到拼多多商品、店铺、品牌、分类及时下架情况、补单概率等数据,也有全网商品扫描功能,非常实用方便。 3.拼多多大数据分析系统 拼多多大数据分析系统是集数据采集、分析、预测于一体的大数据分析应用。它能够准确掌握市场动态,发现市场机会,并提供快速精准的...https://www.shangyexinzhi.com/article/10615198.html
12.亚马逊关键词分析工具下载点心点心- 亚马逊大数据&AIGC商品关键词工具在浏览器中使用的扩展工具,这工具支持帮助商家优化标题关键词,打造更吸引客户的标题,欢迎需要的朋友下载使用。 介绍 Dimsim是一款通过AI与大数据分析优化亚马逊商品标题关键词,监控竞品与已上架商品标题关键词排名,帮助商家优化标题关键词,打造更吸引客户的标题,提高转换。 https://www.jb51.net/softs/867007.html
13.ai论文写作工具对比总之,AI论文写作工具的发展为科研工作者和创业者提供了更多的便利。未来,我们可以期待更加智能化、多语言支持、个性化的AI论文写作工具的出现。 五、ai大数据分析工具? 人工智能与大数据应用常用的软件有: 1、对于传统分析和商业统计来说,常用的软件工具有Excel、SPSS和SAS。 https://tool.a5.cn/article/show/77952.html
14.英特尔云上AI与数据分析加速智能创新面对上述 AI 落地挑战,将云计算与大数据分析和 AI 结合,云数智一体,可有效降低 AI 开发和使用门槛,为企业 AI 落地提供优选路径。 首先,云平台以规模化、集约化建设规避了人工智能所需算力、算法、数据等要素的高起点以及硬件、软件框架、平台等核心环节间的衔接难题。在算力方面,云平台构建计算集群可为单个用户创建...https://www.intel.cn/content/www/cn/zh/cloud-computing/ai-aa-cloud-based-platform-intelligent-innovation.html
15.稻草人彩大哥计划软件:基于AI技术辅助分析的全新玩法彩大哥计划软件可以进行技术分析,对当前市场热点和走势进行分析,挑选出最具潜力的购买方案。在这个过程中,彩大哥计划软件会根据AI算法进行分析和计算,从而给出最优的购买建议。 3、做号技巧 彩大哥计划软件可以为用户提供做号技巧,帮助用户更好地挑选号码。在挑选号码时,彩大哥计划软件会结合大数据分析和概率学原理进行...https://bbss.17500.cn/article/2023/09/07/10034401-1.html
16....occ辅助决策乘务派班实训仿真运营安全大数据分析施工...南京汉荣信息科技公司是一家专注于AI边缘计算、交通、物联网、存储、备份、云计算系统行业软硬件产品研发、信息化咨询服务的国家高新技术企业;核心技术:AI计算、大数据分析、机器视觉、多源感知、知识图谱、强化学习、人机交互、情感计算;核心产品:存储、超融合、分布式https://www.hrongit.com/