在数字化浪潮的推动下,AI技术正以前所未有的速度渗透到各行各业,成为推动社会进步的重要力量,并同步革新企业组织模式,以此催化企业实现从技术、产品到组织的全方位立体化的转型升级。AI将如何重塑现有的生产关系?我们又需要如何利用AI技术在现有的业务环节提高效率?
智能提效:生成式AI蚂蚁智能可观测平台
产品AI化趋势不可避免,蚂蚁集团的智能可观测平台作为技术革新的前沿阵地,很早就开始思考生成式AI在可观测领域有哪些应用?可观测性加上生成式AI究竟能给我们带来什么?
陈真认为,生成式AI主要能从以下三个方面给可观测产品带来较大的提升:
从GUI(图形用户界面)到LUI(对话驱动),通过对话与数据交互。
优化流程,提高稳定性,比如可以利用可观测性平台进行故障恢复定位和界定。
降低门槛,由于我们的业务越来越复杂,多元用工的层面也会随之出现,让非专业人士也能参与到运维中来。
蚂蚁的可观测性平台其业务涵盖两大核心部分:Antmonitor和HoloInsight。Antmonitor作为集团内部的可观测产品,主要针对内部规模化和复杂运维场景,处理百万级容器和每分钟数十TB的数据量。而HoloInsight则是近两年孵化的新产品,它轻量化、多样化,旨在服务于蚂蚁生态及开源社区,特别适用于出海业务、小站点业务和支付宝小程序云等生态业务。
图片面对业务的快速发展和技术的不断演进,蚂蚁可观测平台遇到了一系列挑战。其中包括模型推理能力的限制、输入限制以及多模态数据处理能力不足等。为了解决这些问题,团队采取了专注于核心场景的策略,并采用单场景模式进行深入探索,有效提升了错误日志分析、时序数据获取和告警处理的效率。
Mpilot技术:智能观测的实践与应用
Mpilot是蚂蚁智能可观测平台的关键组成部分,它结合了生成式AI技术,通过三个主要的助手agent——时序助手、日志助手和告警助手——来提供服务。这些助手基于蚂蚁内部的百灵大模型和向量数据库运行,旨在将智能助手嵌入到用户的工作流中,提升效率。
Mpilot的技术架构包括Antmonitor、MaaS函数插件服务和Ceresdb时序存储等组件的协同工作,为智能告警和故障恢复提供了强有力的支持。Mpilot的技术架构由以下几个关键组成部分构成:
时序助手:专注于监控指标分析,它通过一个定制的SQL模型,允许用户以自然语言的方式查询和分析时序数据。这个模型经过大量内部数据集和业界标准数据集的训练,能够理解和执行复杂的查询需求。
日志助手:提供应用错误日志的解读,它基于蚂蚁内部的日志数据和外部数据集,通过SFT(SupervisedFine-Tuning)微调得到大模型,帮助快速定位和解决问题。
告警助手:结合智能规则和大模型处理,优化告警流程,减少人工干预,提升告警处理的效率和准确性。
4.LLM+向量数据库:利用大型语言模型(LLM)和向量数据库(向量数据库)的结合,Mpilot能够处理复杂的数据检索和生成任务,提供精准的数据分析和预测。
MaaS函数插件服务:作为工具智能体的角色,提供了一系列的原子级工具能力,如FullGC处理、Dump分析等,通过API调用简化了运维操作。
Mpilot的应用场景覆盖了智能观测的多个方面:
故障排查:用户可以通过对话方式快速获取故障信息和解决方案,Mpilot能够解析错误日志并提供综合解读,包括错误原因、处理手段和代码定位。
性能优化:在性能问题上,Mpilot能够分析时序数据,帮助用户识别性能瓶颈,如CPU利用率的异常峰值,并提供优化建议。
业务决策支持:通过分析业务指标,Mpilot能够辅助业务决策,例如通过用户在客户端的行为数据来优化产品体验。
自动化运维:结合MaaS平台的插件服务,Mpilot能够实现自动化运维任务,如在检测到特定错误模式时自动重启服务。
通过Mpilot的不断迭代和优化,蚂蚁集团的智能可观测平台将更好地服务于内部和外部的业务需求,推动智能运维向更高水平发展。
HoloInsight开源产品:技术共享与生态构建
HoloInsight是蚂蚁集团推出的一款全功能的开源可观测性产品,它集数据采集、洞察分析、智能运维于一体。
HoloInsight的设计理念是服务于小站点和生态场景,特别适用于支付宝小程序云等轻量级业务。同时支付宝小程序云也为支付宝小程序生态提供了基础设施支持,并将这套监控产品以SaaS形式进行输出。
蚂蚁集团的智能可观测平台通过不断的技术创新和开放合作,正在重塑智能观测的交互模式,推动行业的发展。随着AI技术的不断进步,我们有理由相信,蚂蚁集团将在智能应用的新篇章中扮演更加重要的角色。
AICon全球人工智能开发与应用大会暨大模型应用生态展将于5月17日正式开幕,本次大会主题为「智能未来,探索AI无限可能」。如您感兴趣,可点击「阅读原文」查看更多详情。
今天是会议9折购票阶段,购票或咨询其他问题请联系票务同学:13269078023,或扫描上方二维码添加大会福利官,可领取福利资料包。