北极星智能电网在线讯:自2023年9月发布行业首个自主可控电力行业大模型大瓦特、模型即服务(MaaS)人工智能创新平台以来,南方电网公司已形成智能巡检、智能客服、负荷预测等多个核心产品,覆盖输电、变电、配电、调度、客服、规划等十余个领域百余个应用场景,大模型、小模型和智能体的大瓦特电力特色模型体系已见雏形。8月16日,南方电网公司举办大瓦特应用推广会,南网报记者深入采访,对大瓦特模型体系、典型应用案例进行报道,为公司各单位更方便快捷使用平台及大模型提供经验参考。
——编者
L0 基础大模型
(NLP大模型、CV大模型、预测大模型、多模态大模型、科学计算大模型)
结合各业务域专业知识库,包括规范、标准、手册等训练生成
L1 业务域大模型
进一步结合具体业务场景和领域专家知识,通过大模型微调构建
L2 场景大模型
8月16日,南方电网公司大瓦特应用推广会在广州举办。会上,南网数字集团、广东电网公司、广西电网公司、广州供电局等单位先后生动展示了公司大瓦特模型体系、人工智能创新平台服务能力和公司大瓦特典型应用场景;公司数字化部就大瓦特推广共建指引做了相关说明。
未来,南方电网公司将统筹各方力量在统一大模型底座、统一平台和统一样本管理等基础上,合力打造大瓦特模型体系,赋能公司高质量发展。
大瓦特如何赋能业务?
提供算力+数据+模型各种服务
对于一线业务人员来说,大瓦特模型体系切实带来了效率提升。通过广东电网公司建设的大瓦特电力智能客服大模型,广东电网客服中心已实现高频业务“机器代人”率达89.7%;广州供电局建设的大瓦特配网巡视场景大模型,能高效识别出鸟巢、飘挂物、瓷质绝缘子破损等配网典型缺陷隐患,整体对积水渗漏、小动物侵扰等异常识别率达80%以上。
大瓦特模型体系赋能安全生产、系统运行和客户服务等领域转型变革的故事还有很多,模型不仅帮助员工进行输电线路缺陷识别,准确评估输电走廊山火,还能完成变电站表计智能读数、抽水蓄能电站智能巡维、生产现场违章作业监控、电力系统负荷预测等。
这一切是怎么做到的?南网数字集团人工智能公司副总经理梁寿愚总结,大瓦特人工智能创新平台可以向公司内部大模型开发主体提供全套的大模型开发工具链,提供算力、数据、模型服务;开发人员可通过大瓦特的微调、提示词工程、知识增强等能力实现各种具体功能。
算力、数据、模型是人工智能发展的基石。具体来讲,算力是人工智能技术发展的动力来源,为人工智能提供海量数据处理运算、模型训练推理能力。目前公司共建成总算力192P,支持华为MindSpore、百度飞桨(Paddle-Paddle)等自主可控人工智能计算框架,开发人员在L1、L2级大模型开发建设中均可申请相应算力。
数据是孵化模型的关键原材料。用于模型训练的数据量越大、质量越高,模型的能力越强。公司已汇聚了数据集图片4180万张、语音5390小时、大模型训练语料超3T,数据涵盖电力系统发、输、变、配、用、调等电力业务全域数据集。开发人员可以通过申请获取精标数据集资源及数据管理、多场景数据标注服务。
模型服务方面,公司已开放共享40余个优秀模型,覆盖通用自然语言、计算机视觉等多领域的模型,涵盖电力系统的发、输、变、配、用、调等电力业务全域,开发人员可以体验、学习、交流、二次开发,以及低代码建模。
平台的AI飞轮功能还可以实现算法工程化、全网监控算法组件和资源。“算法工程化即一键封装、部署、迭代。”梁寿愚介绍,“具体而言,开发好的算法可以直接封装完毕,自动部署到网省两地边缘集群服务器及智能网关、智能摄像头等端侧设备;本地采集的数据也可实时上传到云端平台,实现模型迭代闭环,不断提升模型准确率。”
会议现场,梁寿愚还详细展示了如何通过大瓦特微调、提示词工程、知识增强等技术实现各种具体功能。
“比如在办公领域,大瓦特可通过自动语音识别模型将音频转录成文字并自动纠错,再调动相应模型生成会议纪要,这便是会议纪要智能体。”梁寿愚说,“智能体是人工智能转换成生产力最有效的途径。要完全释放其能力,仍有许多工作要推进。”
大瓦特模型体系如何建设?
统一认识,开放共享,加强统筹协同
大模型开发建设投入巨大,需要非常专业的人才和资源支持。如果同类型场景都要从零开始收集、标注数据、训练模型,有如重复“造车轮子”,是对资源的极大浪费。因此,在大模型开发浪潮中,如腾讯、中国电信等企业都在部署统一的模型体系。
大瓦特模型体系开发中也面临这个问题。如何统筹资源,让人工智能技术更好地赋能公司高质量发展也成为本次会议的重要关键词。
南方电网公司数字化部副总经理余芸介绍,大瓦特模型体系的建设一定要坚持创新驱动、场景牵引、架构统一、自主可控、品牌统一、共享开放六个原则。“我们一定要做好大瓦特这个公司的人工智能大模型品牌,存量大模型应逐步纳入大瓦特大模型体系。同时要统一大瓦特大模型技术底座、统一训练算力建设、统一数据样本库管理、统一基于人工智能创新平台研发,避免低水平重复建设和资源浪费。”余芸说。
具体而言,在算力上,统一布局训练算力,集群化建设推理算力。在数据上,建立人工智能数据管理机制,统一样本数据标注技术规范,基于人工智能创新平台开展数据标注,推动全量模型接入AI飞轮。
在模型建设上,明确由公司数字化部统筹建设L0级基础大模型,今年除了迭代已建成的通用自然语言、计算机视觉大模型外,还将启动科学计算、预测和多模台大模型建设;L1级业务域大模型则由公司各业务部门牵头建设,今年将完成人资、政研、输电、变电、营销、调度、安监等专业领域的大模型;L2级场景大模型由场景落地单位建设,今年将完成智能写作、“1+N”作业风险管控应用、新能源功率预测等7个场景示范工程。为避免重复建设造成资源浪费,场景建设将按照统一规则开展,从需求开始做好统筹,探索通过赛马制确定发榜场景,柔性团队机制组建场景攻关团队,“揭榜挂帅”确定中榜单位开展场景建设。
会上还发布了首批公司15个业务场景榜单,包括会议纪要智能助手、顺易充智能充电服务等多个场景,公司系统各单位可结合榜单业务覆盖范围、业务痛点迫切程度、技术成熟度等来“揭榜”。未来,公司将滚动推出场景榜单。
“未来,大瓦特模型体系一定是一个架构统一、开放共享、协作共建的体系,需要大家齐心协力,发挥各自优势,统筹挖掘好算力、数据、模型资源,在这轮人工智能技术革命中,用技术更好地赋能公司高质量发展。”余芸说。
南网报记者 刘杰 杨彬 通讯员 巫伟南
概念解析
大瓦特模型体系=大模型+小模型+智能体
大瓦特是什么?可以将它理解为南方电网公司模型家族的“统称”,是由大模型、小模型、智能体构成的开放型电力人工智能模型体系。
大模型:从知识体系层级,大模型可分为L0、L1、L2三个级别。
L0级基础大模型,包含通用自然语言(NLP)、计算机视觉(CV)、预测、多模态、科学计算5个基础大模型。该层级模型为基础的、未经特定任务优化的大型预训练模型,是构建更高级别、更专业化模型的基础。可以类比为普通高中生,已经接受通识教育,掌握大量基础知识,但还难以承担特定业务工作。
如需进阶,必须在特定领域数据集上微调,形成更加专业的业务域大模型,是为中间层L1。L1级业务域大模型类似于业务领域专家,已经掌握某个行业的专业知识,能够更好地理解和处理某一专业领域(如输电、变电、调度、规划等)的问题。目前公司正加快L1级业务域大模型训练,今年12月前将上线输配电、安监、客服等大模型。
L2级场景模型位居大模型体系中最上层。这类模型不仅需要理解特定领域的知识,还能高效处理具体任务,在细分任务(如输电线路缺陷识别、系统短期负荷预测、配网问题智能识别)上达到高水平的性能表现。
小模型:相对大模型而言,小模型参数小、使用算力更少,针对更细分的任务,多用于边缘计算中。
智能体:能够按照人的指令或自主感知环境、做出决策并执行行动,并与环境交互的计算机系统或实体。
大模型、小模型、智能体在功能上既有联系又有区别,通过发挥各自特点,共同构成公司人工智能服务能力。开发人员可以针对具体应用场景,组合大瓦特模型体系中各层级的大模型、小模型,形成一个解决特定任务的智能体,以完成工作流编排、业务智能助理等多种复杂跨领域任务。
典型应用
让人工智能真正实现智能服务
“尊敬的用户您好,我是智能客服小赫兹,听您说话就能办理业务,请说出您的业务需求……”当客户进行停电报障后,热线机器人可自助受理,智能识别用户地址、智能推荐修复方案,并实时跟踪修复进度,通知客户抢修信息和恢复结果……
系统如此智能,得益于大瓦特电力智能客服大模型的语音多轮交互、智能态势感知、情绪识别等技术。
“2017年以来,我们持续推进智能客服建设,构建了‘五位一体’智能客服体系。”广东电网客户服务中心副总经理康峰说,目前基于大瓦特电力智能客服大模型的情绪识别、工单摘要内容自动生成等技术,智能客服体系的能力得到了进一步提升。
实际上,语言常常充满歧义并极度依赖语境,所以,理解和使用自然语言是人工智能最大的挑战之一。
作为跨模态大模型,大瓦特的感知和理解能力非常丰富,可以准确地识别和理解现实世界中的复杂信息,不同模态数据之间还可以深度融合和交互,以及做到多模态情绪识别、智能态势感知等。
该中心数据应用部经理刘振华介绍,智能客服十分“善解人意”:“它可以对座席和客户的对话进行情感识别,如识别到客户情绪异常,智能客服助手会提醒座席及时调整沟通策略,采取安抚措施;若识别到座席情绪异常,便会提醒管理人员进行干预。”
刘振华介绍,在辅助人工座席提升服务效率方面,智能客服还可自动生成工单摘要,且生成快、摘要准、个性方案全,大大提高工单处理效率。
“智能客服的应用具有相当成效,不是闭门造车,而是在人工智能技术发展的加持下,大量征求各方建议和基层员工实际工作需求后得出的结果。”康峰说,“下一步,我们将持续探索,实现大瓦特在智能客服领域的深度应用,如赋能态势感知方面,从全局视角提升对安全威胁的发现识别、理解分析、响应处置能力,准确预测客户的需求和行为趋势,深入理解客户的业务背景,提供更加个性化的服务,让人工智能真正实现智能服务。”
南网报记者 黄璐 通讯员 苏立伟 朱盈 李紫京
基层减负增效运维效能提升
8月中旬,我国进入三伏尾声,高温的强度和范围有所减弱,广西电网公司利用“窗口期”开展线路特巡特维。钦州供电局生产指挥中心智能作业班员工刘维堂打开机巡管理平台,调用广西输电人工智能大模型(大瓦特CV)系统审核无人机采集图片,快速识别风险隐患。
自今年1月广西电网公司发布行业首个输电人工智能大模型,已在14个供电局推广应用,模型调用量达3900万次,上半年累计完成594万张图片分析、覆盖输电线路里程达4.8万千米,有效识别设备本体缺陷5.7万处、通道隐患19.5万处,缺陷识别平均准确率超过90%。
随着大容量、长距离高压输电技术的发展,无人机和可视化设备逐步规模化应用,海量图片数据的分析成为新的难题。截至2023年底,广西电网35千伏及以上架空线路有6.72万公里;输电领域缺陷隐患超过100类,而30%的缺陷隐患样本极少,传统小模型难以识别,且平均识别准确率低于80%。
“南方电网公司大瓦特平台的发布,让我们看到了大模型已具备辅助人、替代人、解放人的能力。”广西电网公司数字化部副总经理刘莹介绍,基于南方电网公司大瓦特底座,广西电网公司融合真实、海量的输电数据,对模型进行训练,构建了适配广西输电线路地形地貌特点的输电人工智能大模型。
从小模型转向大模型,能够更加精准地表述缺陷隐患类型和位置,解决模型碎片化问题,处理多种电力业务场景缺陷,在输电线路运维数字化转型方面取得了突破性进展。广西电网公司机巡与不停电作业中心副总经理陶启英说:“目前,我们无人机、可视化设备采集的海量图片,就是调用人工智能大模型处理,很大程度减少了人工复核时间,为输电线路运维管理增加一道科技‘保险’。”
据统计,广西输电人工智能大模型可同时进行30类输电缺陷的识别,输电线路缺陷隐患识别效率提升5倍,平均缺陷识别率为91.24%,准确率提升15%,达到电力行业领先水平。
(韦露 鹿可可 韦宗慧)
AI赋能,实现配网巡视“机器代人”
近年来,终端设备接入数量激增,巡视场景与巡视要求逐步提升,人工阅片的工作量也逐年增加,仅仅依靠人力很难满足工作需要。为此,广东电网公司广州供电局提出配网巡视人工智能解决方案,通过“业务+技术”双轮驱动配网巡视模式升级。
据介绍,广州供电局基于大瓦特L1级配电模型底座,上线配网巡视场景大模型(L2),同时集成已有的缺陷识别等配网模型,快速提升配网智能巡视能力。从巡检策略生成、巡检任务自动发起,再到AI模型智能分析、巡检报告自动生成,配网巡视愈发智能,效率愈发高效。
以一次越秀区全域智能巡视为例:以前,人眼看一张照片大概需要30秒,一名员工人工核查需耗时300个小时;现在,通过人工智能巡检,模型自动识别一张照片80毫秒,总耗时仅需半天,大大提高工作效率。
未来,广州供电局将强化模型调优(深耕L2级大瓦特电力行业大模型开发)、算力供给(边缘推理算力)、场景建设、样本收集,落实南方电网公司数字化转型战略和人工智能专项规划,全面承接大瓦特推广应用方案,打造人工智能应用、创新和生态的标杆供电局。