对话浪潮信息:AI大模型“源”炼造客服大脑
2022-12-30 22:17:49 沫小朵
摘要: 原标题:对话浪潮信息:AI大模型源炼造客服大脑 2018年至今,NLP领域经历了非常大的变化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT 3.5的微调)的

  原标题:对话浪潮信息:AI大模型“源”炼造客服大脑 

  2018年至今,NLP领域经历了非常大的变化,Transformer、ELMO、BERT、GPT-3,再到最近的ChatGPT(GPT 3.5的微调)的突破,NLP在预训练大模型的暴力拆解路上越走越远,这也让各行业开始相信:很多之前无法做到的场景、效果,现在可以有新的解法和落地。 

  智能客服,是NLP和深度学习技术落地的重要领域之一。客服可以基于提前设定好的规则,对用户意图进行判断并生成对应的固定话术。文本机器人、外呼机器人,可以替代掉原有重复性比较强的人工动作,逐渐转变为相对日常的落地场景。比如你日常所接听到的快递客服电话,订单咨询的对话框等等,背后都有来自客服机器人的驱动。

  但在对客服要求比较高的企业级场景中,对多轮对话理解用户意图和知识专业度要求较高,现有的客服机器人仍有很高提升的空间。

  一是系统整体搭建的维护成本比较高,效率比较低,因为大多数的企业级智能客服的知识库不是流程化的,而是技术知识库,需要人工/半自动的方式进行搭建。

  二是业务场景复杂,专门知识门槛会更高,往往会涉及不同客户的应用场景,与业务流程相关的复杂场景。

  三是持续突破比较难,边际效益递减明显,一般在良好技术知识库的支撑下,企业级智能客服的起步较快,但受制于方法论的影响,前期需要投入的大量人力、算力和数据,而到一定阶段则会陷入提升的瓶颈。

  这样的问题也曾经困扰浪潮信息的客服系统研发人员。

  近日,钛媒体App对话浪潮信息服务总监陈彬、浪潮信息AI软件研发总监吴韶华,围绕智能客服市场当前解决的难题,以AI大模型的实际落地应用为视角,进行深入交流。

  具体来讲,浪潮信息以AI大模型“源”为智能引擎,和InService智能服务平台,搭建出了“智能客服大脑”。

  据介绍,“智能客服大脑”学习了2万余份产品文档和用户手册的数据,并结合百万条浪潮信息专家工程师服务对话、数十万份日志、工单数据等算法训练,具备语言理解、数据分析、自主学习和智能推理等能力,支持自然语言交互服务、已授权IT设备的智能运维与诊断、以及备品备件等资源的智能管理和调度。

  AI大模型在应用过程中必然会面临各个行业的应用落地。在此之前,浪潮AI大模型“源”已经在人机交互、知识检索、语言翻译、文学创作等领域有所应用。

  以大模型作为基础能力,通过大模型的蒸馏实现相关的小模型,不仅实现的速度更快,智能化水平更高,从技术角度来讲,大模型在落地过程中呈现出了与以往模型非常不同的技术特征,也带来了更好的智能化水平。不论对大模型进行微调,还是引入领域知识库的方式,均是业界在探索的路径。

  在浪潮信息AI软件研发总监吴韶华看来,“大模型想要在某个方向上训练得更好,智能化水平更高,确实需要在具体落地场景引入额外的领域知识,才能解决实际问题。AI大模型有其自身特点,训练时使用的数据集主要来自互联网,在通用知识和领域知识的分布上存在不均,会影响其在具体行业的应用。”

  举个例子,在浪潮信息服务所面临的主要客户问题,包括咨询和故障报修两大类:前者如各类的产品服务政策、设备使用、以及复杂的技术咨询,如技术咨询方面其实比较常见的是如何做系统安装、Raid配置等,因为这个过程比较复杂,常出现各种问题;产品咨询包括购买产品的内存配置、保修时长等等;故障报修相对会比较有针对性、更多元,例如无法开机、硬盘故障、内存故障等等。

  在浪潮信息的咨询客户中,有80%的用户为非专业工程师,智能客服需要在准确理解用户、精准定义问题的基础上,通过多轮回答解决技术问题,给予客户满意的答案。对于客户而言,如若智能客服所给予的答案过于标准和冗余,却无法快速帮客户解决具体问题,客服所给予的答案只可被定义为对的答案而不是好的答案。

  实际上,浪潮信息从4、5年前就开始进行客服的数字化转型和探索,并且在2019年开始着手应用业内在探索的FAQ、任务式对话、知识图谱等NLP领域相关技术,对客服系统进行了一定程度的改造和提升。

  但当时遇到的瓶颈也十分明显,主要在于两方面:“一是企业产品信息更新快,造成模型训练任务非常大,加之模型知识库的封闭,在训练效果上也受到制约;二是机器人需要对上下文结合语境进行语义理解,引导客户提问并且精准识别问题,在专业知识领域的IT行业,难度非常高。”浪潮信息服务与实施部总监陈彬指出。

  除了在大模型的落地中引入领域知识外,浪潮智能客服在研发过程中还重点考虑了其他几点因素:

  第一,客服系统是不是真正地理解客户,是否能够通过多次对话了解到客户真实的服务意图。企业级场景中,客户有个报修问题,但无法用专业的技术语言对服务场景进行准确描述时,就非常考验客服系统的理解能力。

  第二,是否需要投入额外和高昂的人力成本让客服机器人具备自主学习、迭代的能力。让专业工程师做重复的模型训练工作,既不符合企业成本要求,也不符合企业建设专家型团队的长期规划。

  第三,B端客户对企业的服务体验、服务口碑要求高,训练出的客服系统是否能够让更多的客户接受、信任并满意地使用。相较于传统的智能客服采用多模型、多数据库的架构,浪潮信息智能客服系统最终实现统一架构支持多任务解决问题。而此前完成一套客服动作,往往涉及FAQ、任务式知识图谱、知识检索等模块,需要在多个知识库、模型之间进行任务调度,架构复杂且维护难度比较大。

  此外,由于在模型训练上实现了自进化、快进化学习,而不是原有需要人工或半人工搭建和训练模型的过程,在人工标注和训练成本上得到了极大降低。

  从浪潮信息数据中心服务的成效来看,在应用智能客服系统后,客户问答的匹配率(即覆盖率)达到92%,对常见的复杂问题的解决率目前能达到80%以上,平均解决率是65%左右。此外,服务整体人员规模占浪潮信息总人员规模的4%,而业内一般都占比15%到20%左右,在整体人均效能上得到了一定提升。

  “服务作为一个公司的重要窗口业务部门,也是和客户交互最紧密的平台。所以我们首先考虑的是怎么把实际业务和AI算法结合在一起。本身IT的服务场景非常复杂,且面对是更多大量的B类客户,我们当初也在讨论,是否真的需要花这么大的精力,把传统的服务场景,做AI的相关技术和算法的落地,在项目初期也是比较有争议的。”陈彬表示。

  但从目前取得的成效来看,当初的投入是值得的。

  结合钛媒体的观察,客服机器人的背后仍是复杂的AI技术栈作为支撑。涉及语音识别、语义理解和生成、人机交互等等,存在系统搭建成本较高。如AI的边际成本,模型训练中对人工标注数据的成本,加之企业多数存在二次开发的定制化要求,导致部署交付成本也难以避免。

  企业对技术的投入和成熟与否直接决定了体验的高低,而如今浪潮AI大模型“源”在智能客服场景的实际落地应用,为业界提供了一种另一种可参考的解决方案。

投稿:lukejiwang@163.com
点击展开全文
Copyright © 2002-2022 鹿科技