出品 | 智东西公开课
讲师 | 循环智能 解决方案专家王雷
导读：
6月3日晚，循环智能解决方案专家王雷与NVIDIA解决方案架构师王闪闪在智东西公开课共同参与了会话式AI&金融公开课NVIDIA专场的直播讲解。其中，王雷老师的主题为《会话式AI在金融领域坐席管理中的应用与挑战》。
在本次讲解中，王雷老师讲述了会话式AI所面临的挑战以及智能对话分析系统在金融领域坐席管理中的应用。
本文为此次专场主讲环节的图文整理：
正文：
大家好，我是循环智能的王雷。今天和大家分享的主题是会话式AI在金融领域坐席管理方面的应用，包含会话式AI的应用和模型的介绍，主要分为以下三个部分：
1. 会话式AI所面临的挑战
2. 利用预训练模型XLNet构建智能对话分析系统
3. 金融领域案例解析：坐席管理与业务水平提升
一、会话式AI所面临的挑战
一提到对话，大家通常会先想到对话机器人。机器人在金融领域里面应用较多，但机器人所做的事情，以基础的信息传达和用户触达为主，通常不会触及较深入的问题和场景。当遇到困难时，人还是更偏向于和人直接沟通。循环智能现在做的事情，意在帮助提升人的沟通能力，尤其是在面对具体场景时，实时辅助销售或客服人员，按照最佳实践的SOP解答客户的疑虑。我们的智能对话分析系统主要做了三个方面的事情：
1.捕捉整个对话，帮助管理层和负责运营的人，找到销售或客服人员与客户沟通中的最佳实践——面对客户疑虑时的真实有效的回答，形成标准作业流程（SOP）；
2.提供一个监督系统，帮助管理者查看业务人员对SOP的执行是否到位；
3.为坐席提供实时辅助系统，帮助他们更加专业地回答用户提到的问题和顾虑。
整个过程中，最重要的技术，就是对沟通中的句子语义的理解。我们借助原创的世界级自然语言处理和深度学习模型——XLNet和Transformer-XL，所实现的系统相比传统正则和利用关键词的方法，将召回率从40%提高到了80%。试想一下，当客户来询问可不可以购买公司的保险、贷款产品等，问法是各种各样的，那么在召回率是40%的情况下，10个人里面就有6个人的问题其实是没有被找到的，这个比例太高了。而我们的智能系统把这个比例降低到了20%以下。
技术上的“质变”，意味着产品体验真正可以落地使用。例如，在实际工作中，如果坐席按照培训要求执行了SOP，做出了相应回答，系统找到了该回答，他就不会被冤枉。否则，如果系统遗漏了坐席的回答，管理层找到该坐席说“你没有按照我的要求去执行”，但坐席坚称自己按规定执行了，一听录音发现他真的执行了，这样的疏漏会导致管理层面对较大的问题。
二、利用XLNet构建智能对话分析系统
我带大家简单梳理一下自然语言处理NLP的发展。循环智能比较新，但整个NLP领域从2011年起，就因为深度学习的引入，产生了很多学术上的突破。随着新技术迭代以及2017、2018年时Transformer、BERT之类模型的发布，整个NLP技术领域上升到了崭新的高度。
2019年，循环智能的联合创始人、首席科学家杨植麟博士作为共同第一作者，基于Transformer开发了XLNet以及Transformer-XL两个模型，它们在很多任务上面已经超过了Transformer和Bert，取得了傲人成绩。
实际上，从建设系统方向把整个流程做下来是非常清晰的：第一步，在ASR模型里把语音转成文本，然后通过NLP模型提取语义，最后到生产层或应用层，根据具体意图来实现各种任务的结果。我们与其他产品的区别其实是在于ASR和NLP两个原创模型的特性。Bert通过预训练解决了大量无标注数据的问题；XLNet是基于排列组合，相较Bert来说多了一个自回归的特点，就能更好地捕捉双向语音的一些特征，所以XLNet效果会比Bert有一些提升。至于Transformer，它首次加入了自注意力的机制。而Transformer-XL基于此，加入了循环机制，实现了在更长的上下文中建模，层数更多。通过这样一些方式，转写和翻译可以被实现得更准确。这是两个模型在技术层面的一些迭代。实际结果中，在单模型给定算力的情况下，XLNet的准确率是最高的，所以我们模型性能也会更好。
此外，我们的系统引入了自训练功能，使用者的每一次人工操作，都会帮助系统的算法变得更加准确。因为我们非常重视如何让机器具备自学习能改成，让机器能根据人的行为或者人的决策产生的结果，去自动更新和升级算法模型，形成闭环，帮助销售能力一直演进下去， 而非停留在静态模型。
总结一下我们模型的优势：
1. 首先是计算效率和硬件资源利用率的提升。像Transformer-XL和XLNet都是比较大的模型，如果使用传统CPU去算，资源消耗就很难估计。所以，我们是用了NVIDIA的GPU卡。像我们使用的2080 Ti这样的标准卡，单张卡每天可以处理1000小时左右双轨录音来做ASR的转写。每台主机可以支持10张GPU卡，由于我们在底层代码做了优化，所以是没有性能损失的。计算下来就是每台主机每天最多可以处理接近一万小时的双轨录音，性能很高，且成本相较于之前CPU会大幅降低。
2. 第二个优势是计算性能的提升。XLNet画像模型，相比用规则引擎提升，我们的模型提高了30个点以上的准确率和召回率。无论是模型还是性能效果，都实现了比较大的提升。这也算是NLP领域的技术落地层面的一些较好的实践和数据。这两个模型以及相应的语音提取技术都是自己研发的，所以不需要去对接到外面的接口，都可以实现本地化部署，后期的实施和服务也会非常灵活。
在做对话分析之前，将录音转写为文字是一个基础步骤。上面这张PPT右上方展示的是，我们的客户，对比了两家在国内都是佼佼者的语音识别厂商。测试结果显示我们的CER（错误率）是最低的，我们基于Transformer XL 实现的电话录音转写技术在他们的使用场景下有明显优势。从右侧下方表格可以看出，在语义提取方面，相较于传统正则方式，我们的模型除了实现正确率大幅提升之外，命中数量也远超之前的两倍，也就是召回率提升超过200%。当这样的数据拿回给质检部门的同事，能找到的业务问题就会很多，也就是说业务员的违规成本提高了，可以起到督促业务员按规定实施流程的作用。这一点在很多我们的客户那里都得到了验证。
三、金融领域案例解析：沟通下的坐席管理
最后，我分享一下在金融领域坐席管理使用场景的案例。这个案例的流程：首先是问题发现，通过找到问题继而找到更好的标准操作流程（SOP）；确定SOP后，就可以对员工进行流程SOP培训；培训之后，企业可以实时辅助员工去实践确立的流程与话术，以及对员工的具体执行程度进行监督，形成一份报表给到管理层。这样的监督方法以前是没有的。
这张PPT展示了一个实际案例。这是一个销售漏斗：第一步是销售电话推介产品，推荐后有6%直接中断；第二步额度查询和报出环节也会有损失，包括没有额度的和根本就不想贷款的，损失达到了18%左右；除去上述的损失，还剩下76%是有额度的，销售进而介绍产品，这个部分的客户都已经被归进了目标客户的范畴；最后产品介绍完成后，接受办理的客户有57%，排除的19%是在电话销售的最后才推诿、表示没有意向的客户。
基于这样客户下意识的推诿场景，我们要研究相应的销售挽留方式是什么样子的。公司培训的流程是当客户表示无意向时，销售要强调三点：活动时间限制、积累信用度、多笔资金灵活周转。这三点在已成单录音中出现占比各有不同。我们还发现在客户下意识推诿后，一些好的销售除了采用培训标准流程以外，他们会额外跟客户聊一些别的来挖掘用户需求，如疫情或主动咨询客户的一些痛点，例如“疫情期间您这边房贷压力大不大，现金流还好吗？”但是业务不熟的销售，在说完培训话术客户表示无兴趣后，销售说“好的那打扰了”就把电话挂掉了。这种情况是不好的，客户线索对公司来说有很大价值，需要大量投入。如果类似数据没有充分转化，对公司来说是一种损失。而我们所做的，就是不断挖掘有用的用户数据。
我们把销售分为好和普通两类，可以看到在“处理不当比例”这栏数据存在巨大的差异：普通坐席有86%的流程处理不当，尤其是当碰到客户下意识推诿；而优秀的坐席，面对这种情况做得比较好，虽然也在其他一些细节点执行地不太到位，但由于他们非常积极，照样可以拿下单子。基于之前沟通的数据，我们提取出客户的特征然后把数据存入到CRM库中。之后，我们要对销售进行培训，将优秀坐席采用的SOP普遍推行，并且监督消极销售的现象。
在沟通质量监督方面，我们的系统可以做到在语音对接上后便开始实时质检。实时质检的好处可以分为两个点：第一，坐席能实时发现自己的问题，如果足够聪明他就可以随时改变表达方式。第二，系统上所有内容包括实时的违规提醒都可以通过接口输出到CRM系统。小组长或相关监督人员可以看到具体哪个坐席出了问题，当严重问题发生时可以及时地直接干预沟通，降低业务风险。
除此之外，无论保险公司还是银行，都要面对不同的地域特征。不同的省份和地域也应该有不同要求。我们可以通过和业务系统打通，增加一个自定义的字段，如地区省份。我们在上传录音时，就可以通过接口把客户省份传递过来。我们在系统里就可以去匹配和省份相关的流程，区分对待不同情况。
综上所述，我们是通过模型以及语义分析等方法，建立了中间和右侧这两个环（左侧的环是另一种场景，有机会再为大家分享）：在右侧的流程发现环，就是如何从以往的沟通数据中发现销售或客服的最佳应答实践——有的企业已经为销售或客服提供了完善的SOP，需要花精力进行验证，有的企业需要从头来找到最佳实践的SOP；在中间的业务执行环，就是在业务执行方面，如何监督销售或客服，是否按照要求进行沟通了，是否为客户提供了专业的服务，以及可以为他们提供一套辅助系统，提示他们在不同场景下，如何应答是最佳的。这两个环节，可以帮助金融企业实现更好的坐席管理，提升他们的能力，进而提升业绩水平，而做到这些的基础，就是前沿的原创自然语言处理技术和以客户为中心的落地实践能力。
