在所有人类社会的生产、生活和实践中,沟通一直扮演着非常重要的角色,在信息的传递、文化的传承、情感的连接和人类的协作共进等方面具有重要的价值。

进入AI 2.0时代,通用大模型让人们对AI有了更深的认识和更高的预期,用AI来提升沟通能力也成了从业者思考的重要议题。如果将AI分为计算智能、感知智能和认知智能三个层面,沟通这项能力所涉及的理解、思考与决策就对应着AI最高的认知智能层面。

目前,AI在认知层面的应用与落地还面临着非常关键性的挑战。通用大模型在内容可控性与专业性方面还存在局限性,并且其能力还缺乏特定应用场景的适配,其参数规模之大也对企业IT基础设施提出了更高的要求,带来了更多的成本支出。

最近,智能通讯云服务商容联云推出了一款赋能沟通智能的垂直行业大语言模型。动点科技对话了容联云COO熊谢刚,聊了聊大模型在2B场景下如何实现规模合理的务实化的落地。

替代四成传统客服工作量

基于重复性工作和高人工成本的特点,企业客服赛道有着AI最强刚需的源动力。然而,在过去两波AI应用的高潮中,容联云却得出了一个令人沮丧的结论:三分的产品加上七分的人工,最终只能得到五分的回报。

“做AI的公司基本没有一家挣钱的。过往几年中,我们看到一大批做AI工具类产品的创业公司倒闭,大厂曾经加码的智能客服业务也大幅萎缩。”

熊谢刚称,在深度学习带来的AI热潮中,基于小模型的智能客服一直存在很多不足:例如对于客户企业业务变化的适应性不够,需要后期人工介入对模型进行修正与重新训练,也无法根据企业间过往交易背景信息、客户提问方式给出令人及时且精准的服务,最终导致客户的排斥心理。

通过大模型后台的能力,生成知识库,代替数据运营的工作,不仅仅降低了时间和人力上的投入,同时可以和传统的小模型配合——以大模型作为后端的支持,来训练更好前端的小模型。借此,可以将基于小模型的客户服务体验快速提升至90分左右的水平。曾经需要6-8个月的数据才能产生的效果,通过大模型半个月的数据量就可以达到。

大模型也带来了客服工作效率与客户交互体验的显著提升——通过采集客户的相关数据进行大模型训练,在多变灵活的实时交互下,新的客服产品能给出结论性答案的时效性与精准性都远胜于人工客服。

据容联云预测,未来AIGC将完全替代40%以上传统客服的工作量。今后,人工主导的客服工作量占比不超过30%,电话语音客服的工作量占比不超过20%。

商业价值是大模型的根基

就ChatGPT这类通用大模型而言,无论前期训练投入有多大,只要将模型训练出想要的效果,就可以通过庞大的市场规模变现回本。

近日,国际性金融服务公司Morgan Stanley预计,按最低渗透率计,到2025财年,以ChatGPT为代表的人工智能可为微软带来高达900亿美元的增量机会。Wedbush分析师也表示,ChatGPT将是微软的“下一个增长点”,有望使其比肩苹果,跻身市值3万亿美元的公司行列。

对于企业来说,布局大模型的动力之一是节约人工成本。例如中国移动等运营商会将每年人员投入的四分之一投入大模型产品的研发,以期在未来用大模型期待人工客服热线。如果企业可以将产业类的大模型做得很深入,就不能不考虑后续员工与客户在业务场景中使用大模型是否能产生商业价值,这决定了大模型应用能走多远。

iPhone之所以成为划时代的产品,不是因它消灭了传统手机,而是因为它开创了层出不穷的移动互联网应用新时代。而大模型的核心价值也不在于对传统人工智能产业的改变,而在于其在产业应用中的创新。

“由于芯片算力、训练成本以及数据方面的限制,用户对于国内通用大模型产品的使用体验相对不佳,对国产通用大模型的认知度不强。当通用大模型的性能与效果成为一道无法跨越的鸿沟,降维成为了国内大模型布局的主要思路——将大模型放到行业中,参数量级更低,难度也更小,当然这也是很多国内做大模型的企业羞于承认的一点。”

熊谢刚指出,虽然通用大模型的技术框架与性能体验非常震撼,但如果一个企业对于业务、客户以及所在行业没有完全吃透,仅凭大模型也很难得到客户的认同。例如在金融行业的客服领域,因涉及交易等相对敏感的业务场景,有时需要处理客户投诉,应对客户情绪,对服务的精准性要求较高,这对于企业对大模型业务边界的考量以及前期投入的门槛要求较高。

模型应用并非 all in one

近日,容联云发布了面向企业应用的垂直行业多层次大语言模型“赤兔”。据了解,赤兔大模型侧重于金融板块,支持基于系统和硬件的私有化部署,可以实现AI基础能力、会话分析洞察、对话能力、人机协同四个方面的大幅提升,帮助企业搭建自身的智能客服和营销系统。

例如,客服场景中常见的会话洞察并不是一个新的概念,但传统的AI能力在实现会话洞察时会面临很多问题:维度少,对客户对话的分析往往停留在意图匹配和分类;粒度粗糙,对表达的细粒度的意见、讨论的主题、表达的意义很难精准、灵活地进行分析;精度低,最后很难给出多轮对话的精准、简洁的总结,而这恰恰是业务当中非常重要的一项信息。

而赤兔大模型具备意见的挖掘、情感分析、情绪分析、立场检测和主题检测等能力,借助大模型赋能的会话洞察,可以在历史的会话当中更深刻、更动态化的理解客户,给客户生成动态化的画像,凭借动态化画像动态匹配销售SOP。

熊谢刚介绍,为让“赤兔”更懂行业,容联云对基于通用研发的大模型进行了微调,使之能满足沟通领域双向交互的实时性、上下文语境的连续性等。同时,模型还要叠加细分领域的行业术语、行业中关联性的知识。今天的赤兔大模型已对复杂的客户流程、对话的自动化和对话管理进行了重构,实现了单点能力的升级和新增。

为达到务实的应用,容联云将模型划分为通用大模型、领域大模型和业务大模型三个层次,并使之互相形成闭环。在实际的部署应用中,容联云也并未执着于用一个模型解决所有问题,而是对模型进行了大、中、小的专业与层次划分。并根据任务的复杂性和模型通用性提供指引使客户选用的模型能更好地配合、务实地满足行业需求。