智猩猩GenAI整理
编辑:倩倩
腾讯云「AI实战讲堂 · 企业级大模型应用实践创新系列」是围绕企业业务需求,聚焦大模型应用,推出的系列课程。课程紧扣案例、应用Demo、知识库运营方法论等要点,深度剖析大模型企业级应用的优秀实践,探索大模型落地B端应用的最佳路径。
目前,「AI实战讲堂 · 企业级大模型应用实践创新系列」课程前三期已顺利完结。来自腾讯云的三位专家,分别围绕腾讯云大模型知识引擎在智能客服、员工问答助手、企业内部专业知识问答(专家助手)三大场景的应用实践,进行了深入讲解。
01
腾讯云大模型知识引擎
加速一汽丰田智能客服升级
在第一期,腾讯云大模型知识引擎客户成功经理孙敏一以《腾讯云大模型知识引擎:全面升级智能客服体验》为主题,介绍了传统客服面临的挑战,并结合实际案例,对大模型知识引擎在车企智能客服场景中的应用实践和企业知识库的运营方法论进行了系统讲解。
传统客服面临着响应慢、问答不精准等问题。同时,由于企业现有咨询渠道(APP、官网、小程序等)的多样化,使得企业知识库难以实现共享和沉淀,无法有效互通,且更新滞后,严重影响了用户体验。
本期介绍的腾讯云大模型知识引擎,支持混元大模型、腾讯行业大模型以及DeepSeek等第三方开源大模型,用户可以根据自身需求灵活选择。同时,腾讯云大模型知识引擎还将文档解析、文档拆分和多轮改写等功能以原子能力形式进行输出,供企业通过API调用,并提供标准模式、工作流模式以及Agent模式三种应用形态,目前已在政务、零售、文旅、汽车等多个领域的智能客服场景实现了应用落地。
在车企智能客服场景中,企业往往会在APP、微信小程序和官网等业务终端提供客服应答,并希望借助大模型知识引擎,提升客服机器人独立解决问题的能力,以减少人工处理量,降低客服中心的人力成本。
但在实际应用中,车企智能客服面临诸多挑战,比如C端意图不明确、垂直场景业务知识更新快等。同时,企业文档往往图文并茂、篇幅长、内容多样化,涵盖了文档、表格、流程画布等不同形式,复杂的信息形态也进一步提高了大模型的信息处理难度。
腾讯云大模型知识引擎团队通过调研总结,将车企知识库内容划分为事实性问题知识、概念性知识和程序系统知识三大类,并结合腾讯云大模型知识引擎提供了针对性的智能客服解决方案。
比如针对产品操作手册这类事实性问题知识,引入具备OCR能力的大模型,提升说明书场景下文、图、公式等多模态元素的识别准确度,生成图文并貌的答案。对于概念性知识,知识引擎提供基于全新文本检索模型和COT技术,提升对多样化表格的检索和问答准确率。而程序系统知识,则采用知识引擎的工作流模式,通过可视化拖拉拽的方式编排不同原子能力,实现零代码构建业务流程。
数据显示,基于腾讯云大模型知识引擎,一汽丰田智能客服机器人的问题独立解决率从30%+提升到80%+,知识问答准确率超过80%。
此外,腾讯云大模型知识引擎团队基于丰富的应用实践,形成了一套完善的知识库运营方法论,能够帮助企业快速实现知识库的构建,加速企业级AI应用在不同业务场景中的应用落地。
500强企业智能客服+DeepSeek最佳实践分享
02
利用腾讯云大模型知识引擎
高效构建大参林员工问答助手
在第2期中,腾讯云大模型知识引擎产品运营陈叶以《大模型的企业级实践路径:从0-1构建员工问答助手》为主题,分享了从0-1构建员工知识服务平台的全流程,并结合实际案例,探讨了如何将知识引擎从员工服务扩展到高层决策支持。最后,陈叶老师还系统讲解了如何通过工作流和Agent技术优化员工的信息获取效率,以及复杂业务场景的流程实现。
企业知识库能够帮助员工高效获取内部信息,提升工作效率。但由于部门限制,企业知识往往分散在不同的部门或指定人员手中,同时缺乏系统性沉淀和统一入口,且更新不及时,导致内部员工信息获取效率极低。
企业希望借助大模型来构建统一的知识库,实现内部知识的集中管理,并借助AI互动问答,实现便捷的信息查询,提升企业内部服务效率。
但是,现有大模型往往基于过去的知识进行训练,导致企业自身知识库服务与大模型的深度融合面临一定挑战。如何实现企业内部知识与大模型的深度融合,构建一个不仅能理解员工和用户语义,并且能够结合企业动态更新的知识服务平台至关重要。
腾讯知识引擎提供包括知识问答、API调用和文本生成等多个功能在内的大模型知识库底座,能够帮助企业快速构建统一的知识服务平台。
在与大参林的合作中,腾讯云知识引擎帮助企业构建了统一的知识服务平台,并将大模型接入企业自有APP、企业微信、门店pos系统等多个渠道,通过多入口的方式,随时随地服务企业员工高效获取知识。
同时,腾讯云知识引擎的标签能力,还帮助大参林实现了文档和用户权限的个性化管理,当不同用户查询同一个问题时,能够实现千人千面的回答。
数据显示,借助腾讯云知识引擎,企业内部员工的问题响应时间缩短了80%以上,问答结果可用率90%+,帮助企业员工实现了高效的数字化转型。
此外,企业还可以借助大模型的推理能力,对员工和一线用户的反馈进行深度挖掘和探索,帮助企业高层快速了解用户和员工的真实反馈,为企业高层的业务决策提供辅助。
针对复杂任务,腾讯云知识引擎提供可视化画布和及流程编排能力,结合Agent可以实现复杂任务的自主规划和工具调用,有效提升运营人员的维护和调优效率。
腾讯云大模型知识引擎团队也建立了完整的项目机制和服务流程,涵盖需求响应、阶段性复盘、场景收集、需求应答、知识库梳理、方案评估、测评评分标准、上线服务机制等关键节点,为大模型在企业内部的应用落地提供全方位支持。
大模型员工问答助手助力上市集团人事服务与行政服务效能提升
03
腾讯云大模型知识引擎
在企业知识问答等不同业务场景下的应用
腾讯云大模型知识引擎产品运营叶瑞以《腾讯云大模型知识引擎,助力企业客户打造内部专用知识问答的最佳实践》为主题,进行了第三期的分享。叶瑞老师首先从产品定位、核心能力、三大应用模式等方面,对腾讯云大模型知识引擎的进行了系统介绍。之后,叶瑞老师结合实际案例,分享了腾讯云大模型知识引擎帮助头部客户企业构建员工问答助手的落地实践。
腾讯云大模型知识引擎定位为大模型应用开发平台,旨在帮助企业加速大模型应用落地。
从产品架构来看,腾讯云大模型知识引擎可以分为模型层、RAG层、应用构建层三个层面。
在模型层,腾讯云大模型知识引擎支持自研和三方开源大模型的接入。目前,知识引擎已接入腾讯混元全系列大模型、自研精调大模型和以DeepSeek为代表的三方开源大模型。在企业知识问答场景中,知识引擎能够减少无关知识的输出,降低模型幻觉,目前已在医学、金融、教育等多个领域成功应用。
在RAG层,腾讯云大模型知识引擎将RAG环节的文档解析、文档拆分、向量化以及多轮改写和Rerank等基础原子能力,开放给客户来灵活选择和调用。RAG层擅长图文表以及公式的解析,并且支持腾讯元器、元宝的调用。在图文混排文档问答、复杂大表问答场景中,腾讯云大模型知识引擎具有明显的优势。
在应用构建层,知识引擎提供标准、工作流和Agent三种应用模式。
标准模式内置最佳实践流程,企业只需导入文档/问答对,即可实现稳定且精确的知识问答效果,适用于企业知识服务、产品咨询等严肃问答场景。
工作流模式则使用指定的工作流来响应用户所有对话。如果客户对应用的执行流程,有更加个性化的需求,可以通过工作流,来拖拉拽各种原子能力,编排想要的流程,投入售后运营场景的使用,高效解决用户的复杂问题和需求。
在Agent模式下,大模型可以实现任务的自主规划和工具调用,能够高速实现应用搭建,适用于有灵活回复或快速搭建需求的服务问答场景。
三种应用模式为企业提供了灵活、多样的应用搭建方式,能够帮助企业加速大模型在不同业务场景中的应用落地。
目前,某头部客户利用腾讯云大模型知识引擎,已在企业行政知识问答、专业知识问答与查询、销售消息质检、保险建议书生成等不同业务场景实现了应用落地,大大提升了企业员工的工作效率。
企业级AI应用在不同场景的落地过程中,并非简单的将企业知识导入引擎中即可,在一些细分场景依然面临诸多挑战。比如垂直领域知识更新快,通用大模型缺少对垂直场景的理解;企业输入知识形态复杂,处理难度大;复杂任务处理流程繁琐等。
针对这些挑战,腾讯云大模型知识引擎基于RAG架构,整合了OCR解析、语义切分、向量检索等多种能力,支持复杂文档处理和多模态场景下的精准问答,通过Text2SQL技术,能够实现大表和跨表场景下的高准确率检索,满足企业复杂业务需求。同时,知识引擎支持无关知识拒答、模糊问题主动澄清,从而进一步提升问答的准确性。此外,知识引擎为企业提供可视化拖拉拽工作流编排能力,来帮助用户快速搭建复杂业务流程。知识引擎还建立了严格的安全防护体系,从输入审核到数据加密,全方位保障企业私域知识的安全与合规。
凭借先进的技术架构和功能设计,腾讯云大模型知识引擎能够为企业级AI应用在不同场景下的落地提供高效解决方案。