【华为】2024华为云客服AI助手的大模型实践与思考

此图片为AI生成2Aboutme–郑岩，from华为云BP&IT团队•山东人@深圳•4年SAP，9年华为•华为云数智使能团队负责人•AI+知识+数据+TA•终身学习者通过本次分享，你可以了解到：•华为云客服AI“养成之路”•华为云客服AI落地过程中，遇到的“三道坎”及解题方法•在企业中应用AI大模型的“避坑指南”目录1.探路篇：华为云客服AI助手工作复盘2.避坑篇：在企业内部应用AI大模型的思考5华为云客服业务背景：最重要的客户触点之一，如何持续提升用户体验和问题闭环效率？官网智能客服客户客服坐席SRE1.坐席专员流失率高，经验沉淀困难2.业务复杂、变化快，赋能周期长痛点2痛点1随业务量增长，坐席人数线性增加6阶段1：2017~2019年核心诉求：业务作业过程线上化作业数字化•工单处理线上化•官网智能客服（QABot）•知识库建设客服业务的技术演进历程：期待能够面向客户和坐席，提供更“有用”的客服AI助手阶段2：2019~2022年核心诉求：借助知识及“传统”AI手段，沉淀经验资产，提升人效阶段3：2023~（探索中）官网智能客服升级|客服坐席AI助手核心诉求：AI大模型驱动生产力跃迁7客服AI助手的“养成之路”阶段③：盘古11B+提示词工程+RAG（向量索引）+人工标注+SFT微调问题：人工标注效率低、标注质量差，谁来标、谁来检？阶段②：盘古11B+提示词工程+RAG问题：模型能力不足、上下文过短、关键词检索不准阶段④：盘古11B+提示词工程+RAG+人工标注+SFT微调+作业即标注+AI萃取经验知识问题：部分产品存量知识不够，冷启动效果差、周期长阶段⑤：盘古38B+提示词工程+RAG+人工标注+SFT微调+作业即标注Plus+AI萃取经验知识+持续运营问题：日调...