敏捷AI｜NLP技术在宜信业务中的实践「构建用户画像篇」

导读：

前面两篇我们介绍了NLP技术在宜信应用的背景《敏捷AI | NLP技术在宜信业务中的实践【背景篇】》，以及应用场景之一《敏捷AI | NLP技术在宜信业务中的实践【智能聊天机器人篇】》。本篇为另一个场景，也就是在业务中如何构建客户画像，敬请收看~

作者简介

井玉欣：毕业于北京大学信息科学技术学院，获博士学位，研究方向包括计算机软件与理论、逻辑推理等，目前就职于宜信技术研发中心，从事人工智能、机器学习、自然语言处理以及知识工程等方面的研究。

高级场景之构建客户画像

在许多企业中，每天业务人员和客户的沟通都会产生大量记录，这些记录可能包括了客服的沟通数据（通话记录、通话小结），也可能包括了各式各样的报告数据（陪访报告、征信报告等）（见图1）。

图1 业务人员与客户产生沟通记录

前者可能口语会多一些，后者则主要是书面用语。但两者之间有一个共同的特点，就是其中都蕴含着丰富的客户信息。想要把这些信息提取出来，我们就需要利用到（NLP）技术。

图2为一段客户陪访报告的节选，观察其文本特征，发现有许多业务所关注的信息，比如职业方面，客户是“大学教授”；在可投资产方面，理财金额有“100万”，投资类型是“银行理财”，对公司的态度是“不了解”等。

图2 客户陪访报告示例

所以我们完全可以通过NLP分析文本，对其中的客户特征进行标签化提取，最终利用得到的标签构建出客户画像。这样做的好处很多，比如方便我们的业务人员随时发现关键问题，便于跟进；自动化处理，提高工作效率。根据挖掘出的信息构建出客户标签画像之后，就可以方便地盘点特定时间范围内的需求特点，为新产品设置提供系数参考，或者补充、验证结构化字段内容。

总体的实施路线如图3所示，先通过业务分析来定义业务关注的标签库，然后针对定义出来的标签训练相应的提取模型，最后利用模型对数据进行分析，得到一系列客户标签，再对其进行汇总，最终形成客户画像。

图3 总体实施路线

总体的路线是这样的，但具体的实施过程中我们也有一些细节需要关注。通过对之前的数据进行分析，我们发现了一些特征，比如文本之中信息高度集中，信息表述通常以短句为单位，但是单一短句语义存在模糊性，还需要结合一定的上下文对其进行分析。所以我们需要对复杂句进行适当的切割，确定合适的数据粒度，同时配合一个适当大小的短句滑动窗口来捕获相关的上下文语义。

此外对于内部的业务文本来说，其内容涉及大量产品的专有实体名称和术语，以及较多的数字。针对这种情况，我们建立了专门的词库和实体库，对相应的实体名称和术语进行准确的切割和识别。对于数字的处理，我们先后比较字向量、标识符替换、规则识别+后处理等等技术方案，并且选择了其中效果最好的方法。

当然我们也面临着普遍存在的标注语料不足的问题，因此在这个项目中，我们侧重于研究怎么在小样本条件下进行Few-shot learning。

实际中，在大多数专业领域AI项目实施过程中，都存在着标注数据不足的情况，所以针对小样本进行学习的Few-shot learning也越来越凸显其重要性。Few-shot learning包括很多种技术，有常见的迁移学习+fine-tuning技术，典型的如Bert；也有基于半监督训练的一些技术，如基于相似性度量的一些神经网络模型，基于最近邻算法的样本标注扩散这些技术等；还有meta learning的相关技术，例如OpenAI在ICLR 2018上的best paper；甚至还有一些图网络的相关技术。

在以上种种技术当中，比较适合工程化的、比较容易实施的还是基于迁移学习的方法。在我们的项目中，发现迁移学习，也就是基于预训练模型，迁移到目标训练任务上，再加上半监督学习的标注辅助，可以比较好的满足我们的需求。

下面介绍一下我们的算法流程：

先对复杂句进行清洗与切割；之后可以选择性的加入一些过滤规则，快速地去除那些比较明显的噪音数据；然后将数据流入到标签提取模型之中，得到具体的标签；最后在画像构建阶段对得到的所有标签进行去重、消歧，形成最终的客户画像。

具体到算法模型，我们也先后比较许多方法，本质上我们认为标签识别模型是一个短文本分类算法，我们尝试了基于统计的方法（SVM, Random Forest, XgBoost），也尝试了基于神经网络的模型（FastText,Text CNN/RNN/RCNN, HAN），最终我们选择了HAN模型，也就是层次注意网络（Hierarchical Attention Network）模型，通过在词一级和句一级分别进行RNN和Attention计算，最终得到一个合理的文本向量表征，用于最后的分类，整个过程如图4所示。

图4 HAN模型架构

图5是本实例的总体处理流程，经过数据预处理之后，文本被并行地分配到各个业务关注标签提取模型之中，输出各个业务标签，最终汇总到客户画像构建模块，在此进行去重、消解歧义和矛盾，最后得到客户的画像。

图5 实例处理总体流程

另外我们结合公司的敏捷实时数据平台设计了一个相应的实时AI解决方案，如图6所示，这里用到了我们团队开源的一些技术，包括DBus（数据总线平台），Wormhole（流式处理平台），Moonbox（计算服务平台）以及Davinci（可视应用平台），这四个平台构成了敏捷大数据平台栈。

在这个方案里，我们通过DBus来采集各类数据存储中的自然语言数据，经过一些可选的技术（如ASR等）得到相应的文本；再通过Wormhole来进行实时的流式处理，标签模型在Wormhole的实时数据流上运行，对数据流中的文本自动提取相应的标签，再由Wormhole输出到指定的数据存储中；之后由Moonbox对标签进行后续的汇总处理，先从存储介质之上把之前计算得到的标签提取出来，使用画像模型对画像进行构建，输出到如 Redis 之类的存储介质之中，最后推送给业务系统供其使用。这就是我们实现的一个实时用户画像处理流程。

图6

此外，在图6下方的数据流分支里，我们通过在Wormhole上流转的生产数据流进行一个选择性抽样，之后同样利用标签模型和画像模型，计算出客户画像，此后将原始数据、标签数据和客户画像通过Davinci展示给我们的模型维护人员，用于评估检查模型的运行情况，这样就实现了一个实时的模型效果监控系统。综合这两者，我们就得到了一个实时的、基于文本分析的画像构建系统。

总结

随着各企业实体对自然语言数据愈发关注，NLP+AI技术在各领域都成了非常重要、核心的基础技术服务。领域知识与NLP技术的结合带来了新的技术产品，创造出了新的商业价值，比如我们目前常用的一些产品：Siri、小爱同学等等，这种Conversational UI带来的不仅是一种全新的交互模式，更是开辟了一个新的产品领域。

在数据方面，虽然自然语言的数据存量很大，但目前来看无论是通用领域还是专业领域，经过加工整理的高质量自然语言语料数据资源还是比较缺乏，因此其具有非常高的价值。领域语料的积累可以极大提升AI产品的效果，在一定程度上帮助企业形成新的数据壁垒、技术壁垒。

在NLP的算法方面，就未来一段时间来看，如前文所述，面对小语料任务的Few-shot Learning会越来越受关注，尤其是以Bert为代表的迁移学习技术，将给现在的一些NLP任务带来一场革命。此外还有针对NLP语料的数据增强技术，我们知道在图像领域数据增强技术已经比较成熟，是一种常见的数据处理方式，但是在NLP领域数据增强技术的发展还不够成熟，如果能在这方面有所突破的话，相信会对各类NLP任务都有很大帮助。

NLP技术的发展还需要业界各企业、各位算法与工程专家的共同努力，相信未来我们能够更准确、更快速、更方便地理解各领域的自然语言数据。

-

作者：井玉欣 宜信技术学院