基于Bert的知识库智能问答系统

置顶

亚伯拉罕·黄肯

已于 2024-05-11 14:22:12 修改

阅读量6.5k

点赞数 11

CC 4.0 BY-SA版权

分类专栏：机器学习+opencv 文章标签： bert 人工智能深度学习 nlp

于 2023-04-21 00:26:04 首次发布

本文链接：https://blog.csdn.net/a1105425455/article/details/130277102

本文介绍基于Bert的知识库智能问答系统。先介绍系统流程，强调知识库作用；接着处理数据，包括数据集介绍、切分、构造NER数据集、制作知识库和构建属性相似度数据；然后训练BertCrf和BertForSequenceClassification两个模型；最后搭建系统，利用训练好的模型实现问答功能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

项目完整地址：https://github.com/1105425455/Bert/tree/master
有训练好的模型
可以先看一下Bert的介绍。
Bert简单介绍

一.系统流程介绍。

知识库是指存储大量有组织、有结构的知识和信息的仓库。这些知识和信息被存储为实体和实体关系的形式，通常用于支持智能问答系统。在一个知识库中，每个句子通常来说都具有三元组，例如“苏琳的性别是男”。在这个句子中，第一个实体是苏琳，第二个实体是男，实体关系（属性）就是性别。在这样的系统中，知识库起到了至关重要的作用。这些知识和信息被存储为实体和实体关系的形式，通常用于支持智能问答系统。在此基于知识库的智能问答系统中，对于一个问题，需要提取出来的有两部分内容，一是实体，二是实体关系。确定实体和实体关系之后，系统才能够通过知识库找到对应的答案。因此，在构建这样的系统时，首先需要搭建知识库数据库，将数据中的每一个知识点分别归纳出实体、实体关系和答案。一个知识点对应一行数据，接着将这些数据存储进mysql数据库中，如图：
接下来是训练模型，一共需要训练两个，一个是Bert-Crf模型，用于识别问题中的第一个实体。。在问答系统中，识别问题中的实体是非常关键的一步，因为它是回答问题所必须的基本信息。举例来说，对于“苏琳的性别是男”这个问题，Bert-Crf模型可以识别出“苏琳”这个实体。
一般来说，回答一个问题需要三个要素：实体、实体关系和答案。但为了更快速地找到答案，在这里可以直接使用实体进行数据库查询。如果数据库中有关于这个实体的信息，就可以判断数据库中对应的属性是否存在于问题中。如果存在，就可以直接返回数据库中的答案，以此来简化整个问题回答的过程。
以“苏琳”这个实体为例，如果在数据库中有对应的属性“性别”，并且问题中也提到了“性别”一词，那么就可以直接返回数据库中“性别”对应的答案“男”。这样，通过Bert-Crf模型和数据库的配合使用，可以快速准确地回答问题，提高问答系统的效率和精度。
然而，实际上问题的复杂性可能不止于此。如果问题中涉及到多个实体，或者实体之间存在复杂的关系，这种简单的查询方法就不能满足需求了。此时，需要更加复杂的问答系统来处理这些问题。例如数据库中关于实体的数据的实体关系并不存在于问题中，这时候我们就需要利用第二个模型，即BertForSequenceClassification模型。
利用预训练的 BERT模型来实现自然语言理解和问答，同时将