返回资讯

机构消歧算法

发布时间:2024年6月28日

算法介绍

针对高校、医疗、科研、政府和公益性质机构的数据库进行整合,以实现输入机构和目标机构数据成果的对标,并确保数据和算法的持续更新。为此,我们采用了以下实体命名实体判歧的核心算法:

  1. 利用自身实体机构库中上亿机构数据统计词频重要程度,进行分值计算。在此步骤中,我们将去除实体字符的干扰词和停用词,并进行表层名称拓展,从而将单一文本转换为多个文本。
  2. 使用BERT进行命名实体识别(NER),提取关键实体数据。然后,我们使用KMP模式串匹配对这些数据进行处理,并根据得到的分值找到最相近的实体。在此阶段,我们采用基于相似度的余弦相似度算法来识别并消除实体歧义。 具体来说,我们将每个实体表示为向量,然后计算它们之间的相似度。如果相似度达到预定阈值,我们认为这些实体是相同的。
  3. 结合ChatGLM大模型对原始数据进行纠错和提取必要信息。结合上述算法,我们可以进一步提升匹配的精准率和命中效果。通过以上步骤,我们可以有效地对不同机构的数据进行整合和对标,为后续的数据分析和决策提供有力支持。

算法流程图

算法使用说明

暂时使用API调用的方式,之后会提供工具包等形式,输入机构名称,通过匹配算法以及模型识别,和大模型ChatGLM数据归一化,返回标准机构数据名称。

API使用文档