知识图谱( Knowledge Graph)以结构化的形式描述客观世界中概念、实体及其关系,将互联网的信息表达成更接近人类认知世界的形式,提供了一种更好地组织、管理和理解互联网海量信息的能力。上述一大段是我从2018知识图谱发展报告中copy下来的一段话,用普通人能听懂的人话来描述:知识图谱就是把去发现世间万物的之间的联系。 在技术上就是将数据以一个一个的的三元组形式存储起来。

不知道大家有没有这样一种感受,如果你在某一领域的学习了解到很多的知识碎片,却无法将他们关联起来,这些知识碎片并不会加深你对这一领域的认知。而如果你能将他们联系起来,串联成一张知识网,那很有可能你就是这个领域决定的专家。因为你的脑中有这个领域的知识网,你就能知道这个领域的边界在哪。知识图谱就是要将知识串联起来,形成一张知识网。

知识图谱的应用场景:

知识图谱主要分为两类: 通用知识图谱和领域知识图谱。通用知识图谱主要需要知识的广度,而领域知识图谱需要知识具有深度。 + 通用知识图谱最普遍的应用场景就是:搜索引擎, + 领域知识图谱的应用场景则比较丰富多样:司法,医疗,金融,电商等各行各业都可以构建属于自己行业的知识图谱,而这些知识图谱可以用于智能问答,辅助决策,风险规避等。

当然以上只是知识图谱被应用最多的场景,还有一些很有潜力的应用场景,比如将知识图谱和深度学习结合等。知识图谱这个新的,年轻的概念还等着大家去探索更多的应用可能性。

知识图谱的构建简介

这里笔者就不介绍详细版知识图谱构建流程,直接抛出一个简单粗暴版的构建流程。 + 实体抽取,实体链接(两个实体同一个含义需要规整),目前最主流的算法就是CNN+LSTM+CRF进行实体识别。 + 实体间关系抽取,拿到知识图谱最小单元三元组,比较经典算法的就是Piece-Wise-CNN和 LSTM+ Attention 。 + 知识存储,一般采用图数据库(neo4j等)。

但是要注意的是,知识图谱一定要最先定义好构建它是用来干什么,目标业务导向,定义好符合业务逻辑schema层才是最最重要的。有了schema之后接下来的任务就是实体抽取和关系抽取啰,其中关系抽取是把知识点串联成一张知识网的重要过程,所以这里笔者着重介绍一下最近在知识图谱领域很火的有监督的关系抽取任务的一个模型PCNN。

关系抽取之PCNN(Piece-Wise-CNN)

这里笔者仔细解释一下有监督的关系抽取的任务的数据样式,任务形式,以及PCNN(Piece-Wise-CNN)的思想和tensorflow实现。 关系抽取数据:

input : 句子 Steve Jobs was the co-founder of Apple Inc和两个entities Steve Jobs 和 Apple Inc。 out: 实体之间关系 : /business/company/founder

所以我们可以将其抽象成一个分类问题,输入句子和实体信息,然后让模型分出这两个实体之间的关系属于哪一类。

PCNN

下图清晰了显示了PCNN的整个网络架构,原文链接在这里,下面我对着下图介绍一下PCNN的实现过程:

数据预处理:首先对数据进行位置编码,按句子中各个词离entity的距离进行编码。 例如:“As we known,Steve Jobs was the co-founder of Apple Inc which is a great company in America.” 由于句子中有两个entity,所以这条句子就会产生两个和句子长度相同的编码。 pos_1:[-4,-3,-2,-1,0,1,2,3......] ,其中0就是Steve Jobs的位置。 pos_2:[-9,-8,-7,-6,-5,-4,-3,-2,-1,0,1,2,3......] 其中0就是Apple Inc的位置。

切分句子:其中最主要的就是将一条文本数据在两个entity处各切一刀将文本且成了3段。 比如 As we known,Steve Jobs was the co-founder of Apple Inc which is a great company in America,将被切成: 1. As we known,Steve Jobs 2. Steve Jobs was the co-founder of Apple Inc 3. Apple Inc which is a great company in America. 注意,位置向量也同样进行了切分操作。

特征提取:将位置特征和文本特征拼接之后,然后将上面三个数据分别通过CNN 提取特征,

关系分类:提取出来的特征通过maxpooling层之后进行拼接后送入softmax层,最终得到relation的分类。

从上面PCNN的流程我们可以发现,这个网络结构很注重entitiy之间的距离信息,位置信息,以及entitiy之间或者左右的信息。其实这些都是是关系抽取中最重要的特征。 + 一般来说两个entitiy之间距离越近,则他们有关系的可能性越大。 + 而透露出entities之间有关系的词一般会出现在两个entity之间,左侧,或者右侧。 例如:Steve Jobs was the co-founder of Apple Inc , 关系词 co-founder就在两个entity之间

tensorflow 代码实现

由于之前对PCNN的整个流程有了比较详细的解释,这里笔者只是简单的介绍一下代码构成。 下方这一步是已经将文本向量和位置向量进行了切分,由于文本被两个entity分成了左,中,右三段,再这三段加上各自的两个位置向量。所以网络一共有9个输入,加上关系label输出,一共需要定义10个placeholder。

import tensorflow as tf

import os

os.environ['CUDA_VISIBLE_DEVICES'] = '1'

tf.reset_default_graph()

word_ids_left = tf.placeholder(tf.float32, shape=[None, maxlen, word_emb_size])

word_ids_mid = tf.placeholder(tf.float32, shape=[None, maxlen, word_emb_size])

word_ids_right = tf.placeholder(tf.float32, shape=[None, maxlen, word_emb_size])

pos_l_1 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_l_2 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_m_1 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_m_2 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_r_1 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_r_2 = tf.placeholder(tf.int32, shape=[None, maxlen])

pos_r_2 = tf.placeholder(tf.int32, shape=[None, maxlen])

label = tf.placeholder(dtype=tf.int32,shape=[None,n_class])

下方代码这是PCNN的实现,其中Piece_Wise_CNN函数是对PCNN的实现。

def get_sentence_emb(word_ids,pos_1,pos_2):

pos_emb_l1 = tf.keras.layers.Embedding(input_dim=498,output_dim=10,input_length=100)(pos_l_1)

pos_emb_l2 = tf.keras.layers.Embedding(input_dim=498,output_dim=10,input_length=100)(pos_l_2)

return tf.concat([word_ids,pos_emb_l1,pos_emb_l2],2)#[batch_size,maxlen,word_emb_size+2*pos_emb_size(10)]

def Piece_Wise_CNN(left_emb,mid_emb,right_emb,feature_map,n_class):

left = tf.keras.layers.Conv1D(filters=feature_map,kernel_size=3)(left_emb)#[batch_size,maxlen,word_emb_size+2*pos_emb_size(10)]

left = tf.keras.layers.GlobalMaxPool1D()(left)#[batch_size,feature_map]

mid = tf.keras.layers.Conv1D(filters=feature_map,kernel_size=3)(mid_emb)#[batch_size,maxlen,word_emb_size+2*pos_emb_size(10)]

mid = tf.keras.layers.GlobalMaxPool1D()(mid)#[batch_size,feature_map]

right = tf.keras.layers.Conv1D(filters=feature_map,kernel_size=3)(right_emb)#[batch_size,maxlen,word_emb_size+2*pos_emb_size(10)]

right = tf.keras.layers.GlobalMaxPool1D()(right)#[batch_size,feature_map]

final_feature = tf.concat([left,mid,right],1)#[batch_size,3*feature_map]

out = tf.keras.layers.Dense(n_class,activation="softmax")(final_feature) #[batch_size,n_class]

return out

def train_op(out,label,lr):

losses = tf.nn.softmax_cross_entropy_with_logits_v2(

logits=out, labels=label)

loss = tf.reduce_mean(losses)

train_op = tf.train.GradientDescentOptimizer(learning_rate=lr).minimize(loss)

return train_op,loss

这里是定义train_op部分。

left_emb = get_sentence_emb(word_ids_left,pos_l_1,pos_l_2)

mid_emb = get_sentence_emb(word_ids_mid,pos_m_1,pos_m_2)

right_emb = get_sentence_emb(word_ids_right,pos_r_1,pos_r_2)

out = Piece_Wise_CNN(left_emb,mid_emb,right_emb,20,n_class)

train_op,loss = train_op(out,label,lr = 0.01)

结语

这里笔者主要是想通过PCNN这个经典的关系抽取网络说明:其实有监督的关系抽取任务的关键是需要神经网络理解两个entity之间的语义连结,所以,而如何利用好句子中entity周围的词语的语义信息和entity之间的位置信息,可能是解决这类任务的关键。笔者在之前的文章中多次强调过自然语言处理最终目标还是希望算法能够理解语义。像PCNN这个网络则提出了切分句子,集中注意力关注句子提供关键信息的部分(自己的理解),也许是一个好的方向。

python知识图谱关系抽取算法_知识图谱关系抽取之PCNN——tensorflow实现相关推荐

  1. 实体对齐 算法_知识图谱中的实体对齐方法及装置与流程

    本发明涉及计算机领域,具体而言,涉及一种知识图谱中的实体对齐方法及装置. 背景技术: 在构建大规模知识库的任务中,需要处理大量来自多源知识库的实体数据.在构建知识库之初,首先需建立一个知识描述体系,然 ...

  2. java 网页正文抽取算法_网页正文抽取算法 ContentExtractor

    软件介绍 简介 ContentExtractor 是一个开源的网页正文抽取工具,用JAVA实现,具有非常高的抽取精度. 算法 ContentExtractor的网页正文抽取算法使用的是CEPR,适用于 ...

  3. 个人知识体系思维导图_“知识体系”打得好,学霸孩子跑不了,巧用“思维导图”来帮忙...

    文章纯属原创,版权归本作者所有,欢迎个人转发分享. 相信很多妈妈都会看见孩子学习学不进去的苦恼,孩子看着很用功,每天按时完成作业.做练习题,但是成绩就是一直上不去,还会出现成绩不升反降的情况.这成了许 ...

  4. java 网页正文抽取算法_GitHub - hfut-dmic/ContentExtractor: 自动抽取网页正文的算法,用JAVA实现...

    ContentExtractor ##简介 ContentExtractor是一个开源的网页正文抽取工具,用JAVA实现,具有非常高的抽取精度. ##算法 ContentExtractor的网页正文抽 ...

  5. bgb邻居关系建立模型_知识图谱上的双塔召回:阿里的IntentGC模型

    关注本人的同学可能发现,我最近点评的文章都是关于"GNN在推荐系统应用"方向的.这当然与现如今这个方向非常火有关,但是作为一个合格的炼丹师+调参侠,总要搞清楚一门技术为什么火?这么 ...

  6. python数据分析做什么作业好_知识星球 | 说说我为什么要做『python数据分析』社群...

    过去一段时间,很多人会问我: "现在的工作没有前途,该如何转行?" "我知道数据时代已经来了,我该如何学习,不让自己落伍?" "数据分析适用于生活和工 ...

  7. python写excel标记文字颜色_[知识积累]python3使用xlwt时写入文档字体颜色和边框样式--转载...

    可借鉴的网址:https://www.programcreek.com/python/example/39979/xlwt.Alignment 可以直接通过pip安装xlwt 个人理解: xlwt中对 ...

  8. python实现排列组合公式算法_朴素贝叶斯算法的Python实现

    朴素贝叶斯分类算法被广泛应用于文本分类场景中.包含垃圾邮件.互联网新闻等分类任务,属于有监督学习算法.它独立考量每一维度特征被分类的条件概率,然后综合这些概率对其所在的特征向量做出分类预测,即&quo ...

  9. 用python实现朴素贝叶斯算法_朴素贝叶斯算法 python 实现

    应用贝叶斯准则: 使用上面这些定义,可以定义贝叶斯分类准则为: 如果 P(c1|x, y) > P(c2|x, y), 那么属于类别 c1; 如果 P(c2|x, y) > P(c1|x, ...

  10. python写界面c这算法_插入算法分别从C,java,python三种语言进行书写

    真正学懂计算机的人(不只是"编程匠")都对数学有相当的造诣,既能用科学家的严谨思维来求证,也能用工程师的务实手段来解决问题--而这种思维和手段的最佳演绎就是"算法&quo ...

最新文章

  1. Datawhale面经项目来了!
  2. 理想ONE“偷袭”豪华品牌 李想强调不会收取金融服务费 | 2019上海车展
  3. 在Servlet中获取Spring注解的bean
  4. 2021年5月信息系统项目管理师上午真题
  5. 【数据库】数据库常见操作指令
  6. 状态输出导航栏html,Vue实现导航栏效果(选中状态刷新不消失)_百厌_前端开发者...
  7. java学习(148):三个参数的输入流
  8. 2020年2月全国程序员工资统计
  9. 研究多个基因间相互作用的频域方法
  10. A4双面打印多少钱一张
  11. 基于matlab的神经网络设计,matlab神经网络应用设计
  12. 用二分法求下面方程在(-10,10)之间的根:2x^3-4x^2+3x-6=0
  13. 周期性的方波 matlab,matlab产生方波脉冲和周期性方波信号 - 副本
  14. iphone11计算机黑屏,苹果11突然黑屏开不了机怎么办?iphone11黑屏无法开机的解决方案...
  15. 土木工程材料——混凝土
  16. 今天Sapphire来短消息问我“一件有点隐私”的事情,:)
  17. vue项目怎么样去实现新窗口跳转_vue跳转方式(打开新页面)及传参操作示例
  18. element ui 中级联选择器,点击完下拉框收回
  19. 华为T2000网管软件使用之Metro1000以太网业务
  20. 专注创新型蛋白工具研发,上海恺佧生物科技完成3000万元Pre-A轮融资...

热门文章

  1. 机器学习进阶路上不可错过的 28 个视频
  2. 把Spring boot jar作为Windows服务运行
  3. 遍历Map集合的4种常用方法
  4. PHP点餐系统源码附小程序点餐系统
  5. 人事岗位必备的免费办公软件,职场人可收藏。
  6. php常用的函数总结
  7. 已知地球上某两个点的坐标(即经纬度),求两点的实际距离。uniapp实现(实现语法js)
  8. 广州科源980tc数控系统说明书_广州数控GSK980TC3车床数控系统 操作轴名
  9. 游戏服务器开发技术栈
  10. 开源的SNMP网管系统LibreNMS