什么是知识图谱?实体、关系与证据

什么是知识图谱?

Scrapeless Web Unlocker 获取网页内容,为在知识图谱工作流中进行实体和关系抽取提供可作为来源证据的材料。

什么是知识图谱?

知识图谱以一种应用程序可以查询和解释的形式来表示实体及其之间的关系。实体可以是产品、组织、地点、文档或概念。关系表达特定的含义,例如某个产品由某个组织制造,或某个文档描述某个产品。当这些身份和含义在不同来源之间保持一致时,图谱就会变得有用。

网络图绘制是对图的可视化表现,而不是对图本身的定义。一个有用的知识图谱还需要标识符、允许关系的模型、其陈述的证据以及变更规则。没有这些要素,仅仅用箭头连接标签可能掩盖歧义,而不是解决歧义。

摘要

  • 实体身份与显示名称是分开的。 相似的名称并不能证明记录描述的是同一事物。
  • 关系需要被明确定义的含义。 卖家关系不得在未告知的情况下悄然变成制造商关系。
  • 图表陈述需要证据和背景。 来源、时间和提取方法会影响一条陈述应如何被使用。
  • 检索和推理需要不同的控制方式。 已发现的关系和推导出的关系应保持可区分。

实体和关系是如何表示的?

图模型表示可识别的事物及其之间有意义的连接。在 RDF 表示中,一个语句是由主语、谓语和宾语组成的三元组。 RDF 概念和抽象语法 定义标识符、字面量和三元组如何构成图。主语可以标识一个产品,谓语可以表示其制造商,而宾语可以标识一个组织。

属性图通常使用附加属性来表示节点和关系。一个产品节点可以有一个显示名称,而一个关系则可以携带观测上下文。这些模型提供了不同的约定和工具支持。应根据具体问题和互操作需求进行选择,而不是假定每个知识图谱都必须采用同一种表示方式。

字面数值和实体应当被有意地区分开来。价格金额是一个数值。一个包含卖方、市场、货币和观测时间的报价,可能本身就值得作为一个独立的实体来建模,因为多条陈述必须引用同一个上下文对象。将报价显式建模,可以防止某个金额看起来像是产品的永恒属性。

本体或图架构的作用是什么?

图谱模式或本体定义了概念以及关系的含义,使连接数据可以被理解。先从应用实际需要的区分开始。即使源页面将它们一起呈现,在商品目录中,产品、变体、报价、卖家和制造商也是不同的概念。

定义关系方向和预期目标。销售某种产品的组织并不一定是该产品的制造者。页面中提到某个品牌并不意味着其拥有该品牌。这些区分属于语义层面的要求,任何图谱存储引擎都无法仅凭相邻的标签安全地推断出这些关系。

约束可以使期望变得可测试。 形状约束语言 可以描述对 RDF 数据的要求,包括属性基数和取值类型。根据某个形状进行验证可以确定对该形状的符合性,但不能确定某个现实世界中的断言是否准确。

让初始模型保持足够小以便审查。一个针对明确定义问题的狭窄图谱,比起一个广泛却对词汇关系没有一致解释的图谱,更容易维护。仅在真实查询或证据需求提出时再添加概念。

实体解析是如何工作的?

实体解析用于判断不同的源记录是否指向同一个现实世界实体。稳定的源标识符是有用的起点,但必须理解其适用范围。一个商品列表标识符可能标识的是报价而不是产品。一个公司名称可能指代多个互不相关的组织,或者会随着时间发生变化。

在合并实体之前使用有力证据。标准化的产品标识符、经过验证的组织域名或有文献记录的来源映射,都可以支持匹配。名称相似性可以帮助寻找候选对象,但不应自动决定身份。保留原始记录以及进行映射的理由。

含糊的匹配需要一个明确的状态。只要源实体在其自身标识符下仍然可查询,候选匹配就可以保持未解决状态。相比于强行将每条记录归并到一个整合实体、从而使后续更正代价高昂,这种做法往往更安全。

在数据模型中,分辨率更改应当是可逆的。如果两个产品被错误地合并,图谱应保留足够的来源引用,以便将它们分离开来。映射历史还解释了为什么先前的报告会以不同的方式对记录进行分组。

Web 内容如何成为图谱证据?

网页到图谱的工作流程会收集证据、抽取候选陈述、解析实体身份、验证结构,并接受符合条件的关系。以一个具有说明性的产品-供应商调研任务为例:一份经批准的来源页面描述了一款产品并列出了一家卖家。收集阶段会保留该页面引用及其观测上下文。抽取阶段会在任何规范化之前,识别出来源中使用的精确关系标签。

无痕网页解锁器 支持检索源材料。其 网页收集和渲染功能 不会自动将页面文本转换为已验证的图谱事实。你的抽取与审查流程必须自行判断页面实际上支持什么内容。

候选陈述可能会说某个优惠由某个组织销售。除非证据支持这一单独的主张,否则不应扩展为该组织生产该产品。将证据链接或允许的摘录与该陈述一起存储,并记录抽取方法和接受状态。

在任何模型解读内容之前,源准备工作都很重要。 AI 训练数据流水线 描述了从收集到数据集的路径。对于图谱构建,应调整该边界,以保留实体标识符和陈述的来源追溯,而不是把所有抽取文本都当作同样可信。

为什么来源追溯和时间至关重要?

来源追溯记录了图谱陈述存在的原因以及有哪些证据支持它。 PROV 系列来源追溯模型 将信息与负责生成它的活动和参与方联系起来。图谱工作流可以利用这些理念来区分源断言、抽取结果和已审查陈述。

不要把所有时间折叠成一个更新时间字段。某个来源可能描述的是过去适用的关系。你的爬虫可能在更晚的时候观察到该描述。你的图谱可能又在更晚的时候接受该陈述。这些时间分别回答了关于有效性、观测和处理的不同问题。

相互冲突的陈述可以连同其证据和状态并存。一个来源可能列出以前的供应商,而另一个则描述当前的关系。查询应应用预期的时间和证据策略,而不是随意选择最后加载的一行。

置信度数值需要明确定义的解释。模型的内部分数并不会自动成为陈述为真的校准概率。如果要存储分数,需记录是谁生成的以及消费者应如何使用它。人工批准是另一种状态,而不是正确性的数值保证。

知识图谱可以回答哪些问题?

知识图谱支持那些依赖实体间关系的问题。目录团队可能会询问哪些优惠指向由特定组织生产的产品,然后按卖家和市场对这些优惠分组。文档系统可能会把主张与支持它们的页面和组织关联起来。

图查询匹配的是实际被表示出来的关系。 SPARQL 图模式匹配 定义了 RDF 图的查询语言。对图进行查询并不会自动补全缺失的关系,也不能保证已经收集到所有相关实体。

推理是一个单独的决策。规则可以从已接受的陈述推导出关系,但推导结果应能追溯到该规则及其输入。如果某个输入被撤回或更正,受影响的结论需要一条明确的更新路径。

缺失的关系需要谨慎解读。缺少销售方边可能意味着来源没有提到卖家、抽取未能识别它,或该实体超出范围。应用不应把每个缺失都当作被证实的否定。

图与表格和向量搜索相比如何?

图强调显式关系,表格强调结构化记录和连接,向量搜索强调嵌入空间中的相似性。这些能力可以相互补充。图可以判断文档描述的是哪个组织,而向量检索可以从该组织的文档中找到相关段落。

当关系含义、遍历和身份是问题核心时,选择图更合适。对独立观测进行的直接报表也许用表更简单。相似度搜索可以找到相关表述,但并不能确定两个实体是同一个,或者某个关系为真。

运营成本不仅仅包括收集。 Scrapeless 定价 有助于估算源访问部分的成本。实体审查、映射维护、证据留存和查询操作同样需要负责人和预算。一个规模较小但已被接受的图,可能比充满未解决主张的大图更有用。

结论

围绕需要显式关系的问题来构建知识图谱。定义实体身份,保留证据,并在向应用暴露之前限定陈述。最终得到的图谱应能解释它说了什么以及为什么应用有资格信赖它。

将采集层付诸实践

选择与来源匹配的 Scrapeless 采集能力,然后应用上述验证与运营决策。

立即注册即可获得 $5 免费额度 — 无需信用卡.

领取你的 $5 额度 →

常见问题

知识图谱就是图数据库吗?

知识图谱是对实体与关系的表示;图数据库是一种存储和查询该表示的方式。存储方式本身不会提供缺失的语义或证据。

知识图谱能消除幻觉吗?

不能。图可以提供显式、可追溯的上下文,但其中的陈述仍可能错误、过时或被误解。应用必须验证证据并保留不确定性。

相似名称可以自动合并吗?

名称相似性本身不足以证明身份一致。可用它来找出候选匹配,然后在合并实体前应用更强的标识符或人工审查。

缺失的边能证明某个关系不存在吗?

不能。缺失的边可能反映覆盖范围有限或证据尚未解决。否定性主张需要明确的解读和支持范围,而不是仅靠缺失。

参考资料