分类： 信息抽取

【立委按】语义网＆知识图谱微信群是一个大群，里面不乏知识大佬和语义新秀。最近有人问本体（ontology）与知识图谱（knowledge graph）的异同，引起一番讨论，笔记如下，以飨同好。尽管有很多混淆和混用，这两个术语背后所对应的概念之辨识，在我看来是基础性的本质性的，值得详细解说和进一步讨论，hopefully,　此篇可以抛砖引玉。

梁：
今天读到赵丹老师的一篇讲知识本体的源流的文章，请教二位老师两个问题：1. 知识本体=知识图谱，是否也等于“元数据”？10几年前在北大读书的时候，还没有形成“大数据”新话语体系。那时开的课就是数据仓库、数据挖掘。里面对于数据库表头标签体系称为“元数据 meta data”。所以这里问一下，是不是可以等价

刘：
不是，本体，图谱，元数据是三个概念。可以理解为，图谱是一个简单缺少强逻辑关系的本体

鲍:
元数据，本体，图谱，链接数据，这几个词都是结构化数据在不同历史时期的营销名词。他们本身的ontological difference与其说是基于内涵定义出来的，不如说是结构化数据在不同历史时期外延不同表现出来的。十多年前，当本体和现在的知识图谱一样火的时候，人人皆称本体，各种研究数据库、逻辑、词汇表等等，都自称本体。现在则是所有和结构化数据有关的应用，都自称知识图谱。所以我以为，无需细究两者之间的内涵区别。过三五年，自然会有新词出来再取代它们。

赵：
本体论本身是有问题的，并不存在一个独立于人的思维之外的客观知识体系，知识都是具体的，被特定的人认知的，带有一定主观性的体系

Me:
虽然很多人混用 虽然术语的流行具有历史性和时髦性 其背后的基本概念的区别还是值得强调。本体论 所代表的结构化数据 的确带有 元知识 的意味 处于一般的所谓知识图谱的 另一个层面。我们在谷歌搜索中见到的知识图谱所支持的实体的关系以及相关信息 不是本体 而是情报。

本体作为元知识反映的是常识或相对恒定的知识 它不具有情报价值，而通常所谓知识图谱则是情报挖掘的结果。这个区分极端重要 因为这两种知识在如何形成 何处使用 等方面 非常不同。

wordnet hownet 还有 cyc 这类知识都属于 本体， 它们是专家多年手工编制的 其知识内涵有稳定性 无情报性。也有自动形成本体或领域本体的工作 这个工作叫知识习得（knowledge acquisition）， 而不是一般意义的知识图谱所使用术语 信息抽取 （information extraction） 因为 抽取的要点在于情报性 在于提供具体实体及其关系和事件的流动性。文本挖掘 text mining 也被混用得不行。但最基本的理解还是指的信息抽取基础上的情报挖掘 而不是本体的 acquisition

撇开术语被混用 这种区别的关键在于 对于自然语言理解而言 本体知识是一个支持性的知识 而图谱所反映的情报则是结果。换句话说 前者是帮助理解的 后者是理解后的输出。当句法知识（也可以看成是语言学层面的元知识 形式语言理论里面叫元语言）不够用 或者单单的句法不能排歧的时候 语言理解往往需要借力本体。譬如 “鸡我吃了” 与 “我鸡吃了”，谁吃了谁 句法上无法区分，本体里面的常识开始发力。“鸡”常常作为“人”的食品。“人”作为鸡的食品 除了童话或狡辩外 是站不住的。语言理解以后的信息抽取 实体 who what 等发生何种关系 relationships 以及 事件关涉到那些实体 Who did what to whom where when how and why ，回答这类问题的情报知识可以从知识图谱来。
班门弄斧一下。请知识大佬和后学批评。

鲍:
李老师说的很对。只是在实践中，大多数公司和研究paper里提到的本体和知识图谱，都没有这么精确，大家基本是把任何结构化数据都套上这个词。细分并不容易，因为概念建模对大多数研究生和程序员就和天书一样。

Me:
对 混用很严重。概念区分很重要。特别是后学进入这个领域 这个区分是基本的。深究起来 还有灰色。但总体的分野是分明的。叫什么术语另说。

鲍:
gene ontology到底是本体还是数据？到底如何支持语义推理？计算机科学家研究了很多，可是生物学家也听不懂，依然按他们理解的方式用，他们就这这个当词汇表用，也一样好用。jim hendler曾做过统计，rdf和owl的实际使用，大部分都是“错”的。所以这里有一个工程师视角和科学家视角。其实还有一个商人视角。倒是图谱 更加混杂 有表示情报的 有表示本体的。我们在媒体上读到的，大部分是商人视角。

Me:
不过 很少有人拿 本体 表示情报。常识和情报的分野是根。
做本体不需要太多人上 即便存在本体的领域化。做情报的图谱则不同 ，无时无刻没有情报产生 因此需要不断抽取 挖掘和整合 以满足情报需求。难度也不一样 做本体的 是对人类常识和经验的概括，非大师不能。即便从大数据去习得本体（ ontology acquisition），定义本体，也是需要高度。情报性知识图谱则不同，任何产品经理，在了解客户需求后都可以定义。然后就是抽取挖掘。注意，学界对这两个动作用的是不同的术语 前者叫习得（acquisition）， 后者叫抽取（extraction）。

鲍:
比如现在，大家把schema.org称为知识图谱，把dbpedia称为知识图谱，把图数据库称为知识图谱，把工商注册信息也称为知识图谱。把名词列表称为知识图谱，把分类树称为知识图谱。到底什么是知识图谱呢？我觉得，就从众好了。 在学术界，我们还是沿用tbox和abox 那个肯定不会被滥用。

Me:

Cf:《语义三巨人》 - 李维的博文

三巨人中 菲尔默的 Framenet 最尴尬，它反映的知识性质耐人寻味。里面所定义的 frames 很像是信息抽取领域的 templates 但是它是跨领域的 自上而下成体系的，Frames 之间也具有 hierarchy，这与 ie 领域或产品经理定义的信息模版有所不同 后者是领域的情报 零散的。说它尴尬 是因为 这个 framenet 是从本体的角度概括情报结构， 本来是想充当最终的领域情报的元知识组织者。但实际上 几乎所有的领域情报信息抽取 都绕过了它 只是学界有人以这个标准组织竞赛和研究。业界不买账也有其道理 因为情报知识图谱的元结构里面的 hierarchy，只有在信息抽取框架数量繁多需要规整成系统　实现资源继承和共享的时候，才可能体现价值。而知识图谱的研发还没有到那个规模，需要这种支持。

另一方面 企图在文本挖掘中利用 framenet 里面的 frames 的抽取作为通向领域或产品情报的模版的思路 理论上可以缩短到达应用层面的距离 实践中不如直接从nlp的支持 包括 parsing 的支持抽取 来得简洁有效。

与此话题相关的术语混用也表现在【信息抽取】和【文本挖掘】上。很多人混用 但严谨一些的学者其实有一个共识 至少是概念层面的明确区分。术语不过是形式 但讨论问题的双方对背后的概念分野如果不能事先相互理解 很可能形成鸡同鸭讲的局面 或争论得一地鸡毛。

quote 很多人混淆了抽取（information extraction） 和下一步的挖掘（text mining），但实际上这是两个层面的任务。抽取面对的是一颗颗语言的树，从一个个句子里面去找所要的情报。而挖掘面对的是一个 corpus，或数据源的整体，是从语言森林里面挖掘有统计价值的情报。在信息时代，我们面对的最大挑战就是信息过载，我们没有办法穷尽信息海洋，因此，必须借助电脑来从信息海洋中挖掘出关键的情报来满足不同的应用。因此挖掘天然地依赖统计，没有统计，抽取出来的信息仍然是杂乱无章的碎片，有很大的冗余，挖掘可以整合它们。
from：【立委科普：自然语言系统架构简说】

与nlp有关的术语体系 我做过一些梳理 主要为的是科普给新人。里面也涉及知识和语义层面的一些术语。也以一并留个链接 请各位批评指正：【立委科普：NLP 联络图 】。

【相关】

【立委科普：NLP 联络图 】

《语义三巨人》

《知识图谱的先行：从Julian Hill 说起》

《泥沙龙笔记：知识习得对本体知识，信息抽取对知识图谱》

【泥沙龙笔记：再谈知识图谱和知识习得】

《新智元笔记：知识图谱和问答系统：开题（1）》

《新智元笔记：知识图谱和问答系统：how-question QA（2）》

泥沙龙笔记：搜索和知识图谱的话题

a million dollar slide

【立委科普：信息抽取】

【关于知识图谱】

【置顶：立委NLP博文一览】

《朝华午拾》总目录

w:
@wei 现在做知识图谱是否大多是工程性的工作了？
漆:
做知识图谱不仅仅是工程
w:
我是觉得李老师，趟过情感分析的河，现在也许只是工程上的工作了
漆:
看你怎么理解工程
w:
同意，虽然没上手这个领域，但是感觉上不是简单工程上的
漆:
知识图谱本质上就是知识工程的一个分支而已，但是里面涉及到的技术还是蛮多的。至少现在深度神经网络，本体推理都用得上，还是有很多理论问题需要解决。
w:
那么，现在受制于那些主要问题呢
漆:
现在还有很多问题没解决，主要是特定领域的知识挖掘很难，特别是中文，很多资源都是缺乏的。而且现在的信息抽取算法精度不是很高，离实用还有一段距离，需要做很多dirty work 召回就更不要说了
w:
恩，觉得现阶段 准确率，胜过召回率 扎实做稳，逐步积累
雷:
对的
w:
就是中文标注的文本源太少
漆:
特别是事件抽取，好像没有谁可以做得很好 各种论文都是没用的 semantic parsing也没几个真正做得好的
w:
反过来说，还是Parser,质量不高的 李老师@wei 没有用上 语义parser，那是啊
漆:
我觉得不仅仅是一个parser的问题了，parser怎么可能做到完美呢 人类的自然语言就是含糊的 所以还是需要各种推理
w:
syntax parser 和semantic parser ,.应该不是严格分离的
漆:
数据清洗
w:
尽管李老师是主张parser 纯点
漆:。而且需要是context-dependent
w:
谈到推理，摊子就大了
漆:
还有常识知识
w:
我觉得专业领域的文本，是否使用推理情况少点，但是标注语料难求。
我:
唉 怎么说呢 让你们这么一议，知识图谱需要这个知识，那个推理，甚至常识，岂不寸步难行 遥遥无期了？照我说，其实没那么玄，有了靠谱的 deep parser，知识图谱的基础就打扎实了。知识图谱无需动用太多知识 负重而行。
漆:
专业领域会有很多业务规则的推理
我:
说了你可以不信
mei:
我也认为parser不够，还需要更powerful knowledge representation，再加推理，knowledge graph @漆
我:
不过还是可以说：中文事实抽取有啥难的 关系抽取有啥难的？
w:
哈！一个知识图谱，常识，推理，都来了，这掀起了NLP中的所有的锅盖啊
我:
这些基本事实的抽取就是小菜，如果与我们所做的 sentiment 做比较的话。客观语言的抽取工作 比起主观语言的抽取就是难度低了一个量级。
漆:
这个倒是 主观的更难
我:
如果因为论文中看到的抽取不靠谱 就断定抽取难的话 那是还没见到而已，不是不存在。
漆:
关系抽取还是可解的
我:
事件比关系的难度是一个水平级的 有了 deep parsing 就是一个玩儿。什么样的 deep parsing 可以让抽取成为玩儿呢？ 就是我每天秀的这个 parser 就可以。它不完美 但足以支持抽取。
w:
相信@wei 几十载个功力，是可以处理相当的问题的
mei:
从抽取到推理都有一大步
我:
当然 秀出来的 parsing 结果仅仅是树结构，隐去了节点信息 抽取是在 arc+节点 两条腿上做的。推理另说。但没有必要把推理作为抽取的核心基础。倒是在知识图谱层面 有时需要一点推理。在抽取层面 无需严格意义的推理。最多是暗度陈仓引进一些零星的 ontology 的 taxonomy。
漆:
您现在的parsing还是单句的，如果是段落，有关系依存的句子，难道也是一样？
我:
parsing 都是单句的 抽取也是 一码归一码。
w:
在想，各种需求，如何结合得更好。一方面说现在没有好句法，另一方面，现在的句法好得很。这又都同时出现在本群中，如何衔接空隙呢？
mei:
单调的static predicate，knowledge graph之上加推理有很大一步。ontology也可以做成知识图谱的一部分，可离story understanding还差远
我:
到了做融合（fusion）的时候，需要跨句、跨段落、跨文章。
漆:
有些关系是跨句抽取的，如果只是单句抽取倒还好
w:
如果单句复杂得很话，也相当复句，或小段落了@wei 的大长句parsing 结果
漆:
是的
w:
同意@mei 可离story understanding还差远。我觉得现在篇章理解的初级阶段都不是，不能看论文的发表情况，看实用效果和市场产品，更为真实
我:
这里的问题是 story understanding 是一个什么任务？为什么产品或应用服务？如果抽象地说，understanding 很难，这是宇宙真理。如果具体到支持某一个应用，问题往往简化。譬如 如果知识图谱用来支持 entity 展示其中关系以及牵扯到的事件（所谓顺藤摸瓜），那么 understanding 与否 其实不会根本影响。
w:
story understanding，当然不一定是story,就我而言，我认为很重要，有产品需求。可以自动提取人类知识的规则，建立常识知识库，而不是手工CYC啊。
我:
CYC 也是如此，要 CYC 干什么用？抽象的说，常识及其常识推理是人类调动的知识手段，那么机器模拟人的话，自然也需要这个手段。但是具体到一个应用，问题不是这样的 因为很多应用无需常识就可以。
w:
来让机器认识我们周围的世界，有点常识，不要太机器
我:
CYC 叠床架屋一直得不到大用 根子就是只有它能做的事儿并不多。很多是，语言分析就可以做，常识也可以做，为什么要舍近求远呢？
漆:
CYC确实是用处不大
w:
当初研究 自然语言的目的，就是为了让机器思考，思考需要知识，知识来源于书籍（不限于），书籍需要表达，表达需要语言，---转了一个大圈，原来是卡在语言理解这块
漆:
不过常识知识还是很重要的，比如说，我们现在做地理知识问答，就需要很多地理常识知识 特别是空间知识
我:
QUOTE 三位语义巨人中探索知识最深入和纯粹的是 Lenat 教授，他带领团队手工开发的 cyc 知识系统，试图从常识的形式化入手，利用常识推理帮助解决语言理解等人工智能核心问题。可惜这套庞大的系统太过复杂和逻辑，在实际应用上有点像大炮打蚊子，使不上劲。 （《语义三巨人》）
mei:
CYC 都是手写的，很难实用。
漆:
挺有意思的一个博客
w:
常识是针对问题的常识，不是无边际的
我:
QUOTE cyc 是属于未来世界的。他的 cyc 探索必然在历史上留下足迹，未来的某一天，他会被人纪念。生不逢时吧，虎落平川。（【一个人对抗一个世界，理性主义大师 Lenat 教授】）
w:
@mei 所以要自动提取。篇章理解好了，提取也就成了
mei:
所以很多实用是针对一个一个vertical的。同意。要也能自动。
w:
不赞同CYC手工，也不是长远事。语法是骨架，但是要真实世界的话，光语法是不够的
我:

（【立委科普：自然语言理解当然是文法为主，常识为辅】）
此图是要说明，只有 common sense 才能做的工作其实是很小的圈儿，而常识本身的形式化很难 很大 也很脆弱。
漆:
同意
我:
所以理论上万能的常识 实践中意义有限。
漆:
不过没有这个很多任务也不好完成
mei:
所以我说要knowledge representation 和推理
w:
同意常识很脆弱，不排除甚至走走就会自相矛盾。
我认为“常识本身的形式化”的最好形式就是自然语言。哪怕简洁自然语言，人人可懂，人人可修。自然滚雪球越走越大。否则，形式化这关就毙了。其他的三元组，都是不周全的。
我:
QUOTE 在自然语言处理的空间里，多年的实践使我们可以做一个宏观估计，大体说来，文法可以搞定大约80%的自然语言现象和问题，表现在图中就是绿色和棕色的区域。常识呢，因为常识系统很难建成，其应用尝试就更加艰难（这一点后面谈可操作性还要重提），我们其实不知道单单用常识、不用文法到底能解决多少语言问题。我们暂先给一个乐观的估计，假设它也可以解决约80%的问题，在图中用红色和棕色表示。绿色区域和红色区域所要说的是，语言中有少数现象文法可以搞定但常识搞不定，也有少数现象常识搞定但文法搞不定。
上面图示要传达的关键信息是，即便文法和常识都能搞定很多语言问题，二者必然具有相当大的重复面或论据冗余度（棕色区域）。这个推测应该是有道理的，因为文法可以搞定多数现象是可以证实的，笔者也多次经历过。那么常识如果可以大部搞定同样的问题领域，就必然与其大面积相交。
结论： 综上所述，规则系统中，文法为主的路子比起常识为主的路子要靠谱得多。无论规则系统还是机器学习，常识成为自然语言核心技术，既无必要，更无可能，后学谨记。作为科学家，你可以进军这一领域，但不要指望它在现实中开花结果。如果你要做工程，请绕开常识这个monster，你可以零星地收编一些常识，切忌陷入深不见底的常识（推理）系统的泥坑。
w:
@wei 这句话还是有印象。但是，发展的话，这是如何绕不过去的 就看谁来为，怎么为了
漆:
同意
w:
各位先聊，我这边忙，谢谢各位
白:
在投资领域，还是必须把常识进行到底的，哪怕手工做，只要价值在，时间够，就要往前推。没有常识的舆情都是耍流氓。
梁:
@w 赞成用“简洁的自然语言”，或受限语言，表达常识。
而且是 Domain Specific, 金融领域，明显可做。 另比如，tester 的语言是: Given-When-Then, 我很喜欢 Cucumber 语言。
w:
谢谢！
谢谢梁老师肯定，关于选用简洁语言做常识表示，当初也是基于知识库的长远发展性考虑的。
梁:
对呀，只要未来的小读者喜欢读它，愿意扩展它，这种语言可以 evolve. 它就活了。
w:
它也不是仅限于常识性的知识，对定义性知识，过程性知识，都可以。只要愿意参与，容易参与，多人来参与，确实就走活了。现在很多知识库为知识库而知识库，没用起来，再大也是静态的死库。
比如说有一个做一道菜的过程知识。描述语言先不多说，肯定人能懂也好改，机器明白几何不论，但能照做并做出菜来。那么后人看加点这个，加点那个，菜味有改善。又有人觉得一某个过程火候调一下更好，这样不断众人拾菜火焰高，这道菜就越发有发展了，发展到极佳。当然这共享知识，做菜机下载能用，参与“流通”，那么这做这道菜知识，就是活知识，当然也可能这知识发展饱合了，也是好事一桩，那说明这菜己炉火纯青了，人们可以考虑别的菜了。
知识块就这样一个点，一个小区域慢延展开来，随后形成某一个知识体系，可被调用的活知识。
梁:
对呀，a piece of knowledge, 人人可以参与，改它，更新它，微调它，download 它，使用它。
我:
难道 wiki 不就是如此而且成功了吗？连那么尊贵的大英百科 也不得不退让。
梁:
yeah, wikipedia 模式，但它的 business model, 它怎么赚钱？
w:
wiki的知识更多是面向人类的而非机器。机器理解不了，就消化不了，转化不成力量
我:
受限语言践行最久大概算波音了 但那是需要接受培训。
w:
接受培训这样的语言能传播多远？
我:
辅之以机器检查才能成事 天生就不是wiki一样开放给社区
w:
那种培训语言也就真只是“受限”语言
我:
不受限 那就采 wiki 模式 靠的是人编辑确保质量和一致性
w:
我认为是不自觉地参与进来，不觉累，没有义务，都有收益的编辑模式，就自然成风。中文的wiki规模就寒酸了。另外这种wiKi编辑模式，也有待改进之处。
@wei 李老师的规则描述可否走向普通人可编辑的方向？这样大家共建，走向查缺补漏的新天地
梁:
对呀，大家共建，共享，当然还要李老师培训把关。
w:
今天我和梁老师很有共鸣，是非常高兴的事。这边很晚了，再见！
梁:
原来在陈肇雄黄河燕老师的公司里做汉英系统，调句子，十几个女孩子一起干，调规则和字典。干得挺开心的。collaboration is great。:)
Good night
我:
最好是男女搭配 那就更开心。最后还是要一个掌舵人的指引和宏观保障，否则可能成为 over done 的系统 负载太重难以前行。微软前 nlp 组由着一帮语言学家做 系统庞大 如今基本废弃不用了吧 可惜了里面那么多语言学总结 不见天日。

【相关】

【立委科普：自然语言理解当然是文法为主，常识为辅】

《语义三巨人》

【一个人对抗一个世界，理性主义大师 Lenat 教授】

【立委科普：信息抽取】

《朝华午拾：信息抽取笔记》

泥沙龙笔记：搜索和知识图谱的话题

《知识图谱的先行：从Julian Hill 说起》

《有了deep parsing，信息抽取就是个玩儿》

【立委科普：实体关系到知识图谱，从“同学”谈起】

《朝华午拾》总目录