Automated survey based on social media
【科研笔记：big data NLP, how big is big?】
《扫了 sentiment，NLP 一览众山小：从“良性肿瘤”说起》
【关于信息抽取】
泥沙龙笔记： parsing vs. classification and IE
前知识图谱钩沉: 信息抽取引擎的架构 2015-11-01
前知识图谱钩沉: 信息体理论 2015-10-31
前知识图谱钩沉，信息抽取任务由浅至深的定义 2015-10-30
Pre-Knowledge-Graph Profile Extraction Research via SBIR (1)
Pre-Knowledge-Graph Profile Extraction Research via SBIR (2)
Coarse-grained vs. fine-grained sentiment extraction
【关于人工智能】
【立委NLP频道】
【Bots 的愿景】
其实 所谓 bots 只是一个用户端的入口，不久未来的世界中的人机接口。
从长远来看，它不仅仅是连接音响或其他apps的启动装置，也不满足于做一个聊天的玩具。加入知识图谱以后，它就变成了知识问答。IBM沃森的问答超越人类，作为AI的里程碑，其背后的原理也不过如此。沃森系统更多是工程的成就，而不是研究的突破，是大数据 大架构 大运算的成果。从系统本身看，并没有超出我们当年做问答系统的基本原理和算法。在第一届 TREC-8 问答系统大赛中，我在Cymofny做的QA系统赢得第一名，66 分，比 IBM 系统（沃森系统的前身）超出了 20 多分。他们后来的成就是因为 IBM 有实力把这个工作进行到底，而整个业界在 NASDAQ 2001 年坍台以后，全部抛弃了 QA 的应用开发，投资人撤资或冻结这方面的任何尝试。我们当年是转向去专做企业情报挖掘了。
广义的图谱包括 parse trees 可以对付无法预见的语义搜索的长尾问题。本义的图谱专指针对领域和应用的 predefined 的知识挖掘，可以精准回答可以预见的问题。由于大数据的信息冗余，使得 imperfect NLP 技术也一样在问答应用上闪闪发光，打败人类。IBM 系统底层的 NLP 和 IE 内核，据了解并非一流的水平，但这不妨碍它在大数据大运算大存贮大架构的工程运作下，一鸣惊人。
图谱是动态的，这一点有几个应用方面的视角：
首先，图谱的知识来源是动态的，因此图谱需要定时和不断地更新
我们做社会媒体挖掘，挖出来的 sentiment 图谱大约是一个季度更新一次，有特别需要的时候更新更快。在并行云计算的架构里，每次更新前后需要约三周时间 近200台servers。
其次，图谱里面的关系和事件是动态连接的
它有无数种进一步组合的可能性，也有进一步挖掘其隐含关系或 trends 的潜力。这些潜力需要一个触发机制去调动它 根据应用的需要和接口。
浅谈一下使用动态图谱的几个场景：
1 semantic search：包括 SVO search
这是对关键词搜索的直接延伸，保留了关键词搜索的应对长尾的能力，可以应对无法事先预见的问题和信息索求，同时大幅度提高搜索的精准度 借助（广义）图谱或 parse tree 的结构 leverage。
2 问答系统
这是对可以事先预见的问题，或一个领域的 FAQ 等设计的 是知识图谱的拿手好戏。根据需要回答的问题，制定图谱抽取挖掘的目标，针对性强，有备而来，焉得不成？
3. 智能浏览
这也是图谱的拿手好戏，因为图谱本身就是互相连接的实体的关系与事件的巨大的网络。只要有一个起点，顺藤摸瓜似的动态智能浏览可以设计得随心所欲，让信息随着人的关注点动态 real time 转移，满足人类没有特定目标或只有模糊目标时的信息需求 对于研究者是特别有力的工具。
【相关】
【立委科普：实体关系到知识图谱，从“同学”谈起】
同学 同乡 同桌 同门 同事 同仁 同性恋 朋友 对象 配偶 恋人 爱人 。。。 这类词（R），作为逻辑谓词，语义上实际上有两个 arguments 的坑要填。这两个坑是 reciprocal 的，其逻辑语义关系就是 human 实体之间的R关系。其汉语的句法表达是：
1. NE1 BE NE2 的 R
张三是李四的同学
== 李四是张三的同学
2 NE1 NE2 R
张三李四同学过
== 李四张三同学过
3 NE1 AND NE2 R
张三与（跟、和、同）李四同学
== 李四与（跟、和、同）张三同学
4. NE1 NE2 BE R
张三李四是同学
== 李四张三是同学
5 NE1 AND NE2 是 R
张三与（跟、和、同）李四同学
== 李四与（跟、和、同）张三同学
6 NP（Plural）R
她们从小同学
“她们” 不仅仅是 Plural 而且必然是指的 2 entities
7 NP（Plural） BE R
她们是同学
BE（联系动词）包括：成为、变成 、当、当成、疑似等，还有介词 “作为”也可归于此类。R 在汉语是名词，有时也“活用”为动词。逻辑上对应的是 （1） 指代；（2）逻辑谓词（表达实体关系）。最有意思的是 R 的双重身份（polymorph，学过C++的都知道这个）使得 R 可以自己给自己填坑。因此本来 R 是有两个坑的： 谁1与谁2 发生了 R 的关系，但由于实体（指代）的 R 可以自己填 谓词R 的坑，结果在简单的名词短语 “NP de R”（e.g. “我的同学”、“张三的同学”）的结构里面，语义坑填满了（saturated），很圆满的样子，一个是 R 本身，一个是 NP：
“我的同学” 逻辑上等价于
==【我】是【我的同学】的同学
==【我的同学】是【我】的同学
假如我的同学叫“张三”，我叫“李四”，貌似同义反复的第二句其实是：
【我的同学（张三）】是【我（李四）】的同学。
== 张三是李四的同学。
逻辑表达式是： 同学{张三，李四}
Note 谓词后是集合 { ...... } 不是 list < ...... > 因为此类关系是相互作用（reciprocal）的，没有逻辑的次序。
最后说一句，这类实体之间的关系的抽取挖掘，是建立知识图谱（knowledge graph）的一个核心任务。我们当年给起了个名字叫 CE（Correlated Entity） relationship。说话已经15+年前的事儿了，那时还没有知识图谱这个被谷歌炒热的术语。没必要谦虚，我们是知识图谱的 pioneers（之一）（《知识图谱的先行：从Julian Hill 说起》），我们当年的工作对于美国国防部立项知识图谱起了关键作用。这是旧话了，好汉不提当年勇，要往前看，看借助 deep parsing 的核当量的威力，能不能施展一下拳脚，在中国和中文知识图谱大业上建功立业。
好风凭借力，送我做图谱。大数据图谱之上，种种应用在望，问答系统（QA）、智能浏览（intelligent browsing）、语义搜索（semantic search），等等等等。不求名利，无意宇宙，但求 put a ding 在我大唐。一切具备，只欠东风。求主保佑。
【相关】
Pre-Knowledge-Graph Profile Extraction Research via SBIR (1)
Pre-Knowledge-Graph Profile Extraction Research via SBIR (2)
【关于 parsing】
《语义计算沙龙：基本短语是浅层和深层parsing的重要接口》
泥沙龙笔记：parsing 是引擎的核武器，再论NLP与搜索
泥沙龙笔记：从 sparse data 再论parsing乃是NLP应用的核武器
泥沙龙笔记：再聊乔老爷的递归陷阱
【泥沙龙笔记：人脑就是豆腐，别扯什么递归了】
Parsing nonsense with a sense of humor
Parent-child Principle in Dependency Grammar
《泥沙龙笔记：NLP component technology 的市场问题》
Deep parsing 每日一析：内情曝光 vs 假货曝光
【deep parsing 吃文化：植树为林自成景（60/n）】
【deep parsing (70/n)：离合词与定语从句的纠缠】
【deep parsing (90/n)：“雨是好雨，但风不正经”】
【deep parsing (100/n)：其实 NLP 也没那么容易气死】
【关于 NLP 以及杂谈】
【语义计算沙龙：深层做出来了，抽取还会远吗？】
mei:
@wei 我提议过，你的parser，能做个API 吗？NLP as a service。如diffbot.com. They are good revenue. Single founder. Large impact. Recently got $10 million series A from ten cent.
还有，你能做几个语言？
diffbot 的NLP/IE 比FB 好。其实小公司 比大公司做的好是 常有的事。所以大公司只好靠acquisition
我:
现在就是 API，内部也是 API 调用。NLP 做 service 或 component technology 作为 business 以前很少见到挺得住的，但对于个人创业，是可能短期“成功”的，毕竟现在的形势也不同了。
我带领我们组做过 18 个语言，囊括所有主要欧亚主要语言。我自己亲手做的是英语汉语世界语，亲自指导过的是法语、俄语、土耳其语。
我:
你说的是 FB 的 deep text？？
mei:
FB 几次 NLP effort都差
现在形式是不同
Diffbot 很成功。每个大公司要买，他们不卖
我:
前两年我与FB里面的人聊天，他们才刚想 NL 的事儿，没什么概念，做得很浅。
Diffbot 是个什么背景？
马:
这家公司不算NLP吧 他们主要做爬虫和正文抽取
我:
抽取可以不用 parsing，或者只用一点 shallow parsing 但抽取是 NLP 这个大伞下面的。另一方面，有了 deep parsing，抽取就是一个玩儿。
马:
他这个抽取不是IE而是从html里提取文本 对文本的结构并无任何分析
我:
那是当年 whizbang！，一个路数。
当年做得很好 泡沫破灭投资人撤资 可怜几麻袋源码 白菜价拍卖。最后 inxight 买了也没见消化 自己也当白菜卖了。
马:
也许会历史轮回，也许会" This Time Is Different "
mei:
Diffbot 没做parsing做IE
crawling，取text只是第一步
白:
深层就算做出来了，怎么抽取还有很多问题。几个难点：1、多重否定：我不是没注意到这件事他没生气。2、多重模态：我知道他相信你不否认某某的领导能力。3、高阶表述：对油价快速上涨的预期减弱。
如果都还原成情感三元组：《对象、属性、极性》，貌似有问题。
你可以放过，前提是识别准确；如果没放过又做了错误识别，就玩大了。
mei:
IE parsing 都只是NLU 的一部分。真正的story understanding 且得做呢。研究生时学的story understanding/knowledge representations, 现在没一家做到。做NLU/AI且得做呢！
我:
白老师说的那些 都见识过。Sentiment 做了四五年了 抽取挖掘做了18年了 能想到的 都见到了。只不过 绕弯不过三 这是基本原则 有时有意选择不做。不是不可以做 是不必做。
白老师的所谓三元组的表达更不是问题 因为表达是自己跟自己玩。识别了 还能无法表达 人不会被尿憋死的。
白老师认可一部分长尾可以选择不去做 但警告说不做不过是漏掉长尾而已 对于大数据 漏掉不是问题 问题是没漏掉 却抓反了。这个对没有经验的开发者 的确是个挑战。对于我们 早已突破了。
白:
自己跟自己玩是因为同质化的东东放在一起有计算手段上的优势，来一个异质化的东东，只好撇在大锅之外了。伟哥有本事开小灶，其他人就难说了。
我:
因为选择不做 与识别准确 不在一个量级上。白老师说的这些问题对学习系统构成的挑战 要比规则系统大很多。
白:
不怕漏识，关键是别误识
我:
对于学习 不是选择做与不做的问题 基本上是到不了选不选的那一步。因为缺乏结构 只能撞大运。凡是绕了几层的结构对于缺乏结构的系统 基本上是噪音 如果标识的时候 手工排除 对学习更有利。不要指望解决它 最好是不要干扰了学习 把系统弄糊涂。
我们从来不是为深层而深层 深层从 day one 就是与抽取挖掘无缝连接的 就是为了支持语用的。不像 syntaxnet 离开应用还有 n 丈远。
冯志伟老师以及机器翻译历史的一些事儿
有群友问，冯志伟老师还好吗？联想到一些MT的历史，随笔记下。
冯老师的微博还很热闹啊（冯志伟文化博客的微博_微博），他四处讲学 著作等身 看照片神采奕奕的样子。学问的高峰虽已过，游离于主流非主流一线之外 但老当益壮 勤于笔耕 教书育人 传播科学。
中国机器翻译（MT）历史上 有冯老师的一页 他凭着多语言的天赋 在法国时期实现了一个一对多（汉语到欧洲语言）的机器翻译。我的硕士论文也是一对多（世界语到英语和汉语），比起冯老师，就算玩具了，但做一对多MT的人很少很少。说的是当年。后来 SMT 盛行了，终于能 scale up 到多对多，尽管仍然是一个语言对一个语言对做的 而我们当年做的一对多 源语分析模块是共享的。
关于冯老师 也有些故事。我的学长乔毅（硕士做的是法汉机器翻译，二刘老师文革后招收的MT首届研究生之一，其他的学员还包括冯老师、李卫东、黄秀铭等）告诉我，冯老师在这拨人中很特别，因为他处于两代之间，地位特殊。他实际上在文革前就介入MT的研究项目了，与二刘老师早有合作。由于文革的十年蹉跎，文革后二刘老师用招收研究生的方式让他归队，因此他实际上是以半同事、半学员的身份回来的。从资历上，二刘老师对他来说更像兄长和同事，而不是传统意义的导师。乔毅说，我们见两位刘老师，都毕恭毕敬称刘老师或刘先生，只有冯志伟例外，他称刘老师为老刘。
冯老师是个蛮豪爽的人，给人亲近感。记得89年香山会议上山，他气喘吁吁，跟我说，由于运动，他路上花了四五个小时才到，我问刘老师呢，他说，刘老师不同，他是圣人。冯老师最津津乐道的成就之一就是，他是第一个（或第一个之一）提出要用多标记做MT的。因为传统的MT都是在词类（POS）和词的基础上做，但POS 太大，词（直接量）太小，很难细线条成hierarchical 的规则系统以提高质量。因此 当一个词带有多标记（譬如 ontology 的标记 如 Human、Food 之类）参与规则条件 自然是打开了一扇大门。不过这一点我觉得是针对西方主流MT系统的算法而言。中国的MT，二刘老师从60年代就开始使用“句子场”的数据结构，这个句子场里面的每一栏实质上就是一个词的多标记。
刘涌泉刘倬老师给我们上课，他们的说法是，MT 50 年代初期由美国率先，苏联紧随，中国自从 57 年从苏联取经就是第三个开展 MT 的国家了。到了 60 年代，中国 MT 的研究处于世界先进水平。主要的原因是，美国和苏联的研究重点都是英俄或其他欧洲语言之间的MT，而中国一开始就不得不面对两个完全不相干的语系之间的MT（俄汉、英汉）。这个特殊性迫使我们不得不把 MT 推向深入。
MT 后来的历史巧合是，到了 1966 年，美国遭遇了由【黑皮书】带来的 MT 寒冬，中国没有黑皮书，但有红卫兵，也同时遭遇了文革带来的科研寒冬。MT 的复苏是在文革后，西方差不多同时也复苏了。世事巧合，莫过于此。参见：ALPAC 黑皮书 1/9：前言 ，MT 杀手皮尔斯 （翻译节选）。
QUOTE 【立委按】此前的博文摘要编译过皮尔斯论，这次重发的是对原文逐字逐句的完整翻译。皮尔斯是当年美国高科技官僚的代表人物，他是以MT（Machine Translation，机器翻译）杀手的面目记载在领域历史里。1966年，他主持撰写的那篇世界著名（或臭名昭著）的 ALPAC 黑皮书，把热火朝天的机器翻译研究，一下子打入冷宫。丘吉教授认为，皮尔斯给自然语言处理泼冷水，促成对自然语言和人工智能很多项目的资助冻结，是有其洞察力和远见的。不管我们心内对他多么不自在，必须看到他的反对意见至今没有过时，仍值得我们认真反思。
【语义计算沙龙：其实 NLP 也没那么容易气死】
白:
“严把个人商用房客户准入关”
我:
这个句子我人脑也费了半天劲才明白讲的啥（“严把个人商用房客户准入关”=="对个人商用房客户应严把准入关”），尝试用parser也只好瞎碰了，果然乱得不是一处两处，甚至把 “准入关”词典化（拼音联想词组里面 还真有这个词条）也还是不行：
白:
“严把个人商用房客户准入关”
严还是个姓，上下文清晰时，可以用裸姓指代全名
“入关”也是词
“把”作动词用不如作介词用的概率高
“房客”也是词
我：
幸亏 real world 这样的句子是极少数。不过人脑怎么 parse 的呢？ 虽然也饶了几圈，backtracking ......
白:
这个例子是银行发的正式文件里的
纵向不确定性比较丰富，导致结构貌似不稳
“个人”是定语
我:
这个“严” 做状语也不好掌控 因为更多是做谓语的
"个人"也有些难缠，词典不行 因为有 “n个人” 的存在，只好后面补救了。
个人的定语问题倒是可以解决，但还是搞不定这句：
算了，就当没看见。我投降。
白:
“准入”是有坑的，“把关”是有坑的。当“准入”+“关”生成“准入关”的时候，坑也要有同步的调整。
我:
谁（被）准入； 为谁把关（把谁的关）？
白:
把什么事由的关。
我:
把VP的关
白:
“皇军要当你的家”类似
我:
“把学习英语的关”
“英语学习的关真不好把”
白:
“严把生猪进口质量关”
我:
“要把好业务关”
这个事由的坑可以是 VP or （abstract）NP，逻辑语义大体是 about：关于什么事儿的关
白:
“教室的地得扫了”
旅行的目的地得调整了
马:
气死NLP
的士的目的地得调整
我:
其实 NLP 也没那么容易气死 @马少平
马:
哈，强大
我:
当然不能指望“世界第1”的谷歌NLP，靠的是世界第0 的立氏NLP。毛主席保证，上面的句子是一次通过，没做任何工作（当然此前一定是有工作的）。
白:
扫地的离合词处理
目的地，长词优先，不用特意做什么
我:
幸好 real world 的句子也有貌似困难其实无根本挑战的 我们还有活路。
白:
反过来才有挑战性，看着是离合词，就是不该碰一块儿的。伟哥试试：“这地是这样地难扫。”
我:
哈哈哈哈 仰天大笑
李白曰过的：我辈岂是蓬蒿人
白:
很好
舍近求远得真解
我:
不过我心内是把它当成狗屎运的，只不过狗屎运常光顾愚公似的人。以前说过n次，NLP 是力气活。
白:
话说，离合词这个功能好像也没多久。
我:
两三月前？早就想做了 盘算很久了 实现是最近几个月的事儿。量词更近，才个把月。
白:
量词和本群有直接关系
我:
离合词的处理 直接源于我13年前做英语的 phrasal verbs：take it off / take off the coat / take the coat off 之类（Wei Li et al, An Expert Lexicon Approach to Identifying English Phrasal Verbs, ACL 2003）
对量词，的确是本群反复议论才被促上马的 因为没有量词搭配 90%+以上的场合无碍 以前一直拖着没做。
白:
“蔡英文说得不好。”
我:
这种还是休眠吧，hidden ambiguity，跟 “难过” 类似。真做就唤醒，用 word driven
白:
和大语境有关
如果满篇都在说另一个蔡，就和蔡英文没啥关系了。
我:
是的，但是那种情形的处理需要在另外一个层面去做。discourse 的因素 trigger “蔡英文”-driven 的唤醒机制。
白:
分层不是单向，该交互时就交互
我:
word driven 是可以想象的，因为“蔡英文”这个词对于我们来说，的确是既透明又黑箱的：黑箱是，只要不是文盲，基本上都知道蔡英文是一个人名；透明是，尽管知道这是一个人名，我们也仍然知道这个词的内部结构，以及这个词的句法可能性：蔡 -- 英文，Topic - S 的潜在性，单从这个词，我们就知道。
白:
一个上下文提供了所提及对象的“场”，重复出现可以增加“场强”，左右句法层面对部件的“抢夺”。
我:
不过这些可以想象的操作，大概很少有人去做，选择不做为多，因为还有很多可做的事儿还没做完呢。
白:
分场景。在游戏场景，上下文中的活跃对象“场”是至关重要的，不仅对其中的NLP，也对智能角色的动作规划。用于NLP是捎带脚
我:
所有的 hidden ambiguity 都可以用 word driven 机制唤醒 如果我们真想做的话。
而 hidden ambiguity 一直公认为是中文切词的死穴。至少可以说，死穴不一定就死。换句话说，在休眠唤醒理论（见文末【相关】链接）正式提出之前，这个挑战很可能是被认为无解或极其困难的
但是，我们已经用 “难过” 在 sentiment 语义落地的实际工作中的实现，证明了还是有救。“小王很难过” vs “小桥很难过”，如今在我们的中文舆情系统中处理得如此漂亮！（重温 【立委科普：歧义parsing的休眠唤醒机制再探】）
白:
从一个包含NLP在内的更大系统视角来看，关键语境参数的实时刷新，受益者绝不仅仅是NLP。作者的观点和作者转述的他人观点，在极性上就是需要区别对待的。引述可能是为了反驳或反衬。所以，观点的主人是谁，就需要甄别。
我:
至少在知识图谱的工作中，discourse 内的实体aliasing 以及 anaphor 的工作，成为整合抽取信息的相对可靠的关键元素，这一步可以 leverage document-internal 的线索，这才为下一步的跨文本的 information fusion 打下了基础。
跳过 discourse 直接做 fusion 是不智的。
【相关】
Wei Li et al, An Expert Lexicon Approach to Identifying English Phrasal Verbs, ACL 2003
导亦有道，我是这样做NLP导师的
我：
我是这样教导学生 NLP和 AI 的：
人工智能里面没有智能
知识系统里面没有知识
一切都是自己跟自己玩
一切都是为了自己玩自己的时候 努力玩得似乎符合逻辑 自然 方便 而且容易记忆和维护
学：
前面的听懂了，AI 这块有点懵懂
我：没关系 前面听懂了是关键。后面是哲学，哲学的事儿不必那么懂。你都懂了 我这个做导师的怎么吃饭呢？
学：
给功能词加 features 怎样才妥？
我：
功能词可以枚举，原则上可以没有 features，无所谓妥不妥。看你怎么用 用起来觉得妥就妥 觉得别扭或捣乱 就不妥。如果你永远不用 则没有妥不妥的问题 给了与不给一个样 因为永远没用到。没用到是可能的，譬如你总是为这个词写 WORD 的规则， 不让它有机会被 feature 的规则匹配上 那么 features 就是摆设 也就谈不上妥不妥。
学:
有道理。本来就这么几个词，写WORD就好了，不需要为Feature伤脑筋。
我：
有点开窍的意思
学：
跟老师多交流，才能开窍，不然我就钻进自己的死胡同了。
我：
人都是这样的 钻进n个胡同以后才能在 n+ 的时候开窍。没进过胡同就开窍的 那不是天才 那是死人。
学：
NLP 里面的知识表达，包括词典的 features，应该怎么设计呢？
我:
从词典表达 lexical features 到句法语义逻辑的表达，大多没有黑白分明的标准答案。
就是自己这么给了 显得蛮合理 也好记忆 否则自己就不舒服 或记不住。更重要的是 给了 features 以后 规则好写了 规则自然 简洁 有概括性 且方便维护。
almost everything is coordination
u assign
u use
no one is in between
no intelligence no god
as long as it makes sense to you (not to others) so u know what u r doing
as long as it is natural and easy to remember
as long as you find it convenient to use certain features in rules and rules are easy to read and easy to maintain
in principle u can assign anything to any words
or choose not to assign
what goes around comes around
you play with yourself
computer knows nothing
features are just 0s or 1s
WHAT GOES AROUND COMES AROUND
that is NLP in an integrated system
whether it refers to POS, chunking, SVO or logical form
it is to make your job easy and yourself comfortable
u have no need to make others happy unless your system is a middleware commodity to serve your clients
if your NLP and your NLP apps are within your own control
they are integrated in your system in your own architecture
everything is internal coordination
This is my lecture on NLP Architecture for Dummies
白:
you是谁？个人、团队、公司？
我:
good question, it is the architect in most cases: he has the say. Sometimes it can be a bit democratic if the architect wants to motivate his team, for example the naming right.
白:
是全局系统的architect，还是NLP这嘎达的architect？
我:
a bit of knowledge is named as f1 or f2, that is arbitrary and the major consideration is memonic-like, features must be easy to remember, but sometimes we let a team member decide its name, such practice often makes the team happy, wow I can act like God, wow I can decide a drop of the sea in the system language ...
白:
伟哥还没回答我最后一个问题: 是全局系统的architect，还是NLP这嘎达的architect？
我:
the former because we are talking about NLP and NLP apps in an integrated system:
apps 不是产品 而是语义落地。落地后 还有一个产品层面 包括 UI 等 那已经不劳我们操心了。落地是与产品的接口而已。NLP 核心引擎与 NLP 落地 是一个无缝连接的系统 这种 design 可以羡慕死人。
如果是有缝对接 如果是两拨人马 两个设计师 甚至两个公司 那就扯不完的皮 擦不完的屁股 成不了大事儿。NLP 和 NLP 产品可以分开 而且应该分开 但是 NLP 与 NLP落地 最好不分开。NLP 落地 包括（1） IE （2） MT （3） dialogue （mapping） （4） QA （5）...... 内部分层 但外部不分开 这就叫无缝连接
可以说 offshelf 害死人，component technology 没有啥前途。选择 offshelf 或 license components 往往是无奈之举，自己暂时没有能力 或不具备条件做，也有找的借口冠冕堂皇：不要 reinvent wheels，最后害的还是自己。
我们已经害过几次自己了 吃尽了苦头 才有这 “十年一悟”，以前说过的： 做工业NLP 自给自足是王道。
白:
这个，关键看公司拥有什么样的专家了。专家不同模式也不同。
我:
也与时代有关： 20 年后也许不必自给自足，就一样做好NLP落地。
【相关】
语义计算笔记：坐而论道谈“的”“地”
【立委按】以前在语言学圈子里有些高雅的沙龙，譬如在冯志伟老师回忆 中津津乐道过的语言学沙龙，每周一次，通常在北大，参与的圈子很小，都是精英之精英，朱德熙（语言学大家，北大副校长）、陆捡明（汉语语法学家）、马希文（计算语言学家，传奇人才，白老师的导师）、冯志伟（计算语言学家）等。坐而论道，雅致之极，令人羡慕嫉妒恨不能入。如今时代不同了，这种沙龙还有吗？回答是，有，譬如白老师主持的【新智元语义计算群】即是：谈笑皆鸿儒，往来有白丁，微信群使得高大上的沙龙平民化了，但高度、大度、上度不浅反深，盖因所延揽的精英早已不再局限于小小的京城，而是遍及全球。白老师树大招风，与NLP有关的华裔背景的顶级专家学者毛姑姑也有90%了，或高论，多潜水，胜景跌出，风光无限。甚至连中国NLP旗手董振东老前辈也上了“贼船”，乐在其中。此番繁荣，拜技术所赐，先给张小龙敬个礼。
白:
“这本书的匆忙de出版，险些坏了大事。” 这里的“de”，是“的”还是“地”，为什么？
如果按照“从里到外”的原则，是“匆忙de”先跟“出版”结合，彼时“出版”尚未被强制，因此还是满格的动词属性，de理应为“地”。但是……个人语感为什么倾向于“的”，而且理论上找不出理由。
“今天真遗憾，错过了大师的精彩de指挥。” 这个就是百分之百的“的”了。
我:
既然白老师爱钻牛角尖儿，咱们就钻钻。
白:
难道这个“指挥”不是被强制的？
我:
不能说 100% 可能是 90%+ 吧。验证的话，可以用大数据。
白:
大数据里有错别字
我:
哪怕大数据里面出来的结果是 100%，用“超大数据” 也会发现不是 100% 而且不仅仅是由于错别字。
白:
验证如果找100个文字编辑，我没意见。
我:
这里面的道理就不是大数据这种表象了，而是某种语言学。
动词概念被性状概念的词修饰，在具体语言中的形式应该是怎样的？就是这个问题。到了汉语，默认的形式是：（1）前置 （2） 加“地”。凡是默认 必有例外。如果 大数据发现了例外 或者 100 个文字编辑的内在句法趋向于一种例外的结果 这个例外就有语言学上的说法。
这里面还有一个微妙之处：口语中是de1 de2不分的，因此上述形式的讨论只限于书面汉语，而书面汉语受到了文法规范化教育的灌输。因此至少从一个层面看，这个问题就是一个 moot point，因为每个人的受教育程度是不同的，而每个人的儿童时学会语言的过程则是相当类同的。这二者打架的结果就会出现不一致，因此 100% 很难。如果聚焦到 100 个文字编辑做裁判的话，实际上是放大了教育的影响。有意思的问题于是成为：本来 “的”是 de 的默认，而非默认的“地”的使用是受教育的结果，因此文字编辑应该趋向于在形状类概念修饰动词性概念的时候，使用“地”而不是“的”。但是，这个 case 却不是（假如白老师的语感或修养靠谱的话），正相反，受过教育的人在这个 case 中，更趋向于用 “的”。这是为什么呢？这里面必有更深层的说法。
还要继续吗？或者谁继续牛角尖下去？
白:
其实，我是在对“从里到外”和“从左到右”的原则在质疑。如果“从左到右”，名物化结构强制的痕迹在不断加重，用“的”就理所当然了。如果“从里到外”，强制在外层，里层在不确定情况下会追随标配。
我:
其实我也正想说到这点儿，就是发散太远，还没收回来。
白:
所以，我认为是“从左到右”的分析策略在起作用。
我:
左右就是词序形式。抽象一点，不是词序，而是【层次性】与【去层次性】在语义表达或理解中的矛盾体现。这在句法学界已经打了很久很久了。层次性是一派，去层次性（扁平化）是另一派。公、婆各有理。
白:
不需要那么极端，就是已经读进来但还没有构造成树的成分，是完全被动地等在那里，还是对后续的消岐有所影响的问题。
我:
层次性的理解涉及多性状概念的 scope 边界，这是乔姆斯基短语结构的真义。去层次性的理解不强调这种 scope 的严密性，而是把他们的配置看成是自由搭配。这是为什么 dependency grammar 的结构树放弃非终结节点的表达。
白:
结构强制发生在有明确结构预期的时刻，而不是真正等来了结构强制对象的时刻。
伟哥可以顺带看看“恢复疲劳”那段。
我:
层次性一派的假设： x1 de x2 de x3 == [x1 de [x2 de [x3]]]
去层次性一派的假设： x1 de x2 de x3 == x2 de x1 de x3
两个假设都可以找到语言事实的支持。
白:
应该有 强去层次 和 弱去层次 之分
强：等价；弱：sometimes等价
我:
相信层次化的理解和去层次化的理解，在相当多的人中其实是模糊的。人的语义，无论表达还是理解，都充满了模糊性，而这种模糊性基本上也不影响语义的语用。换句话说，怎么说都可以，人类在交流中基本不 care。
白:
对分析策略似有影响
我:
歧义不仅可以保留或休眠，直到语用，甚至可以 beyond 语用，一直到死：严格说到死的歧义超越了交流，不能算歧义，最多算伪歧义。从这一点看（伪）歧义，就发现很多问题是人自找的；董老师也说过类似的意思。“人” 指的是系统设计师。
白:
又漂了
我:
漂是因为某个思路还没到终点，意犹未尽，很难受的。
回到分析策略，自底而上最实在。自底而上与层次化自然相配，但也不必然采纳层次化的 representation。
说说 恢复疲劳 吧。这是个固定用法 词典化的条目。
白:
结构强制是个特殊的操作，如果承认在短语“这本书的不出版”中，“不出版”是个状中结构，而再外层是个定中结构，于是结构强制就发生在这两层的衔接当中。“这本书的匆忙de出版”站在层次观点也是一样的，但我质疑层次结构在先结构强制在后。
我:
虽然汉语的 动宾句法 可以有 n 种逻辑语义，但是作为 open-ended 的句法语义解读，这 n 种解读不能是非自然的或满拧的语义。“恢复”与“疲劳”就是满拧。里面省略了的 FROM 就是反映这种蛮拧的。如果 FROM 不出现，那么必然要词典化 用记忆去绑架。
白:
“维持骚乱”的说法也成立
我:
如果要探究为什么这种乍听上去矛盾的说法进入了人类的语言 被词典化，简单的说法就是约定俗成。深究的话 其实是因为矛盾的双方是共现频率极高的相关概念。因为高度相关，所以本来可以明晰的连接双方的句法手段（词序啊，小词 from、against 啊等）就显得太啰嗦，偷懒的人开始省去这些句法元素 共同体开始接受这种省略。最后就进入了集体的固定用法的记忆。“从疲劳中恢复” >> “恢复疲劳”；“维持和平以防骚乱” >> “维持骚乱”。
白:
我的观点是，分析不在乎是不是词典化，生成在乎。哪怕是第一次看到这样的组合，也会放行的，因为张力的指向一览无余。
我:
分析不在乎，是语义不落地，只是休眠。管它什么宾呢 动宾是无疑的。
白:
“维持骚乱”就不必有什么固定记忆，一看这俩词儿，就知道是从不正常状态努力进入正常状态。
我:
没进入固定记忆，是还在过程中。
董:
知网词典的词语，与两位讨论的有关，供参考：
W_C=打扫房间
G_C=verb [da3 sao3 fang2 jian1]
S_C=
E_C=
W_E=clean the room
G_E=verb [51cleanverb-0vi ]
S_E=
E_E=
DEF={clean|使净:patient={room|房间}}
RMK=W_C=打扫垃圾
G_C=verb [da3 sao3 la1 ji1]
S_C=
E_C=
W_E=sweep away rubbish
G_E=verb [51sweepverb-0vi ]
S_E=
E_E=
DEF={remove|消除:patient={waste|废物}}
RMK=W_C=打扫卫生
G_C=verb [da3 sao3 wei4 sheng1]
S_C=PlusEvent|正面事件
E_C=
W_E=cleaning
G_E=noun [7 cleaningnoun-0action,uncount,ofnpa次 ]
S_E=PlusEvent|正面事件
E_E=
DEF={clean|使净:StateFin={spotless|洁}}
RMK=W_C=恢复疲劳
G_C=verb [hui1 fu4 pi2 lao2]
S_C=PlusEvent|正面事件
E_C=
W_E=recover from tiredness
G_E=verb [51recoververb-0vi ]
S_E=PlusEvent|正面事件
E_E=
DEF={BeRecovered|复原:StateIni={tired|疲乏}}
RMK=W_C=恢复知觉
G_C=verb [hui1 fu4 zhi1 jue2]
S_C=PlusEvent|正面事件
E_C=
W_E=recover consciousness
G_E=verb [51recoververb-0vi ]
S_E=PlusEvent|正面事件
E_E=
DEF={BeRecovered|复原:StateIni={dizzy|昏迷}}
RMK=W_C=救火
G_C=verb [jiu4 huo3]
S_C=
E_C=
W_E=fight the fire
G_E=verb [51fightverb-0vi ]
S_E=
E_E=
DEF={remove|消除:patient={fire|火}}
RMK=W_C=救生
G_C=verb [jiu4 sheng1]
S_C=PlusEvent|正面事件
E_C=
W_E=lifesaving
G_E=noun [3 lifesavingnoun-0action,uncount,ofnpa次 ]
S_E=PlusEvent|正面事件
E_E=
DEF={rescue|救助:StateFin={alive|活着}}
RMK=W_C=救穷
G_C=verb [jiu4 qiong2]
S_C=
E_C=
W_E=help the needy
G_E=verb [51helpverb-0vi ]
S_E=
E_E=
DEF={rescue|救助:StateIni={Circumstances|境况:host={group|群体}{human|人},modifier={poor|穷}}}
RMK=W_C=救命
G_C=verb [jiu4 ming4]
S_C=PlusEvent|正面事件
E_C=
W_E=save somebody's life
G_E=verb [51saveverb-0vt,sobj ]
S_E=PlusEvent|正面事件
E_E=
DEF={rescue|救助:StateFin={alive|活着}}
RMK=W_C=救灾
G_C=verb [jiu4 zai1]
S_C=PlusEvent|正面事件
E_C=
W_E=provide disaster relief
G_E=verb [51provideverb-0vi ]
S_E=PlusEvent|正面事件
E_E=
DEF={rescue|救助:StateIni={mishap|劫难:cause={NaturalThing|天然物}}}
RMK=
白:
比如“打击卖淫嫖娼”为什么不能是“打击卖淫 嫖娼”而必须是“打击 卖淫嫖娼”？就是因为一个正面一个负面，是拧巴的，两个正面，就顺当了。这说的是sentiment对分析的反作用。
我:
“维持骚乱”对我这个个体 目前处于一种不接受的状态。并不因为拧巴 我就接受它合法。如果我是语文老师，我会判错 我自己也避免这样用 也不会这样用。但是如果共同体在这个演变过程的终点选择接受 也就是选择词典化，那么我只得也选择接受 并加入我的词典。这是其一。
其二，拧巴的确在语言交流中起作用。拧巴迫使人放弃默认 去探索其他的语义路径 达成理解 虽然心里可能依然别扭。心里别扭是因为还没有词典化 黑箱化。
白:
参加维和部队，到非洲去维持骚乱。
好点没？
我:
有了上下文，当然别扭感好一些。（同理，我也可以这样加上下文：恐怖主义分子猖獗得很，他们要维持骚乱，我们怎能坐视不理。）
在 sentiment 中，有些故意矛盾的说法来表达讽刺，也是这个拧巴理解的过程。以前说过的 thank you for misleading me，thank 的正面褒扬与 misleading 的反面 是拧巴的。理解放弃了默认，选择了 misleading，是客观sentiment对主观emotion的胜利。thank 的正面语义因此消失，被讽刺取代。
白:
“感谢你八辈祖宗”
我:
英语的 improve 是这样一个褒义词，以至于它不在乎宾语是正面反面。可是 维持 在汉语不是，因此“维持骚乱”的别扭感更强，除非是置于合适的上下文，或被语言共同体词典化绑架。
宋:
“这本书的匆忙的出版”和“这本书的匆忙地出版”都是合乎语法的，而且都是指称语。深入一层，“匆忙的出版”和“匆忙地出版”都受“这本书的”修饰，也都是指称语。再深入一层，“匆忙的出版”中的“出版”是指称语，“匆忙地出版”中的“出版”是述谓语。“匆忙的出版这本书”语法上是错的，“匆忙地出版这本书”没问题。一般来说，动词V的语用功能既可能是指称语，也可能是述谓语，依靠它的句法位置来区别。被“Adj的”修饰的V是指称语，被“Adj地”修饰的V是述谓语。修饰后得到的短语，“Adj的V”是指称语，“Adj地V”与V一样，既可能是指称语，也可能是述谓语，依靠它的句法位置来区别。
我:
基本同意宋老师。
顺便提一句，感觉与白老师对话的时候，常常是，似乎是两股道上跑的车，这不影响互相听得见；这两股道不是完全平行的 而是中间老有交叉点。仔细想来，估计是白老师是广度优先的对话算法；而我是深度优先的算法：一条路径不穷尽不愿意回头，就是所谓 “漂”或发散性思维。因为对话是在有限时空中进行，无论什么算法都不可能穷尽路径，因此就造成白老师提纲挈领 总站在云端俯瞰的效果，而深度优先的算法就成了啥了，捡了芝麻，丢了西瓜的印象。宋老师则不同，广度深度都有，但往往是隐而不发 一锤定音。董老师更是大师了 拈花微笑，howNet 拨千斤。就没有能超出 HowNet 的，简直就是如来佛的手掌心。
董:
“出版”，这对于Hownet曾有重要意义。HowNet当年就此要回答两个问题：第一，“出版”（或类似的“计算”、“分析”等）在汉语里也类似于英文既有动词词性，还有一个名词词性吗？这涉及在知网词典中，它们应有两个词条，还是只有一个词条？第二，“这本书的出版”和“这本树的不出版”，在理论意义上它们的区别是什么？
“出版”的问题，HowNet与宋老师是一致的。以前在我们对这个问题的说明时，我们说：“出版这本书”和“这本书的出版”中两个“出版”在核心语义上没有差别，所差的是：前者是有过程的，而后者是静态的，是一个事实。用比喻说，前者是一段视频，后者是一个镜头。这也就是宋老师的述谓性的和指称性的理论。HowNet基于这样的认识，“出版”这样的词语在词典中，只有一个词性，即动词，但对应着两个英文词条，动词和名词。
白:
“这本书的出版”揭示的结构强制现象概括为三句话：1、修饰语决定整体的词性；2、中心词保持原有的词性；3、修饰语填中心语的坑。
我:
Ontology 是逻辑的 高于语言的。在 ontology 的顶层 也有类似词类的东西,可以称作 逻辑类：逻辑动词 逻辑名词 逻辑形容词。这个思考在hownet 得到印证。我个人的这个思考发源于对世界语的钻研及其与不同类语言的比较。我学过法语 俄语 加上英语 汉语 世界语，有足够的表征支持跨语言、高于语言的逻辑类的探索。特别是世界语的构词法 对于这类研究的启示，当年感觉是醍醐灌顶。
白:
中心词的词性也可以“嫁鸡随鸡”，强制前保持原有词性，强制后由修饰语决定。此处特别容易走向拍脑袋。
我:
强制前强制后，原逻辑类都是恒定不变，它是这个语词概念的本质类别，不随句法词法而变。到了特定语言 会有一个类似的 field，俗称 pos，这个是可以改变的。但是传统上 nlp 定义的 pos 任务 很容易过火 过犹不及 结果是让开发者陷入依赖pos的误区（见【中文处理的迷思之二：词类标注是句法分析的前提】）。尤其是照搬英语pos做法到汉语的人 特别要警惕 pos 的陷阱。【迷思】里蕴涵很多只可意会的实践体会和哲学思考，说给世界听 但并不在乎世界听不听。陷阱本就是为人预备的 栽进去也没啥 不过是重复我们曾经的苦难而已。不说不忍，说了也就是菩萨心肠。
quote 需要说明的是，笔者并不反对先POS后Parser的中文处理策略，只是指出POS并非Parser的先决条件，还有一种句法直接建立在词典之上的一步走的策略。顺着这个思路，一步半的策略也许更好。所谓一步半，就是做一个简单的 POS 模块（算是半步）把词类区分中比较大路容易的现象标注好，并不求对所有词类施行标注。
这里要提的建议是：推向极端可以不做汉语 pos，为了工程方便 可以做，但不要过火 不能依赖。
董:
说得太对了。我们在HowNet 那本书的最后单有一章，讲的是中文。其中批评了宾州中文树库，说那是照着英文套中文。特别举得例子是他们标注：年平均（adv）-增长3倍，同句中的年平均（adj）增长率，中文真是如此吗？我们中文的哪本词典里有如此区分词性的。英文词典里look是动词还是名词表的清清楚楚。我们中文是到真实文本中浮动的。英文的文法是百姓的文法，中文的文法是汉语学家的文法。
清:
董老师分析的透彻！
我:
董老师做 HowNet 的30年，所经过的思考，是我们一般人难以企及和想象的，所以我说，真地就好像如来佛的手掌心，有时候我们自以为自己有什么创新思维，最多也不过是个孙猴子，还不等到得意，就发现董老师高高在上 拈花微笑呢。
白:
不过只要伪歧义控制得住，就算多几个POS，技术上也没什么大不了的。至少这不是个技术问题。
我:
问题是，这些都是相互关联的。多数人，特别是没有经过磨练的新毕业生，一头栽进去，根本就无法控制伪歧义。汉语处理一不留神就是个泥淖。
白:
毕业生学什么课太关键了，学了错的课，时间还不够用来消毒的。
杨:
精辟！
白:
NLP的精妙所在就是纵向不确定性（一个位置上取什么标签）和横向不确定性（哪两个标签之间有关联性，独享还是共享）互相交织，最后还给出一个确定的解。
我:
就好比一个迷宫。虽然说走出迷宫 并非只有一条路径 但能走出来的路径真心并不多，而且每条到达终点的路径都必然七曲八拐 暗礁险滩。可以展示最终的形态 很难展示历经的过程。有人认为 只要最终形态是相对确定的 这个路径就必然可以根据最终形态学出来。这就是黑箱子的哲学。似乎天然可行 也赢得了全领域 甚至全人类（大部分是外行）的理所当然的认同。我称它为学习乐观主义。有没有 catch 只有天知道 白老师知道。
白:
七拐八拐真心不是障碍，障碍是目标函数是什么。
我：
七拐八拐关涉多层，不也是毛毛虫的一个部分？
【相关】
Deep parsing 每日一 fun： 雨是好雨，但风不正经
气象局通知～～～原约定今日凌晨来的暴雨，因半路上被堵，耽误了点时间，或许今天下午到夜间赶到。这场雨如果下大了肯定不小，下小了也肯定……不能大，请市民再耐心等待！具体情况等气象台会上研究后报给市民。气象台温馨提醒：今天如果不下雨，明天不下雨的话，这两天就没有雨了，等下暴雨再准确播报。
气象台郑重劝告美女们最近几天不要穿裙子，容易被撩，雨是好雨，但风不正经。
这是微信最近流行的段子。每日 parsing 一 fun:
下面是笔者对两条路线斗争的总结，也 parse parse see see 吧，QUOTE：
说什么两条路线斗争 宗教门派之别 主流非主流 眼珠转与不转 这些都不是本质 本质就是鸡同鸭讲。隔行如隔山 同行也隔山。隔了山还讲个球。鸡犬之声相闻 老死不相往来。这就是计算语言学的尴尬。这是一个非常奇怪的交叉学科 两路完全不是一个类型的人 没有 chemistry 没有基本的共同背景、世界观和方法学 没有共同语言 兴趣迥异 无法正常对话 更甭提恋爱结婚 最简单的办法 就是一派灭了另一派 眼不见为净。结果就是虽然被扫地出门了 语言学对于多数的殿堂内人 依然是格格不入 而又回避不了。做了一辈子的某些主流 NLP 大牛 不懂语言学常识的 并不鲜见 这在任何其他学科都是不可思议的。但是语言学比共产主义还更像一个幽灵，一直在殿堂徘徊。
My interview：
from http://www.netbase.com/about-netbase/
【相关】
NLP核武器的奥秘
我总说，deep parsing 是NLP应用的核武器，有人以为夸张，今天就说说这道理儿。
NLP 的应用主要分两部分，一部分是对于 text input 的分析或“理解”，一部分是反映这种分析理解的 output（俗称语义落地，譬如 output 是另一个语言，就是MT；output 是 response，就是对话系统；output 是针对 input 问题的答案，就是问答系统；等等）。NLP 应用就是连接 input 到 output 的系统。其中第一部分是关键，核心就是 parsing，可以实现为作为条件的模式匹配，而第二部分很多时候不过是与第一部分对应的作为结论的 mapping 或 side effects。
在上述场景的抽象描述中，可以这样来看 parsing 对于处理text的作用。首先，input 的样本就是我们 parsing 的 dev corpus，样本中的语句相同或类似意义的是我们识别的对象。绝大多数情形，识别了就算 “理解” 了，系统就知道如何应对最合适。
自然语言的难点在于表达这些 input 的语句千变万化，因此用 ngram 枚举它们是不现实的。现实的办法是 parse 相同或类似意义的input语句成为结构树，然后在这些树上找共同 patterns，叫“最大公约树”吧（intuitively 叫最小才顺耳，就是这些树的common core，树大了的话就没有召回率了，白老师提议叫“最大公共子树”）。如果找不到，那就把这批句子分而治之 直到可以找到几个所谓子树 patterns，写成逻辑或的模式规则。
Patterns 的宽严度调试得恰到好处 就可以以有限的规则 应对无限的表达了。宽严不外是调整结构arc的条件 或 节点（node）的条件，deep parsing 说到底就是创造这些结构条件的机器。
以不变应万变，用有限的patterns抓住无限的语言变化，这就是自然语言核武器威力的表现。
【相关】
泥沙龙笔记：parsing 是引擎的核武器，再论NLP与搜索
Deep parsing: 每日一析，内情曝光 vs 假货曝光
白老师出的那个 minimal pair:
“这家公司卖给张三的内情曝光了。”“这家公司卖给张三的假货曝光了。”
测试一下，现在没有区分：
结构上粗线条是一样的 没大问题 可是 同位与动宾的区别没表达出来。既然句法大筐子不变，只是 roles miss 掉了，应该可以在语义中间件中轻易解决，透过定语从句的路径以及约束条件。
一觉醒来，在中间件加了一条简单的找逻辑宾语填坑的规则，看看怎么样？改进版：
这条规则是说，如果定语从句谓语句法完了以后仍然有宾语坑未填满，那么它所修饰的NP就来跳坑，除了 “消息” 类的NP。“内情” 于是被堵在外面 不跳，“假货”当然无所畏惧。至于 “内情” 与 定从 的同位语关系，可以做，但选择不做，因为定语的概念包含了同位语，比同位语大，目前没有感到有细分的必要。
上图中还有一个 catch，“公司”与 "卖给” 的逻辑主语没有做，而只是做了 “公司”与“假货”和“内情”的句法定语关系。目前也选择不做，等到需要的时候也不难在中间件中补。主要理由与上面同，偷懒而已。主语是arguments中最接近adjunct（定语就是一种 adjunct）的角色，细分的必要性不强。当然语义落地真地需要，那就或者在语义中间件补上，或者在落地时候唤醒。
计算语言学的尴尬
白:
我关心“老婆情人”在那个语境下为啥不是定中结构。
老王卖瓜自开涮，
创新形容瓜特甜。
老婆情人小三见，
买回刀劈报仇般，
我:
没看懂。似乎有个 context：
老婆情人小三见 == 老婆情人见小三 or
老婆情人小三见 == 老婆见情人小三 ？
诗人特权害死人
Nick:
老婆情人小三见==三缺一
洪:
老婆/情人/小三见
两者兼顾，读诗看图，歧义何出？误解消除。
情人/小三，心理概念；原型维度，因人而殊。
RW:
情人/老婆，心理概念；原型维度，因人而殊。
我:
情人（lover）与小三当然不同。小三虽然没有法统地位，但既然排了次序，就有了事实的地位（“事实婚姻”的事实）。因此还有小四小五之说，这个次序也可能有新来后到的意思，或反映了喜新厌旧，数字越大新人可能越受“老爷”的宠（沿袭三妻四妾的旧制度思维），虽然事实的地位在俗众的心目中似乎越低。
陈:
情人一般是有夫之妇？小三是未婚？
我:
情人比较浪漫，超脱，爱情唯上。与世俗的地位和次序脱钩，倒是有某种秘密的刺激。
Nick:
小三是有上位企图的，情人没有。so情人就是炮友的意思。法国人那种关系都叫情人？我:
情人一旦转成小三 就低下了浪漫的头 失去了独立性 成了金屋藏的娇。广义的情人 也可以转成夫人 实现从浪漫到世俗的脱胎换骨。窄义的情人 专对已婚而言 那是法国英国贵族爱玩的公开的秘密游戏。
白:
你们都是发散思维，就我死啃一个点，结果没人回应。
我:
白老师的问题是老婆小三之间的顿号，是怎么进入人的语言心理的？虽然根本就没看见顿号的影子。为什么顿号不是“的”？
为什么呢？因为大数据！
白老师这次不是“窃喜”，而是感叹心有灵犀了吧
@白老师 “大数据" 是不是你心中老婆情人parsing的标准答案
白:
@wei 大数据中，老婆情人的对举用法远多于修饰用法，这是肯定的。另外老婆的情人有个更简约的用法“情敌”，放着不用偏要拐着弯说，浪费能源。现实中两个因素都在起作用。
我:
白老师的问题是太能干 这个世界不够他玩的。又是语言学 又是金融平台 又是什么块什么链。否则的话 拉出来我们搭个档 做做 NLP 多刺激。就依照你那个 RNN 还是啥的路子走。别人的路子不敢信服。别人也很少懂这一边。
白:
身不由己啊
我:
说什么两条路线斗争 宗教门派之别 主流非主流 眼珠转与不转 这些都不是本质 本质就是鸡同鸭讲。隔行如隔山 同行也隔山。隔了山还讲个球。鸡犬之声相闻 老死不相往来。白马非马 计算语言学亦非语言学 只剩下语言的计算 这就是【计算语言学】的尴尬。这是一个非常奇怪的交叉学科 两路完全不是一个类型的人 没有 chemistry 没有基本的共同背景、世界观和方法学 没有共同语言 兴趣迥异 无法正常对话 更甭提恋爱结婚 最简单的办法 就是一派灭了另一派 眼不见为净。结果就是虽然被扫地出门了 语言学对于多数的殿堂内人 依然是格格不入 而又回避不了。某些主流 NLP 大牛 不懂语言学常识的 并不鲜见 这在任何其他学科都是不可思议的。
但是语言学比共产主义还更像一个幽灵，一直在殿堂徘徊 主流可以不转眼珠 可是心里并不是想象的那么有底气 一个潮流来 可以鸡血一下 忘记幽灵的飘荡 但幽灵始终徘徊。
【相关】
"快叫爸爸小视频" 的社会计算语言学解析
“快叫爸爸小视频” 这样的东西 有社会语言学的味道 随着时代和潮流翻滚。在微信朋友圈及其提供的小视频功能风靡之前 小视频不是术语 不是合成词 也没有动词的引申用法。它就是一个定中结构的 NP，在句型中等价于说”把爸爸叫做小视频”，虽然常识是 “人（爸爸）不可以等价于物（视频）”。在语言的强制性subcat结构（叫NP1NP2）里面，常识是没有位置的。句法不需要顾及常识 正如 “鸡把我吃了”的违反常识一样 也正如乔姆斯基千古名句的 green ideas。
可是 社会语言学登场了 语言被置于流动的社会背景之下，小视频成了 technical term，然后又从术语融入了语言共同体的动词用法，正如谷歌从术语（专名）变成动词一样： “我还是先谷歌一下再回应吧”，“快小视频呀”，“一定要小视频这个精彩时刻”。
白:
“一下”强制“谷歌”为动词。半个括号已经有了 另半个没有也得有。
我:
于是 subcats 开始 compete，有了 competition，有了结构歧义 就有了常识出场的理由。顺应常识者于是推翻了句法的第一个 reading。
白:
你是我的小苹果，怎解？
我：
“你是我的小苹果”是强制性的句法啊，无论怎么理解这个苹果（到现在我也没有理解为什么把爱人或意中人叫做小苹果，是因为拿高大上的苹果比喻珍贵吗？）都与常识无关：你是我的 x，就是强行的句法等价关系。
“一下”强制“谷歌”为动词 这一类看似临时的强制 在语言共同体中逐渐从临时变成常态后就侵入了词汇。换句话说，“谷歌”在以前的词典里面是没有也无需“潜在动词”的标注（lexical candidate POS feature），因为几乎所有的动词用法都是零星的 句法强制的 无需词典 support 的。但是随着语言的发展 “谷歌”的动词用法逐渐变成了语言共同体司空见惯的表达方式（其动词用法的流行显得简洁、时髦甚至俏皮），这时候 语言的用法被反映在语言共同体的集体词汇表中，我们模型这个共同体的语言能力的时候 就开始标注其动词的可能性了。
金:
厉害，这抠的!金融语义在一边看热闹
我:
或问：这词典里面标注了（反映的是共同体集体意识到这种用法的流行）和不标注 有什么区别？
当然有区别。标注了 就意味着其动词用法作为一个合理的路径 参与 parsing 的正常竞争；不标注 虽然也不能排除临时的动词用法 但是因为缺乏了底部的词典支持 其动词用法的路径是默认不合法，除非句法（包括词法）的context逼迫它成为动词，这就是 “一哈”的所谓强盗句法： 不仅词典是绑架的天堂，句法也可以绑架。
白老师说：“兼语理解（叫某人做某事）有谓词性的坑不饱和，双宾理解（叫某人某称呼）有体词性的坑不饱和。如果拘泥于结构，二者半斤八两。但如果结合语境，非兼语理解是颠覆性的，兼语理解是常识性的。放着常识性的理解不选选择颠覆性的理解，说明心头的阴云不是一天两天了。冰冻三尺。”
重温一下白老师 作为对比，字字玑珠，而且妙趣啊。“冰冻三尺”就是社会语言学。
白
也可以说，冰冻三尺就是大数据
我:
我们学习语言学 模型句法 绝大多数都是针对现时的 把语言看成是一个静态的剖面 来研究它 模型它。这个也没大错 而且简化了问题。但是语言是流动的 社会语言学强调的就是这个流动性。流动自然反映在大数据中。因此对于静态的语言模型 需要不断的更新 如果有大数据 那就定时地 check 它。
白：
有个动态更新的中间件就够了
我:
陈原是个大家。他写的社会语言学很有趣味。在世界语场合 有幸聆听过陈原先生的世界语演讲：那个才华四射、感染力和个性特色 让人高山仰止。人家做语言学是业余 本职工作是出版商。据说是中国最权威的出版家，也是个左派社会活动家。
洪:
虽然解放初才入党，但应该早就是中共地下党员，三十年代初就在三联当编辑，胡愈之邹韬奋的部下，以前《读书》上一直有陈原的《在语词的密林里》
我:
陈原的那次演讲 与 黄华(我做翻译的那次)的演讲 都有一个共同的特点，就是表情丰富、富于感染力，能感受到人的 personality，都是“大家”。
【相关】
《我的世界语国》
《朝华午拾：欧洲之行》
【河东河西，谁敢说SMT最终一定打得过规则MT？】
Xi:
@wei ， 评论一下李明教授的机器翻译。我纳闷这年头这么多人跨界来和你抢食啊？
我:
评论啥，我对MT无感了，都。
我现在是，胸怀知识图谱，放眼世界大同。早翻过MT那一页了。
不过话说回来，学自然语言的人如果入行做的就是规则机器翻译，那是上天的赐福。新一辈这种人没有了，所以很多入行多年的人，看到的语言世界，还是井底的一线天。
如果你在没有平台支持下被逼着去做机器翻译，你有福了。你必须从头开始做词典、做 tokenization，做 POS，做短语，做 SVO 句法，你还要做双语结构转换、WSD 词义消歧，最后还有目标语的生成，包括形态生成、调序，修辞上的一些 final touches。
总之 方方面面 你必须全部做到 如果没有平台 没有专用语言 像我们做硕士论文那样用 general purpose language （COBOL，ALGOL，BASIC，甚至汇编）做，那就是在太上老君八卦炉里炼 没得不炼成火眼金睛 后去做 NLP 任何一个方面和应用 都洞若观火。
现在的 CL 硕士博士呢 动不动就下载一个软件包，瞅准一个子任务 譬如切词，譬如 sentiment，譬如WSD，哪怕是做 MT， 也不用涉及那么多的层次和模块。
老老年文：【立委科普：机器翻译】 但并没完全失效。还有这篇：【立委随笔：机器翻译万岁】。
SMT 不用涉及那么多层次 是因为迄今的 SMT 基本是在浅层打转 从来就没有做到深层，论深度和结构 远远不及我们 30 年前做的 规则MT。
马:
但是比规则的系统实用啊
我:
河东河西啊。
如今董老师的系统等也打磨经年了，很难说谁更实用。论精度 则绝对是后者强，甩出一条街去。
smt 的先驱应该是 ibm ，从加拿大议会英法双语语料开始的。
Guo:
Translation memory 算什么？
我:
说起这个概念，我还有掌故呢。以前记过，差不多也成了 MT 野史或外传了，见《朝华午拾：欧洲之行》，Victor 称作为 translation unit （TU）。他们的所谓的 Chinese Week，当时董老师也去了，我和刘老师也去了。傅爱萍大姐派人领我们参观了红灯区以后，并没有随着我们去参加这个活动。这个活动的设立与我当年为他们做的“汉语依存文法”的工作密切相关。
QUOTE 研究组的骨干还有国际世界语协会的财务总监，知名英国籍世界语者 Victor Sadler 博士，我在71届国际世界语大会上跟他认识。作为高级研究员，他刚刚完成一项研究，利用 parsed （自动语法分析）过的双语对照的语料库(BKB, or Bilingual Knowledge Base)的统计信息，匹配大小各异的翻译单位（translation unit）进行自动翻译，这一项原创性研究比后来流行的同类研究早了5－10年。显然，大家都看好这一新的进展，作为重点向我们推介。整个访问的中心主题，仍然是解答他们关于汉语句法方面一些疑难问题。他们当时正在接洽欧洲和日本的可能的投资人，预备下一步大规模的商业开发，汉语作为不同语系的重要语言，其可行性研究对于寻找投资意义重大。
索性把怀旧进行到底 《朝华午拾：一夜成为万元户》： 这是我为这个DLT项目所做的 Chinese Dependency Grammar 的故事。这篇汉语形式文法的原始版本有链接可以下载：Li, W. 1989. “A Dependency Syntax of Contemporary Chinese”, BSO/DLT Research Report, the Netherlands. 我的工作应该是中国做依存关系最早最完整的作品了。所谓 【美梦成真】 就是这么个来历，跨越近 30 年，纸上谈兵的 syntax 终于化为现实的 deep parser。
刚才一边吃晚饭，一边琢磨这段MT外传，觉得还是有几点可以总结的，笔记如下，各位指正。
（1） 荷兰这个多语 MT 计划本来是规则系统起家，用世界语作为媒介语，用的是依存关系文法的框架，实现的机制是 ATN （Augmented Transition Network），技术领头是德国语言学家舒伯特。
（2） 可是做着做着，剑桥出身的 Victor 博士想出了统计的路线，定义了一个在句法分析基础上、根据统计和记忆决定的可大可小的 Translation Unit （有点像我们用的“句素”的概念），做了实验验证了这条路线的创新，把整个项目在收尾阶段翻了个个儿。而这时候（1989年），其他的MT研究虽然也有 IBM 等开始的统计 MT，但没有一个达到这样的深度。
（3）事实上，直到今天，回顾这个科研创新可以看出，根据 parsed 以后的双语数据库的平行对比，从统计去找 Translation Units，比起后来多数缺乏结构、本质上是 ngram 记忆的 SMT，还是远高出一筹。
（4）在 SMT 中加入 parsing 并不是每个人都有这个条件，DLT 赶巧是先做 parser 做了四五年，有了这个基础。现在和今后的方向从宏观上来看是，SMT 应该重温类似 BKB 双语parsed平行语料库的尝试，走带入结构的道路，才有希望克服现在显而易见的结构瓶颈，譬如定语从句翻译的错误。
mei:
语言学家做MT注重语言的结构，深的浅的。我是ai出生，注重“知识“，互相通融的，但侧重点有区别。
Guo:
一谈到统计和规则，总不免让人想起，库恩的科学革命的结构。根本说来，统计和规则，对于什么是nlp，是有完全不同的定义的。站在统计的角度，古埃及文的解读，作者和鹰品的辨识，错别字的检查和矫正，文章可读性的分类，还有很多很多这样的，都是历史悠久的成功故事。说历史悠久，是因为他们早于乔姆斯基太多年了。但是从规则的角度看，这些大概都不属于nlp。
我:
规则也并非一定要是句法的规则，任何 patterns 包括 ngrams 都可以是规则。学习派用的是 ngram 的分布统计，规则派很难量化这些 ngrams 的统计数据，只好把“gram”定义为从线性序列到句法单位的一个动态 unit，用结构化的深度 弥补统计性的不足。
Guo:
其实对于mt，统计这一派也更多的是从"机助"翻译甚至阅读来看问题。不管大佬们怎么吹牛，统计这一派从来不以理解人模仿人为目标。他们是非常工程性，实用主义的。
我:
当 gram 被定义为我导师刘倬老师所阐述过的“句素”以后，产生了两个飞跃：
第一是距离从线性走向平面，甚至远距离现象也可以被这种 “ngram” 抓住了： 这类例证我此前显示过很多。第二是 gram 本身从直接量 (literal) 提升为一个具有不同抽象度的 features 的语言学单位总和，连ontolgy亦可带入。这两个飞跃使得应对自然语言错综复杂的规则，变得切实可行。
smt 我们迄今看到的流行成熟的系统，譬如大投入造就的百度和谷歌MT，其缺乏结构和parsing支持的缺点是如此显然，结构瓶颈随处可见。可反过来看董老师在群里显示出来的传统规则+知识 的系统，结构的优势不言而喻。
也许从 scale up，从对付鸡零狗碎的成语性的 ngrams，董老师这类系统目前还无法匹敌百度谷歌 smt，但是假如以董老师系统为核心，给以同等的资源投入和维护，我觉得百度系统无法打得过规则 MT。当然 最佳的办法是二者的某种结合，取长补短。我想说的是，如果硬要硬碰硬的话，在同等投入的基础上，谁敢拍胸脯说主流 smt 一定会胜过规则 mt 呢？
现在是不平等比较，根本不是 apple to apple 较量。历史把 规则mt 推下了主流舞台，但是 smt 的人无论多么傲慢 也还是应该看得见自己的短板和规则mt的亮点。
Guo:
统计这一派，其实有很多人试图引入结构，但鲜有能够有效减少perplexity的。核心的争论，就是问题到底出在哪儿？一种观点是，结构，并不承载太多的附加信息。另一种就是，我们还没有发现更好的更有效的数学模型。这就是为什么，好些人对深度神经就像打了鸡血。
我:
heterogeneous features 引入后的 evidence overlapping 以及 perplexity 等，是研究课题，不过说结构不承载太多附加信息等价于说 ngram 线性的 model 无需改变，这个 model 在20多年中已经被推向了极致，没有多少油水了。白老师说话，model 不对，语言长得啥样框架上就没留下空间，再多的数据，再deep的学习，也是必然遭遇瓶颈的。
的确在某些粗线条任务中 譬如 document classification，一袋子词的ngram模型已经足以满足应用的需要，精度已经够高，结构即便加入也改进余地不大了：这不是我们需要讨论的。我们关注的都是那些显然遭遇瓶颈的任务，包括 MT、包括 IE、包括 Sentiment Analysis，这些任务，显然统计的路线在没有结构助力下，深入不下去。
到目前为止 纵然有一些带入结构的尝试，但很可能是浅尝辄止，还不到结论的时候。
深度神经是一种训练的算法，与语言的结构深度没有必然联系。事实上 迄今为止 对于 text NLP 的深度神经的尝试，除了专门做中间件 parsing 的 research 如 SyntaxtNet 外，对于 NLP 应用方面的任务，基本上还是在语言浅层进行。带入结构的深度神经用于 text NLP， 到底有几家在做？如果没做 或还没做出结果来 那么所谓 Deep Text 就是有意无意的误导（见 【遭遇脸书的 Deep Text】 ）。
杨:
我理解：深度学习主要是可能在语意理解领域 可能会有所改变
我:
譬如？
哪些任务是深度神经擅长、文法工程短板的语义理解呢？
凡是条分缕析的细线条任务，想不出来深度学习可做，文法工程不可做的，无论语义如何落地。
杨:
比如文字到图像的映射搜索呢？我不懂，瞎说的。当然 这个目前远远不成熟 只是猜想
我:
这个还真是没想到，因为其中一端是 text （captions？），可另一端是 image，对于学习，无论神经的深浅，这个任务只要有大量的 data （带有 captions 的 图片集），就是一个很自然的学习的任务。而对于规则，这种形式化的语义落地（映射到图像）在图像那边如何处理并integrate 到规则系统中来对接，似乎没有显然而见的自然接口。
杨：
不过 图像这块就不够成熟 要做这个且早呢。
我:
好。短板不怕，只要心里有数就好。早就知道规则的“经典”短板了：
【手工规则系统的软肋在文章分类】 。
QUOTE 人脑（规则）可能顾不上这么多细微的证据及其权重，但是人脑往往可以根据不同状况抓住几条主线，然后在其中调控，达到解决问题。在 deep parsing 这个 NLP 的关键/核心领域，规则系统的优势更加明显。
再有就是搜索。关键词检索的鲁棒、对付长尾 query 的能力，是规则系统难以匹敌的。
但是如果把关键词搜索作为 backoff，那么加入结构的精准智能搜索（我们叫 SVO search）就顺理成章了。
【相关】
【立委科普：机器翻译】
【立委随笔：机器翻译万岁】
《朝华午拾：欧洲之行》
《朝华午拾：一夜成为万元户》
【美梦成真】
【手工规则系统的软肋在文章分类】
【遭遇脸书的 Deep Text】
Li, W. 1989. “A Dependency Syntax of Contemporary Chinese”, BSO/DLT Research Report, the Netherlands.
Dr Wei Li on NLP (@LinkedIn)
-
Episodes of "Colorless green ideas sleep furiously
February 17, 2016
-
The Anti-Eliza Effect, New Concept in AI
January 20, 2016
-
The mainstream sentiment approach simply breaks...
November 20, 2015
-
Hierarchy of Information Objects
November 18, 2015
-
Pre-Knowledge-Graph Profile Extraction Research...
November 16, 2015
-
Pre-knowledge-graph Research: Task Definitions of...
November 16, 2015
-
Linguist is born, not acquired
July 6, 2015
-
"Ruminations on NLP and Communism"
July 4, 2015
-
Social media mining on credit industry in China
June 26, 2015
-
Parsing nonsense with a sense of humor
June 24, 2015
-
Dad, can you explain Chomsky's X-bar Theory to me?
June 20, 2015
-
Chomsky’s Negative Impact
June 19, 2015
-
Chinese First Lady in Social Media
June 9, 2015
-
-
Parent-child Principle in Dependency Grammar
June 1, 2015
-
Why Hybrid?
May 30, 2015
-
Introduction of Netbase NLP Core Engine
May 28, 2015
-
Overview of Natural Language Processing
May 27, 2015
-
Coarse-grained vs. fine-grained sentiment analysis
May 25, 2015
-
So-called Big Data
May 24, 2015
-
On Big Data NLU
May 22, 2015
-
Deep parsing is the key to natural language understanding
May 21, 2015
-
How long does a pendulum need to be to swing once...
May 19, 2015
-
Pros and Cons of Two Approaches: Machine Learning vs Grammar Engineering
May 18, 2015
-
Domain portability myth in natural language Processing
May 17, 2015
-
Notes on Latent Semantic Analysis
May 16, 2015
-
Notes on Building and Using Lexical Semantic Knowledge Bases
May 15, 2015
-
Big Data Mining via Deep NLP
May 8, 2015
Deep parsing 每日一析 半垃圾进 半垃圾出
白: 越南一架载有9人的巡逻机执行搜救任务时失踪，这失踪的CASA是去搜寻刚刚失踪的苏-30的。搜寻失踪的，自己也失踪了，得再派一架去搜寻这因搜寻失踪而失踪的飞机的飞机了。
白老师看重的是 不是人话的人话 “。。。得再派一架去搜寻这因搜寻失踪而失踪的飞机的飞机了”。不是人话的话，我把它叫做半垃圾。
半垃圾我都不想试，笃定搞不定。犯“错”了吧心里别扭，又想逞能，就必然去debug一个其实也没啥bug的系统 其结果很可能是得不偿失，或费九牛二虎之力不过是为了一个基本不会再次出现的长尾之长尾。如果无视吧，跟眼里揉了沙子似的。
好奇心害死猫，还是忍不住测试了，不过毛主席呢保证，绝不 debug，我说的是绝不! 也不进 unit test，任它 half-garbage in half-garbage out, 有当无好了：
合上揉进沙子的眼呼呼去也，希望今夜无梦，至少无语言学的噩梦。
【关于人工智能】
我其实是个蛮可怜的“砖家”，一辈子只做一件事儿，除了 NLP 语言工程的一亩三分地，每日掘地三尺，愚公移山，对于化外之地，基本是白痴一枚。特别羡慕仰望那些学富五车融会贯通的达人，如董老白爷洪仙尼克。尽管如此，我却还是不满足于低头挖煤，不甘心做语言学腐儒，老有一种哲学家的心魔压迫着我，不时要不知天高地远地天马行空一番，但总是飞不远，最多是飞到 NLP 的顶头上层AI瞅瞅，hence 下面几篇关于AI的哲学随笔。自然语言理解（NLU）正是AI在语言领域的体现。
【关于NLP体系和设计哲学】
【关于NLP方法论以及两条路线之争】
Comparison of Pros and Cons of Two NLP Approaches
【why hybrid? on machine learning vs. hand-coded rules in NLP】
钩沉：Early arguments for a hybrid model for NLP and IE
《泥沙龙笔记:铿锵众人行,parsing 可以颠覆关键词吗?》
【NLP主流的反思：Church - 钟摆摆得太远（1）：历史回顾】
Notes on Building and Using Lexical Semantic Knowledge Bases
Domain portability myth in natural language processing (NLP)
《科普随笔：keep ambiguity untouched》
[转载]为什么谷歌搜索并不像广泛相信的那样主要采用机器学习？
【关于人工智能】
【立委NLP频道】
遭遇脸书的 Deep Text
前几天脸书发布 Deep Text 新闻，在AI和自然语言理解领域引起热议，媒体上也闹出很大的动静。昨天笔者第一次亲身遭遇脸书的 deep text, 确认了其浅层无结构的本质，甭管它训练了多少层。
我跟女儿对话总是用脸书，她的圈子都用脸书，基本不用微信。她遇到一个烦扰有点着急，我就告诉她 take a deep breath， 没想到脸书立即跳出了 Uber 的链接：我只要一按钮 出租车就会来。
天哪 这就是所谓 deep？很可能不过是个基于 ngram 的分类系统，哪里有 deep nlp 和结构的影子？
大概训练集里有不少 Take a ride， Take a cab， 结果 take a deep breath 就也成了“出行”类事件了。这种信息抽取要是在 parsing 的结构基础上，哪里会出这样的笑话。
报道说什么deep text理解语言接近人的水平，牛皮吹没边了。比我们 parsing 支持的抽取能力和精准 相差何止以里计。
这其实不是意外的发现，因为机器学习界一直就是在浅层做NLP，没有深度，没有结构，没有理解，缺乏细线条的分析 (parsing) 能力，大多是粗线条的分类 (classification) 工作。
对于分类系统 只有输入text大 机器学习才有效。如果是短消息，基本就是瞎蒙，关键词密度在短消息中没有了优势，缺乏 data points 的证据。
事实上，迄今的几乎所有的nlp应用，基本局限于无结构，机器学习 deep 不 deep 没有改变这一点。这很可能是为什么深度学习（DL）在 text 方面似乎不给力的症结所在。
宋老师前两天说话，学习 deep 了 的好处是可以消化更多的训练数据，但是数据的增加永远是线性的，而 text 里面的结构性决定了语言的组合爆炸，因此深度学习不会因为增加数据而根本改观，稀疏数据依然是挑战。ngram 与 bow（bag of word） model 不变，再深的训练依然是在语言浅层挣扎，只能做粗线条的 nlp，却难以胜任细线条nlp的任务。ngram 只是语言结构的拙劣近似，缺乏结构是迄今的死穴。
parsing 基础上的事件抽取（event extraction）比ngram上的事件分类（event classification）高出岂止一头，一细一粗，一精一庸。
Deep parsing：每日一析
“西方人类比用得少，是因为西方的逻辑学产生的早。
什么叫狗屎运？我的定义就是：遇到一个找茬的顾客，看到他藏着陷阱的“自然语言”语句，心里有点没数，但测试自己的系统，一次通过了。
今天是个好日子，撞了一个狗屎运，不必 debug
当然，真是通不过，需要 debug 也没啥，所有的系统都不是一锤子买卖。只要这种 bug 是在你设计的框架内，有一个顺达的对症下药之路，而不是为了这个 bug，没完没了折腾系统。
严格说，也可以找到瑕疵：理想的 parse 最好是对 “西方人” 耍个流氓，label 成 Topic，而不是 S，但这个 Topic 的流氓不见得比现在这个 parsing 强，半斤八两吧。现在的parsing 是把 “西方人类比”当成主语从句了。（S 是主语，Subj 是主语从句。)
对于半斤八两的句法分析路径 怎么判断对错？
一个包容的系统，就认可两者，因为其间的区别已经很 sutble 了，连人很多时候也糊涂。所谓包容的系统，指的是，在语用层面做产品需要语义落地的时候，parser 对此类现象给出的两个不同的路径，应该不影响落地。这个对于句法和语用 integrated 的系统，是没有问题的。后者可以也容易实现这种鲁棒性。
对于汉语常见的 NP+XP+Pred 的现象，下列分析大都可以被包容：
（1） Topic + S + Pred
（2） [Mod + S] Pred
（3）[S + Pred] +Pred
when the second element XP can be Pred （V， A， or deverbal N）
包容的都是可以预见的，因为可以预见，因此可以应对，hence robustness
立委 NLP 频道 开张大吉
承蒙高博协助，立委牌NLP博客频道今天开张大吉，广告一下，尤其对后学：https://liweinlp.com/
其前身是【立委科学网博客】的NLP科普相关博文，所谓 NLP University： http://blog.sciencenet.cn/blog-362400-902391.html。我将逐渐把原NLP博客转移至此，新的博客会同步在此发布。非 NLP 博文仍然以科学网为基地。
本大学有网无墙，有教无类，对公众无条件全天候开放。学分以研读立委教授博文为单元，从下列清单任选100篇博文，计100分，急用先学，学有所得，学以致用，是为有效学分，学员自我判分，过60可毕业也。门槛说高不高，说低不低，师傅领进门，修行靠个人，能否诚实毕业，就看造化了。
不知道多少次电脑输入 NLP（自然语言处理），出来的都是“你老婆”。难怪 NLP 跟了我一辈子，or 我跟了 NLP 一辈子。不离不弃。
开篇词： 余致力自然语言处理凡30年，其目的在求交流之通畅，信息之自由，语言之归一，世界之大同。积30年之经验，深知欲达此目的，必须启蒙后进，普及科学，同心协力，共建通天之塔，因作文鼓而吹之。处理尚未成功，同志仍需努力。
分八章。
第一章：体系和方法论，关键是这一篇【NLP 联络图 】。除了体系和术语联络图，也谈方法论及其两条路线的斗争。
第二章 Parsing，包括 shallow parsing 和 deep parsing 的方方面面。要强调的一点是，deep parsing 是 NLP 的核武器。当自然语言的 unstructured text 被精准分析成 structures 以后，语言因为有了有限的 patterns 而变得有迹可循，NLP 应用的很多难题就迎刃而解了。
第三章 抽取，进入NLP语用。虽然学界绝大多数抽取都是不用parsing的，或者只用 stemming，最多是 shallow parsing，这里更注重的是在 deep parsing 基础上的抽取。可以看成是针对知识图谱的全自动最终解决方案。
第四章 挖掘。抽取和挖掘常常搞混，但一般的共识是它们处于不同的层次：抽取针对的是个体，一颗颗的树，而挖掘针对的是森林，是语料库或文本数据源。在大数据年代，文本挖掘被认为是开采金矿的核武器，可以领跑下个 decade，但是从 NLP 体系框架来看，它是处于 parsing 和抽取之后的，是抽取的统计化结果。真正的核武器是 deep parsing，因为有了它，抽取才能快速进入domain，以不变应万变，同时抽取的质量也能大幅度提升。这才为最终的大数据挖掘打牢了基础。
第五章 NLP 的其他应用，文本挖掘是 NLP 的主打应用，可以用在很多产品和domains，其他的应用则包括机器翻译（MT），问答系统 （QA），智能搜索，如 SVO search （超越关键词的结构搜索）。当然也包括语言生成（聊天机器人要用的），还有自动文摘等。这些方面目前还没有面面俱到，有些应用笔者迄今没有找到机会涉猎。
第六章 中文 NLP。作者读者都是中国人，写的是中文博客，加上中文处理有其特殊的挑战，所以单列。更重要的是，很多年来，中文 NLP 被认为远远落后于欧洲语言的 NLP。这里的材料深入研究了中文的特点和难点，展示中文 NLP 的新进展。结论是，中文处理的确有其挑战，但其处理水平并没有落后太多。与英语NLP或其他欧洲语言NLP一样，最先进的中文NLP系统也已经进入了大规模大数据应用的时代。
第七章 舆情挖掘实践。舆情挖掘也是挖掘，这里单列是因为这是笔者目前的研发重心，也是因为这是 NLP 中最 tricky 也很有价值的应用，展示其挖掘实例可以激发大数据挖掘的想象力。本章集中了舆情挖掘的中外实例，几年来的热点话题追踪，或者打趣，也有不少闹着玩的成分在，包括给男星女星排名，甚至挖掘他们的花边新闻。
舆情挖掘比事实挖掘难很多，虽然体系和方法论上二者有很大的相同点，但难度有天壤之别的感觉。这是因为主观性语言（subjective language）是人类语言中较难的一面。严格说 sentiment analysis 属于抽取，sentiment extraction 才是更准确的说法，不过大家都习惯了沿用 sentiment analysis，而 opinion mining 才属于挖掘 （or mining of public opinions and sentiments）。这个里面学界最多报道的工作实际是 sentiment classification，但classification只是sentiment analysis 的一个皮毛。舆情舆情，有舆有情。舆就是 public opinion，情才是 public sentiment，后来为了统一在大家习惯的 sentiment 的 umbrella 下面，我们把情限定于 emotion 的表达，但 emotion 的表达只是一种情绪的挖掘，可以与 classification 很好对应，不管是分两种情绪（褒贬），三种情绪（褒贬中），还是四种情绪（喜怒哀乐），或 n 种，总之是 classification 。但是 deep sentiment analysis 不能停留在情绪的 classification，必须找到背后的东西。这就是为什么我们强调要挖掘情绪背后的理由，因为人不能老是只有情绪（喜欢不喜欢）和结论（采纳不采纳)，而不给出理由。前者仅仅是发泄，后者才是为了传达、说服或影响人的具体情报，是可以帮助决策的。挖掘的主要目的有二：一个是把这些情报统计出来，给出概貌，不管是制作成图表还是使用词云等可视化的表达。第二就是允许用户从这些情报开始做任意的 drill down 或顺藤摸瓜。很多时候我们只展示了前者，其实真正的价值在后面（系统demo可以展示其威力，博文很难表现其动态）。后者才真显系统的威力，前者不过是静态的报表而已。Deep sentiment analysis 是 NLP 应用中最难啃的果子。
第八章是最后一章，NLP 掌故。这里面说的都是故事，有亲身经历，也有耳闻目睹。
希望 这个 NLP University 提供一些 NLP 课堂和教科书中没有的内容和角度。前后积攒了几百篇了，不仅分了大类，也尽量在每一篇里面给出了相互之间的链接。
【相关】
科学网【NLP University 】