我:
机器翻译所蕴含的厚重和神圣，在新一代是不可理解的
刚入行的时候做的是外汉机器翻译，一直不大敢碰汉外，原因是汉语语法不好形式 化，感觉太难了，当时想，这辈子怕都没指望了。 现如今，汉语语法还真没有见到多少大规模形式化能实用的，按照以前的路子，那汉外机器翻译必然寸步难行，因为汉语分析是前提，然后才是转换和生成。
可谁能想到，机器学习越来越牛，人工翻译的双语资料作为人类活动的副产品，几乎“天然地”源源不断而来，这就成就了深度神经机器翻译。什么分析，什么生成，统统绕过去，端对端直接施行转换。Google Translate 因此可以在同一个模型架构下，支持几十种语言的互译。这简直就是神迹。可却是技术的事实。尤其不可思议的是，以前认为最难的的汉外翻译，反而进步最大（至少汉英是如此）。 译文再不济，也给你个大概齐，不仅立等可取，而且还完全免费。比你学两年外语，带上词典死磕还一头雾水要强多少。除了天堂，天下哪里有这样的美事？
机器翻译（MT）是自然语言处理（NLP）领域历史最悠久的应用方向，从上 个世纪50年代初发轫，承载了中外几代不知道多少人的青春和梦想，也包括青年时代的立委。如今，梦想化为现实，嵌入式机器翻译在互联网无孔不入，已经成为普罗大众手中招之即来挥之即去的便捷工具，每时每刻在默默服务着千百万互联网用户。女儿学汉语用它，学西班牙语用它，去日本动漫网页也用它，用到对它熟视无睹，把机器翻译视为理所当然。只在翻译错得离谱的时候才意识到它的存在，不时报以嘲讽：真笨。可机器翻译呢，谦谦君子，玉树临风，虚怀若谷，无怨无悔。对于已经天然成为女儿这代人生活一部分的机器翻译，我满腹机器翻译的历史和掌故，却不知如何给她诉说。耳濡目染，她从我断续的话语中似乎隐隐觉得机器翻译对于她父亲的一生具有特别的意义，可是我还是无法象对同辈人那样娓娓道来，如数家珍，传达出我内心深处的机器翻译所蕴含的那份厚重和神圣。不仅仅是代沟，是技术的跨越式发展造成了两代人迥然不同的视角，令人感慨。 from 【机器翻译万岁】
刘:
@wei 深有同感。科学技术的发展真是出人意料，做梦也想不到机器翻译能到现在这个程度。我一个刚入门不久的学生跑NMT，轻松超过Moses十几个点，仅几年前，这还是天方夜谭，要是超出Moses五个点绝对可以发最高等级的论文、拿博士学位了。
而且现在用现有的深度学习工具编NMT程序，代码量跟SMT相比都很小，不像写一个SMT程序，要花大量时间处理小的细节。深度学习的工具本身太强大了。同一套工具，稍加修改，既可以做机器翻译，也可以做语言识别、图像识别。
深度学习并没有解决所有问题，但为我们解决一些难题提供了全新的框架，带来了新的希望，潜力还远远没有挖掘完，这给我们这些搞研究的也带来了巨大的机会
我:
很羡慕ing @刘 那天与讯飞的院长谈这事儿，他也是超级兴奋，说以前以为大约四五年会有全方位的大突破，神经在大系统大应用上全面开花。现在他确信只要2-3年就可以了，到时候很多事情会超出我们的想象。他是这样描述的，非常由衷。感觉是作为一线领航者，他看到一种排山倒海的科学潜力正在转化为技术力量，面对巨大机会忍不住激动。这很感染人。这种心态我可以体会。
biao:
@wei 所以，哥儿几个在这死磕语法似乎很难看到什么时候是出头之日。
科大讯飞的确有过人之处。起码它的语音输入可以让你节约大量时间。
前几天有人在这里抱怨说输入码字太累。实际上现在语音输入完全可以帮助你非常轻松的输入，而且效果很好。
上面这两段话完全是讯飞语音输入的。一个字没有改，十几秒钟搞定，非常轻松。
刘:
我不敢预测哪些问题能解决哪些不能，但总体的进步是可预期的
我:
说语法没有出头之日 是小看了咱语言学家 等到dl打败我的 parser 再说不迟。
事实是 迄今全世界最牛的 dl syntaxnet 仍然是我手下败将。
另一个事实是 迄今没有sentiment系统在 open domain social media 这个几乎最难的 space，能赶上我们。Not even close ：the margin is almost 20 percentage points apart
所以我跟讯飞院长说 你我是同一类人。不过你在舞台中央 我在野。但是论信心和对nlp的展望 心态和世界观惊人的一致。要不咱们互补、合作、合流，要不咱们就来个友谊赛，我就不自量力一哈。反正论年龄 我输得起 你们输不起 =）
（我输了 就钓鱼去 乐见ai一统天下于dl if they truly deliver as well as nmt did
可是 nmt 有data 而大多数 nlp 没有那么多clean labeled data 啊）
biao:
语法分析最大的问题是不灵活。鲜活的语言千变万化。一句话稍微变个说法，语法分析就抓狂了。
我:
根本不是这回事 你的理解有误
白:
死守固定语序才这样 但语法分析死守固定语序已经是老黄历了
你变个说法给伟哥试试 他会告诉你一个robust的句法分析器能做到什么
从“计算”角度说，黑盒子容纳结构的能力是最本质的。从“语言”角度说，结构应该长什么样，比其他的事情更值得关注。
两栖人
biao:
先分析一个名句：
”其为人也孝悌而好犯上者鲜矣。”
我:
如果变个说法 语法就抓狂 要这劳什子干嘛。语法的目的不就是为了对付变体吗
白:
大战风车，其乐无穷
我:
你弄句文言做啥？这个 sublanguage 里面没钱，开发他有卵用。
“卵” 属于 P 系列：是现代汉语口语的脏字否定限定词，== fucking no，社会媒体口语的这个 sublanguage 我们倒是对付了，不妨试试。
biao:
你的机器怎么知道它是文言文，半文言文，还是白话文？他们都是中文。
我:
不在一个频道 算了
biao:
“工欲善其事，必先利其器”。这是文言文还是白话文？大量的成语是文言文还是白话文？金庸的小说是文言文还是白话文？四大名著，是文言文还是白话文？鲁迅的文章是文言文还是白话文？
这些都是在现实生活中大量遇到的语言素材。绕是绕不开的。
白:
高频小体量，适合死记硬背。文言文句法上并不比白话文更难处理，某种程度上还容易。文言文没有白话文里那种NP、VP串烧。有词类活用，但有规律可循。
我:
文言文长句 相对少。排比 平行用法普遍 也是形式痕迹。还有些非常固定的文言句式 用到特定的文言虚字 可以借力。等退休以后 玩玩文言文应该是一个不错 time killer。文言词汇量大大减小，字基本就是词，但每个字的用法 包括活用或引申用法 就多一些。
白:
关键看WSD一选出错率会不会增大？
我:
有不小比例的wsd，等价于pos，pos搞定 就搞定：老吾老。及物动词的“老”是一个活用义项，词典可以绑架为“尊崇”、“孝顺”之列，与作为形容词的“老（old）”的本义，以及作为名词的“老（the old，senior，parents）”都不同。
文言处理也少了切词错误的干扰 基本没可切之词。字驱动的路子，有很多字典工作可做
白:
有些歧义是简化字造成，之前古籍并无。比如后，简化之前就有这个字，就是皇后的意思。以后的后，之前是“後”。做pos也好wsd也好，要考虑文本的基准。
我:
所谓更多的活用，可以在字典假想如果处于某种活用，它义项是什么，然后绑架，倒也便利。另外，现代汉语对虚词的省略 似乎大于文言中虚字的省略，这也是文言处理的便利，虚字的频繁使用，给确定句子成分的边界创造了条件。
weidong:
娱乐一下：陈亢问于伯鱼曰子亦有异闻乎对曰未也尝独立鲤趋而过庭曰学诗乎对曰未也不学诗无以言鲤退而学诗他日又独立鲤趋而过庭曰学礼乎对曰未也不学礼无以立鲤退而学礼闻斯二者陈亢退而喜曰问一得三闻诗闻礼又闻君子之远其子也
标点断句先
我:
试了一下我的 parser，满篇都是 Next ；=）
weidong:
没有引号连话到哪儿结束都猜半天
我:
索性也试试前面要求的测试
其为人Next 也孝悌，而好犯上者 Next 鲜矣。
哈
以前学美国之音英语900句，都说有900句，英语的基本句型就搞定了。这些年，我都 unit tested 近两万句了。是不是差不多该搞定了？最近翻阅以前内部论坛的帖子，有这么一贴，好玩:
池子里说说无妨，万一明年中文核弹爆了，你们可以作证立委就是钱学森。
作者: 立委 (*)
日期: 2012/04/18 23:13:13
不说的话，将来被代笔，说中文核弹不是我的作品 ，找个旁证都找不到。
换句话说，各路身怀绝技的侠客剑法可能不同，但有个共识：就是我们面临技术核弹大爆炸的前夕。至于AI泡沫，那是商业上的炒作，技术的发展与成熟只是给了它一个炒作的话题而已。
【相关】
【机器翻译万岁】
