手机浏览器扫描二维码访问
第1471章（第2页）
方卓这种看法的表达还是赢来了不少掌声与直播间的好评。
对于许多人来说，这场热闹也就看到这里了，但对从业者、研发人员来说，真正的部分才刚刚开始，不论易科还是谷歌都在深度学习DL领域有很深的研究，这种围棋对弈只是展露出的表象，内里的运转与思考才是更让人重视的。
吴恩达作为易科“Venus”项目的负责人之一，与谷歌旗下公司的席尔瓦就DL的模型逻辑进行了交流。
不管太白还是阿尔法，它们都是基于卷积神经网络的发展而来，这一基础是类似的，而它的突破源于2012年Alex、Ilya和Hinton合作发表的关于AlexNet深度卷积神经网络的论文，也正是在这之后，相关的研究出现了爆炸式的增长。
吴恩达与席尔瓦谈的是在AlexNet之后的架构创新，是将传统的搜索算法与深度学习模型的有效整合，以及，整个团队在局部感受野、参数共享与稀疏连接、平移不变性这些方面做出的努力。
这种易科与谷歌以及场下嘉宾的交流极其愉快，也让方卓颇为满意，他虽然不懂，但瞧着这样的场面就觉得知识被塞进了脑子里。
只是，等到第二天，当吴恩达提出团队在研发上的困惑时，激烈的辩论到来了。
易科是有“Siri”这样的语音助手作为人工智能的实践，而吴恩达的团队不仅在做卷积神经网络CNN的研究，也在做循环神经网络RNN的研究，他们认为后者更适合与语音助手相结合，但效果并不算很好，完全达不到想要的成绩。
问题出在哪里？
吴恩达表述了困惑，也谈了谈易科内部的解决方向。
参会的一部分人赞同易科的解题思路，但谷歌方面却出现了不同的声音。
“为什么非要使用循环神经网络？”谷歌的乌思克尔特本来正在休假，但因为对DL的交流感兴趣便报名过来，“为什么不试试自注意力Self-attention？我认为它对NLP领域将会有更优秀的改变。”
“Self-attention可以进行更好的并行计算能力，而不是像RNN那样进行顺序处理，它还能直接比较序列中任意两个位置的向量表示，这样就能更有效的捕捉和利用长距离依赖关系，但RNN不行！”
“RNN虽然理论上也能捕捉长距离依赖，但实际上往往因梯度消失或爆炸问题而难以实现！”
乌思克尔特研究的是谷歌的机器翻译改进方法，他的父亲就是计算语言学的教授，尽管刚开始进入谷歌时对语言翻译的工作很不喜欢，但最终还是专注于这一领域的研究，而他近期正在琢磨的便是“自注意力Self-attention”在相关领域的改善。
吴恩达很快明白这位谷歌研究员的意思，也在几经思索后给予反驳：“自注意力没有显式地编码位置信息，这就意味着如果以它为核心的模型无法区分序列中相同词语在不同位置的意义差异，而在自然语言的处理中，词语的语义又与位置紧密相关。”
“而且，自注意力模型必然因为序列中每对元素计算的注意力权重而有巨大的参数量，这极可能导致过拟合。”
他这边刚说话，谷歌自家DL的席尔瓦也反驳了乌思克尔特提出的新路线，其中一个重要原因在于RNN的循环结构太符合大家对序列数据处理的理解，即当前状态依赖于过去的信息，而自注意力的全局依赖一看就不如RNN直观。
易科与谷歌的两大领导者都批评了自注意力Self-attention，但乌思克尔特并不服气，他直接登台阐述自己更多的想法。
而且，针对吴恩达与席尔瓦抨击的缺点也给出一些解决思路，比如，引入位置编码，比如，进行多头注意力的研究。
有人觉得眼前一亮，有人觉得异想天开，还有人现场进行快速的分析和演算。
第一排的方卓极其茫然，他扭头询问旁边沉思的英伟达掌门人黄仁勋：“他们在讨论什么？”
“乌思克尔特说，GPU是最适合深度学习技术的硬件。”黄仁勋给出一句总结。
方卓：“？？？”
他纳闷道：“我怎么完全没听到类似的表述？”
“因为自注意力Self-Attention更加强调并行处理，这是GPU更擅长的。”黄仁勋笑道，“至于其他的，不重要，我们只要提取对我们有利的就好。”
方卓观察着现场的气氛，这已经不是知识的交流，更像是知识的火拼了。
他默默的收起自己在这种场合本就不多的存在感。
只是，等到晚上，方卓还是当面询问了这次参与辩论的吴恩达，想知道这场面红耳赤的讨论都有些什么东西。
吴恩达真的很难和方总解释发生了什么。
“方总，等我们想一想再写一份报告吧。”他思考许久之后由衷地说道，“这样的交流或许应该多来几次，他那个自注意力，我现在想想，缺点也不是不能解决。”
方卓耐心的询问：“那我们应该做些什么？”
吴恩达回味今天的整场辩论，思考着不同人提出的不同想法，喃喃道：“或许，我们需要先试试一种新型软件，让它可以和计算机对话。”
无尽航路 黑光病毒入侵漫威宇宙 赤心巡天 乡村桃运小神医陈浩张巧翠 我真的不是道主啊！ 从病娇男主身边逃跑失败后 在病娇夫君的心尖上反复横跳 樱花飘落时，会有美少女表白 影子系玩家 斗罗之跟着主角团们的悠闲生活 柯南之世纪末的魔术师 邪王嗜宠：神医狂妃 闪婚醋精霸总老公 透视医王 复仇，从制造完美意外开始 尉迟曦娴妃娘娘的叫做什么书名 九叔：尸甲天下 黑暗之声 娘娘们拼命宫斗，丑王妃摆烂上位 为所欲为者
成就仙帝，全靠敌人的努力
当自身修炼带来的任何副作用，都由自己的敌人承担，那是一种什么体验？于是乎，刘顺义开始疯狂的修炼禁术，修炼氪命的绝招。甚至开始疯狂的修炼透支根基的功法。一是求快速提升实力，二是这些东西很强，三是，反正一切的代价和负面效果，都是敌人承担。不仅如此，还能借敌人的修炼天赋修炼。什么，你说你要与我为敌？还是百年难得一遇的天才？那我可就兴奋了！等等我的敌人，我还没有修炼成这个烧血的技能，你不能死！...
机娘纪元：我的机娘都是世界级
（不好看吃屎）曾经被俱乐部抢购的顶级机娘，如今却被丢在回炉场里无人问津。就算倒贴也没有车手愿意契约，只能绝望地等待回炉。只因她直线加速无敌，却很难转向，被誉为‘杀人赛车’。苏年来自地球的顶级赛车手赛道皇帝。本想在这个赛车技术落后，全靠机娘性能支撑的世界大放异彩，却被俱乐部分配的机娘背叛。带着不屑和怒火，...
东北往事之童养媳
十岁的春妮被迫卖到井家大院做童养媳。在这里，她亲眼目睹了井家女人悲惨的经历她在井家的变故中被土匪抓走，被龙家的五少爷救下山，从此和龙五一起走上抗日的道路两个人也牵扯出一辈子的羁绊。...
丹道第一圣
作为满级炼丹师，丹药当饭吃不过分吧？为了防身，武道无敌很合理好吧！年度爆款无系统，天才流，无敌文，群像文...
傅总，您夫人又又又去摆摊算命了
玄学抓鬼算命沙雕爽文师父去世后，玄学天才林溪下山摆摊算命，边挣钱边找未婚夫。大师，我儿子的真命天女何时出现？林溪真命天女没有，真命天子倒是有。大师，我最近总梦到鬼，求你灭了他。林溪鬼是你父亲，你上错坟了，他叫你去认坟头。大师，我母亲失踪二十多年了。林溪你母亲被你父亲杀害，埋尸后院。傅氏集团掌权人向来不近女色，竟然和一个小神棍闪婚了。所有人天天猜傅总什么时候离婚。等啊等啊画风逐渐不对劲。顶流明星哭着喊小神棍救命！各路大佬重金求见小神棍一面。甚至，国家的人也来找她合作。众人赶紧抢名额，大师，我也要算一卦。某天，林溪照常去摆摊。傅京尧将她抵在墙角，老婆，给我算一卦。林溪冷漠脸，工作时间，只谈钱不谈感情。傅京尧掏出所有卡，我的钱全是你的。林溪两眼放光，你想算什么？男人黑眸幽深，语气透着委屈，老婆，我们什么时候过新婚之夜？林溪男人搂住她的腰，嗓音暗哑，不说话？那就今晚过。（天才玄学大佬vs超有钱宠妻霸总，先婚后爱，主剧情，穿插多个玄学小故事）...
求原神神里凌华的书
新作品出炉，欢迎大家前往番茄小说阅读我的作品，希望大家能够喜欢，你们的关注是我写作的动力，我会努力讲好每个故事！...