第二十九章 神经网络的缺陷？
是觉皇不是教皇提示您：看后求收藏(洛熙文学网)，接着再看更方便。
[ 【作者是觉皇不是教皇提示：如果章节内容错乱的话，关掉阅读模式,关闭广告拦截即可正常】
] “是的，你好？”徐毅有些懵逼地伸出手握了握，看着来者熟悉的面孔，竭尽脑汁回忆对方的身份，却被一旁激动的王浩中一语道破:“周志强老师！”
眯起双眼上下打量了一下镜中的老师，女孩嘿嘿一笑:“没想到老师你平时也不运动，身材居然还能这么好，真帅！……再看看你，王浩中！”
周志强抬头看了看周围兴奋的人群，无奈叹了口气，放下手中的纸笔，跟随大家轻轻鼓掌致意。
因为这句话等于告诉各位，“我有很多后续的研究方向，就交给你们去做吧”！
不需要再等等看，所谓的惊喜来的相当迅疾，徐毅在大概介绍之后，很快就进入了这次的主题。
等他毫不拖泥带水地致谢下台后，全场仍然处在诡异的安静中。
经过了上午赞助商、华东大学和魔都政府的揭幕式发言后，诸多学者终于在午休后等来了会议的戏肉部分。
“大约两个月以前，我曾经在华国人工智能交流大会上使用了相同的题目，在场的部分朋友应该对此印象深刻，我相信在当时恐怕有不少人认为‘这是个疯子’，”
不少学者露出若有所思的神情，徐毅见状并不多言，只在讲完后等待一分钟留给大家消化，接着开始讲起下一个思路:
“下面让我们有请徐毅博士带来他的学术分享！”
“景峰，你的笔记记完了吧？”优雅地鼓着掌，周院士面向台前，目不斜视。
而作为这次会议的主角，徐毅此时正坐在酒店内的化妆间里，脖子僵硬地看着镜子里在自己脸上忙前忙后的化妆师，一动也不敢动。
大厅内开始慢慢响起应和的掌声，随后汇成声音的巨浪！
全场掌声雷动，经久不歇！
“额，我觉得……差不多可以了吧？”惨无人道地接受了一个小时的摆弄，徐毅终于忍不住，从嘴角勉强挤出请求。
徐毅讲完最后一段，意犹未尽地作出总结:“……以上就是我暂时想到的所有内容，期待大家的后续补充。”
“对于这个问题，我们可以考虑使用某种结构，使得两层之间可以更容易地学到恒等变化……”
徐毅理了一下衣领，随后伴着掌声，大步走到台上。
“其次，卷积神经网络在层数堆叠数量超过一定值后，会出现效果的退化，这显然是不合常理的，因为假设我们在两层之间使用恒等变化，那么n层网络就可以变为n-1层网络，理论上多层的效果总会至少不弱于低层网络的效果……”
“……通过模拟神经元，尤其是视觉神经元的工作原理，便是我搭建出以为首的各种神经网络的灵感动机……”
此言一出，台下又是一片轰然议论，激烈程度甚至远超上次报告！
下午两点，距离报告开始一个小时，就有不少人早早到场，演讲大厅的观众席上已经落座了三四成的席位；还有许多学者在外面的休息厅，或坐或立地与熟人闲聊，同时等待报告开场。
无辜躺枪的小胖子攒眉苦脸，只能费劲地收了收肚子，以示努力。
周院士嘴角含笑，不置可否:“开头而已，还有一个半小时呢，再等等看。”
“对于卷积层……我们可以……”
“虽然在场的各位应该都已经对多层感知机和卷积神经网络有了大概的了解，但还是允许我在这里进行一个简单的介绍……”
众所周知，好的科研成果最需要的关键就是研究思路和方向，徐毅现在的行为，就像是把馅饼做好丢到各位学者面前，而他们要做的只是张嘴接住就够了。
周志强是金陵大学ai研究院院长，欧洲科学院院士，也是华国科学院院士候补，在华国ai领域属于领军人物之一，徐毅之前也在各种新闻报道上见过他，只是初次见面才发现本人意外地年轻。
一周时光匆匆而过，很快就到了交流会开始的时间。www.baiwenzai.com
“时间不早，我就不浪费你的准备时间了，这是我的名片，希望会后有机会再交流，”周志强过来攀谈了几句，就叫上旁边等候的学生一同告辞了。
“让我们按照的结构，逐个分析可以改进的地方吧，”
同时低声询问起自己的学生，
“解决方法当然是减少不同参数梯度之间的差异，sign函数是一个例子，它可以让参数的更新只与梯度的符号相关，但完全消除了梯度大小的影响也过于极端，因此我们可以考虑一种折中的办法……”
路上却被一位文质彬彬的中年学者拦下了，他推了推眼镜，微笑着伸出手问道:“你好，你就是徐毅老师吧？”
“徐老师这部分原理的讲解还是非常清楚的，”被称作景峰的年轻人点头回答，又皱了下眉，补充道，“但这部分内容其实在上次已经讲过一遍了……”
“相对于主要的参数方向，其他方向上的更新极慢，这就使得梯度下降法每次只在几百万参数中更新最大的一个或者几个参数，极大地影响了训练速度……”
在他刚开始讲述时，大厅内还有此起彼伏的讨论声，但随着他讲的内容越来越多，大厅内的声音逐渐低沉，直至落针可闻。
“回去之后让我看看，我抄一份。”
至于徐毅所谓的思路是否可行，在座的众人毫不怀疑——这可是当着全世界最顶级的同行们，没有人会舍弃自己光明的学术生涯，只为了跟大家开一个大玩笑的。
讲到这里，徐毅的脸上也不禁浮起一丝微笑:
她今天为了会议同样作了打扮，一身白色衬衫搭配深蓝色格子裙，显得活力十足又不失沉稳。
对方很有涵养的冲小胖子点了点头，转头对徐毅说道:“徐老师上次的报告相当精彩，我也从中得到了不少启发，十分期待这次您给我们带来的惊喜。”
口气虽大，但学者们却一点都不反感；恰恰相反，他们巴不得这位狂生的口气再大一点，最好能给一人一条思路，省得还要互相竞争。
每说一个内容，徐毅都会停顿一分钟，就这样洋洋洒洒讲了十几个方向。
“…………”
“当然，现在的神经网络还存在相当多的问题，这也是我今天报告的主要内容，我会指出目前存在的一些缺陷，并针对它们提出解决思路，欢迎各位基于这些方向进行进一步的研究。”
只不过课上的学生们，都换成了名校的教授，和各国的院士……
“大家好，我是徐毅，我这次的报告主题是……”
“那可不行，”还没等化妆师答话，站在后面围观的周粥就笑眯眯地回道，“徐老师，您今天可不止代表了你自己，还代表了我们学校，甚至华国学者的形象，不认真打理怎么能行？”
“首先从反向传播算法开始，我们当前使用的梯度下降法，更新参数的速度与参数的梯度完全正相关，但在一个神经网络中参数间的梯度差异极大，最大者可能达到1e10这个级别，而往往第二大或者第三大者就只有1e5甚至更低，”
“接下来请允许我介绍本次报告的主讲人徐毅博士，他是……，曾在……”
临近报告开场，徐毅才终于摆脱了化妆师的魔爪，带着两位徒弟快步走向演讲厅。
稍作停顿后，他继续说道，
虽然名为国际学术交流会，但由于神经网络的概念提出时间太短，其他学者没有工作内容可以分享，因此这次会议的主体仍然只有徐毅的个人报告。
路上与周院士的谈话耽搁了点时间，待徐毅走到后台时，听到主持人的介绍已经开始。
“对于批归一化，有……我们针对这个问题可以……”
………………
而在周志强旁边，开始还有所质疑的景峰，此时双手早已拍得通红，却仍不舍得停下。
这幅场景与其说学术交流会，倒更像是老师在上一堂别开生面的公开课！
刚刚与徐毅等人有过一面之缘的周志强坐在台下安静听讲，突然问起身边的博士生:“景峰，你觉得徐老师讲的怎么样？”
听到这番话，饶是周志强都忍不住轻笑了一声:“好家伙！徐毅这是要给在场的所有人当一回导师呀，口气真大！”
直到一位手速最快的教授记完笔记，甩甩发酸的手腕，犹豫地轻轻鼓起掌，
“相信不会让周院士失望的，”徐毅微微颔首。
徐毅嘴角含笑，而语气认真:“但现在，我可以自信地宣称，神经网络在未来的三到五年内，必然会取代传统的机器学习算法，成为人工智能的主流！”
何况徐毅的“狂”在上次会议中已经有所体现了，但事实证明他只是恃才傲物而不是狂妄自大，这次应该同样言之有物！
讲台前的屏幕上同时显出这次报告的演示文档，看到题目后，台下产生了一阵阵骚动，一些华人学者则露出了会心的笑容。
看到众人充满期待的目光，徐毅微微一笑，继续开口说道:
所有的学者，甚至连七八位院士在内，都掏出纸笔，埋头沙沙记起了笔记！
“人工智能的未来:联结主义——从ilsvr说起”
] “是的，你好？”徐毅有些懵逼地伸出手握了握，看着来者熟悉的面孔，竭尽脑汁回忆对方的身份，却被一旁激动的王浩中一语道破:“周志强老师！”
眯起双眼上下打量了一下镜中的老师，女孩嘿嘿一笑:“没想到老师你平时也不运动，身材居然还能这么好，真帅！……再看看你，王浩中！”
周志强抬头看了看周围兴奋的人群，无奈叹了口气，放下手中的纸笔，跟随大家轻轻鼓掌致意。
因为这句话等于告诉各位，“我有很多后续的研究方向，就交给你们去做吧”！
不需要再等等看，所谓的惊喜来的相当迅疾，徐毅在大概介绍之后，很快就进入了这次的主题。
等他毫不拖泥带水地致谢下台后，全场仍然处在诡异的安静中。
经过了上午赞助商、华东大学和魔都政府的揭幕式发言后，诸多学者终于在午休后等来了会议的戏肉部分。
“大约两个月以前，我曾经在华国人工智能交流大会上使用了相同的题目，在场的部分朋友应该对此印象深刻，我相信在当时恐怕有不少人认为‘这是个疯子’，”
不少学者露出若有所思的神情，徐毅见状并不多言，只在讲完后等待一分钟留给大家消化，接着开始讲起下一个思路:
“下面让我们有请徐毅博士带来他的学术分享！”
“景峰，你的笔记记完了吧？”优雅地鼓着掌，周院士面向台前，目不斜视。
而作为这次会议的主角，徐毅此时正坐在酒店内的化妆间里，脖子僵硬地看着镜子里在自己脸上忙前忙后的化妆师，一动也不敢动。
大厅内开始慢慢响起应和的掌声，随后汇成声音的巨浪！
全场掌声雷动，经久不歇！
“额，我觉得……差不多可以了吧？”惨无人道地接受了一个小时的摆弄，徐毅终于忍不住，从嘴角勉强挤出请求。
徐毅讲完最后一段，意犹未尽地作出总结:“……以上就是我暂时想到的所有内容，期待大家的后续补充。”
“对于这个问题，我们可以考虑使用某种结构，使得两层之间可以更容易地学到恒等变化……”
徐毅理了一下衣领，随后伴着掌声，大步走到台上。
“其次，卷积神经网络在层数堆叠数量超过一定值后，会出现效果的退化，这显然是不合常理的，因为假设我们在两层之间使用恒等变化，那么n层网络就可以变为n-1层网络，理论上多层的效果总会至少不弱于低层网络的效果……”
“……通过模拟神经元，尤其是视觉神经元的工作原理，便是我搭建出以为首的各种神经网络的灵感动机……”
此言一出，台下又是一片轰然议论，激烈程度甚至远超上次报告！
下午两点，距离报告开始一个小时，就有不少人早早到场，演讲大厅的观众席上已经落座了三四成的席位；还有许多学者在外面的休息厅，或坐或立地与熟人闲聊，同时等待报告开场。
无辜躺枪的小胖子攒眉苦脸，只能费劲地收了收肚子，以示努力。
周院士嘴角含笑，不置可否:“开头而已，还有一个半小时呢，再等等看。”
“对于卷积层……我们可以……”
“虽然在场的各位应该都已经对多层感知机和卷积神经网络有了大概的了解，但还是允许我在这里进行一个简单的介绍……”
众所周知，好的科研成果最需要的关键就是研究思路和方向，徐毅现在的行为，就像是把馅饼做好丢到各位学者面前，而他们要做的只是张嘴接住就够了。
周志强是金陵大学ai研究院院长，欧洲科学院院士，也是华国科学院院士候补，在华国ai领域属于领军人物之一，徐毅之前也在各种新闻报道上见过他，只是初次见面才发现本人意外地年轻。
一周时光匆匆而过，很快就到了交流会开始的时间。www.baiwenzai.com
“时间不早，我就不浪费你的准备时间了，这是我的名片，希望会后有机会再交流，”周志强过来攀谈了几句，就叫上旁边等候的学生一同告辞了。
“让我们按照的结构，逐个分析可以改进的地方吧，”
同时低声询问起自己的学生，
“解决方法当然是减少不同参数梯度之间的差异，sign函数是一个例子，它可以让参数的更新只与梯度的符号相关，但完全消除了梯度大小的影响也过于极端，因此我们可以考虑一种折中的办法……”
路上却被一位文质彬彬的中年学者拦下了，他推了推眼镜，微笑着伸出手问道:“你好，你就是徐毅老师吧？”
“徐老师这部分原理的讲解还是非常清楚的，”被称作景峰的年轻人点头回答，又皱了下眉，补充道，“但这部分内容其实在上次已经讲过一遍了……”
“相对于主要的参数方向，其他方向上的更新极慢，这就使得梯度下降法每次只在几百万参数中更新最大的一个或者几个参数，极大地影响了训练速度……”
在他刚开始讲述时，大厅内还有此起彼伏的讨论声，但随着他讲的内容越来越多，大厅内的声音逐渐低沉，直至落针可闻。
“回去之后让我看看，我抄一份。”
至于徐毅所谓的思路是否可行，在座的众人毫不怀疑——这可是当着全世界最顶级的同行们，没有人会舍弃自己光明的学术生涯，只为了跟大家开一个大玩笑的。
讲到这里，徐毅的脸上也不禁浮起一丝微笑:
她今天为了会议同样作了打扮，一身白色衬衫搭配深蓝色格子裙，显得活力十足又不失沉稳。
对方很有涵养的冲小胖子点了点头，转头对徐毅说道:“徐老师上次的报告相当精彩，我也从中得到了不少启发，十分期待这次您给我们带来的惊喜。”
口气虽大，但学者们却一点都不反感；恰恰相反，他们巴不得这位狂生的口气再大一点，最好能给一人一条思路，省得还要互相竞争。
每说一个内容，徐毅都会停顿一分钟，就这样洋洋洒洒讲了十几个方向。
“…………”
“当然，现在的神经网络还存在相当多的问题，这也是我今天报告的主要内容，我会指出目前存在的一些缺陷，并针对它们提出解决思路，欢迎各位基于这些方向进行进一步的研究。”
只不过课上的学生们，都换成了名校的教授，和各国的院士……
“大家好，我是徐毅，我这次的报告主题是……”
“那可不行，”还没等化妆师答话，站在后面围观的周粥就笑眯眯地回道，“徐老师，您今天可不止代表了你自己，还代表了我们学校，甚至华国学者的形象，不认真打理怎么能行？”
“首先从反向传播算法开始，我们当前使用的梯度下降法，更新参数的速度与参数的梯度完全正相关，但在一个神经网络中参数间的梯度差异极大，最大者可能达到1e10这个级别，而往往第二大或者第三大者就只有1e5甚至更低，”
“接下来请允许我介绍本次报告的主讲人徐毅博士，他是……，曾在……”
临近报告开场，徐毅才终于摆脱了化妆师的魔爪，带着两位徒弟快步走向演讲厅。
稍作停顿后，他继续说道，
虽然名为国际学术交流会，但由于神经网络的概念提出时间太短，其他学者没有工作内容可以分享，因此这次会议的主体仍然只有徐毅的个人报告。
路上与周院士的谈话耽搁了点时间，待徐毅走到后台时，听到主持人的介绍已经开始。
“对于批归一化，有……我们针对这个问题可以……”
………………
而在周志强旁边，开始还有所质疑的景峰，此时双手早已拍得通红，却仍不舍得停下。
这幅场景与其说学术交流会，倒更像是老师在上一堂别开生面的公开课！
刚刚与徐毅等人有过一面之缘的周志强坐在台下安静听讲，突然问起身边的博士生:“景峰，你觉得徐老师讲的怎么样？”
听到这番话，饶是周志强都忍不住轻笑了一声:“好家伙！徐毅这是要给在场的所有人当一回导师呀，口气真大！”
直到一位手速最快的教授记完笔记，甩甩发酸的手腕，犹豫地轻轻鼓起掌，
“相信不会让周院士失望的，”徐毅微微颔首。
徐毅嘴角含笑，而语气认真:“但现在，我可以自信地宣称，神经网络在未来的三到五年内，必然会取代传统的机器学习算法，成为人工智能的主流！”
何况徐毅的“狂”在上次会议中已经有所体现了，但事实证明他只是恃才傲物而不是狂妄自大，这次应该同样言之有物！
讲台前的屏幕上同时显出这次报告的演示文档，看到题目后，台下产生了一阵阵骚动，一些华人学者则露出了会心的笑容。
看到众人充满期待的目光，徐毅微微一笑，继续开口说道:
所有的学者，甚至连七八位院士在内，都掏出纸笔，埋头沙沙记起了笔记！
“人工智能的未来:联结主义——从ilsvr说起”
历史小说相关阅读More+
我建成了世界一流大学
是觉皇不是教皇我建成了世界一流大学所有内容均来自互联网，只为原作者是觉皇不是教皇的小说进行宣传。欢迎各位书友支持秦毅并收藏我建成了世界一流大学最新章节。