[特別講演] 深層学習の源流を探り、未来を拓く
9月2日(水) 15:30-17:30
第1イベント会場
【セッション概要】 深層学習並びに人工知能が第三次ブームを迎えて十年近くがたち、ありとあらゆる分野で百花繚乱の研究発表が行われており、また自動運転やスマートスピーカーなどの実応用が様々花開いている。こうした中、むしろ今後はどのようになっていくのか、今研究すべきテーマは何なのかが見えにくくなっていると考えられる。
本企画では、国内のみならず世界的にもニューラルネットワーク研究の立ち上げにご尽力され、深層学習の基本技術を確立された、福島邦彦先生(ファジィシステム研究所・元大阪大学・元NHK放送技術研究所、コンボリューショナルニューラルネットワークであるネオコグニトロンの考案者)と甘利俊一先生(東京大学名誉教授・理化学研究所栄誉研究員、多層ニューラルネットワーク学習のための確率的最急降下法の考案者)のお二人をお迎えし、世界的にもインパクトのある研究を行う秘訣、深層学習の現状に関するご意見、深層学習の未来並びに深層学習後の研究等について、自由に講演していただきます。
15:30-16:30 講演(1) 深層神経回路ネオコグニトロン ― 過去・現在・将来 ―
福島 邦彦(ファジィシステム研究所 )
【概要】 高いパターン認識能力を学習によって獲得することができる手法として、深層学習(deep learning)やCNN (convolutional neural network)が最近注目を集めている。福島が1979年に発表したネオコグニトロンもそのような階層型多層神経回路の一種で、文字認識をはじめとする視覚パターン認識に高い能力を発揮する。ネオコグニトロンの歴史は古いが、現在に至るまで種々の改良が加えられ発展を続けている。ネオコグニトロンの着想、その後の発展を追いつつ、現在広く用いられているdeep CNNとの相違点も含めて、最近のネオコグニトロンを紹介する。
【略歴】 1958年京都大学工学部電子工学科卒。NHKの放送科学基礎研究所、放送技術研究所などを経て、1989年大阪大学基礎工学部生物工学科(大学院基礎工学研究科システム人間系専攻)・教授。1999年電気通信大学・教授。2001年東京工科大学・教授。2006年(~2010年)関西大学・客員教授。現在、ファジィシステム研究所・特別研究員(非常勤)。工学博士。
16:30-17:30 講演(2) 深層学習の源流と現在
甘利 俊一(理化学研究所 栄誉研究員)
【概要】 深層学習は最近のAIの中心課題として注目を浴び、その成果は素晴らしく、応用に多大な期待が持たれる。学習の基本は確率勾配降下法であり、その源流はRobbins-Monroの確率近似法に遡る。これを機械学習に応用しようと提案したのは、ロシアのTsypkinと日本の私であった。1966年のことである。第一次、二次のニューロブームを経て、2010年代になって第三次ブームが花開いた。これを主導したのが深層学習である。その華やかな成功にもかかわらず、深層学習の理論的な基礎の建設は遅れている。その課題と最近の成果を展望しよう。近年になって、神経接核理論が現れ、初期値として与えたランダム結合回路のどれに対しても、パラメータ数pが学習例題数nに対して十分に大きければ、そのごく近くに‘正解’が存在することが明らかになった。この理論の意味することを多次元空間の幾何を用いて明らかにする。さらに、学習法の加速である自然勾配学習法の最近の発展を述べる。
【略歴】 1963年、東京大学大学院博士課程修了。九州大学助教授、東京大学助教授を経て同教授、現在名誉教授。1996年より理化学研究所に移り、脳科学総合研究センターのセンター長を経て、現在は理化学研究所栄誉研究員。数理脳科学と情報幾何学を永年考究。電子情報通信学会会長、国際神経回路網学会(INNS)会長などを歴任。日本学士院賞、Gabor賞(INNS)、Piore賞(IEEE)などを受章。文化功労者、文化勲章受章。