Home >

news ヘルプ

論文・著書情報


タイトル
和文:畳み込み行列の安定ランクを用いた深層学習モデル構造探索 
英文:Differentiable Architecture Search Using Stable Rank of Convolutional Layers 
著者
和文: 町田 兼梧, 宇都 有昭, 篠田 浩一, 鈴木 大慈.  
英文: Kengo Machida, Kuniaki Uto, Koichi Shinoda, Taiji Suzuki.  
言語 Japanese 
掲載誌/書名
和文:人工知能学会全国大会 (第35回)論文集 
英文:Proceedings of the Annual Conference of JSAI 
巻, 号, ページ        
出版年月 2021年6月 
出版者
和文:一般社団法人 人工知能学会 
英文:Japanese Society for Artificial Intelligence 
会議名称
和文:人工知能学会全国大会 (第35回) 
英文: 
開催地
和文:オンライン開催 
英文: 
ファイル
公式リンク https://www.ai-gakkai.or.jp/jsai2021/
 
DOI https://doi.org/10.11517/pjsai.JSAI2021.0_3I4GS7a01
アブストラクト 深層学習は，画像処理，音声認識，自然言語処理などの分野で広く用いられており，高い応用可能性から研究が盛んに行われている．深層学習にはモデルの定義が必要であり，モデル構造の最適化を自動で行うタスクである深層学習のモデル構造探索(Neural Architecture Search;NAS)は，現在注目を集めている研究分野である．本論文では，安定ランクを用いるNAS手法であるMSR-DARTS (Minimum Stable RankDifferentiable Architecture Search)を提案する．安定ランクは行列のランクの代理指標として用いられ，安定ランクが低い層により構成されるモデルは入力にノイズが含まれる場合にノイズを減衰させるため汎化性能が高くなる．提案法は，モデルの畳み込み層を行列とみなした時畳み込み行列の安定ランクにより最適なモデル構造を選択する．CIFAR，ImageNetデータセットを用いて評価実験を行い，それぞれ2:80%，24:0%のテストエラー精度を達成した．

©2007 Institute of Science Tokyo All rights reserved.