by Negative Space
1 :田杉山脈 ★ 2018/11/13(火) 17:25:59.36 ID:CAP_USER.net
 ソニーは11月13日、ディープラーニングの学習速度で世界最高速(同社調べ)を達成したと発表した。ディープラーニングの認識精度向上のため、学習データのサイズやモデルのパラメータ数が増え、一度の学習に数週間~数カ月かかるケースも出ている中で、学習時間を短縮できる可能性を示したとしている。

 AI(人工知能)開発では、さまざまな試行錯誤をする必要があり、学習時間を短縮させることが重要になる。その手段として、複数のGPUを活用した分散学習が注目を集めていたが、GPU数が増えると「一度のデータ処理個数(バッチサイズ)が増えて学習が進まない」「GPU間のデータ送受信の処理遅延により学習速度が低下する」という課題があった。

 今回ソニーは、ディープラーニングのプログラムを生成する際のフレームワーク「コアライブラリ:Neural Network Libraries」と、産業技術総合研究所が構築・運用しているクラウド型計算システム「AI橋渡しクラウド」(ABCI)を活用した。

 学習の進行状況に応じて最適なバッチサイズや利用GPU数を調整する技術を用いることで、ABCIのような大規模なGPU環境でも学習が可能になったという。ABCIのシステム構成に適したデータ同期技術も開発し、GPU間の通信を高速化したとしている。

 これらの技術をNeural Network Librariesに実装し、ABCIの計算リソースを使って学習を行った。ソニーによれば、ディープラーニングの分散学習速度を計る際、一般的にベンチマークとして活用されている画像認識用データセット「ImageNet/ResNet-50」を用いたところ、約3.7分(最大2176基のGPU利用時)で学習が完了し、現状の世界最高速を達成したという(11月13日時点)。

 同社は「より短い試行錯誤時間でディープラーニングを用いた技術開発ができるようになることを示した」としている。研究成果はWeb上で公開している。

http://www.itmedia.co.jp/news/articles/1811/13/news108.html



3 :名刺は切らしておりまして 2018/11/13(火) 17:40:53.62 ID:t+v9VfEC.net
既存のGPUシステムの並列処理の規模を大きくしただけじゃない?
ハードウェアの規模を大きくしただけで、ディープラーニングの
新しいアルゴリズムを開発したわけではないんじゃない?ソニーの
発表っていつもどこか本質的でないよな。



7 :名刺は切らしておりまして 2018/11/13(火) 17:51:45.42 ID:3D16tivk.net
>>3
GPUの並列数が増えたときの効率悪化を緩和する技術を開発という発表の対し、
GPU増やしただけじゃないの?という文盲レベルの指摘をする奴が本質を語る。


48 :名刺は切らしておりまして 2018/11/13(火) 23:11:42.34 ID:GH7DPvZc.net
>>3
読まずに推測でいいとこつくのは頭のいい人がやることで、
平均を大きく下回る人がやるとホラ、こんなに悲惨なことに。




8 :名刺は切らしておりまして 2018/11/13(火) 17:55:53.47 ID:BNUXUTcT.net
待機中のps4のGPUパワーを使う実験?


9 :名刺は切らしておりまして 2018/11/13(火) 17:56:36.11 ID:Q43J0qtq.net
すごいとは思うけどまあブランドイメージのための発表だな


12 :名刺は切らしておりまして 2018/11/13(火) 18:36:01.99 ID:qyUorn/A.net
そんな凄そうなハードを会社が用意してくれないよ。



14 :名刺は切らしておりまして 2018/11/13(火) 18:54:46.58 ID:52RR2XIw.net
分かりやすい実績があるといーかな
googleの囲碁ソフトに勝つとかさ



15 :名刺は切らしておりまして 2018/11/13(火) 19:10:47.94 ID:Zup2c5Jo.net
おまえらはソニーというだけで、脊髄反射で全否定だろ


16 :名刺は切らしておりまして 2018/11/13(火) 19:15:32.61 ID:l7o+ZZKH.net
自己申告ならなんとでも。コンテストを開催しないと。


19 :名刺は切らしておりまして 2018/11/13(火) 19:25:05.73 ID:8LZx+7Pl.net
>>16
産総研のページ見たらわかるけど、もともと産総研コンテストだよ
想定以上の成果が出たんで大々的に発表してる




17 :名刺は切らしておりまして 2018/11/13(火) 19:18:00.39 ID:KUC4Hw6a.net
日本では学習速度より喰わせるデーター不足の方が問題やな…


20 :名刺は切らしておりまして 2018/11/13(火) 19:29:28.51 ID:KeId/5QE.net
ああ、どうせ、オープンソースじゃないんでしょ
自慢話はどーでもよいですから



21 :名刺は切らしておりまして 2018/11/13(火) 19:35:07.97 ID:4+KzyDSH.net
Neural Network Librariesはオープンソースだから
実装されれば使えるんじゃねーの。



24 :名刺は切らしておりまして 2018/11/13(火) 19:52:23.65 ID:1QqUnXuR.net
>>21
オープンソースだから一般でも使えると思うけど、
GPUを2176基も揃えられんわw



22 :名刺は切らしておりまして 2018/11/13(火) 19:46:49.09 ID:ZM42N0L1.net
何が書いてあるのか
かなりの部分がわからん
駄目だ 俺はきっと生き残れないw



23 :名刺は切らしておりまして 2018/11/13(火) 19:50:49.21 ID:1QqUnXuR.net
>>22
もう、おっさんの時代は終わったよ (´・ω・`)


47 :名刺は切らしておりまして 2018/11/13(火) 22:31:41.73 ID:UGG1a1ev.net
>>22
心配するな
世の中の大多数のIT土方も同じようなものだ
仮に本当に理解してるやつがIT土方してるなら即転職しろ
今や引く手あまたの分野だ



30 :名刺は切らしておりまして 2018/11/13(火) 20:39:12.52 ID:wUSXd7WY.net
ディープラーニングの仕組みの本が売ってるけど読む気しないわ
年かな



34 :名刺は切らしておりまして 2018/11/13(火) 21:08:26.42 ID:wx6Ps0Hx.net
スカイネットの誕生はまだですか?



39 :名刺は切らしておりまして 2018/11/13(火) 21:38:53.11 ID:otXI8k6x.net
楽天はデータ持ってるのでは?
二番手戦略だから、AIの価値が立証されるまで使わないのかな
NTTだってオンラインストアを持っているが

Amazonはすでに使ってるだろうし



42 :名刺は切らしておりまして 2018/11/13(火) 22:03:09.65 ID:TremkdXT.net
もうすぐスカイネットの完成か
後20年もしたらロボットに支配されそうだな…




44 :名刺は切らしておりまして 2018/11/13(火) 22:17:27.73 ID:lpXM7oQT.net
石川遼選手も愛用しているやつ?


55 :名刺は切らしておりまして 2018/11/14(水) 01:19:51.29 ID:B9WsSOzP.net
>>44
スピードラーニングは英会話教材w
遼くんは国内の大会しか出ないから要らないでしょw



46 :名刺は切らしておりまして 2018/11/13(火) 22:28:04.28 ID:HWcrc251.net
累計8万人リストラしてスリム化したソニーは、
ベンチャー企業みたいに色んなことに手を伸ばすな



56 :名刺は切らしておりまして 2018/11/14(水) 04:20:45.63 ID:bwvmuRD+.net
Chainer MNの時点で512GPUで15分やったろ
4倍に増やして約4分の1なので線形にスケールしてるが
Chainer MNもやろうと思えば2000GPU用に改造できるんちゃう

商業的にはコストパフォーマンスがいい方法がほしいよ



59 :名刺は切らしておりまして 2018/11/14(水) 07:49:35.91 ID:z6BZH6A4.net
GPUとか言わないで、メーカーなら専用チップを作れよ


60 :名刺は切らしておりまして 2018/11/14(水) 08:56:19.52 ID:yL/+Ntqr.net
ベンチ用の最適化しただけだろ


61 :名刺は切らしておりまして 2018/11/14(水) 09:34:59.69 ID:Hl47JGaz.net
AIが発達しても学習速度があがっても
人の学習速度が上がることはないし、
勉強とテストはなくならない




63 :名刺は切らしておりまして 2018/11/14(水) 14:56:29.16 ID:e1u7yyfs.net
これを自動運転技術に生かして自動運転技術の開発を進めてこそ本当に価値があるんだろうが、いつも発表だけで、何かに劇的にいかされましたという所まで聞かないなあ。
学習とかAIの話は





(´・ω・`) 日本はソフトウェア弱いけどソニーはがんばっとる



元スレ: http://anago.2ch.sc/test/read.cgi/bizplus/1542097559/