NvidiaのGPUニューラルネットワークがGoogleを上回る

1年前、Googleは最終的に猫を認識する方法を学習するサーバーの「ニューラルネットワーク」を構築しました。火曜日、NVIDIAはスタンフォード大学の研究チームが自社のグラフィックコアを使用し、わずか16台のサーバーで約6.5倍の性能を持つニューラルネットワークを構築したと発表しました。

スタンフォード大学とNVIDIAの研究者らは、今週ドイツのライプツィヒで開催された国際スーパーコンピューティング会議でその成果を披露し、最も強力なスーパーコンピューターのトップ500のリストも発表した。

ニューラルネットワークは、脳内の何百万ものニューロンだけでなく、脳自体の学習方法も近似することで、脳の構造を再現しようと試みます。その包括的な原則は、ネットワークが自己学習できる枠組みを構築することです。このプロセスは、GoogleネットワークがGoogleが提示した複数のYouTube動画内の猫の画像を識別するように自己学習するなど、予期せぬ方向に進む可能性があります。日本の研究者たちは、ロボットにコップに水を注ぐ方法を教えるニューラルネットワークも開発しました。

Googleのニューラルネットワーク構築への取り組みは、その奇抜な成果によって注目を集めた可能性が高いが、ニューラルネットワークは真剣な取り組みである。Googleは3月、階層型「ディープニューラルネットワーク」の研究を行うDNNresearchを買収し、この技術を様々なサービスに応用する予定だ。GoogleはDNNresearchの活用目的を明らかにしていないが、その知能は翻訳からGoogle Nowまで、あらゆるサービスに応用される可能性がある。Google Nowは、ユーザーのデータを解析し、次の予定に間に合うように出発時刻など、関連情報を表示するサービスだ。

EUはまた、シリコン上で人間の脳をシミュレートする「ヒューマン・ブレイン・プロジェクト」に10億ユーロを拠出している。オバマ政権は3月、脳の神経回路がどのように相互作用するかをマッピングする、米国主導の同様のプロジェクトに1億ドルの資金提供を提案した。

Googleのネットワークは、データセンター全体で1万6000個のマイクロプロセッサコアを使用していましたが、同社は使用しているサーバーの台数を明らかにしていませんでした（現代のマイクロプロセッサのほとんどは4個または8個のコアを搭載しています）。Nvidiaはまず、自社のGPUコアを用いて、Googleがわずか3台のサーバーで構築したものに匹敵するニューラルネットワークを構築しました。その後、ネットワークをGoogleの6.5倍（同社主張）にまで拡張し、合計16台のサーバーを使用しました。Nvidiaのネットワークは合計112億個の「パラメータ」をカバーしており、これは人工ニューロンがどのように構成され、相互作用し、計算するかを記述しています。Googleは当時、Googleのネットワークは10億個の「接続」を構築したと述べています。

Nvidia K20X テスラアクセラレータ — Nvidia K20X「Tesla」GPU。

しかし、NVIDIAが伝えたかった根本的なメッセージは、GPUは最新のゲームの画像をレンダリングするだけではないということです。GPUはコプロセッサやアクセラレータとして利用でき、特殊な反復タスクをオフロードすることで高性能コンピュータを補助します。TOP500にランクインするスーパーコンピュータのわずか10%強が、2番目に高性能なスーパーコンピュータであるORNLのTitanが使用しているNVIDIA K20Xのようなコプロセッサを使用しています。PCゲーマーは、このチップのバージョンを自分で購入することもできます。

Nvidia は、Nuance Communications とその音声認識アルゴリズムが Nvidia GPU 上で実行されることを明らかにしました。

「CPUよりもはるかに高い計算性能を実現するGPUアクセラレータは、大規模なニューラルネットワークモデリングを一般大衆に提供します」と、NVIDIAのTeslaアクセラレーテッドコンピューティング事業部ゼネラルマネージャー、スミット・グプタ氏は声明で述べています。「あらゆる研究者や企業は、わずか数台のGPUアクセラレーテッドサーバーで、機械学習を用いてあらゆる現実の問題を解決できるようになります。」

NVIDIAはまた、これらのGPU向けにCUDAプログラミング言語をARMチップに対応させるようにアップデートしたと発表しました。これにより、将来のサーバーメーカーは低消費電力のARMチップとNVIDIAのGPUアクセラレータを組み合わせることができるようになります。サーバー向けARMチップは、Applied Micro、AMD、その他多くのチップサプライヤーから2013年末から2014年初頭にかけて発売される予定です。

残念ながら、スタンフォード大学の研究チームは、ニューラルネットワークがどのような奇妙な結論を導き出したのか、もし導き出したとしても、その内容を明らかにしていません。今後、どのような学習をするのか、ただ待つしかありません。