画像: Nvidia
サイバーパンクの天才たちよ、あらゆるパラダイムを変革し、あらゆる枠を破る準備は万端だ。超強力で驚異的な人工知能を自分のコンピューターで動かしてみたいと思いませんか？実は、可能です。そして、もうしばらく前から可能になっています。しかし今、Nvidiaはそれを非常に簡単に、ほとんど手間をかけずに実現できるようにしました。同社のコンシューマーグレードのグラフィックカードで動作する、設定済みのテキスト生成AIです。「Chat with RTX」というこのAIは、現在ベータ版として公開されています。
Chat with RTXは完全にテキストベースで、Nvidia自身が所有する公開テキストドキュメントの大規模なデータベースで「トレーニング」されています。生の形式ではモデルは十分に「書き込み」できますが、実際の知識は非常に限られているようです。たとえば、CUDAコアとは何かについて詳細な説明を提供できますが、「バラクーダとは何ですか？」と尋ねると、「魚の一種のようです」と答え、サイバーパンク2077のドライバーアップデートを参照として示しました。美しいプリント基板についての7つの詩からなるリメリックを簡単に提供することはできますが（特に良いものではありませんが、プロンプトを満たしたもの）、1812年の戦争で誰が勝ったかを教えようとさえできませんでした。少なくとも、これは大規模な言語モデルが有用であるためには、膨大な量のデータ入力にどれほど深く依存しているかを示す例です。
マイケル・クライダー/ファウンドリー
そのため、Chat with RTX の機能を手動で拡張するには、.txt、.pdf、.doc ファイルが詰まったフォルダを指定して「学習」させる必要があります。ギガバイト単位のテキストを検索し、同時にコンテキストも把握する必要がある場合、これはより便利かもしれません。驚くべきことに、私の仕事の成果物はすべてオンラインで、Chat with RTX がクロールできるローカルテキストファイルはあまりありません。
写真：私のグラフィックカードが聖書を読んでいるところです。大変です。
マイケル・クライダー/ファウンドリー
この潜在的にもっと役に立つ機能を試すため、公開されている様々な聖書翻訳のテキストファイルをダウンロードしてみました。Chat with RTXで、昔の日曜学校の先生ならきっと正解できそうなクイズを解けるかもしれないと思ったのです。しかし、1時間経ってもツールは300MB未満のテキストファイルを処理し続け、RTX 3070の性能をほぼ100%で稼働させており、終わりが見えませんでした。そのため、より質的な評価は別の日に行う必要があります。
ベータ版を実行するには、Windows 10 または 11 と、VRAM 8GB 以上の RTX 30 または 40 シリーズ GPU が必要です。また、AI プログラムとデフォルトのトレーニング教材データベースのダウンロードサイズは 35GB とかなり大きく、NVIDIA のファイルサーバーは現在大きな負荷がかかっているようです。そのため、このプログラムを PC にインストールするだけでも、かなりの忍耐力が必要になるかもしれません。
著者: Michael Crider、PCWorld スタッフライター
マイケルはテクノロジージャーナリズムのベテランとして10年のキャリアを持ち、AppleからZTEまであらゆるテクノロジーをカバーしています。PCWorldではキーボードマニアとして活躍し、常に新しいキーボードをレビューに使用し、仕事以外では新しいメカニカルキーボードを組み立てたり、デスクトップの「バトルステーション」を拡張したりしています。これまでにAndroid Police、Digital Trends、Wired、Lifehacker、How-To Geekなどで記事を執筆し、CESやMobile World Congressなどのイベントをライブで取材してきました。ペンシルベニア州在住のマイケルは、次のカヤック旅行を心待ちにしています。
