本文へ移動

Block、音声対話モデル「Dessa」の学習に使ったのはNVIDIA「GB200 NVL72」1台 言語の習得に要した語数は大規模言語モデルの数百分の1と説明

カテゴリ共通のイメージ画像

ジャック・ドーシー氏が率いるBlock(旧Square)社内の研究ラボが、人間の会話音声だけから学習した全二重の音声対話モデル「Dessa」を研究プレビューとして公開した。学習に使ったのはNVIDIAの「GB200 NVL72」1台のみで、言語の習得に要した語数も大規模言語モデルの数百分の1だとしている。

  • Block(旧Square)社内の小規模なAI研究ラボが、テキストや事前学習済みモデルを一切使わず、人間の会話音声だけを学習データにした音声対話モデル「Dessa」を研究プレビューとして公開した。同社は「人間の音声だけで学習し、リアルな会話ができる、知る限り世界初のAI」としている
  • 学習に使ったのはNVIDIAの「GB200 NVL72」1台のみ。大規模言語モデルが膨大な量のテキストを必要とするのに対し、Dessaは数百分の1の語数で言語を習得したとしている。推論はリアルタイムより高速で、MacBook Pro(M4 Max以上)でローカル実行できるとしている
  • 音声を入力して音声を出力する speech-to-speech モデルで、相手の話を聞きながら同時に話せる全二重(full-duplex)方式を採用。実際の会話から学習したことで、相づち(“yeah!”、“got it!”、“ooh”)や口を挟むタイミングを身につけたという
  • 感情・皮肉・笑い・ため息など、声に込められた情報を直接聞き取り、表現できるのが特徴。同社は、現在の音声AIの多くが音声をテキストに変換する過程でこうした情報を失っており、それが安全面の問題にもなり得るとしている
  • 料金や一般提供の開始時期は発表には無い。少数のAI安全性研究者に早期アクセスを提供し、想定していないリスクの洗い出しを依頼するとしている。特設ページには、第三者のAIモデルだとする「GPT-Live-1」とDessaを対話させたデモもある。どちらの声もAIが生成したもので、GPT-Live-1の開発元はBlockとは関係が無く、Dessaをレビューも支持もしていないと注記している

確かめた一次資料

この記事は、上の一次資料の原文を読んで書いています。数字は原文のとおりで、計算した値はそう書いています。