Songroid: 音楽に連動したダンスの分析・生成技術に基づくダンスアニメーション鑑賞サービス

深山 覚, 井上 隆広, 後藤 真孝

産業技術総合研究所

Songroid (ソングロイド) とは

音楽に連動したCGキャラクタのダンスアニメーション鑑賞サービスSonroid (http://songroid.jp) [α版を試験公開中]

  • 三次元CGキャラクタが踊るアニメーションを見て楽しめるサービス
    • 能動的音楽鑑賞サービスSongleと連携してダンスを自動生成
    • キャラクタと背景をWebブラウザ上でリアルタイムにレンダリング
  • ダンス分析技術に基づいて好みのダンスを探して楽しめる
    • 「すごい」「かわいい」「かっこいい」動作を探せるシーク機能検索機能
    • 動作に対してどのようなコメントが付きやすいかを自動推定

p17_songroid

ダンス動作の印象を表わすコメントの予測と検索

  • 「すごい」「かわいい」「かっこいい」のコメントが付きそうな動作を推定
  • p17_songroid2

  • ダンス1曲を通じたコメント予測に基づいたダンス動作検索

「すごい」「かわいい」
「かっこいい」動作で
ソートされた自動生成ダンス
を一覧表示

p17_songroid3

ダンスの分析・生成技術

印象空間を通じたダンス動作の分析と生成

  • 機械学習によってダンス動作と音楽を共通の印象空間に対応付けて分析
  • 与えられた音楽の印象に最も近い印象を与えるダンスを生成

p17_dance1

確率モデルで特徴的なダンス動作を機械学習

  • ガウシアンプロセス回帰に基づいて、似た特徴をもつ複数のダンス動作から
  • その特徴を持つ動作を確率的に生成できる「ダンス語彙」を学習
  • 連続時間でダンス動作を出力できる確率モデルとすることで、
  • 分析区間中のダンス動作の異なるデータポイント数に対応可能

p17_dance2

Songroidの今後

ダンスアニメーション創作支援サービスへの発展

  • インタラクティブにダンスを制作できるインタフェース構築
  • 本研究のダンス自動生成手法を応用してダンス動画を手軽に制作可能に

楽曲のより深い理解を反映したダンスの自動生成

  • 音楽理解技術を活用し楽曲の内容に連動し構成をもつダンスを自動生成

上記の図で用いている三次元CGキャラクタには、OngaCRESTプロジェクトが研究目的で制作したオリジナルキャラクタを使用した。