理研AIP音楽情報知能チームに小室哲哉氏が客員主管研究員として着任
国立環境研究所が提供した福島野鳥コンテンツを公開
3つのiPadアプリケーションを新規公開・1件を再公開
TV東京「探究の階段」で紹介
理化学研究所 革新知能統合研究センター(AIP)音楽情報知能チーム(チームリーダー:浜中雅俊)に音楽家の小室哲哉氏が客員主管研究員として着任いたしました。また、国立環境研究所が提供の野鳥の鳴き声コンテンツを音楽情報知能チームで公開中のiPhoneアプリ、SoundScopePhoneをアップデートして公開開始しました。さらに音楽情報知能チームで開発した3つのiPadアプリケーションを新規公開しました。また、1つのアプリケーションを再公開しました。音楽情報知能チームの研究内容がTV東京「探究の階段」で紹介されます。
小室哲哉氏が理研AIP音楽情報知能チーム客員主管研究員に着任
AIを用いた作曲支援システムの開発を実施してきた理化学研究所 革新知能統合研究センター(AIP) 音楽情報知能チームに音楽家の小室哲哉氏が客員主管研究員として着任いたしました。音楽情報チームで研究開発が進むシステムの試験的利用を通してAIによる音楽制作支援の在り方について探求していきます。 音楽情報知能チームの浜中雅俊チームリーダーはGTTMと呼ばれる、音楽の構造を分析する理論の研究を18年前から継続しており、2つのメロディの中間的なメロディを数式のような演算で求めるメロディモーフィング手法などを研究してきました。近年、GTTMによる音楽構造分析にAIを活用することで飛躍的に分析性能が向上し、音楽構造に基づくメロディ操作の実用化が近まっています。 小室哲哉氏は、当時は使用にあたって特別な専門知識が必要であったシンセサイザー・シーケンサーを一般の人でも操作可能とするため、ヤマハ製シンセサイザー・EOSシリーズのボディのデザイン、基本コンセプト、プリセット・ボイスの作成・提供など全面にわたって監修を行うとともに、ユーザとして使用することで開発へのフィードバックを行ってきました。また、ハードディスクレコ―ディングの専用機が存在しない当時に、FMシンセサイザー、サンプラー、ミキサー、シーケンサーなどを統合した最先端の音楽制作環境であった「シンクラビア」のサンプラーの機能を利用してデジタルレコーディングを実現してきました。 なお⼩室哲哉⽒が制作してきた膨⼤な数の楽曲はGTTM による⾳楽構造分析を開始しております。
新コンテンツ
国立環境研究所が提供した野鳥コンテンツを公開
国立環境研究所 生物多様性領域 福島地域協働研究拠点では、福島県の帰還困難区域とその周辺で野鳥の声のモニタリングを行いその音声から種を判別するイベント「バードデータチャレンジ」を2015年から2018年に渡って開催してきました(現在は新しい形での開催を模索しています)。一方、理研AIP音楽情報知能チームでは、AIによる顔画像認識、ジャスチャー認識を使ってパートごとの楽器音の聴き分けを楽しむiPhoneアプリ、SoundScopePhoneを開発・公開してきました。アプリに国立環境研提供の野鳥の声コンテンツを追加することで、野鳥の声の聴き分けを体験することが可能になりました。 紹介用映像の出演はHaruhi Nakajimaさん。 背景映像およびその地名は国立環境研究所の哺乳類調査などで360度撮影をしたものを用いています。それぞれの野鳥の声が聞こえそうな(観測される可能性のある)環境を示していますが、必ずしもその地点で映像で示した野鳥が記録されているわけではありません。 野鳥の声(Wild Birds)はSoundScopePhoneのアプリの更新あるいは新規インストールによってダウンロード可能となります。今回のアプリの更新によって滋賀県在住のギタリストDaisuke Hashimoto氏による提供曲「鋼鉄魂2022」もダウンロード可能となります。
新規公開
聴きたい奏者を選択可能サウンドスコープパッド
サウンドスコープパットは、仮想現実(VR)コンサート体験を提供します。iPadといつもお使いのイヤフォンやヘッドフォンさえあれば、iPadの方向に応じて、あなたを取り囲むように立った奏者を画面内に見ることができます。聴きたい奏者を探し、その方向へ耳を澄ませるようなポーズをすることで、そのパートがより強調されAIとVR、空間音響を使った能動的な音楽鑑賞体験ができます。 紹介映像の主演はAlice Misakiさん。仮想の音楽ホールでのコンサートに招待され鑑賞を楽しむ様子を映像化しました。
新規公開
聴きたい音楽を選択可能なミュージックスコープパッド
MusicScopePadは、仮想現実(VR)空間で複数の映像を再生することで、目的の映像を素早く見つけるツールです。アプリを起動するとiPadの方向に応じて、複数の映像があなたを囲むように提示されます。見たい映像を探し、その方向へ耳を澄ませるようなポーズをすることで、その映像が選択されます。AIとVR、空間音響を使った映像探索が体験できます。 紹介映像の出演はダンサーのMAI(ELEVENPLAY)さん。映像制作の監修は、Rhizomatiksの真鍋大度氏が行いました。真鍋大度氏は、リオ2016大会閉会式東京2020フラッグハンドオーバーセレモニーのAR映像の制作などで知られています。MusicScopePadのもともとのアイディアである、2006年に発表したMusic Scope Headphoneでは真鍋大度氏がソフトウェア構築、浜中雅俊チームリーダーがハードウェア構築を行いました。紹介映像の制作は、それ以来16年ぶりのコラボレーションとなりました。
新規公開
聴きたい音楽を選択可能メロディスロットマシンHD
Melody Slot Machin HDは、スロットマシンを楽しみながら、音楽構造を使ったメロディ生成の可能性を体感できるアプリケーションです。スロットマシンに現れるマークによって、複数のバリエーションのメロディから選ばれるメロディが変化し、新しい組み合わせのメロディを生成します。AIで合成した短い長さの動画で演奏動画を滑らかにつなげることで、新しい組み合わせのメロディを演奏者が演奏する映像も見ることができます。 理化学研究所が研究する音楽構造の不思議な世界をどうぞお楽しみください。 紹介映像の出演はMayu Otonagiさん。スロットの目がそろうと「Excellent」と表示されるなど、ゲーム性を持たせたアプリケーションを楽しむ様子を映像化しました。
再公開
ギター演奏が疑似体験できるシェイクギターHD
メディア紹介
テレビ東京 「探究の階段」で音楽情報知能チームの研究を紹介
研究開発に邁進する探究者を紹介するテレビ東京の「探究の階段」でメロディスロットマシンやサウンドスコープパッドなど理化学研究所(AIP) 音楽情報知能チーム (チームリーダー: 浜中雅俊) の研究が紹介されます。
放映予定日時
◆テレビ東京 3月3日(木) 22:58~23:06
◆BSテレ東 3月12日(土) 21:55〜22:00
(TVerでもご覧いただけます。)
メディア掲載
日本経済新聞電子版に掲載されました
2022年2月28日の日本経済新聞電子版に掲載されました