注目科学技術マップで分析 データ一覧

NISTEP注目科学技術 - 2023_E455

私の専門は非平衡熱力学の分野であるが、特に情報理論や情報処理の観点からの研究に着目をしている。近年、非平衡熱力学の仕組みに基づく、機械学習の手法について興味深い応用が数多くなされている。最も注目されている取り組みとしては、非平衡熱力学の数理から創発された「拡散モデル」と呼ばれる生成モデルの手法であろう。これは画像生成の方法として現在非常によく使われている手法であり、熱力学的な不可逆性に由来して構造を壊す拡散過程で学習を行って、時間逆向きのダイナミクスを機械学習により推定することで、何もないところから画像などの構造を生成していくモデルである。Stable diffusionなどのお絵かきAIの基礎技術として使われることで、その手法の強力さが徐々に明らかになりつつある。現在、注目を集めているChatGPTに代表されるような生成系のAIの技術の核となる手法として、今後も成長していくことが期待される。
また非平衡熱力学の手法として利用可能な、最適輸送理論及び情報幾何学と呼ばれる数理の手法も大変興味深い。この最適輸送理論及び情報幾何学は機械学習の手法の数理的な基盤として広く用いられており、これらの研究と非平衡熱力学の様々な研究結果との融合は大変興味深い応用を見せ始めている。また一方で最適輸送理論や情報幾何学は、GANに代表されるような生成モデルの数理的な基礎となることがわかっており、情報理論に基づいた損失関数の様々な候補を提供するものである。たとえばWasserstein GANと呼ばれる最適輸送に基づいた画像生成モデルの手法は、非常に自然な画像を生成することがわかってきており、非常に影響力が高い手法である。
今後はこれらの複数の手法が、非平衡熱力学の手法の観点から統一されていくことにより、より強力な学習手法を提供する数理的な基盤が整ってくることが予想される。たとえば、それぞれの技術は、非平衡熱力学の数理的な基盤に非常に近い手法でもあるにもかかわらず、非平衡熱力学の様々な知見をまだ活かしきれていない印象があり、それらの融合が今後機械学習の質的な変化や、より性能の高い手法へと変化していくことが期待される。

現在、拡散モデルや最適輸送などの機械学習の手法自体は、企業における研究が盛んに進んでいる現状があり、非常に急速に発展している状況にある。非平衡熱力学の手法自体は、1960年以降の古くから研究が進んでいる分野であるが、現在も様々な原理が新たな科学的に明らかになりつつある発展途上の研究分野である。これらの手法の融合は常に可能な状況にあり、研究者のアイディア次第で様々な発展が今後も期待される状況である。
特に、非平衡熱力学のアイディアに駆動された拡散モデルの成功が現在盛んに取りただされているため、企業を含め研究者界隈では非平衡熱力学に対する興味関心が日々高まっているように感じられる。日進月歩で進んでいる機械学習の研究のスピードを考えると、今後拡散モデルのような、非平衡熱力学に起因した新手法の開発が5年程度のスパンで行われてもおかしくないように感じられている。特に現状の拡散モデルの手法は、非平衡熱力学が従来扱ってきたトピックのごく一部を使っているように現在感じられるため、まだまだ改善や新手法の発展の可能性があると感じている。たとえば拡散モデルが扱う拡散過程の亜種は、いくらでも非平衡熱力学の分野で取り扱われており、反応拡散系、量子拡散、マルコフジャンプ過程、非マルコフ過程、カオス、など、様々な問題が多様に考えられている現状がある。これらの問題におけるアイディアが新たな機械学習の手法を生み出す可能性は十分にあると考えている。

たとえば、より正確かつ自然な生成モデルが実現した場合には、様々な社会的な影響が発生することが予想される。現在進行形で、画像生成や文章生成の自動化が行われているが、これらは社会全体を巻き込んだ大きな事象になりつつある。様々な職に影響を与え、人類社会自体が大きく変革することが見込めるだろう。
この大きな変革の流れは、生成モデルのより優れた手法の創出によって進むことが考えられる。人間が行うよりも「優れた」文章生成、画像生成が行えるようになることが起きた時に、初めて人間が行う作業は取って代わられるため、優れた手法の創出こそが今後の鍵になってくると考えられる。

実現に向けて必要な要素は、多くの科学者のコミュニティの相互交流の機会の実現である。特に現在、社会的に大きな注目を集めている以上、これまで以上に多くの科学者が多かれ少なかれこの生成モデルのブームに乗り始めるだろう。また様々な企業がこの手法に多額の投資をしている現状がある。
留意すべき点としては、このような止まらない生成モデルの発展の中で、ある種のno go theorem、すなわち「絶対にできないこと」を示せるかは重要な視点となる。つまり、生成モデルのAIが「絶対にできないこと」を理論的に把握することが、ある種の安全性を担保する鍵となるだろう。よって、このような「絶対にできないこと」を適切に調べ、安全にこの分野を発展してコントロールが効く状態においておくことは極めて重要だと考えられる。