こんにちは。Marketing Solution Division, Experience Design Unitの岩野です。今回は社内で行われたNeural Information Processing Systems (NeurIPS) 2021論文読み会のまとめをお届けいたします。NeurIPSは世界最大規模の機械学習の国際会議で例年12月に開催されています。
今回の読み会の開催にあたっては、社内で論文読み会に参加したい人を募り、論文の選定にあたってはNeurIPS 2021 Award Recipientsの論文を中心に各々が気になる論文を読んで共有する形をとりました。今回はその中で5報ご紹介させていただきます。
MAUVE: Measuring the Gap Between Neural Text and Human Text using Divergence Frontiers
紹介者：奥井恒
■概要
近年、BERT, GPT-3などテキスト生成モデルの進歩が話題になっています。モデルの性能向上はもちろん重要ですが、一方でモデルの性能を評価するための定量的な指標が必要になります。この論文では、自由形式のテキスト生成において、MAUVEという指標を提案しています。MAUVEはこれまでの評価指標と比較してデコードアルゴリズムの品質やモデルサイズの違いを考慮でき、かつ人間の評価に近いという実験結果も得られていることから、有効な指標になりそうです。
Alias-Free Generative Adversarial Networks（StyleGAN3）
紹介者：近藤真暉
■概要
動画像の連続的な変化に対しても自然な生成ができるようになったStyleGAN3を紹介します。本論文では、生成器の入力値を連続信号として扱うことで、平行移動・回転に対しても変化が生じないようにする工夫が取り入れられています。本技術による動画像生成の大きな発展が期待されます。
Moser Flow: Divergence-based Generative Modeling on Manifolds
紹介者：伊藤光祐
■概要
実世界のデータには気候データなどのように、球体の表面といった複雑な図形上に分布するものが数多くあります。この論文ではそういったデータをモデリングできるように生成モデルの手法の一つであるContinuous Normalizing Flowを多様体上で適用できるように拡張した上で、さらに既存手法よりも計算効率が改善されたMoser Flowという手法を提案しています。
On the Expressivity of Markov Reward
紹介者：岩野夏樹
■概要
この論文では強化学習における報酬関数設計の問題としてマルコフ報酬関数の表現可能性を調べ、特定の種類のタスクではどのようなマルコフ報酬関数を設計しても一部のタスクを解くことができないことを示しました。また、与えられたタスクを解くことができる報酬関数があるかどうかを多項式時間で判定し、ある場合にはその報酬関数を構築するアルゴリズムを開発しました。この研究によって報酬関数の表現性の調査が進むことが期待されます。
Deep Reinforcement Learning at the Edge of the Statistical Precipice
紹介者：内田沙穂里
■概要
この論文では、強化学習における既存の評価指標の問題点と解決方法を提案しています。近年、ロジックが複雑になるにつれて複数回実行したうえでの評価が難しくなっている中、層別ブートストラップ法での信頼区間やInter Quantile Meanを利用した、実行回数を抑えつつ適正に評価する方法を提案しました。また、すでに報告されている評価数値の再検証を行い、既存評価の不確実性の証明も行っています。
おわりに
今回は受賞論文を中心に読んだこともあり、普段は触れることのない領域の論文を読んだ参加者も多かったようです。自分と直接関係ない領域の研究は新鮮な考え方が多く、取り入れられる部分も多くあると感じました。また、読み会は複数人で同時にキャッチアップするのでいろいろな興味のある分野を知れる上、発表者に質問を投げかけつつ全員で理解できていく感覚がなんとも楽しいです。
今回取り上げた中でMoser Flowの論文の発表は特に興味深く、大学院でやっていた生成モデルの分野の勉強を再度始めようという気持ちになりました。強化学習の分野はまだまだ解析の余地があり、より複雑なタスクに適用可能になってきている一方で、複雑性が増して評価するのも難しくなってきていると感じました。より人間に近いタスクがこなせるようになるまでもう少し時間がかかりそうです。
今後ICLRやICMLなどの国際会議についても論文読み会を実施する予定です。どんな技術や研究が出てくるのか今後も楽しみにしつつ、糧にしていき、全体としての技術力向上のため今後もキャッチアップできていければと思います。
謝辞
本記事の執筆にあたり以下のページを参考にさせていただきました
