TECH BLOG

JSAI2026参加レポート：人とAIのインタラクションとLLMの安全性評価の最前線

2026-07-03

この記事をシェアする

こんにちは、データサイエンティストの芹澤と平岡です。この記事は、2026年6月8日 (月) 〜 2026年6月12日 (金) に開催された人工知能学会全国大会 (JSAI2026) の参加レポートとなります。

私たち自身の関心に基づき、特に印象的だった発表をピックアップしてご紹介します。着目したのは、人とAIのインタラクション (HRI/HAI) と、LLMの安全性評価という2つの領域です。いまJSAIで注目されているのはどんな研究なのか、特に「人とAIの対話」と「LLMの安全性評価」という2つの領域では、どんな課題に対してどんなアプローチが議論されているのかーー両領域の注目発表4件のエッセンスと、対話システム開発やAIの安全性評価に携わる実務者目線での着眼点を知っていただけると幸いです。

サマリ

本記事で紹介する内容は以下の通りです。

会話の「雰囲気」を、韻律とジェスチャ・タイミングの統合制御で再現する対話ロボットの研究
習慣行動の不在(Inaction)を手掛かりに、監視感・違和感を抑えた介入を行う共在感醸成型ロボットの研究
RAGの発想をポリシー選択に応用し、少ないトークン数で高い検知性能を実現するLLMガードレールの手法
LLMの安全性評価における人手評価とLLM-as-a-Judgeの判定の乖離要因を、日本語LLMに即して体系化した研究

学会概要

今年の人工知能学会全国大会は群馬県高崎市にあるGメッセ群馬で開催され、速報値で5,246名が参加、1,397件の発表があったそうです。生成AIを中心とした盛り上がりを背景に、AI分野への関心の高さを肌で感じる大会となりました。

ARISE analyticsでも、企業展示ブースの出展やランチョンセミナー・インダストリアルセッション・特別セッションでの発表、ポスター発表で参加させていただきました。これらの詳細については公式noteで別記事を公開予定ですので、そちらもぜひご覧ください。

注目した発表①：ロボットと実世界：HRIと対話ロボット

芹澤は、HRI (Human Robot Interaction) と対話ロボットのセッションにおける発表に注目しました。

まず前提として、私はAIと人のコミュニケーションやインタラクションという分野 (Human Agent Interaction; HAI) に興味を持っており、以前から技術調査・発信や学会発表を行っています。詳細については、以下の記事を参考にしていただけると嬉しいです。

今回の学会では、これらに近いHRIや対話ロボットに関する発表も多く見られましたので、特に注目した発表について紹介と個人の感想を書かせていただこうと思います。

実会話の雰囲気を伝えるロボット行動生成

著者・所属：清戸奏来¹、中澤篤志¹ (1. 岡山大学大学院ヘルスシステム統合科学研究科)

プログラムリンク：[3N1-GS-8a-03] https://pub.confit.atlas.jp/ja/event/jsai2026/presentation/3N1-GS-8a-03

人間の会話における「雰囲気」をロボットで再現するという発表でした。近年のロボットは高度な発話ができるようになった一方、会話全体の「雰囲気」を十分に生成できておらず、これが理解のしづらさを引き起こしていると考えられています。そこで、韻律とジェスチャとそのタイミングを統合的に制御することで、会話の雰囲気をより再現できることが示唆されたとのことです。
「雰囲気」という曖昧なものを再現することは難しいですが、ジェスチャに加えて韻律を制御するという着目点が面白いなと感じました。私も対話システムを作ることはありますが、自然な会話は継続利用する上での重要な課題の一つなので、参考にしたいと思いました。

Inactionを手掛かりとした共在感醸成型ロボットの介入が人の心情に与える影響評価

著者・所属：有村勇輝¹、高山直之¹、本居恒輝¹、玉井睦²、松永昌浩²、今井倫太¹ (1. 慶應義塾大学, 2. セコム株式会社 IS 研究所)

プログラムリンク：[3N1-GS-8a-04] https://pub.confit.atlas.jp/ja/event/jsai2026/presentation/3N1-GS-8a-04

習慣行動を行わなかったこと (Inaction) をセンサが検知したときに納得感のある介入を行うロボットの提案という発表でした。高齢者の見守り・生活支援を目的とした行動モニタリングでは、突発的な通知や介入が違和感や監視感を生み、結果的に不信感につながるという課題があります。そこで、センシング情報を共有体験として提示する共在感醸成型ロボットを提案し、共に過ごしてきた存在からの自然な気づきとして受け止められることを目指したとのことです。
AIシステムやロボットが人の行動に介入する際、違和感を感じさせないことは非常に難しいと私自身感じています。対策として、私の場合はタイミングや間の取り方などを考えていましたが、本研究では共在感というものを定義しており、興味を持ちました。効果的なように感じた一方、著者も述べていたのですが、共有体験の長さによっても効果は変わりそうであり、今後の展望が楽しみです。

注目した発表②：AIと社会：AI安全性と信頼性評価

平岡は、カスタマーサポート領域におけるAIエージェントの開発に携わった経験から、AIが生成する出力が社会的に安全なのか、その信頼性をどのように評価できるのかといった領域に関心があり、このセッションの内容を紹介させていただきます。

ポリシーフィルタリングによる効率的な大規模言語モデル向けガードレール

著者・所属：山田美優²、伊東邦大¹ (1. 日本電気株式会社、2. 東京科学大学)

プログラムリンク：[4E5-GS-11b-01] https://pub.confit.atlas.jp/ja/event/jsai2026/presentation/4E5-GS-11b-01

ガードレールにおけるポリシーの見落としに対処する手法を提案した発表でした。従来のガードレールでは、ポリシー（チェックすべき検査ルール）が多くプロンプトが長くなることで、LLM が一部のポリシーを見落として判定に失敗するという課題（Lost in the Middle）があります。提案手法では、各ポリシーに対して事前に違反例を生成・埋め込みしておき、検査対象テキストとの類似度が高い上位 k 個のポリシーだけでプロンプトを構成して判定します。これにより、すべてのポリシーを使う場合と同等の検知性能を、大幅に少ないトークン数で実現できることを示しています。検索対象を関連文書に絞り込む RAG の発想をポリシー選択に応用した点が非常に面白いと感じた発表でした。

日本語LLMを用いたシステムの安全性評価における人手評価とLLM-as-a-Judgeの比較分析

著者・所属：藤田真伎¹、駒田拓也¹、藤本拓¹、吉村健¹ (1. 株式会社NTTドコモ)

プログラムリンク：[4E5-GS-11b-03] https://pub.confit.atlas.jp/ja/event/jsai2026/presentation/4E5-GS-11b-03

LLM の安全性評価では、しばしば人手評価と LLM-as-a-Judge による自動評価の判定が一致しないという課題があります。この研究は5つのリスクカテゴリを対象に、プロンプトの厳格化やモデル差が評価に与える影響を検証し、人手評価と自動評価が食い違う要因を日本語 LLM に即して体系化したものです。なかでも興味深かったのは、人間が内容の実質的な危険性で判断するのに対し、LLM は口調や警告の有無といった表層的な特徴に引きずられてしまう、という両者の判断の乖離が具体例とともに示されていた点です。さらにこの研究では、こうした要因の整理にとどまらず、自動評価のどの観点に人手評価を組み込むべきかまで論じていました。チャットボットのように出力の安全性が問われる場面では、この切り分けが明確になることで、自動化できる範囲と人手確認が必要な範囲を整理でき、効率的な安全性評価につながるのではと考えました。今回の議論では、シングルターンが対象でしたが、マルチターンのやり取りでは、安全性の乖離がどう変化するのかが非常に気になる発表でした。

おわりに

冒頭に挙げた問いに対しては、「人とAIの対話の自然さ」と「LLM出力の安全性評価」の両輪で、課題が具体化され、実装可能なアプローチが進みつつあることが分かりました。前者では会話の雰囲気の再現や監視感を抑えた介入といった「人がどう受け止めるか」に踏み込んだ研究が、後者ではガードレールの効率化や人手評価との乖離の体系化といった「どう安全性を担保するか」に向けた研究が見られました。

また、今回のJSAIの特徴として、LLMの活用における安全性やセキュリティという分野が多くみられ、いかに安全を担保して活用していくかという今の課題が垣間見えました。一方で、企業ブースではロボットの展示を行っている企業が多く目立ちました。現在は生成AIに関する研究発表が多いですが、今後はPhysical AIに関する発表もより一層増え、JSAIでの発表領域がさらに広がっていくのではないかと考えています。今後の盛り上がりも楽しみです！

ここまでの内容で、人工知能学会や最新のAI研究に興味を持っていただけたら嬉しいです。来年、JSAI2027で皆さんとお会い出来るのを楽しみにしています！

最後までお読みいただきありがとうございました。

技術情報トップへ