LLMに渡せない大規模データから顧客層を抽出する ── コードインタープリターによる照合と集計
はじめに こんにちは、ソリューションエンジニアの田中です。私が所属するチームでは、AIに時事情報を調査させて、自社への影響について示唆を出してもらうアプリの開発を行っています。 このアプリには、調査した時事情報から「その時事情報が自社のどの顧客層に影響を与えるのか」を推測する工程があります(アプリの全体像は以前の記事で紹介しています)。 LLMに何かを判定させるとき、判断材料になる参照データを一緒に渡すのが基本です。商品マスタ、契約条項、規程集、顧客データ。そして参照データは、網羅性を求めた時点でプロンプトに収まらなくなります。...