NEWS
NEWS
ARISE analytics 内の実例を交えながら、いま世の中で盛り上がっている技術について発信していく「ARISE TECH BLOG」を更新しました。
第102回目となる今回は、GPT-OSS Safeguardが拓く新たな潮流 ― ガードレールモデルの分類と実務への適用②という記事を当社データサイエンティストの挺屋が執筆いたしました。
本記事では、Chain-of-Thought や Harmony レスポンスフォーマットの出力例、デフォルト設定時の推論精度とレイテンシ、推論ステップ削減による処理速度の変化、vLLM を用いた並列処理・高速化手法などを検証結果とともに紹介し、実運用を見据えた知見を整理しています。
ぜひご覧ください。