層に着目したLLMの口調の学習について
こんにちは。Innovation & Growth Divisionの渋谷です。今回は3月10日に行われた【第3回】生成AIなんでもLT会の登壇内容の記事です。 ▼登壇資料はこちら 【第3回】生成AIなんでもLT会 2024_0304なんでも生成AI_sergicalsix.pptx from ARISE analytics はじめに LLMのファインチューニングをしていると、ふと「学習した情報ってどこに保存されているんだろう?」と思うことはありませんか? LLMの知識がどこに保存されているのかというお話は、議論されていて「全結合層に知識が保存されている」という仮説などあります。...