生成AI・LLMのメモリ最適化・高速化ライブラリ-DeepSpeed-
はじめに ARISE analyticsの近藤です。 弊社では、KDDIグループを支えるためのAI技術開発を行っています。その一環でプロダクト開発を目的とした研究開発も進めています。 AIを活用したプロダクトとして、RPA（Robotic Process Automation）などが挙げられます。RPAでは大量のデータを短時間で処理する必要があります。そのため、AIの性能に加え処理速度も重視されます。また、AWSやAzure等のクラウド上で処理する場合は、インスタンスコストを削減するため可能な限りスペックを抑制する必要があります。...