技術情報

2024-04-26

電力需給調整における数理最適化～二段階確率計画法の応用～

はじめにこんにちは。Customer Analytics Division所属の久保、知野、矢田貝です。データサイエンティストとして、数理最適化技術を用いて電力の需給調整業務を高度化するプロジェクトに携わっております。本記事では、不確実性を考慮した予測・最適化の技術について、電力業界への応用を例に挙げて解説します。...

2024-04-19

層に着目したLLMの口調の学習について

こんにちは。Innovation & Growth Divisionの渋谷です。今回は3月10日に行われた【第3回】生成AIなんでもLT会の登壇内容の記事です。 ▼登壇資料はこちら【第3回】生成AIなんでもLT会 2024_0304なんでも生成AI_sergicalsix.pptx from ARISE analytics はじめに LLMのファインチューニングをしていると、ふと「学習した情報ってどこに保存されているんだろう？」と思うことはありませんか？ LLMの知識がどこに保存されているのかというお話は、議論されていて「全結合層に知識が保存されている」という仮説などあります。...

2024-04-15

動画生成AIによるシミュレーション動画は物理法則を満たしているのか？

はじめにこんにちは。Customer Analytics Divisionの奥井です。今回は3月10日に行われた【第3回】生成AIなんでもLT会で登壇した内容をまとめます。登壇内容について発表資料のリンクはこちら（諸事情により、冒頭に会社説明の資料を含みます）【第3回生成AIなんでもLT会資料】_動画生成AIと物理法則_v0.2.pptx from ARISE analytics テーマを選んだ理由動画生成AI「Sora」がリリースされ、巷で話題になっていました。その中でも特に気になっていたのは、次のコメントです。 We’re teaching AI to understand...

2024-02-14

ドローン×AI×物体検出～MosaicとMixupでできることとは？～

はじめにこんにちは。Customer Analysis Divisionに所属している4年目データサイエンティストの山嵜です。4年目ともなり様々なプロジェクトを経験してきましたが、現在はドローン×AI×物体検出をテーマとしたプロジェクトを担当しております。こちらのチームでは、ドローンの空撮画像を対象として、特定物体を検出するシステムの実証実験・開発をおこなっております。今回ご紹介させていただくのは、学習画像の水増し手法（Data...

2024-02-08

プロンプトエンジニアリング勉強会 in ARISE analytics

はじめにはじめまして、2024年4月に新卒で入社した森と渋谷です。今回は、ARISE analytics（以下、ARISE）の社内勉強会で行った「プロンプトエンジニアリング勉強会」の実施内容の紹介をさせていただきます。背景 ChatGPTを筆頭に、大規模言語モデルは文章作成やプログラミングのサポートなど、多岐にわたる分野での活用が進み、現代の業務に不可欠なツールへと急速に変わりつつあります。...

2023-12-20

生成AI・LLMのメモリ最適化・高速化ライブラリ-DeepSpeed-

はじめに ARISE analyticsの近藤です。弊社では、KDDIグループを支えるためのAI技術開発を行っています。その一環でプロダクト開発を目的とした研究開発も進めています。 AIを活用したプロダクトとして、RPA（Robotic Process Automation）などが挙げられます。RPAでは大量のデータを短時間で処理する必要があります。そのため、AIの性能に加え処理速度も重視されます。また、AWSやAzure等のクラウド上で処理する場合は、インスタンスコストを削減するため可能な限りスペックを抑制する必要があります。...

2023-10-27

現環境最強のテーブルデータ向けモデルTabPFNの紹介

初めにこんにちは。技術開発 Teamの福嶋です。皆さんはテーブルデータの分類タスクを行う際どのようなモデルを使っていますでしょうか？当社においては、初手としてLightGBMやXGBoostなどの勾配ブースティング木（GBDT）を用いていることが多い印象です。 ChatGPTやStable Diffusionなどテキスト・画像データに対して圧倒的な精度を出している深層学習系のモデルはどうかというと、残念ながらあまり利用されていない印象です。...

2023-09-25

生成モデル（LLM）を用いた論文要約システムの構築～セキュリティ領域の論文の情報抽出を効率化してみた～

はじめに ARISE analyticsの奥井です。普段は通信セキュリティに関する研究開発を行っています。今回の記事は、Large Language Models(以降LLM)を用いて論文PDFに対するQ&Aについて試してみたことを紹介します。...

2023-09-20

LLM時代に人は対話AIを信頼できるか？Human Agent Interactionの視点から考える

はじめにこんにちは、DX Technology Unitの芹澤です。以前は「RAG (Retrieval Augmented Generation) を活用！LLMで外部データを参照する方法を解説」という記事を書きましたが、今回もLLMに関連する記事をお送りします。弊社では、業務時間のうち週に3時間まで自己研鑽に充てて良いという制度があり、各々興味のある勉強や実装、コンペ参加などを行ったりしています。その中で、私は学会に向けて各々好きな研究に取り組むグループに参加しており、毎週ゼミ形式で進捗共有をしながら研究活動を行っています。...

2023-08-18

RAG (Retrieval Augmented Generation) を活用！LLMで外部データを参照する方法を解説

はじめにはじめまして、DX Technology Unitの芹澤です。普段はAI関連技術を用いた研究開発に携わっています。昨今、ChatGPTを初めとした大規模言語モデル (Large Language Model; 以下LLM) が話題になっており、様々な質問に対して非常に優れたアウトプットが得られるようになりました。一方、LLMを企業で使用する場合、社内特有のデータを参照する必要があるため、社内特化LLMシステムを構築することが必須となります。...

タグから探す

データサイエンス