技術情報

2023-12-20

生成AI・LLMのメモリ最適化・高速化ライブラリ-DeepSpeed-

はじめに ARISE analyticsの近藤です。弊社では、KDDIグループを支えるためのAI技術開発を行っています。その一環でプロダクト開発を目的とした研究開発も進めています。 AIを活用したプロダクトとして、RPA（Robotic Process Automation）などが挙げられます。RPAでは大量のデータを短時間で処理する必要があります。そのため、AIの性能に加え処理速度も重視されます。また、AWSやAzure等のクラウド上で処理する場合は、インスタンスコストを削減するため可能な限りスペックを抑制する必要があります。...

2023-12-15

GitHub Copilotと一緒にTerraformを書いた体験談初めてのインフラ構築

はじめまして、8月にARISEに入社したMarketing Solution Division, Service Design Unit所属の森です。前職ではフロントエンジニアでしたが、案件を通じて自分の作ったアプリを動かせるインフラに興味をもちました。入社直後にARISE社内でプロジェクトが立ち上がり、インフラの枠が空いていたのでインフラ担当として参画させてもらいました。社内プロジェクトではインフラ構築をAWS＋Terraformで行いますが、インフラ初心者の私にとってははじめて知ることばかりで右も左もわからない状態でした。今回は、そんなインフラ初心者の私がGitHub...

2023-11-29

新人エンジニアがGitHub Copilotを使ってみた。

はじめまして、Marketing Solution Division,Service Design Unit所属ソリューションエンジニアの相沢です。今回は、新人エンジニアの私がエンジニア向け研修中に利用した「GitHub Copilot」について、”新人エンジニアが使うことでどのような良いことがあるか”についてお話しします。 1.GitHub Copilotとは GitHub...

2023-10-27

現環境最強のテーブルデータ向けモデルTabPFNの紹介

初めにこんにちは。技術開発 Teamの福嶋です。皆さんはテーブルデータの分類タスクを行う際どのようなモデルを使っていますでしょうか？当社においては、初手としてLightGBMやXGBoostなどの勾配ブースティング木（GBDT）を用いていることが多い印象です。 ChatGPTやStable Diffusionなどテキスト・画像データに対して圧倒的な精度を出している深層学習系のモデルはどうかというと、残念ながらあまり利用されていない印象です。...

2023-09-25

生成モデル（LLM）を用いた論文要約システムの構築～セキュリティ領域の論文の情報抽出を効率化してみた～

はじめに ARISE analyticsの奥井です。普段は通信セキュリティに関する研究開発を行っています。今回の記事は、Large Language Models(以降LLM)を用いて論文PDFに対するQ&Aについて試してみたことを紹介します。...

2023-09-22

Serverless FrameworkとTerraformの使い分けについて

Marketing Solution Division所属のエンジニアの坂本です。 FaaSデプロイの悩み早速本題ですが、AWS Lambdaのデプロイについて悩んでませんか? 特に検索で飛んで来た方は様々なツールや管理方法を模索しているのではないかと思います。現行のクラウド管理はIaCを使うことがほぼほぼスタンダードになっており、Terraformなどのツールを使ってIaCで構築しているかと思います。 (IaCについて知りたい方は記事を書いていますのでご参考いただければ。) 確かにインフラ側の目線だけで言えばTerraformでLambda等のFaaSを管理することもできます。...

2023-09-20

LLM時代に人は対話AIを信頼できるか？Human Agent Interactionの視点から考える

はじめにこんにちは、DX Technology Unitの芹澤です。以前は「RAG (Retrieval Augmented Generation) を活用！LLMで外部データを参照する方法を解説」という記事を書きましたが、今回もLLMに関連する記事をお送りします。弊社では、業務時間のうち週に3時間まで自己研鑽に充てて良いという制度があり、各々興味のある勉強や実装、コンペ参加などを行ったりしています。その中で、私は学会に向けて各々好きな研究に取り組むグループに参加しており、毎週ゼミ形式で進捗共有をしながら研究活動を行っています。...

2023-08-18

RAG (Retrieval Augmented Generation) を活用！LLMで外部データを参照する方法を解説

はじめにはじめまして、DX Technology Unitの芹澤です。普段はAI関連技術を用いた研究開発に携わっています。昨今、ChatGPTを初めとした大規模言語モデル (Large Language Model; 以下LLM) が話題になっており、様々な質問に対して非常に優れたアウトプットが得られるようになりました。一方、LLMを企業で使用する場合、社内特有のデータを参照する必要があるため、社内特化LLMシステムを構築することが必須となります。...

2023-07-31

【JSAI2023】Graph Neural Networkを用いた異常通信検知についてポスター発表しました

ARISE analyticsでAIエンジニアに所属している秋元です。今回の記事の内容は、2023年6月5日〜9日で開催された人工知能学会全国大会 (JSAI2023) でポスター発表させていただいた報告です。 JSAI2023では、ARISE analytics×KDDI総合研究所様×トヨタ自動車様の共著で通信セキュリティ領域における異常通信検知に関してポスター発表させていただきました。タイトルは「フローデータのまとまりを考慮した新たなグラフ構成手法とGNNによる異常通信検知への適用」です。 JSAI2023について...

2023-07-07

Snowflake Summit 2023参加報告！

はじめに ARISE analyticsでデータ基盤構築業務を主に行う「データアーキテクト」というキャリアトラックに所属しているエンジニアの田畑です。現在は主にSnowflakeでの基盤構築案件に携わっています。今回の記事では、Snowflakeにおける年に1度の最大のカンファレンスイベントであるSnowflake Summitに参加したので、その報告をしたいと思います。出張の背景先述した通り、現在私はDMP基盤をSnowflakeで構築するプロジェクトに参画しており、開発メンバーとして業務に従事しています。...

タグから探す

TECH BLOG