プロンプトエンジニアリング勉強会 in ARISE analytics
はじめに はじめまして、2024年4月に新卒で入社した森と渋谷です。今回は、ARISE analytics(以下、ARISE)の社内勉強会で行った「プロンプトエンジニアリング勉強会」の実施内容の紹介をさせていただきます。 背景 ChatGPTを筆頭に、大規模言語モデルは文章作成やプログラミングのサポートなど、多岐にわたる分野での活用が進み、現代の業務に不可欠なツールへと急速に変わりつつあります。...
ARISE analyticsの技術関連活動
Good Code, Bad Codeの擬似コードをDart(Flutter)でリライトして理解を深める 〜抽象化レイヤー編〜
はじめに MSDのモバイルチームに所属するエンジニアの酒井です。 モバイルチームでは日々良いコードを書くためにレビューや議論を積極的に行っているのですが、今回Good Code, Bad Codeという書籍が話題に上がり、それを正しく深く理解し共有するためにブログ化しようということになりました。 内容をわかりやすく簡潔にまとめるとともに書籍内で登場する擬似コードをDartでリライトして要点を解説します。 Good Code, Bad Code ~持続可能な開発のためのソフトウェアエンジニア的思考 Good Code, Bad Codeは、Googleでテックリードを務めるTom...
生成AI・LLMのメモリ最適化・高速化ライブラリ-DeepSpeed-
はじめに ARISE analyticsの近藤です。 弊社では、KDDIグループを支えるためのAI技術開発を行っています。その一環でプロダクト開発を目的とした研究開発も進めています。 AIを活用したプロダクトとして、RPA(Robotic Process Automation)などが挙げられます。RPAでは大量のデータを短時間で処理する必要があります。そのため、AIの性能に加え処理速度も重視されます。また、AWSやAzure等のクラウド上で処理する場合は、インスタンスコストを削減するため可能な限りスペックを抑制する必要があります。...
GitHub Copilotと一緒にTerraformを書いた体験談 初めてのインフラ構築
はじめまして、8月にARISEに入社したMarketing Solution Division, Service Design Unit所属の森です。 前職ではフロントエンジニアでしたが、案件を通じて自分の作ったアプリを動かせるインフラに興味をもちました。入社直後にARISE社内でプロジェクトが立ち上がり、インフラの枠が空いていたのでインフラ担当として参画させてもらいました。 社内プロジェクトではインフラ構築をAWS+Terraformで行いますが、インフラ初心者の私にとってははじめて知ることばかりで右も左もわからない状態でした。 今回は、そんなインフラ初心者の私がGitHub...
Serverless FrameworkとTerraformの使い分けについて
Marketing Solution Division所属のエンジニアの坂本です。 FaaSデプロイの悩み 早速本題ですが、AWS Lambdaのデプロイについて悩んでませんか? 特に検索で飛んで来た方は様々なツールや管理方法を模索しているのではないかと思います。 現行のクラウド管理はIaCを使うことがほぼほぼスタンダードになっており、Terraformなどのツールを使ってIaCで構築しているかと思います。 (IaCについて知りたい方は記事を書いていますのでご参考いただければ。) 確かにインフラ側の目線だけで言えばTerraformでLambda等のFaaSを管理することもできます。...
LLM時代に人は対話AIを信頼できるか?Human Agent Interactionの視点から考える
はじめに こんにちは、DX Technology Unitの芹澤です。以前は「RAG (Retrieval Augmented Generation) を活用!LLMで外部データを参照する方法を解説」という記事を書きましたが、今回もLLMに関連する記事をお送りします。 弊社では、業務時間のうち週に3時間まで自己研鑽に充てて良いという制度があり、各々興味のある勉強や実装、コンペ参加などを行ったりしています。その中で、私は学会に向けて各々好きな研究に取り組むグループに参加しており、毎週ゼミ形式で進捗共有をしながら研究活動を行っています。...
RAG (Retrieval Augmented Generation) を活用!LLMで外部データを参照する方法を解説
はじめに はじめまして、DX Technology Unitの芹澤です。普段はAI関連技術を用いた研究開発に携わっています。 昨今、ChatGPTを初めとした大規模言語モデル (Large Language Model; 以下LLM) が話題になっており、様々な質問に対して非常に優れたアウトプットが得られるようになりました。一方、LLMを企業で使用する場合、社内特有のデータを参照する必要があるため、社内特化LLMシステムを構築することが必須となります。...