Japan Azure User Group 14周年イベントに参加して、Azure App Service on Linux の Sidecar に Phi-3 を配置するアーキテクチャの話をしてきました。jazug.connpass.comApp Service の Sidecar に SLM をセルフホストするアーキテクチャを中心に、Sidecar …

Azure App Service on Linux に Sidecar パターン機能（Public Preview）が追加されていますが、Phi-3 を Sidecar にデプロイするユースケースの記事が公開されていました。 azure.github.ioSidecar パターンの特性に適していて、生成 AI を活用した Web ア…

Build 2024 のいくつかのセッションで取り上げていた Prompty が良さそうです。先日の Azure Travelers 勉強会 の LT でも紹介しましたが、ブログにもまとめておきます。 gooner.hateblo.jp Prompty とは Prompty は、プロンプトを管理するためのフォーマッ…

jazug.connpass.com第46回 Tokyo Jazug Night に参加して、社内の問い合わせ対応業務に Azure OpenAI Service を活用した社内導入事例を話してきました。www.youtube.comAzure OpenAI や AI Search の概要や機能に関する技術的なセッションというよりは、実…

まだプレビューですが Azure Cognitive Search にセマンティック検索機能が提供されました。前回の記事ではベクトル検索を試したので、今回はセマンティック検索を試してみました。 gooner.hateblo.jp セマンティック検索とは 従来のキーワードによる全文検…

まだプレビューですが Azure Cognitive Search にベクトル検索機能が提供されました。これにより、Azure OpenAI Serivce で Embedding したベクトルを永続化するデータベースとして使うことができます。 今回は下記のリポジトリを参考にしながら、ベクトル検…

まだプレビューですが、Azure OpenAI Service で Function Calling が使えるようになりました。今回は .NET エンジニアの視点で Function Calling を使ってみました。 techcommunity.microsoft.com Function Calling とは OpenAI を業務で活用しようとすると…

Azure OpenAI Service On Your Data は、Microsoft Build 2023 でパブリックプレビューが開始された機能です。今回は .NET エンジニアの視点で On Your Data を使ってみました。 Azure OpenAI Service On Your Dataとは Azure OpenAI On Your Data では、イ…

前回の記事では、Azure OpenAI Client Library を使って Azure OpenAI で遊んでみました。 gooner.hateblo.jp 今回は、Semantic Kernel を使って、Azure OpenAI の要約を試してみます。 Semantic Kernel とは Semantic Kernel は、Azure OpenAI などの AI サ…

Azure OpenAI Service は、2023 年 1 月に一般提供（GA）された Microsoft の OpenAI です。今回は .NET エンジニアの視点で Azure OpenAI を使ってみました。 Azure OpenAI Service とは Azure OpenAI の概要は、こちらの記事が分かりやすいです。利用申請…