<p><a href="https://sugiskill.info/blogs/tknit9le6g1" target="_blank" rel="noopener noreferrer">以前のSlackBot</a>に続き、Microsoft Azureサービスを使って社内ナレッジを喋るSlackBotを作ってみようということになりました。<br></p><h2 id="h8c19590596">!! 注意 !!</h2><p>英語ドキュメントじゃないとAdd your dataで正しくデータを検索できない問題が発生しています。</p><ul><li>未解決です</li><li>動きとしては、OpenAIのPlayGroundだと日本語ドキュメントも正しく検索できるがAdd your data API経由だと検索ができない（ヒットしない）状態になっています</li></ul><p>上記問題は発生しているものの、SlackBotへのメンションから英語ドキュメント検索結果をSlackBotが回答する、という一連の疎通が完了したので一旦記事化しました。<br></p><h2 id="h4db3ec6501">設計</h2><h3 id="h3f24f96bc9">処理フロー</h3><ul><li>SlackBotにメンションする<ul><li>メッセージ内容は社内ナレッジに関する何かを尋ねることを想定</li></ul></li><li>SlackBotからAzure Functionを呼ぶ</li><li>Azure Functions内でAdd your data APIを呼ぶ<ul><li>Slackで尋ねた内容をそのままプロンプトにする</li></ul></li><li>結果をSlackBotが回答する</li></ul><p><br></p><h3 id="h0d376e5d4e">構成</h3><ul><li>Slack Apps</li><li>Azure</li></ul><p>			以下サービスを使う</p><ul><li>Functions</li><li>OpenAI(Add your dataとして)</li><li>Storage</li><li>Cognitive Search</li></ul><p><br></p><h2 id="hfdf9714611">Slack Apps作成</h2><p>以下記事を参考にSlack Appを作成しメンションしたら処理実行されるように設定しておく<br><a href="https://zenn.dev/kou_pg_0131/articles/slack-api-post-message" target="_blank" rel="noopener noreferrer"><em>Slack API を使用してメッセージを投稿する</em></a><br><a href="https://qiita.com/buttakyou/items/2a692f852376b196d992#slack-api%E3%82%92%E4%BD%9C%E6%88%90%E3%81%99%E3%82%8B" target="_blank" rel="noopener noreferrer"><em>SlackBotへのメンションをトリガーにメール送信する方法</em></a><br></p><h2 id="haa953d02da">Azure Functions</h2><h3 id="h1b68fdb1da">スケルトン作成</h3><p>以下記事を参考に初期ファイルを生成する<br><a href="https://learn.microsoft.com/ja-jp/azure/azure-functions/functions-develop-vs-code?tabs=csharp" target="_blank" rel="noopener noreferrer"><em>Visual Studio Code を使用して Azure Functions を開発する</em></a><br><br>言語は書き慣れているTypeScriptにしました。<br>できあがったファイルのindex.tsのHttpTrigger内に処理を記述します。</p><pre><code>import { AzureFunction, Context, HttpRequest } from "@azure/functions";
import { WebClient } from "@slack/web-api";

const httpTrigger: AzureFunction = async function (
&nbsp; context: Context,
&nbsp; req: HttpRequest
): Promise&lt;void&gt; {
  // 生成時のサンプルコード消してここに処理を記述していく
};

export default httpTrigger;</code></pre><p><br></p><h3 id="h7f75dd2260">Slackとの連携</h3><p>Slack Appと連携するための準備として、Slack AppのEvent設定時に連携先と疎通確認をして認証をします。<br>そのためのコードをAzure Functions側に記述しておく必要があります。</p><pre><code>import { AzureFunction, Context, HttpRequest } from "@azure/functions";
import { WebClient } from "@slack/web-api";

const httpTrigger: AzureFunction = async function (
&nbsp; context: Context,
&nbsp; req: HttpRequest
): Promise&lt;void&gt; {

  // Slack認証から来た内容からchallenge部分をそのまま返す
  // 厳密にはパラメータのtypeが"url_verification"のほうが良いかもしれない
&nbsp; if (req.body.challenge) {
&nbsp; &nbsp; context.res = {
&nbsp; &nbsp; &nbsp; body: req.body.challenge,
&nbsp; &nbsp; };
&nbsp; &nbsp; return;
&nbsp; }


};

export default httpTrigger;</code></pre><p><br></p><h2 id="hd1dab0b81b">Azure OpenAI</h2><h3 id="he244f4f8ca">Azure OpenAI周りの連携設定</h3><p>以下は後で別記事で記載します</p><ul><li>Cognitive SearchとStorageの連携</li><li>Cognitive SearchとOpenAI(Add your data)の連携</li></ul><p>Azure OpenAIのPlayGroundからプロンプトを記載して、想定通りの回答が来ることを確認します。<br>結果はOpenAIに依存するので、ある程度正しい回答を返ること・ある程度引用されたドキュメントが正しいことを確認します。<br></p><h3 id="hf769313ec8">Azure OpenAI(Add your data)のAPI化</h3><p>こちらの記事が詳しく書いているのでこちらを読んでください、あと公式ページも参照しました<br><a href="https://zenn.dev/microsoft/articles/azure-openai-add-your-data-api" target="_blank" rel="noopener noreferrer"><em>Azure Open AIの「Add your data」をAPIとして使う！</em></a><br><a href="https://learn.microsoft.com/ja-jp/azure/ai-services/openai/reference#completions-extensions" target="_blank" rel="noopener noreferrer"><em>Azure OpenAI Service の REST API リファレンス</em></a><br></p><h4 id="h68328239ce">API化パターンは方法が2つ</h4><p>上記の記事の通りですがAdd your dataをAPI化するには2つ方法があります。<br><br><strong>方法1: Completions Extensions APIを使う</strong><br>デプロイされたOpenAIからCompletions Extensions用のAPIが生えるのでそれを利用する</p><ul><li>メリット<ul><li>Add your dataのAPIを直接叩くので構成がシンプルになる</li></ul></li><li>デメリット<ul><li>パラメータが通常より複雑になる</li></ul></li></ul><pre><code># 公式ページサンプル
curl -i -X POST YOUR_RESOURCE_NAME/openai/deployments/YOUR_DEPLOYMENT_NAME/extensions/chat/completions?api-version=2023-06-01-preview \
-H "Content-Type: application/json" \
-H "api-key: YOUR_API_KEY" \
-H "chatgpt_url: YOUR_RESOURCE_URL" \
-H "chatgpt_key: YOUR_API_KEY" \
-d \
'
{
&nbsp; &nbsp; "temperature": 0,
&nbsp; &nbsp; "max_tokens": 1000,
&nbsp; &nbsp; "top_p": 1.0,
&nbsp; &nbsp; "dataSources": [
&nbsp; &nbsp; &nbsp; &nbsp; {
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "type": "AzureCognitiveSearch",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "parameters": {
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "endpoint": "'YOUR_AZURE_COGNITIVE_SEARCH_ENDPOINT'",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "key": "'YOUR_AZURE_COGNITIVE_SEARCH_KEY'",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "indexName": "'YOUR_AZURE_COGNITIVE_SEARCH_INDEX_NAME'"
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; }
&nbsp; &nbsp; &nbsp; &nbsp; }
&nbsp; &nbsp; ],
&nbsp; &nbsp; "messages": [
&nbsp; &nbsp; &nbsp; &nbsp; {
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "role": "user",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "content": "What are the differences between Azure Machine Learning and Azure AI services?"
&nbsp; &nbsp; &nbsp; &nbsp; }
&nbsp; &nbsp; ]
}
'</code></pre><p><br><strong>方法2: 設定済Add your dataをWebアプリケーションとしてデプロイする</strong><br>Azure Web Appsを使ってデプロイしWeb Appsから生えたAPIを叩く</p><ul><li>メリット<ul><li>Web Appsごとにエンドポイントが生えるので、検索するStorageを分けたりするときは良さそう</li><li>APIのパラメータがシンプルになる</li></ul></li><li>デメリット<ul><li>Web Appsを介してAdd your data処理を呼ぶので構成が複雑になる</li><li>複雑になるので、開発・運用時の問題切り分けが難しくなる</li></ul></li></ul><p>一度 <code>Webアプリケーションとしてデプロイする</code>  方式を試したのですがうまく行かず原因も分からない状態になったのと、<br>構成はシンプルにしておいたほうが良い（まだお試しの段階なので変更しやすい構成にしたい）ということも合ったので <code>Completions Extensions APIを使う</code>  方式にしました。<br></p><h3 id="h842ea64a35">APIをローカルから叩く</h3><p>だいたいこのような感じのコード書いてローカル実行してAPIの疎通確認をしました。<br>curlじゃなくてコードを書いたのは後で本実装時にある程度コピペしたかったからです。</p><pre><code>const createCompletionExtensionText = async () =&gt; {
&nbsp; const completionParams = {
&nbsp; &nbsp; dataSources: [
&nbsp; &nbsp; &nbsp; {
&nbsp; &nbsp; &nbsp; &nbsp; type: "AzureCognitiveSearch",
&nbsp; &nbsp; &nbsp; &nbsp; parameters: {
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; endpoint: "{Your Cognitive Search Endpoint}",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; key: "{Your Cognitive Search Key}",
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; indexName: "{Your Cognitive Search Index Name}",
&nbsp; &nbsp; &nbsp; &nbsp; },
&nbsp; &nbsp; &nbsp; },
&nbsp; &nbsp; ],
&nbsp; &nbsp; messages: [
&nbsp; &nbsp; &nbsp; {
&nbsp; &nbsp; &nbsp; &nbsp; role: "system",
&nbsp; &nbsp; &nbsp; &nbsp; content:
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "{Your System Prompt}",
&nbsp; &nbsp; &nbsp; },
&nbsp; &nbsp; &nbsp; {
&nbsp; &nbsp; &nbsp; &nbsp; role: "user",
&nbsp; &nbsp; &nbsp; &nbsp; content: "{Your Prompt}",
&nbsp; &nbsp; &nbsp; },
&nbsp; &nbsp; ],
&nbsp; &nbsp; temperature: 0,
&nbsp; &nbsp; top_p: 1,
&nbsp; &nbsp; frequency_penalty: 0,
&nbsp; &nbsp; presence_penalty: 0,
&nbsp; &nbsp; max_tokens: 800,
&nbsp; &nbsp; stop: null,
&nbsp; };

&nbsp; // Completions Extensions APIが使えるのは 2023-06-01-preview のみ
&nbsp; const url =
&nbsp; &nbsp; "{Your OpenAI Completions Extensions API Endpoint}?api-version=2023-06-01-preview";

&nbsp; try {
&nbsp; &nbsp; const result = await fetch(url, {
&nbsp; &nbsp; &nbsp; method: "POST",
&nbsp; &nbsp; &nbsp; headers: {
&nbsp; &nbsp; &nbsp; &nbsp; "Content-Type": "application/json",
&nbsp; &nbsp; &nbsp; &nbsp; "api-key": "{Your OpenAI Api Key}",
&nbsp; &nbsp; &nbsp; &nbsp; chatgpt_url:
&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; "{Your OpenAI Endpoint}?api-version=2023-06-01-preview", // Extensionsではなく通常のOpenAI APIのEndpointoを指定する
&nbsp; &nbsp; &nbsp; &nbsp; chatgpt_key: "{Your OpenAI Api Key}",
&nbsp; &nbsp; &nbsp; },
&nbsp; &nbsp; &nbsp; body: JSON.stringify(completionParams),
&nbsp; &nbsp; });
&nbsp; &nbsp; const a = await result.json();
&nbsp; &nbsp; const assistantRes = a.choices[0].messages;

&nbsp; &nbsp; // テストなのでとりあえずconsoleに出力して確認する
&nbsp; &nbsp; assistantRes.forEach((m) =&gt; console.log(m.content));

&nbsp; } catch (error) {
&nbsp; &nbsp; console.log(`error: ${error}`);
&nbsp; }
};

createCompletionExtensionText();</code></pre><p><br></p><h3 id="hfa3b772e42">Azure Functionsに実装</h3><p>上記テストコードを元に、Azure Functionsに処理を実装しました。<br></p><h2 id="h590e38366c">確認</h2><p>SlackBotに話しかけてある程度想定通りの回答が返ってくればOK。<br>ドキュメントが英語じゃないと正しく検索できない問題があるので引き続き調査が必要ですが、一連の疎通確認はできました。</p><ul><li>架空の人物の英語名リストのPDF（ドキュメントタイトル：<code>List of Important People</code>  ）をStorageに登録して、Slackからそれを問い合わせてみた</li></ul><p><img src="https://images.microcms-assets.io/assets/dd1ea25cf0d84f9591a440404eb96b35/ed6cae7c85e14e5a98637c6d6b6a9c86/%E3%82%B9%E3%82%AF%E3%83%AA%E3%83%BC%E3%83%B3%E3%82%B7%E3%83%A7%E3%83%83%E3%83%88%202023-08-15%2023.14.27.png" alt=""></p><ul><li>PDFに記載された人物リストを検索して回答することを確認できました。</li><li>[doc1] という文字列は、Add your data APIから回答とは別に、ドキュメントの参照元データを返してくるのでそれの文字列部分が表示されています。</li><li>当然このままでは社内ナレッジ回答Botとしては使えないので、何か工夫でいけるのかAzure側でいずれ解決される兆しはあるのかは引き続き調査します。</li></ul><p><br></p><h2 id="hce137f7854">ハマりポイント</h2><h3 id="h4e19c3f4db">Slack api 連続発火 レスポンス3秒問題</h3><p>シンプルにSlackに閉じた問題ですが、SlackとAzure Functionsの連携確認中にAzure Functionsが複数回呼ばれる現象が発生してました。<br>これはSlack側の仕様でレスポンスが3秒を超えるとリトライ処理をするようになっていることが原因でした。<br><a href="https://dev.classmethod.jp/articles/slack-resend-matome/" target="_blank" rel="noopener noreferrer"><em>Slack Events APIの再送仕様と回避方法まとめ</em></a><br>本ツールは社内向けSlackBotということもあり、厳密にリトライ処理をする必要は無いのでリトライ自体を無視することにしました。<br><br>リトライ時はリクエストヘッダに <code>x-slack-retry-num</code>  が付与されているので、それがあれば無視するようにしました。</p><pre><code>import { AzureFunction, Context, HttpRequest } from "@azure/functions";
import { WebClient } from "@slack/web-api";

const httpTrigger: AzureFunction = async function (
&nbsp; context: Context,
&nbsp; req: HttpRequest
): Promise&lt;void&gt; {

  // Slack認証から来た内容からchallenge部分をそのまま返す
  // 厳密にはパラメータのtypeが"url_verification"のほうが良いかもしれない
&nbsp; if (req.body.challenge) {
&nbsp; &nbsp; context.res = {
&nbsp; &nbsp; &nbsp; body: req.body.challenge,
&nbsp; &nbsp; };
&nbsp; &nbsp; return;
&nbsp; }

  // Slack Event APIからのリトライは無視
  if (req.headers["x-slack-retry-num"]) {
    context.res = {
      statusCode: 200,
      body: JSON.stringify({ message: "No need to resend" }),
    };
    return;
  }

};

export default httpTrigger;  </code></pre><p><br></p><h3 id="h53cf20f69f">Add your data APIをどのように生やすか問題</h3><p><code>生やすか</code>  は語弊がある（Completions Extensions APIは既に生えているので）のですが、前述の通り2パターンあってどちらにすべきか検討が必要でした。<br>初めにWebアプリケーションとしてデプロイするパターンで実装した際は疎通がうまくいきませんでした。（原因は分かっていません。）<br>上記2パターンあるがどちらもメリデメがあるというところも悩みポイントかなと思われます。<br></p><h3 id="h3d7bd988fd">Add your dataが英語しか検索できない</h3><p>これが最大の問題です。<br>自分が試した限り、Add your data API経由だと日本語ドキュメントは検索できませんでした。<br>要調査。<br><br>以上です。<br></p>

Tag: Azure

Azure OpenAI, Cognitive Search, OpenAI, Add your dataを使って、slack Botを作った