Feat : DEFERRED_CHANNEL_MESSAGE 를 이용하여 응답에 3초 이상 걸리는 경우도 응답 가능하도록 수정 (#3)

* feat : Proxy 함수가 먼저 Response를 전달하고, 비동기적으로 OpenAI Response Lambda를 호출하도록 수정

* feat : OpenAI Response 함수 추가

* chore : README.md 업데이트

Author: LemonDouble

README.md

@@ -94,7 +94,7 @@
 ### FAQ
 
 - **프롬프트를 수정하고 싶어요!**
-  - src/openai.ts 에 들어가서, `generatePrompt` 내부의 글자를 수정합니다. 이 때, Question은 유저가 입력한 값입니다.
+  - src/openai-response/openai.ts 에 들어가서, `generatePrompt` 내부의 글자를 수정합니다. 이 때, Question은 유저가 입력한 값입니다.
   - 기본값으론, 예를 들어 유저가 "안녕" 이라고 입력했다면 ChatGPT에게는 다음과 같이 전달됩니다.
     ```
     너는 디스코드에서 운영되고 있는 봇이야.
@@ -128,9 +128,21 @@
 ├── register.ts      # Discord Server에 Slash Command를 등록할 떄 실행되는 파일입니다.
 ├── serverless.yml
 ├── src
+│   ├── openai-response
+│   │   ├── handler.ts # proxy/handler.ts 에 의해 호출되는 함수입니다. OpenAI 서버와 통신 후 Discord 대화를 업데이트합니다.
+│   │   └── openai.ts # OpenAI API를 사용하기 위한 파일입니다. generatePrompt 함수를 수정하여 프롬프트를 변경할 수 있습니다.
+│   ├── proxy
+│   │   └── handler.ts # 요청을 받으면 openai-response/handler를 비동기적으로 호출 뒤, 바로 응답을 반환합니다.
 │   ├── commands.ts  # 등록되는 Slash Command입니다. 
-│   ├── openai.ts    # OpenAI API를 사용하기 위한 파일입니다. generatePrompt 함수를 수정하여 프롬프트를 변경할 수 있습니다.
 │   └── util.ts      # 유틸 함수입니다.
 ├── tsconfig.json
 └── yarn.lock
 ```
+
+![image](https://user-images.githubusercontent.com/31124212/222947308-df2a3b89-e9f2-490b-af39-2b6276d2a085.png)
+
+
+### 업데이트 노트
+
+* v0.0.1 : 기본 API 및 응답 구현
+* v0.1.1 : 3초 이상 걸리는 Response도 정상 응답 가능하도록, Multi Layer Architecture로 변경

package.json

@@ -6,7 +6,7 @@
   "author": "lemondouble",
   "license": "MIT",
   "scripts": {
-    "register" : "ts-node register.ts",
+    "register": "ts-node register.ts",
     "lint": "eslint .",
     "lint:fix": "eslint --fix ."
   },
@@ -28,6 +28,7 @@
     "typescript": "*"
   },
   "dependencies": {
+    "@aws-sdk/client-lambda": "^3.282.0",
     "axios": "^1.3.4",
     "discord-interactions": "^3.3.0",
     "dotenv": "^16.0.3",

serverless.yml

@@ -5,20 +5,27 @@ provider:
   name: aws
   runtime: nodejs18.x
   region: ap-northeast-1
-  architecture: arm64 # ARM이 X86보다 조금이라도 쌉니다..
-
+  architecture: arm64 # ARM이 x86보다 조금이라도 싸서..
+  iamRoleStatements:
+    - Effect: "Allow"
+      Action:
+        - "lambda:InvokeFunction"
+      Resource: '*'
 
 plugin:
   - serverless-plugin-typescript
   - serverless-dotenv-plugin
 
 functions:
-  api:
-    handler: handler.handle
+  proxy:
+    handler: src/proxy/handler.handle
     events:
       - httpApi:
           path: /
           method: any
+  openai-response:
+    handler: src/openai-response/handler.handle
+    timeout: 30 # OpenAI Response가 느린 경우도 있으므로 넉넉하게 설정
 
 plugins:
   - serverless-plugin-typescript

src/openai-response/handler.ts

@@ -0,0 +1,25 @@
+import axios from "axios";
+import { getChatGptAnswer } from "./openai";
+
+interface OpenAIQuestionRequest {
+  token: string;
+  question: string;
+}
+
+export const handle = async (event: OpenAIQuestionRequest): Promise<void> => {
+  console.log(event);
+
+  const answer = await getChatGptAnswer(event.question);
+
+  await axios.post(
+    `https://discord.com/api/v9/webhooks/${process.env.DISCORD_APPLICATION_ID}/${event.token}`,
+    JSON.stringify({
+      content: answer,
+    }),
+    {
+      headers: {
+        "Content-Type": "application/json",
+      },
+    }
+  );
+};

src/openai.ts src/openai-response/openai.ts

@@ -1,11 +1,13 @@
-import { throwError } from "./util";
 import { Configuration, OpenAIApi } from "openai";
+import { throwError } from "../util";
 
 const generatePrompt = (question: string): string => {
   return `너는 디스코드에서 운영되고 있는 봇이야.
     너는 가능한 한 친절하게 대답해야 해.
     이 질문에 대해 답해봐.
-    질문 : ${question}`;
+    질문 : ${question}
+    답변 : 
+    `;
 };
 
 export const getChatGptAnswer = async (question: string) => {

handler.ts src/proxy/handler.ts

@@ -1,9 +1,13 @@
 import { type APIGatewayEvent, type APIGatewayProxyResult } from "aws-lambda";
 import nacl from "tweetnacl";
-import { InteractionType } from "discord-interactions";
-import { throwError } from "./src/util";
-import { AVAILABLE_COMMANDS } from "./src/commands";
-import { getChatGptAnswer } from "./src/openai";
+import { InteractionResponseType, InteractionType } from "discord-interactions";
+import { throwError } from "../util";
+import { AVAILABLE_COMMANDS } from "../commands";
+import {
+  InvocationType,
+  InvokeCommand,
+  LambdaClient,
+} from "@aws-sdk/client-lambda";
 
 export const handle = async (
   event: APIGatewayEvent
@@ -52,22 +56,27 @@ export const handle = async (
     switch (message.data.name) {
       case AVAILABLE_COMMANDS.name: {
         if (message.data.name === "질문") {
-          const question = message.data.options[0].value;
-
-          const answer = await getChatGptAnswer(question);
-
-          console.log(`question : ${question}, answer : ${answer}`);
-
+          const client = new LambdaClient({});
+          await client.send(
+            new InvokeCommand({
+              FunctionName:
+                "chatgpt-serverless-discord-bot-dev-openai-response",
+              InvocationType: InvocationType.Event,
+              Payload: Buffer.from(
+                JSON.stringify({
+                  token: message.token,
+                  question: message.data.options[0].value,
+                })
+              ),
+            })
+          );
           return {
             statusCode: 200,
             headers: {
               "content-type": "application/json",
             },
             body: JSON.stringify({
-              type: 4,
-              data: {
-                content: `${answer}`,
-              },
+              type: InteractionResponseType.DEFERRED_CHANNEL_MESSAGE_WITH_SOURCE,
             }),
           };
         }