내 데이타로 ChatGPT 챗봇 만들기

OpenAI 의 ChatGPT가 학습한 데이터가 아니라 내 데이터를 학습해서 챗GPT를 사용하면 어떨까? 홈페이지나 도움말, 고객센터 질답, 문서 등을 학습해서 채팅으로 원하는 답을 얻는 챗봇을 만드는 방법이 없을까?

챗봇과 생성형 AI

챗봇의 속터짐

생성형 AI 이전의 챗봇은 AI 챗봇이라고 이름 붙인 경우도 있었지만, 거의 대부분 질문과 답을 넣어 주고 거기에 맞는 걸 알려주는 방식이다.

특히 은행앱이나 증권사 등의 금융앱의 챗봇을 경험해보면 얼마나 답답한지 속이 터질 지경이다. 챗봇 때문에 고객센터 인력이 줄었다고 하는데, 인공지능은 개뿔, 엑셀로 질답을 만들어 한땀함딴 입력한 것 만 답한다. 네이버의 클로바 같은 인공지능 스피커도 예상발화에 대한 답을 엑셀로 만들어 입력한다. 그걸 네이버 검색에서는 정답형 검색이라고 했는데, 그 정답은 인간 운영자가 입력하고 있었다.

특히 금융이나 기업은 챗봇 같은거 하지 말고, 제발 고객센터 인력 줄이지 말고 인간 상담사와 대화하고 싶다.

생성형 AI 가 있으니 챗봇은 달라지려나?

한 지인이 그런다. 현대자동차 홈페이지에 있는 정보를 chatgpt 에 학습시키고 원하는 스펙을 물어보니 차를 알려주었는데 정말 누가봐도 찾기 어려운 걸 찾아줬다고 한다.

물론, 생성형 AI는 검색이 아니라 말을 만들어내는 아무말 대잔치라 없는 스펙을 그럴싸하게 만들어낼수도있다. 소위 말하는 환각현상, 내 용어로는 아무말 대잔치인데, 인간이 다시 정답을 줘서 조정할 수 있는 방법이 있는지 모르겠다.

어제 한 지인이 시각장애인의 접근성 관련해서 홈페이지 다 뜯어 고치지 말고, 홈페이지 내용을 학습시켜 말로 하고 음성을 듣는 방식은 어떻냐고 했다.

그래서 찾아보니 OpenAI API를 이용한 솔루션이 이미 여러 개가 있다.

워드프레스로 홈페이지를 워드프레스플러그인이 학습시키는 플러그인도 있고, OpenAI API로 프로그램 짜지 않고, 솔수련들도 있다.

내 데이터를 ChatGPT 에 학습시켜 챗봇 만들기

테스트 해본 것 중에서 챗봇에 특화된 것만 정리했다.

Chatbase

모토는 ‘Custom ChatGPT foryour data’ 이다. 네 데이타로 커스텀 ChatGPT를 만들 수 있게 해준다. 사이트를 아래 링크이다.

무료 있기는 한데, 한 달에 메시지 30개 밖에 못 보낸다.

chatbase 가격은 한달에 $19 부터 한다.

학습 소스가 다양하다.

• 파일
• 텍스트
• 웹사이트
• Q&A
• 노션

내 블로그의 양이 많아서 워드프레스 카테고리만 넣어서 학습시켜보았다. 서버 htop을 보니 무지막지하게 크롤링을 한다. 나중에 이 회사 IP 막아야 겠다 😆

GPT-3.5-turbo 모델리고 온도는 0이다.

아래는 여기서 만들어준 채팅창이다. 아래 채팅창은 그림이 아니라 동작한다. 이 페이지의 오른쪽 구석의 채팅 버튼 눌러도 나온다.

무료라서 7일간 사용 안하면 챗봇은 지워지고, 한 달에 최대 30개 매세지 밖에 못 보낸다. ㅠㅠ

프로그램을 짜서 직접 학습시켜서 만드는 것에 비해 코딩하지 않고 돈만 지불하면 서비스를 이용할 수 있으니 편리하다.

워드프레스 Chatbot ChatGPT 플러그인

크롤링하거나 새로 입력하지 않고, 워드프레스로 된 사이트라면 플러그인으로 데이터를 가져다가 학습시키고 챗봇으로 대화하면 되지 않을까?

워드프레스 ChatGPT 플러그인을 찾아보니 대부분 AI로 글쓰기를 돕는 플러그인이다. 하나는 학습시킬 수 있는데 내용을 직접 넣어야 한다.

찾은게 Chatbot ChatGPT 워드프레스 플러그인다.

무료 플러그인이고, OpenAI ChatGPT API는 내걸 사용해야한다. 그래서 OpenAI API 크레딧을 구입했다.

워드프레스로 된 글을 knowledge base 로 사용할 수 있다.

그런데 내 블로그에서 동작을 안 한다. 내 워드프레스의 건강상태를 보니 REST API 가 동작안한다고되어 있는데, 그래서 그런지는 모르겠다. 일단 해당 프러그인의 포럼에 질문을 올려 놓았다. REST API 문제는 내 방화벽 때문인 것 같은데 이걸 해결해 봐야겠다.

내 글 학습이 안돼서 그런지 엉뚱한 대답을 한다. 내 OpenAI API 사용을 하면 과금이 되므로 공개는 하지 않는다. 몇 번 채팅했는데 돈 줄어드는게 보인다. ㅠㅠ

TrainMyAI

이 사이트는 내 데이터를 넣으면 학습해주고 이에 대해 채팅으로 물어볼 수 있다. 위 서비스는 학습해서 채팅창을 외부에 서비스하는 거라면 이건 아직 내 데이타로 내가 사용하는 개념이다. 아직 시범이고, 간단하게 데이터를 올려서 학습시키고 사용할 수 있다.

마치 맥 사용자들이 데본싱크에 문서를 몽땅 넣은 후 검색해서 찾는 것 처럼, 이 서비스는 학습을 시키고.chatgpt 로 물어보는 방식이다. 검색과 생성형 AI의 차이가 있으니 키워드로 찾는 검색에 비해 논리적으로도 결과를 찾을 수도 있다.

TrainMyAI는 원래 내 서버에 설치해서 사용하는 것인데, 내 서버 없이 곧 서비스로 오픈한다고 한다. 지금은 chatgpt api 코드를 넣으면 일부 데이터를 학습시켜서 물어볼 수 있다.

내 데이터를 훈련시키고 물어보는 방법은 다음과 같다.

TrainMyAI Knowledge base 로 들어가서 OpenAI API 키를 입력한 후, 학습할 데이터를 텍스트로 올리면 훈련을 한다. 그런 다음 채팅으로 물어볼 수 있다.

검색이 아니라 생성형이 내가 원하는 질문을 답할 수 있는지 알아보기 위해 전세계약 임차인은 남편이고, 아내만 전입신고할 경우 대항력이 있는가? 글의 본문을 훈련 시켜보았다.

1.TrainMyAI Knowledge base 로 들어가서 OpenAI API 키를 발급받아서 입력한다.

2. 학습할 데이터를 입력한다.

3. review phagraph 버튼을 누른다. 그럼 아래와 같이 나온다.

4. 질문한다.

4. 대답이 나온다. 뭐 내가 워낙 글을잘(?)써 그런지 답은 적절해보인다.

마치며

ChatGPT 챗봇만은 아직 별로 없는 것 같다. 내가 찾은 대부분은 AI 글쓰기이다. 크롬 브라우저 플러그인도 있고, 워드프레스 플러그인도 있다. 더 찾는대로 이 글을 업데이트해야겠다.