대화에서 데이터로 Part1. 고객센터 직원이 생성형AI 챗봇을 만든다고?

CS・CX분야에서만 약 5년간의 경력을 가지고 있는 나는 현재 AI분야로 공부를 시작한 지 3개월도 안된 교육생 신분이다. 직무 전환을 위해 잘 다니고 있던 회사를 과감하게 그만두고, 천재교육 IT에서 6개월 간의 교육 과정을 마치면 인턴으로 입사할 수 있는 기회가 주워지는 프로그램에 합격하게 되어 열심히 공부하는 중이다.

 

"내가 자는 동안 씻겨주는 기계가 있다면 힘겹게 일어나지 않고 출근할 수 있을텐데"

아침마다 한 번씩 이런 상상을 해봤던 것처럼, 일 할 때 마다 AI가 CS 응대를 90% 이상 처리해 줄 수 있다면 서비스 품질 관리에 더 집중할 수 있었을 텐데, 꼭 이렇게 많은 리소스가 필요한 걸까? 단순 응대를 위해 이렇게나 많은 인원과 시간이 필요한 걸까?라는 생각을 많이 했었고, 이전 직장 동료들에게 자주 했던 말이기도 했다. 그리고 이러한 나의 생각은 ChatGPT의 출현으로 머지않아 가능하겠다는 생각을 하게 됐지만, 내가 하게 될 줄은 상상도 못 했다.

 

"마치 사람이 응대하는 것 같은 챗봇을 만들어야 해요"

우리 회사에 CS응대할 리소스가 부족한 상황이라 챗봇 개발을 염두에 두고 있다는 이야기가 나왔다. 굉장히 솔깃한 말이었다. CS분야에 경험이 있던 분들이라면 사람이 개입할 정도의 복잡성 혹은 크리티컬 한 케이스가 아니라면 기계가 알아서 답변해 주면 좋겠다는 생각을 많이 해봤을 것이다. FAQ에서 금방 찾아볼 수 있는 간단한 질문쯤은 고객이 찾아봤으면 좋겠고, 고객 입장에서도 답변을 기다리지 않고 빠르게 문제를 해결하고 싶을 텐데 이 간극을 줄일 수 있는 방법이 바로 기업 맞춤형 AI 챗봇이 아닌가?

 

그거.. 제가 관심이 좀 있는데요..

 

얼떨결에 받아 낸, 작고 소중한 데이터셋

하지만 회사로부터 제공받은 데이터셋의 데이터가 몹시 부족했다. Row데이터는 많았으면 많았지 너무 부족했던 적은 처음이었다. 관련 데이터를 따로 저장하고 있지 않아 데이터를 더 받아볼 수 없다는 점과 카테고리라고 할 것도 없고, 순수 '질문'과 '답변'으로만 구성된 60개의 데이터를 보고, 일단 해당 부서에서의 CS는 중요도가 그리 높지는 않다는 걸 직감할 수 있었다. 
이 문제를 해결하기 위해 카테고리화 작업을 통해 데이터를 정렬하고, 모범답변 세팅을 통해 데이터를 최대한 불려 보려고 했는데, 아무래도 모델 구현이 먼저인 것 같아 (현실회피 아님.. 아무튼 아님..) 일단 가지고 있는 데이터만으로 모델 학습을 진행해 보기로 했다.

 

교육생에게 기본적으로 주워진 한정된 컴퓨팅 자원만으로 성과를 내야하는 여러모로 어려운 상황이다.  물론, 성과만 확실하다면 회사에서 지원을 해줄 수 있겠지만, 아직까지는 자신이 없다.
때문에 상업적으로 이용이 가능하면서 최대한 저비용으로 작업을 해야했다. 결론적으로 다양한 오픈 소스 도구와 라이브러리를 제공하는 HuggingFace 내 Question Answering 모델을 활용해 보기로 했고, 기존 자원을 최대한 활용하면서도 효율적인 솔루션을 찾고자 하는 목표에 부합하는 선택이었다고 생각했다.

 

 

 

그래 일단 가보자고

 

 

 

다음편이 궁금하다면?  👉🏻 2023.12.08 - [분류 전체보기] - 대화에서 데이터로 Part2. HaggingFace : Question Answering 리뷰 (생성형 AI Chatcot 프로젝트)

 

대화에서 데이터로 Part2. HaggingFace : Question Answering 리뷰 (생성형 AI Chatcot 프로젝트)