- 프로젝트명: SEMBOT
- 프로젝트 기간: 2024.10 ~ 2024.11.19
- 프로젝트 형태: 기업 연계 프로젝트
- 목표: 기존 키워드 기반 챗봇의 한계를 극복하고, 사내 업무 규정 및 절차에 대한 정확하고 유연한 정보를 제공하는 LLM 기반 챗봇 서비스 개발
- 주요 타겟 사용자: 사내 직원 (모든 직급과 부서)
사내에서 업무 절차 및 규정을 확인하는 기존 프로세스는 다음과 같은 문제점이 있었습니다:
-
비효율적인 정보 탐색:
- 정보 확인을 위해 담당자와 직접 소통하거나 사내 포털에서 검색해야 함.
- 검색 결과가 부정확하거나 원하는 정보를 찾는데 시간이 오래 걸림.
-
기존 챗봇의 한계:
- 키워드 기반으로 동작하여 복잡한 질문을 처리하지 못함.
- 문맥 이해 부족으로 인해 답변의 유연성과 정확성이 낮음.
-
규정 관리의 비효율성:
- 신규 또는 변경된 규정을 즉시 반영하기 어려움.
- 정형화되지 않은 규정 데이터 관리로 인해 최신 정보 제공이 어려움.
SEMBOT은 위 문제를 해결하기 위해 LLM(Large Language Model)과 RAG(Retrieval-Augmented Generation) 기술을 활용하여 자연어를 이해하고, 최신 규정 정보를 기반으로 신뢰도 높은 답변을 제공하는 서비스입니다.
- 질문 처리의 유연성 증가: 단순 키워드 매칭에서 벗어나 문맥과 의미를 이해하여 보다 자연스럽고 정확한 답변을 제공.
- 규정 업데이트 자동화: 관리자 인터페이스를 통해 규정 데이터를 업데이트하면 벡터 데이터베이스가 자동으로 갱신되어 최신 정보를 실시간 제공.
- 사용자 맞춤형 정보 제공: 사용자 계정의 권한 레벨에 따라 접근 가능한 정보를 제한하여 보안성 강화.
-
업무 효율성 향상:
- 직원들이 필요한 정보를 신속히 얻을 수 있도록 함으로써 업무 시간 절약.
- 담당자와의 직접 소통 및 검색 부담 완화.
-
사용자 경험 강화:
- 직관적이고 간편한 챗봇 인터페이스 제공.
- 피드백 기능을 통해 지속적인 서비스 개선.
-
확장 가능성 확보:
- 규정 데이터의 지속적인 업데이트를 위한 자동화된 데이터 관리 기능 구현.
- 향후 사내 타 시스템과의 연동 가능성을 고려한 설계.
- 이메일 | 이름 | 사번 | 부서 | 비밀번호
- 이메일 | 비밀번호
- 로그인시 다음과 같이 이동
- 일반 사용자 ⇒ 채팅 페이지
- 관리자 ⇒ 관리자 페이지
-
기능 설명: 사용자가 자연어로 질문을 입력하면, LLM이 질문의 문맥과 의미를 분석하여 적합한 답변을 제공합니다.
-
채팅 화면은 아래와 같습니다.
- 실제 채팅이 진행되는 화면입니다.
- 기술 요소:
- RAG(Retrieval-Augmented Generation): 유사도 기반 검색을 통해 관련 규정 데이터를 추출한 후, 답변에 포함.
- LLM 모델: 한국어 성능에 최적화된 Llama-VARCO-8B 모델 사용.
-
기능 설명: 관리자 페이지를 통해 신규 규정 작성 및 기존 규정 수정 시, 벡터 데이터베이스(Faiss)가 자동으로 갱신됩니다.
-
주요 과정:
- 관리자가 규정을 입력하거나 수정. (파일 혹은 직접 입력을 통한 업로드)
- 변경 사항이 JSON 포맷으로 변환.
- 벡터 데이터베이스(Faiss)를 재구성하여 최신 데이터 반영.
-
코로나와 관련된 내용입니다.
- 육아 휴직과 관련된 내용입니다.
- 기능 설명: 직원의 레벨(1,2,3)에 따라 정보 접근 권한을 제한합니다. 정보의 레벨 이하인 직원만 해당 정보에 접근할 수 있습니다.
- 예시:
- 레벨 1의 직원은 답변 레벨 1이하인 규정만 접근 및 답변 형성 가능
- 레벨 2의 직원은 답변 레벨 1, 2인 정보만 접근 및 답변 형성 가능
- 직원의 레벨보다 높은 정보에 대해 질문할 경우,
- 기능 설명: 사용자가 응답 품질에 대해 긍정/부정 피드백을 남길 수 있으며, 이를 통해 챗봇 학습 데이터 개선에 활용할 수 있습니다.
- 주요 기능:
- 응답 정확성 평가.
- 추가 학습 데이터로 활용 가능.
- 기능 설명:
- 관리자는 회원 관리 페이지에 접속할 수 있습니다.
- 회원이 작성한 sembot 답변 피드백을 확인할 수 있습니다.
- 규정 카테고리를 추가, 삭제할 수 있습니다.
이름 | 역할 |
---|---|
변지환 | 팀장 & FE/BE |
김광현 | FE/BE |
김상혁 | AI |
김준호 | AI |
이서빈 | BE/FE |
한수한 | FE/AI/Infra |
분류 | 기술 스택 |
---|---|
프론트엔드 | |
백엔드 | |
데이터베이스 | |
인프라 |