챗봇

매뉴얼웍스가 제공하는 챗봇은 매뉴얼웍스로 작성한 문서의 내용에서만 답변합니다. 따라서 챗봇이 답변할 때 사용할 문서를 설정해야 합니다.

챗봇 설정

벡터 저장소에 있는 문서 추가

매뉴얼웍스의 챗봇은 설정된 문서 내에서만 답변하도록 제한되어 있습니다.

챗봇이 질문에 답할 때 참고할 문서를 추가합니다. <AI | 벡터 저장소> 메뉴에서 임베딩한 문서만 추가할 수 있습니다. 챗봇을 처음 시작할 때는 사용자에게 참고하는 문서 목록을 보여줍니다.

용어를 다음처럼 이해하면 설정이 쉽습니다. “벡터 저장소”는 챗봇이 검색하는 문서 집합, “문맥”은 검색으로 가져온 텍스트 조각, “RAG”는 검색한 문맥을 이용해 답변을 생성하는 방식입니다.

다음 순서로 챗봇이 참고할 문서를 추가합니다.

  1. <AI | AI 어시스턴트> 메뉴로 이동합니다.

  2. 만든 <챗봇> 어시스턴트를 클릭합니다.

  3. 벡터 저장소 패널의 <1추가> 링크를 클릭하여 참고할 문서를 선택합니다.

  4. 벡터 저장소 문서 목록을 확인합니다.

문서를 임베딩할 때 사용한 2AI 모델이 같은 문서만 추가할 수 있습니다. 임베딩 모델마다 유사도 측정 기준이 다르므로 혼용할 수 없습니다.

한 문서를 여러 임베딩 모델로 벡터화했더라도 동일한 문서라면 챗봇에는 그중 하나만 추가할 수 있습니다.

챗봇이 답변할 때 참고하는 문서가 많을수록 답변 속도는 느려집니다. 이는 매뉴얼웍스를 운영하는 시스템 환경에 따라 달라지므로 정확한 기준은 없으며, 경험적으로 조정해야 합니다. REST API 요청 및 응답을 로그 파일에 기록하도록 설정하면 벡터 검색에 걸린 시간도 함께 기록됩니다.

<3테스트> 링크를 클릭하면 챗봇에 질문했을 때의 벡터 저장소 검색 결과를 확인할 수 있습니다. 결과는 마크다운 형식으로 제공합니다.

장과 단락을 RAG에서 제외하기

여러 장의 개요를 설명하는 머리말 같은 장을 벡터 저장소에 저장하는 것은 챗봇 답변 품질을 높이는 데 도움이 되지 않습니다. 그래서 이런 장이나 단락을 벡터 저장소에 저장하지 않는 기능을 추가했습니다.

웹, PDF, EPUB 감추기 기능과 동일하게 적용합니다. 장은 장 변경 화면에서, 단락은 에디터 단락 옵션에서 설정할 수 있습니다. RAG에서 제외된 항목은 벡터 저장소 생성 대상에서 자동으로 제외됩니다.

웹 뷰어에서 챗봇을 표시할 문서 선택

“챗봇이 표시되는 문서”를 설정하면 해당 문서의 웹 뷰어 사이드바에 <1챗봇> 아이콘이 생성됩니다. 이 아이콘을 클릭하면 사이드 패널에 2해당 챗봇이 참고하는 문서를 보여줍니다.

다음 순서로 웹 뷰어에서 챗봇을 표시할 문서를 추가합니다.

  1. <AI | AI 어시스턴트> 메뉴로 이동합니다.

  2. 만든 <챗봇> 어시스턴트를 클릭합니다.

  3. “챗봇이 표시되는 문서” 패널의 <추가> 링크를 클릭하여 문서를 선택합니다.

  4. 챗봇이 표시되는 문서 목록을 확인합니다.

챗봇 공개하기

다른 AI 어시스턴트와 달리 챗봇은 로그인하지 않은 사용자에게도 공개할 수 있습니다.

  1. <AI | AI 어시스턴트> 메뉴로 이동합니다.

  2. AI 어시스턴트 목록에서 공개할 <챗봇>을 선택하여 클릭합니다.

  3. “옵션” 패널에서 <1공개하기> 토글 버튼을 켭니다.

챗봇과 Q&A 채널 연결하기

<AI | AI 어시스턴트> 설정 화면에서 챗봇에 특정 채널을 연결할 수 있습니다.

챗봇에 특정 Q&A 채널을 연결하면 챗봇 답변에 1다음 메시지가 추가됩니다.

챗봇 옵션

옵션 설정에 따라 API 토큰 사용량이 증가할 수 있습니다.

사용자 프롬프트에 용어 규칙 적용

사용자가 입력한 프롬프트를 <도구 | 용어 규칙> 메뉴에 정의한 규칙에 따라 확장합니다.

CHATBOT_CONTEXT_SIZE 옵션으로 AI에 전달할 데이터 개수 설정하기

벡터 저장소 검색 결과 중 CHATBOT_CONTEXT_SIZE 옵션에 지정한 개수만큼 AI 모델에 전달합니다. 기본값은 10이며, 변경하려면 콘솔에서 다음 명령어를 실행합니다.

set-preference -name CHATBOT_CONTEXT_SIZE -value 5

도구 사용

“도구 사용을 활성화합니다.” 옵션을 설정하면 답변 생성 중 필요한 경우 도구를 호출해 추가 정보를 확인하고, 결과를 바탕으로 답변을 구성합니다.

현재는 2가지 도구를 제공합니다.

문서 검색(search_documents)

AI가 벡터 저장소 검색으로 전달받은 내용만으로 답변이 어렵다고 판단하면, 스스로 새로운 질문으로 벡터 저장소에서 필요한 자료를 검색합니다.

한 번의 답변 생성 과정에서 문서 검색은 기본값 기준으로 최대 총 2회 실행합니다.

역질문(clarify)

AI가 질문을 한 사용자에게 역질문이 필요하다고 판단될 때 사용하는 도구입니다.

다중 쿼리

“다중 쿼리를 사용합니다.” 옵션을 설정하면 사용자 질문을 여러 검색 질의로 확장하여 다양한 관점의 관련 문맥을 더 넓게 찾습니다. 사용자 질문과 문서 사이에 존재하는 용어 등의 차이로 벡터 저장소 검색 결과가 미흡할 수 있습니다. 이를 개선하기 위해 사용자 질문을 확장해서 벡터 저장소를 검색합니다.

- 사용자 질문

매뉴얼웍스에서 태그를 삭제하는 방법을 알려줘.


- AI로 확장한 질문

매뉴얼웍스에서 태그 삭제 방법

매뉴얼웍스 태그 제거하는 법

매뉴얼웍스 태그 삭제 안내

HyDE(가설 문서 임베딩)

“HyDE(가설 문서 임베딩)를 사용합니다.” 옵션을 선택하면 질문에 대한 가설 문서를 생성해 임베딩 검색 질의에 추가함으로써 관련 문맥 회수율을 높입니다.

Rerank 사용

1차 검색으로 모은 후보 문맥을 질문과의 관련도 기준으로 다시 정렬해 상위 문맥의 정확도를 높입니다.

RRF(Reciprocal Rank Fusion) 사용

서로 다른 순위 결과를 RRF 방식으로 결합해 최종 문맥 순위를 안정적으로 산정합니다.

적응형 검색

질문 유형을 판단해 검색 전략을 자동으로 조정합니다. 예를 들어 키워드형 질문은 단순 검색을, 그 외 질문은 재정렬 중심 검색을 적용합니다.

자가 교정

초안 답변을 한 번 더 검토·수정해 정확성, 일관성, 표현 품질을 높입니다.

챗봇 사용하기

대화 유지하기

기본 정책으로 최대 3건까지 이전 대화를 유지합니다.

프롬프트 창 기능

1키워드 검색

문서를 대상으로 키워드 검색을 합니다.

2문서 차례 보기

문서의 차례를 보여줍니다.

3문서 필터하기

챗봇이 참고하는 문서를 제한합니다.

4대화 초기화

기존 대화를 초기화합니다. 입력 창 내용을 지웁니다.

답변에 대한 피드백 기록

사용자가 답변에 대해 1피드백을 남깁니다. 남긴 피드백은 <AI | AI 사용량> 메뉴에서 확인합니다.

독립적으로 챗봇 사용하기

웹 뷰어와 관계없이 챗봇을 사용할 수 있습니다. iframe 태그를 이용해 원하는 위치에 챗봇을 넣을 수 있습니다.

<iframe src="http://127.0.0.1:1975/r/chatbot/open/${uuid}"></iframe>

다음을 참고합니다.

라이브러리에 챗봇 설정하기

라이브러리에 챗봇을 연결할 수 있습니다. 이때 메인 화면에서 챗봇을 보여줍니다.

  1. <도구 | 라이브러리> 메뉴로 이동합니다.

  2. 챗봇을 설정한 라이브러리를 선택합니다.

  3. <라이브러리> 변경 링크를 클릭합니다.

  4. <챗봇>을 선택한 후 버튼을 클릭합니다.