<AI | AI 사용량> 메뉴는 “관리” 권한이 있는 사용자만 사용할 수 있습니다.
AI API 호출 내역 저장
매뉴얼웍스는 AI API 호출 내역을 모두 데이터베이스에 저장합니다.
AI API 호출 내역 지우기
스케줄러로 오래된 AI API 호출 내역을 지웁니다. 기본적으로 90일까지만 AI API 호출 내역을 보관합니다. 보관 기간을 바꾸려면 콘솔에서 다음 명령어를 실행합니다.
set-preference -name AI_LOG_RETENTION_PERIOD -value 365
value
옵션의 단위는 ‘일’입니다.
AI 어시스턴트에서 캐싱을 사용하도록 설정했을 때 AI API 호출 내역을 참고합니다. 보관 기간을 짧게 설정하면 캐싱 기능이 의미가 없을 수 있습니다.
AI 사용량 보기
<AI | AI 사용량> 메뉴에서 AI 호출 내역을 확인할 수 있습니다. 1날짜를 선택해서 일 단위로 검색할 수 있습니다.
다음을 참고합니다.
gemini-embedding-001 AI 모델과 같이 문서 임베딩할 때 입력 토큰을 반환하지 않으면 임베딩한 글자의 길이를 입력 토큰으로 간주합니다. 입력 토큰을 반환하는 모델은 해당 AI API가 반환한 입력 토큰 값을 사용합니다.
문서 임베딩 작업은 출력 토큰 정보를 제공하지 않습니다.
챗봇에서 유사도 비교를 위해 사용자 질문을 임베딩하는 것은 호출 내역에 저장하지 않습니다.
AI 어시스턴트 칼럼 값이 Test일 때는 AI 모델 테스트를 수행한 기록입니다.
AI 모델 칼럼에는 1요청한 요청한 모델과 실제 실행된 모델을 함께 표시합니다.