AI 프로바이더 설정은 NEXA의 핵심 관리 기능으로, 조직 전체의 AI 모델 사용을 효율적으로 제어하도록 지원합니다. 관리자는 이 기능을 통해 AI 모델을 효과적으로 관리하고 비용을 최적화할 수 있습니다.
주요 기능
•
프로바이더 통합 관리: OpenAI, Anthropic, Google 등 다양한 프로바이더를 시스템에 등록하고 구성할 수 있습니다.
•
실시간 상태 제어: 각 프로바이더의 활성화 또는 비활성화를 즉시 적용할 수 있습니다.
•
모델별 세밀한 제어: 프로바이더 내 개별 AI 모델의 활성화/비활성화 여부를 선택적으로 관리할 수 있습니다.
•
사용자 정의 프로바이더: 조직 고유의 AI 모델이나 커스텀 엔드포인트를 추가할 수 있습니다.
•
비용 및 성능 최적화: 필요한 모델만 활성화하여 운영 효율성을 극대화할 수 있습니다.
사용 방법
① 관리자 패널에 접근하기
1.
관리자 계정으로 로그인
•
관리자 권한이 있는 계정으로 NEXA에 로그인합니다.
•
로그인 후 우측 상단에 "관리자 패널" 버튼이 표시됩니다.
2.
프로바이더 메뉴 접근
•
“관리자 패널” 버튼을 클릭합니다.
•
좌측 메뉴에서 "프로바이더" 항목을 선택합니다.
② 프로바이더 관리 메인 화면 확인하기
•
메인 화면에서 확인 가능한 정보
◦
활성화/비활성화된 프로바이더 목록 및 개수
◦
각 프로바이더의 연결 상태
◦
실시간 토글 스위치 상태
•
주요 기능
◦
토글 버튼: 프로바이더를 즉시 활성화 또는 비활성화합니다.
◦
검색: 프로바이더명을 빠르게 검색할 수 있습니다.
◦
프로바이더 추가: 조직 고유의 프로바이더를 추가합니다.
◦
개별 프로바이더 접근: 개별 프로바이더를 클릭하면 해당 프로바이더의 상세 설정 페이지로 이동합니다.
③ 사용자 정의 프로바이더 추가하기
•
추가 절차
1.
+ 버튼 클릭: 검색창 우측의 + 버튼을 클릭합니다.
2.
기본 정보 입력 (필수)
•
프로바이더 ID: 프로바이더의 고유 식별자를 입력합니다.
•
프로바이더 이름: 이해하기 쉽게 이름을 입력합니다(예: "사내 AI 모델").
•
요청 형식: 해당하는 요청 형식을 선택합니다.
•
프록시 주소: 사용자 정의 API URL을 입력합니다.
④ 프로바이더 상세 설정하기
특정 프로바이더를 클릭하면 다음 상세 기능에 접근할 수 있습니다.
•
연결 설정
◦
API 키 관리: API 키를 입력하거나 업데이트합니다.
◦
API 프록시 설정: 네트워크 환경에 따라 프록시를 구성합니다.
◦
연결 확인: API 키와 프록시 주소가 올바르게 입력되었는지 테스트합니다.
•
프로바이더 제어
◦
전체 활성화/비활성화: 프로바이더 전체 사용 여부를 제어합니다.
•
모델 관리
◦
지원 모델 목록: 해당 프로바이더가 제공하는 모든 모델을 표시합니다.
◦
개별 모델 제어: 모델별로 활성화/비활성화를 설정합니다.
◦
모델 성능 정보: 지원 기능, 토큰 한도를 표시합니다.
⑤ AI 모델 추가하기
•
모델 추가 절차
1.
+ 버튼 클릭
•
모델 추가를 위해 모델 검색 창 우측의 + 버튼을 클릭합니다.
2.
모델 정보 입력
•
모델 ID: 모델 ID를 입력합니다. (예: gpt-4o)
•
모델 표시 이름: 사용자 화면에 나타날 이름을 입력합니다.
•
최대 컨텍스트 크기: 모델이 지원하는 최대 토큰 수를 설정합니다.
•
지원 기능 설정: 도구 사용, 이미지 인식, 심층 사고 등 모델이 사용할 기능을 선택합니다.