AI 프로바이더 설정하기
AI 프로바이더 설정은 NEXA의 핵심 관리 기능으로, 조직 전체의 AI 모델 사용을 효율적으로 제어하도록 지원합니다. 관리자는 이 기능을 통해 AI 모델을 효과적으로 관리하고 비용을 최적화할 수 있습니다.
주요 기능
- 프로바이더 통합 관리: OpenAI, Anthropic, Google 등 다양한 프로바이더를 시스템에 등록하고 구성할 수 있습니다.
- 실시간 상태 제어: 각 프로바이더의 활성화 또는 비활성화를 즉시 적용할 수 있습니다.
- 모델별 세밀한 제어: 프로바이더 내 개별 AI 모델의 활성화/비활성화 여부를 선택적으로 관리할 수 있습니다.
- 사용자 정의 프로바이더: 조직 고유의 AI 모델이나 커스텀 엔드포인트를 추가할 수 있습니다.
- 비용 및 성능 최적화: 필요한 모델만 활성화하여 운영 효율성을 극대화할 수 있습니다.
사용 방법
① 관리자 패널에 접근하기
- 관리자 계정으로 로그인: 관리자 권한이 있는 계정으로 NEXA에 로그인합니다. 로그인 후 우측 상단에 "관리자 패널" 버튼이 표시됩니다.
- 프로바이더 메뉴 접근: "관리자 패널" 버튼을 클릭합니다. 좌측 메뉴에서 "프로바이더" 항목을 선택합니다.
② 프로바이더 관리 메인 화면 확인하기
메인 화면에서 확인 가능한 정보
- 활성화/비활성화된 프로바이더 목록 및 개수
- 각 프로바이더의 연결 상태
- 실시간 토글 스위치 상태
주요 기능
- 토글 버튼: 프로바이더를 즉시 활성화 또는 비활성화합니다.
- 검색: 프로바이더명을 빠르게 검색할 수 있습니다.
- 프로바이더 추가: 조직 고유의 프로바이더를 추가합니다.
- 개별 프로바이더 접근: 개별 프로바이더를 클릭하면 해당 프로바이더의 상세 설정 페이지로 이동합니다.
③ 사용자 정의 프로바이더 추가하기
- + 버튼 클릭: 검색창 우측의 + 버튼을 클릭합니다.
- 기본 정보 입력 (필수)
- 프로바이더 ID: 프로바이더의 고유 식별자를 입력합니다.
- 프로바이더 이름: 이해하기 쉽게 이름을 입력합니다. (예: "사내 AI 모델")
- 요청 형식: 해당하는 요청 형식을 선택합니다.
- 프록시 주소: 사용자 정의 API URL을 입력합니다.
④ 프로바이더 상세 설정하기
특정 프로바이더를 클릭하면 다음 상세 기능에 접근할 수 있습니다.
연결 설정
- API 키 관리: API 키를 입력하거나 업데이트합니다.
- API 프록시 설정: 네트워크 환경에 따라 프록시를 구성합니다.
- 연결 확인: API 키와 프록시 주소가 올바르게 입력되었는지 테스트합니다.
프로바이더 제어
- 전체 활성화/비활성화: 프로바이더 전체 사용 여부를 제어합니다.
모델 관리
- 지원 모델 목록: 해당 프로바이더가 제공하는 모든 모델을 표시합니다.
- 개별 모델 제어: 모델별로 활성화/비활성화를 설정합니다.
- 모델 성능 정보: 지원 기능, 토큰 한도를 표시합니다.
⑤ AI 모델 추가하기
- + 버튼 클릭: 모델 추가를 위해 모델 검색 창 우측의 + 버튼을 클릭합니다.
- 모델 정보 입력
- 모델 ID: 모델 ID를 입력합니다. (예: gpt-4o)
- 모델 표시 이름: 사용자 화면에 나타날 이름을 입력합니다.
- 최대 컨텍스트 크기: 모델이 지원하는 최대 토큰 수를 설정합니다.
- 지원 기능 설정: 도구 사용, 이미지 인식, 심층 사고 등 모델이 사용할 기능을 선택합니다.