셀프 호스팅 모델 연결은 조직이 직접 구축하거나 운영 중인 모델 서버를 Porter AI의 모델 선택지로 추가하는 기능입니다.
자체 모델을 직접 구축하기 어려운 조직에는 Porter AI가 GPU 기반 모델 실행 환경을 직접 구성해 제공하는 방식도 지원합니다. 자세한 내용은 도입 문의 과정에서 안내합니다.
모델 제공자 선택
스페이스 설정 > 모델페이지에서모델 추가하기를 클릭한 후 자체 호스팅한 모델의 API 규격에 따라 모델 제공자를 선택하세요. 오픈소스 기반의 자체 구축 모델을 연동하는 경우, OpenAI 표준 규격을 지원하는Chat Completions또는Responses를 선택하여 연동을 진행할 수 있습니다.
모델 설정값 입력
이어지는 화면에서 자체 호스팅 중인 모델 서버의 엔드포인트(Endpoint) 주소와 모델 식별자(Model Name)를 입력합니다. API Key, 커스텀 헤더(Default Headers) 등 인증 및 부가 파라미터가 필요한 경우 해당 필드에 함께 작성하세요.