추론 API 운영과 MLOps 구축 안내

모델을 한 번 만드는 것과 매일 돌리는 것은 다른 일입니다. 서버에 올리고, API로 붙이고, 오류를 보고, 데이터가 바뀌면 다시 학습해야 합니다. 이매지너리는 이 운영을 두 가지 상품으로 맡습니다. 이미 있는 모델을 API로 운영하는 추론 API 운영과, 학습부터 배포까지 자동으로 돌아가는 환경을 만드는 MLOps 구축입니다.

추론 API 운영

모델을 서버에 배포하고 API로 연결합니다. 사용량과 오류 발생 여부를 확인할 수 있습니다. 정상적으로 처리된 요청 1회를 1건으로 계산하며, 대용량 데이터나 영상 프레임 분석에는 별도 계산 기준이 적용될 수 있습니다.

  • 과금형 월 30만 원: 월 10만 건 포함, 공용 GPU 서버. 10만 건을 초과하면 단독 클라우드형으로 전환합니다.
  • 단독 클라우드형 별도 협의: 고객 전용 클라우드에서 운영하며 사용량에 따라 비용을 산정합니다.

MLOps 구축의 일곱 단계

연간 3,500만 원, 계약기간 1년입니다. 데이터가 들어와서 모델이 서비스에 올라가고 감시되기까지의 과정을 자동화합니다.

  • 데이터 등록: 현장이나 서비스에서 나온 데이터를 정해진 형식으로 받아들입니다.
  • 전처리: 데이터를 학습에 쓸 수 있도록 변환하고 정리합니다. 이 과정을 자동화합니다.
  • 모델 학습: 설정한 조건에 따라 학습을 실행합니다.
  • 성능 확인: 성능 지표를 확인하고 기준을 넘는 모델만 다음 단계로 보냅니다.
  • 모델 등록: 버전을 관리해 어떤 모델이 언제 어떤 데이터로 만들어졌는지 남깁니다.
  • 서버 배포: 승인된 모델을 서버에 배포합니다.
  • 운영 모니터링: 추론 오류를 확인하고 필요하면 이전의 안정된 버전으로 복구합니다.

포함되는 것과 제외되는 것

구축에는 데이터 전처리, 모델 학습 관리, 배포 자동화, 운영 모니터링이 포함됩니다.

  • 제외: 학습용 데이터셋 신규 수집 및 대규모 레이블링 비용
  • 제외: GPU·클라우드 인프라 실비. 쓴 만큼 별도로 청구합니다.
  • 월 개발 구독과 별개 계약입니다. 둘을 함께 쓰면 앱·웹과 모델을 한 워크스페이스에서 관리합니다.

시작하려면 무엇이 필요한가

상담 때 아래를 확인하면 범위와 견적이 빨리 나옵니다. 없는 항목이 있어도 시작할 수 있으며, 그 부분은 범위에 넣어 진행합니다.

  • 모델 파일과 학습 코드, 또는 학습에 쓸 데이터의 종류와 양
  • 모델을 붙일 곳: 앱, 웹, 사내 시스템, 현장 장비 중 어디인지
  • 클라우드 계정 유무와 데이터가 외부로 나가도 되는지
  • 처리해야 하는 요청량. 초당 몇 건인지, 하루 몇 건인지