Deep learning
Triton Inference Server 입문기 - (2)
저번 포스팅(Triton Inference Server 입문기 - (1))과 이어집니다! 이번 포스팅에선 Triton Inference Server를 직접 실행시켜보고자 합니다!
read more저번 포스팅(Triton Inference Server 입문기 - (1))과 이어집니다! 이번 포스팅에선 Triton Inference Server를 직접 실행시켜보고자 합니다!
read moreTriton (Triton Inference Server) ? Triton이라고 많이 부르는 Triton Inference Server는 다양한 딥 러닝 프레임워크(PyTorch, TensorFlow, ONNX 등)로 개발된 딥러닝 모델을 배포하고 추론(Inference)을 위한 고성능의 오픈 소스 추론 서버 솔루션으로 많은 곳에서 사용되고 있습니다.
read more