کاهش هزینه استنتاج ML در PyTorch با آمازون الاستیک استنتاج

اکنون می توانید برای تسریع در استنتاج و کاهش هزینه های استنتاج برای مدل های PyTorch در Amazon SageMaker ، Amazon EC2 و Amazon ECS ، از آمازون الاستیک استفاده کنید. کتابخانه های پیشرفته PyTorch برای EI به طور خودکار در Amazon SageMaker ، AWS Deep Learning AMI و AWS Deep Learning Containsers وجود دارد ، بنابراین می توانید با حداقل تغییر کد ، مدل های PyTorch خود را در تولید مستقر کنید. استنتاج الاستیک از مدلهای TorchScript کامپایل شده در PyTorch پشتیبانی می کند. برای استفاده از Elastic Inference با PyTorch ، شما باید مدل های PyTorch خود را به TorchScript تبدیل کرده و از API Elastic Inference برای استنتاج استفاده کنید. امروز ، PyTorch به عنوان یک چارچوب یادگیری عمیق که توسط Elastic Inference پشتیبانی می شود ، به TensorFlow و Apache MXNet می پیوندد.