12 Mart 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Inferentia2+EC2 Üzerinde DeepSeek R1 Modelinin Dağıtımı"dır. Kullanılan ortam ve araçlar arasında Docker yer almaktadır.
12 Mart 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Inferentia2+EC2 Üzerinde DeepSeek R1 Modelinin Dağıtımı"dır. Kullanılan ortam ve araçlar arasında Docker yer almaktadır.
Yazılım ve dağıtım koşulları
Amazon Web Services, Amazon Bedrock Marketplace ve Amazon SageMaker JumpStart gibi dağıtım seçenekleri sunmaktadır. Öncelikle Amazon Elastic Container Registry (ECR) kimlik doğrulaması gereklidir; Docker imajı oluşturma işlemi sırasında ECR erişimi şarttır.
Veri merkezi ve kaynaklar
`--tensor-parallel-size=2` seçeneği, bir Neuron cihazındaki çekirdek sayısını belirtir; her Inferentia2 çipinde 2 Neuron çekirdeği bulunur.
Bu örnek belge, dağıtım maliyetlerine imaj abonelikleri ve bilgi işlem kaynaklarının da dahil olduğu bir EC2 pazar yeri imajı kullanarak bir Odoo yönetim sisteminin nasıl oluşturulacağını göstermektedir.
18 Haziran 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Cloud EC2 Sunucusunda Qwen-7B-Chat Büyük Modelinin Dağıtımına İlişkin Uygulamalı Deneyim"dir.
Nesne depolama faturaları, kapasite, harici ağ trafiği ve API istekleri gibi farklı kullanımları içerebilir; bu da yalnızca GB başına depolama fiyatına bakarak toplam tutarı tahmin etmeyi zorlaştırır.
9 Haziran 2025 tarihinde yayınlanan bu sunucu bakım notunun başlığı "RackNerd'ün IP Adreslerini Ücretsiz veya Ücret Karşılığında Değiştirme Politikası ve Yöntemleri"dir.