18 Haziran 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Cloud EC2 Sunucusunda Qwen-7B-Chat Büyük Modelinin Dağıtımına İlişkin Uygulamalı Deneyim"dir.
18 Haziran 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Cloud EC2 Sunucusunda Qwen-7B-Chat Büyük Modelinin Dağıtımına İlişkin Uygulamalı Deneyim"dir.
Alan adı ve site yapılandırması
EC2 sunucusunu yapılandırırken, güvenlik grubuna normal şekilde izin verilmelidir; bu, WebUI sayfasına erişmek için kullanılan 7860 numaralı bağlantı noktasını da içerir.
Yazılım ve dağıtım koşulları
Sonraki tüm işlemlerin konteyner içinde çalıştırılması gerekmektedir. Konteynerden çıkarsanız, aşağıdaki komutu kullanarak tekrar başlatabilir ve konteynerin kabuk ortamına yeniden girebilirsiniz. İndirilen model verileri HuggingFace formatında olduğundan, xFasterTransformer formatına dönüştürülmesi gerekmektedir.
Bu örnek belge, dağıtım maliyetlerine imaj abonelikleri ve bilgi işlem kaynaklarının da dahil olduğu bir EC2 pazar yeri imajı kullanarak bir Odoo yönetim sisteminin nasıl oluşturulacağını göstermektedir.
Nesne depolama faturaları, kapasite, harici ağ trafiği ve API istekleri gibi farklı kullanımları içerebilir; bu da yalnızca GB başına depolama fiyatına bakarak toplam tutarı tahmin etmeyi zorlaştırır.
9 Haziran 2025 tarihinde yayınlanan bu sunucu bakım notunun başlığı "RackNerd'ün IP Adreslerini Ücretsiz veya Ücret Karşılığında Değiştirme Politikası ve Yöntemleri"dir.
12 Mart 2025 tarihinde yayınlanan bu sunucu uygulama notunun başlığı "Amazon Inferentia2+EC2 Üzerinde DeepSeek R1 Modelinin Dağıtımı"dır. Kullanılan ortam ve araçlar arasında Docker yer almaktadır.