LLM API maliyeti düşürme: Strands Decider 2B ne anlatıyor?

Amazon Web Services (AWS), yapay zeka ajanlarının iş akışlarındaki karar adımları için tasarlanan açık kaynaklı Strands Decider 2B modelini kullanıma sundu. Haber, 2 Ekim 2026 tarihinde Webrazzi (yeni sekmede açılır)'de yayımlandı. Model, her adımda büyük bir dil modeli çalıştırmanın şart olmadığı fikrine dayanıyor. Bu fikir, e-ticaret işletmeleri için LLM API maliyeti düşürme konusunda yeni bir bakış açısı sunuyor.

Her otomasyon adımında büyük dil modeli gerekir mi?

Haberde bu soru, yapay zeka ajanlarının yaygınlaşmasıyla birlikte tartışılmaya devam eden bir konu olarak anlatılıyor. Ajan, tanımlı sınırlar içinde birden fazla adımı sırayla yürüten bir yapay zeka sistemidir. Ayrıntıları yapay zeka ajanı nedir yazımızda bulabilirsiniz.

Amazon'un paylaştığına göre, ajanların oluşturduğu iş akışlarında bazı adımlar büyük dil modellerinin geniş kapsamlı yeteneklerine ihtiyaç duymuyor. Buna rağmen bu adımlarda büyük model kullanmak daha yüksek gecikme ve maliyet anlamına gelebiliyor. Amazon, bu ihtiyacın AWS müşterileriyle yapılan görüşmelerde de ortaya çıktığını belirtiyor.

Bir mağaza sahibi için bunun anlamı basit: Siparişi doğru depoya yönlendirmek ile müşteriye uzun ve özenli bir iade yanıtı yazmak aynı zekâ düzeyini gerektirmez. İkincisi için güçlü bir model mantıklı olabilir. Birincisi için çoğu zaman gereksiz bir harcamadır.

Strands Decider 2B nedir ve ne yapar?

Haberdeki bilgilere göre model, TypeSafe'in Jev modelinden ilham alıyor. Proje, AWS'in seçkin mühendislerinden Marc Brooker tarafından başlatıldı. Brooker'ın Jev'i gördükten sonra geliştirmeye başladığı deneysel model, kendi boyut kategorisinde Jevbench sıralamasında kısa süreliğine ilk sıraya kadar yükseldi. Ardından Amazon mühendisleri projeyi geliştirdi ve Strands Labs çatısı altında yayınladı.

Modelin çalışma biçimi, bildiğiniz sohbet yapay zekalarından farklı:

• Yeni metin üretmez. Kendisine sunulan, önceden tanımlanmış seçenekler arasından birini seçer.
• Verdiği kararın ne kadar güvenilir olduğunu gösteren bir güven skoru sunar.
• Tamamen açık kaynaklıdır ve yerel cihazlarda çalıştırılabilecek kadar küçüktür.
• Temelinde Qwen3.5-2B yer alır. Ancak metin üreten bir yapıyla değil, belirli seçenekler arasında kalibre edilmiş kararlar verecek şekilde kullanılır.

Haberde ayrıca, seçeneklerin önceden belirlenmesinin ve güven skorunun karar adımlarını daha öngörülebilir kılabileceği belirtiliyor. Haberde OpenAI'ın da benzer bir yaklaşım üzerinde çalışan Decisions API adlı bir çözüm duyurduğu yer alıyor. TypeSafe CEO'su Diogo Almeida ise çok sayıda benzer model ortaya çıksa da şirketin şu aşamada ciddi bir rekabet görmediğini söylüyor.

Hafif karar modeli ile büyük dil modeli arasındaki fark nedir?

Habere göre büyük dil modelleri planlama, analiz ve içerik üretimi gibi karmaşık görevlerde kullanılmaya devam edecek. Yönlendirme, sınıflandırma ve bir sonraki eylemi seçme gibi dar görevlerde ise küçük karar modelleri öne çıkabilir. Aşağıdaki tablo bu ayrımı e-ticaret görevlerine uyarlıyor. Tablo bizim yorumumuzdur, haberdeki bir ölçüm değildir.

Ayrım şuna dayanıyor: Çıktınız önceden yazabileceğiniz bir listeden seçiliyorsa küçük model adayıdır. Çıktı serbest metinse büyük modele ihtiyaç duyma ihtimaliniz yüksektir. Büyük modellerin kaynağı olmayan bilgiyi kendinden emin biçimde üretme riski de burada önem taşır. Seçim yapan bir model bu riski yapısı gereği daraltır, ancak yanlış seçim yapma ihtimali ortadan kalkmaz.

E-ticarette LLM API maliyeti düşürme için nereden başlanır?

Haberde Türkiye'ye ya da bir fiyat karşılaştırmasına dair rakam yok. Bu yüzden indirim yüzdesi vaat etmek doğru olmaz. Bunun yerine kendi faturanızı görünür hale getirecek bir yöntem izleyebilirsiniz. Adımlar şöyle:

1. Çağrıları listeleyin. Otomasyonlarınızda büyük modele giden her adımı yazın: mesaj etiketleme, kategori seçimi, yanıt taslağı gibi.
2. Çıktı türünü işaretleyin. Her adımın sonucu hazır bir listeden mi seçiliyor, yoksa serbest metin mi üretiliyor?
3. Hacmi çıkarın. Aylık kaç çağrı yapıldığını sağlayıcınızın kullanım ekranından alın. En sık çalışan seçim adımları, tasarrufun en çok olabileceği yerlerdir.
4. Küçük bir deneme seti hazırlayın. Geçmiş siparişlerden ve mesajlardan, doğru cevabını bildiğiniz örnekleri ayırın.
5. İki yolu karşılaştırın. Aynı örnekleri mevcut büyük modelle ve aday küçük modelle çalıştırıp doğruluğu, yanıt süresini ve maliyeti kaydedin.
6. Güven eşiği koyun. Güven skoru sunan bir model kullanırsanız, skoru düşük kararları bir çalışanın onayına ya da büyük modele gönderin.

Şu an ne kadar harcadığınızı bilmiyorsanız önce otomasyon tasarruf hesaplayıcısı ile manuel iş yükünüzü görmek iyi bir başlangıç olur. Böylece API faturasını, otomasyonun sağladığı kazancın yanında değerlendirebilirsiniz.

Bir uyarı: Haber, modelin Türkçe performansı hakkında bilgi vermiyor. Türkçe ürün adları ve müşteri mesajlarıyla çalışacaksanız, deneme setiniz bu yüzden gerçek Türkçe verinizden oluşmalı. Modelin Türkçedeki doğruluğu denemeden bilinemez.

Karar kontrol listesi: hangi işte hangi model?

Bir adımı küçük modele taşımadan önce aşağıdaki soruları yanıtlayın. Çoğuna "evet" diyorsanız o adım aday olabilir.

• Cevap, önceden yazabileceğim bir seçenek listesinden mi geliyor?
• Seçenek sayısı sınırlı ve net mi? Örneğin beş kargo durumu ya da sekiz kategori.
• Yanlış karar, para ya da müşteri kaybı yaratmadan düzeltilebiliyor mu?
• Bu adım ayda çok sık çalışıyor mu?
• Düşük güvenli kararları insana yönlendirecek bir yol kurabilir miyim?
• Deneme setim gerçek Türkçe verimden mi oluşuyor?

Şu işaretlerden biri varsa büyük modelde kalmak daha mantıklı olabilir: Adım serbest metin üretiyorsa, birden fazla bilgiyi yorumlayıp analiz gerekiyorsa ya da seçenekleri önceden tanımlamak mümkün değilse. Ayrıca faturadaki tasarruf, kurulum ve bakım emeğinden küçükse geçişin değeri düşüktür.

Bu tür bir geçiş için model seçimi kadar, onu iş akışına bağlayan ve hataları yakalayan yapı da önem taşıyor. Dil modellerini belgelerinize ve sistemlerinize bağlama konusunda Sedeus'un üretken yapay zeka danışmanlığı hizmeti var. Mevcut otomasyonlarınızın hangilerinin sadeleşebileceğini görmek için ücretsiz sistem analizi formunu doldurabilirsiniz.

Sık sorulan sorular