IBM ve Together AI'dan 240 Milyon Dolarlık Yapay Zeka Anlaşması

IBM ve Together AI, açık kaynaklı yapay zeka modellerinin çıkarım süreçlerini ölçeklendirmek amacıyla 240 milyon dolar değerinde çok yıllı bir anlaşma imzaladı. Bu iş birliği kapsamında IBM Cloud üzerinde, Nvidia teknolojileriyle desteklenen büyük ölçekli bir altyapı kurulacak.

Açık Kaynaklı Modeller İçin Yeni Altyapı

IBM ve Together AI tarafından imzalanan 240 milyon dolarlık anlaşma, açık kaynaklı yapay zeka modellerinin çıkarım hizmetlerini güçlendirmeyi hedefliyor. Anlaşma çerçevesinde IBM, IBM Cloud üzerinde Nvidia HGX B300 sistemlerinden oluşan özel bir küme oluşturacak. Bu sistem, IBM Cloud üzerinde Nvidia HGX B300 ve Spectrum-X Ethernet teknolojilerini bir araya getiren ilk büyük ölçekli özel küme olma özelliğini taşıyor. Altyapının 2027 yılının ilk çeyreğinde kullanıma sunulması planlanıyor.

Teknik Detaylar ve Performans Hedefleri

Kurulacak altyapının merkezinde, her biri sekiz Blackwell Ultra hızlandırıcı barındıran Nvidia HGX B300 sistemleri yer alacak. Sistem, Nvidia Spectrum-X Ethernet ağ teknolojisi ile desteklenirken, hızlandırıcılar arasındaki veri trafiği ConnectX-8 SuperNIC bileşenleri ile yönetilecek. BlueField-3 veri işleme birimi ise sistem ile harici altyapılar arasındaki veri akışını koordine edecek. Nvidia'nın verilerine göre bu yeni yapı, önceki nesil sistemlere kıyasla 30 kata kadar daha yüksek "AI factory" çıktısı sağlayabilecek.

Together AI, bu kümeyi açık kaynaklı modeller için çıkarım hizmetleri sunmak amacıyla kullanacak. Şirketin platformu halihazırda yapay zeka modellerinin çıkarım, eğitim ve ince ayar süreçlerini destekliyor ve aylık yaklaşık 400 trilyon token işliyor. Yeni kapasite ile kurumsal müşterilere üretim ortamlarında daha yüksek performans ve daha düşük token maliyeti sunulması hedefleniyor. Together AI CEO'su Vipul Ved Prakash, şirketlerin kapalı modellere özgü maliyetlere katlanmadan gelişmiş modellerin performansından yararlanmak istediğini belirterek, bu hedefe hızlı ve güvenilir bir ölçeklendirme ile ulaşılabileceğini ifade etti.

Kaynak: webrazzi.com