Sam Altman: RAM bilgisayarlarda değil, veri merkezlerinde olmalı
OpenAI CEO’su Sam Altman, dünyadaki sınırlı DRAM arzının kişisel bilgisayarlarda büyük ölçüde atıl kaldığını savunarak belleğin bulut veri merkezlerinde kullanılmasının daha verimli olacağını söyledi. Altman’ın açıklamaları, yapay zekâ sektörünün artan bellek ihtiyacı ve bilgisayar donanımlarındaki fiyat baskısının tartışıldığı dönemde gündeme geldi.
OpenAI CEO’su Sam Altman, Stripe’ın kurucu ortağı John Collison’ın sunduğu Cheeky Pint podcast’ine konuk oldu. Yapay zekâ altyapısı, işlem gücü ve bellek arzının ele alındığı söyleşide Altman, kişisel bilgisayarlarda kullanılan RAM miktarını ve bu kaynakların değerlendirilme biçimini tartışmaya açtı.
Altman, açık kaynaklı yapay zekâ modellerinin kişisel bilgisayarlarda çalıştırılmasına yönelik eğilimin, bellek kaynaklarının küresel ölçekte dağılımı açısından verimsiz olabileceğini belirtti.
RAM kaynaklarının veri merkezlerinde kullanılmasını savunuyor
Küresel kaynak dağılımı açısından dünyanın sınırlı DRAM arzının büyük bölümünün insanların bilgisayarlarında bulunmasını eleştiren Altman, bu belleklerin zamanın yalnızca yüzde 5’inde kullanıldığını ileri sürdü.
Altman, bellek kaynaklarının bu şekilde değerlendirilmesi yerine bulut sistemlerinde mümkün olan en yüksek kullanım oranına ulaşılmasının daha doğru olduğunu savundu.
OpenAI CEO’sunun yaklaşımı, yapay zekâ modellerinin kullanıcıların kendi bilgisayarlarında çalıştırılmasını sağlayan yerel yapay zekâ (local inference) anlayışıyla da doğrudan ilişkili. Bu yöntemde kullanıcılar, internet üzerinden bir veri merkezine bağlanmak yerine yapay zekâ modellerini kendi donanımlarında çalıştırabiliyor.
Altman ise sınırlı bellek kaynaklarının çok sayıda kişisel bilgisayara dağılması yerine merkezi veri merkezlerinde daha yoğun kullanılmasını tercih ediyor.
Bellek üreticilerinin yatırımları yetersiz kalıyor
Söyleşide DRAM üreticilerinin yatırım kararlarına da değinen Altman, bellek sektörünün geçmişte düşük kârlılık ve piyasa dalgalanmaları nedeniyle temkinli hareket ettiğini söyledi.
Altman’a göre üreticiler, geçmişte yaşanan arz fazlası ve finansal kayıplar nedeniyle yeni üretim kapasitesine yatırım yaparken dikkatli davranıyor. Ancak yapay zekâ sektörünün büyümesiyle birlikte bellek üreticilerinin karşılaştığı talep ve gelir potansiyeli önemli ölçüde değişti.
Altman, mevcut piyasa koşullarında bellek üreticilerinin çok yüksek nakit akışı elde edebileceğini belirterek arzın talebe yetişmesinin kolay olmayacağına işaret etti.
Yerel yapay zekâ tartışmasını yeniden gündeme getirdi
Altman’ın açıklamaları, yapay zekâ modellerinin kişisel bilgisayarlarda çalıştırılmasının avantajları konusundaki tartışmayı yeniden alevlendirdi.
Yerel yapay zekâ, kullanıcıların verilerini kendi cihazlarında tutabilmesi, internet bağlantısına daha az ihtiyaç duyması ve bulut hizmetlerine bağımlılığı azaltması açısından önem taşıyor. Buna karşılık yüksek performanslı modellerin çalıştırılması güçlü işlemci, ekran kartı ve yüksek bellek kapasitesi gerektiriyor.
Bulut tabanlı sistemler ise aynı donanım kaynaklarını çok sayıda kullanıcı ve işlem arasında paylaştırabiliyor. Ancak bu yaklaşım, veri merkezlerinin enerji, donanım ve işletme maliyetlerini de beraberinde getiriyor.
Altman’ın açıklamalarında dikkat çeken nokta, bellek kaynaklarının kullanım verimliliğini kişisel bilgisayarlar yerine veri merkezleri üzerinden değerlendirmesi oldu. Bununla birlikte, kişisel bilgisayarlardaki RAM kullanımının yüzde 5 düzeyinde olduğu yönündeki ifade, Altman’ın verdiği bir tahmin olarak değerlendirilmeli. Bu oranı doğrulayan bağımsız bir ölçüm açıklanmadı.
