- Google, yapay zeka çiplerini PyTorch ile tam uyumlu hale getirmek ve Nvidia GPU'larından geçişi kolaylaştırmak için "TorchTPU" geliştiriyor.
- Bu hamle, TPU'ları bulutta ve şirket içi ortamlarda yaygın bir alternatif haline getirmeyi ve Nvidia'nın CUDA ekosistemine olan bağımlılığı azaltmayı amaçlıyor.
- Google, PyTorch'un geliştiricisi olan Meta ile yakın işbirliği yapıyor ve benimsenmeyi hızlandırmak için yığının bazı kısımlarını açık kaynaklı hale getirmeyi düşünüyor.
- Daha güçlü PyTorch desteği, yapay zeka altyapılarını çeşitlendirmek isteyen işletmeler için maliyetleri ve teknik engelleri azaltabilir.
Google, sessizce yapısını yeniden şekillendiriyor. yapay zekâ hesaplama yarışındaki stratejiYıllarca kendi iç çerçevelerine odaklandıktan sonra, şirket artık yapay zeka çiplerinin, dünya çapındaki çoğu yapay zeka geliştiricisi için varsayılan tercih haline gelen açık kaynaklı araç seti PyTorch ile sorunsuz bir şekilde çalışmasını sağlamaya gerçek anlamda ağırlık veriyor.
Bu değişimin merkezinde, kurum içinde şu şekilde bilinen bir proje yer alıyor: “TorchTPU”Google'ın donanımının nasıl üretildiği ile müşterilerin yapay zeka sistemlerini nasıl oluşturdukları arasındaki farkı kapatmak için tasarlanmış bir çaba. Google, Tensor İşleme Birimlerinde (TPU) PyTorch desteğini birinci sınıf seviyeye getirerek, bu alandaki farkı azaltmayı hedefliyor. Nvidia'nın CUDA yazılım ekosistemi sayesinde elde ettiği muazzam avantaj..
Google, TPU'ları Nvidia GPU'larına ciddi bir rakip haline getiriyor.
Google'ın TPU'ları uzun zamandır şu şekilde tanıtılıyor: Yapay zeka iş yükleri için özel olarak tasarlanmış yüksek performanslı çiplerAncak Nvidia'nın GPU'larının yaygınlığına ulaşamadılar. Bunun en önemli nedenlerinden biri, Nvidia'nın PyTorch'un kendi donanımında son derece iyi çalışmasını sağlamak için yıllarca uğraşırken, Google'ın ağırlıklı olarak kendi araçlarına ve dahili iş akışlarına odaklanmış olmasıdır.
Alphabet bünyesinde TPU'lar önemli bir yer edindi. Google Cloud için kritik büyüme motoruGoogle'ın, yapay zeka yatırımlarının sadece araştırma prestiji veya deneysel ürünler değil, somut gelire de dönüşebileceğini yatırımcılara kanıtlamak için bulut platformu aracılığıyla bu çiplere erişim satması artık stratejisinin merkezinde yer alıyor.
Ancak, yalnızca donanım geliştiricileri ikna etmeye yetmez. TPU'ları inceleyen işletmeler Google'a defalarca şunu söyledi: Yazılım uyumluluğu bir sorun teşkil ediyor.PyTorch'u büyük ölçüde standartlaştırmış ekipler, yeni bir çipi denemek için kodlarını yeniden tasarlamak veya personeli yeniden eğitmek istemezler.
İşte burada TorchTPU devreye giriyor. Bu girişimin amacı, TPU'ların geliştirici açısından daha kullanışlı hissettirmesini sağlamak. PyTorch ile kullanımı, tıpkı günümüzdeki Nvidia GPU'ları kadar kolaydır.Amaç, mevcut PyTorch modellerinin ve işlem hatlarının minimum değişikliklerle taşınabilmesi ve böylece TPU'larla deneme yapmanın maliyetinin ve riskinin önemli ölçüde azalmasıdır.
Google Cloud sözcüsü teknik detaylara girmekten kaçındı, ancak genel amacın müşterilere daha fazla hizmet sunmak olduğunu doğruladı. Yapay zeka iş yüklerini çalıştırma biçimlerinde çok daha fazla esneklikAltta hangi donanımı seçerlerse seçsinler.
TorchTPU, PyTorch geliştiricileri için gerçekten neyi değiştiriyor?
Meta tarafından oluşturulan ve tanıtılan PyTorch, zamanla en çok kullanılan araçlardan biri haline geldi. Modern yapay zeka sistemleri oluşturmak için fiili standart çerçeveSilikon Vadisi ve ötesindeki mühendislerin çoğu, Nvidia, AMD veya Google çipleri için elle çekirdek kodlamıyor; bunun yerine, önceden oluşturulmuş bileşen katmanları ve eğitim araçları sağlayan PyTorch ve benzeri çerçevelere güveniyorlar.
2016'daki lansmanından bu yana, PyTorch'un büyümesi yakından şunlarla bağlantılı olmuştur: CUDA ve çevresindeki kütüphanelerBirçok Wall Street analistinin Nvidia'nın en önemli stratejik varlığı olarak gördüğü yazılım yığını. Nvidia mühendisleri, PyTorch'un GPU'larında maksimum verimlilikle çalışmasını sağlamak için büyük yatırımlar yaptı ve bu da büyük ölçekli yapay zeka modellerinin eğitimi ve dağıtımı için varsayılan tercih haline gelmesini sağladı.
Google ise bunun aksine yıllarını destekleyerek geçirdi. JaxTPU'lar, özellikle kendi araştırma ve ürün ekipleri içinde tercih edilen bir diğer yazılım çerçevesiydi. TPU'lar, derleyici katmanına dayanıyordu. XLA Jax tabanlı kodu verimli bir şekilde çalıştırmak için, Google'ın dahili yapay zeka yazılım yığını ve performans optimizasyonlarının büyük bir kısmı bu kombinasyon etrafında geliştirilmiştir.
Sonuç olarak, giderek artan bir uyumsuzluk ortaya çıktı. Google'ın kendi çiplerini nasıl kullandığı ve çoğu dış müşterinin nasıl çalışmayı tercih ettiği. Birçok işletme neredeyse tamamen PyTorch'u standartlaştırmış durumda; bu da TPU'lara geçişin genellikle araçlarda, kodda ve geliştirici becerilerinde yıkıcı bir değişimi gerektirdiği anlamına geliyor.
Google, TorchTPU ile bu engeli ortadan kaldırmaya çalışıyor. Proje, şu amaçlarla tasarlanmıştır: TPU'larda tam teşekküllü PyTorch desteğiBu sayede şirketler, yalnızca temel donanım hedefini değiştirirken, tanıdık kütüphanelere, eğitim döngülerine ve dağıtım modellerine güvenmeye devam edebilirler. Bu, TPU performansını veya maliyet avantajlarını değerlendirmek isteyen ekipler için hem mühendislik çabasını hem de öğrenme eğrisini önemli ölçüde azaltabilir.
Daha fazla kaynak, açık kaynak ve daha derin bir bağlılık
Konuya yakın kaynaklara göre, TorchTPU sadece bir yan deney değil. PyTorch'u TPU'lar üzerinde çalıştırmaya yönelik önceki bazı girişimlerin aksine, Google şimdi bu konuda yetkilendirme yapmış durumda. daha fazla kurumsal ilgi, bütçe ve stratejik önem Bu çabayı, niş bir uyumluluk projesi olarak değil, yapay zeka altyapı yol haritasının temel bir ayağı olarak ele alarak destekliyor.
Ele alınan en önemli unsurlardan biri şudur: yazılım yığınının bazı bölümlerinin açık kaynaklı hale getirilmesi TorchTPU'nun arkasındaki isim Google. Google, temel bileşenleri topluluğa sunarak benimsenmeyi hızlandırmayı, dış katkıda bulunanları çekmeyi ve yapay zeka platformlarında şeffaflık ve uzun vadeli istikrar isteyen büyük müşteriler arasında güven oluşturmayı umuyor.
Bu daha açık yaklaşım, TPU desteğinin Google'ın iç işleyiş biçimine çok sıkı bir şekilde bağlı olduğunu düşünen şirketleri de rahatlatmayı amaçlıyor. Harici geliştiricilere TorchTPU bileşenlerini inceleme, genişletme ve hata ayıklama şansı vermek, TPU'lar, tescilli bir ada gibi hissettirmiyor. ve daha çok PyTorch ekosisteminin genelinde birinci sınıf bir vatandaş gibi.
Bu durum işletmeler için pratik anlamda önem taşıyor. TorchTPU başarılı olursa, önemli ölçüde etki yaratabilir. Nvidia GPU'larından Google TPU'larına geçiş maliyetini düşürmekBu sayede, çok yıllık bir yazılım yeniden yazma sürecine girmeden bilgi işlem altyapısını çeşitlendirmek daha mümkün hale geliyor.
Müşteriler, Google'a Jax'e geçme zorunluluğunun büyük bir caydırıcı unsur olduğunu defalarca dile getirdiler. PyTorch zaten yapay zeka geliştiricileri arasında baskın konumda ve hızla değişen pazarlarda, ekipleri ürün yol haritalarını durdururken beklemeye istekli kuruluş sayısı oldukça azdır. yeni bir çerçeve etrafında yeniden yapılandırma Sadece alternatif donanıma erişmek için.
Dahili donanımdan geniş kurumsal çözüm yelpazesine
Uzun bir süre boyunca Alphabet, TPU kapasitesinin büyük bir kısmını şu amaçla kullandı: Google içinde dahili kullanım içinArama, çeviri, öneri sistemleri ve erken yapay zeka araştırmalarına güç sağlıyordu. Bu yaklaşım, bulut bilişim bölümüne TPU'ların nasıl ürünleştirileceği ve satılacağı konusunda daha fazla yetki verildiği 2022 yılında değişmeye başladı.
O zamandan beri TPU'ların bulunabilirliği... Google Cloud'un büyümesi önemli ölçüde arttı.Kurumsal alanda yapay zekaya olan ilginin artmasıyla birlikte Google, müşterilerin kendi sıkı bağlantılı GPU kümelerini yönetmek zorunda kalmadan yüksek performanslı bilgi işlem gücüne erişebilmeleri için çiplerini bir çözüm olarak konumlandırdı.
Daha yakın zamanlarda Google bir adım daha ileri gitti. TPU'ları müşterilerin kendi veri merkezlerinde kullanılmak üzere doğrudan satmakBu değişim, yalnızca genel bulut platformu aracılığıyla değil, daha büyük kuruluşların katı düzenleyici veya gecikme gereksinimlerine sahip olmaları durumunda TPU'ları kendi yerel altyapılarına entegre etmelerine ve aynı zamanda Google'ın donanım yol haritasından yararlanmalarına olanak tanıyor.
Bu genişleme aynı zamanda Google'ın iç önceliklerini de yeniden şekillendiriyor. Şirketin TPU kapasitesine hem şu amaçlarla ihtiyacı var: kendi yapay zeka ürünlerini işletmek—Gemini chatbot'undan yapay zeka destekli arama özelliklerine kadar— ve kiralık TPU kapasitesine güvenen Anthropic gibi yüksek profilli yapay zeka firmaları da dahil olmak üzere harici Google Cloud müşterilerine hizmet vermek için.
Tüm bunları koordine etmek için Google, yapay zeka altyapısı liderliğini üst düzey bir yöneticiye devretti. Emin Vahdat Yapay zeka altyapısının başına atandı ve artık doğrudan CEO'ya bağlı olarak çalışıyor. Sundar PichaiBu haber satırı, donanım ve yazılım yığınının Google'ın daha geniş yapay zeka hedefleri için ne kadar merkezi bir öneme sahip olduğunu vurguluyor.
TPU'lar üzerinde PyTorch'u güçlendirmek için Meta ile ortaklık kuruyoruz.
Google, TorchTPU'yu tek başına geliştirmiyor. Görüşmeler hakkında bilgi sahibi kişilere göre şirket, yakın iş birliği içinde çalıştığı kurumlar arasında yer alıyor. PyTorch'un yaratıcısı ve yöneticisi Meta.TPU'lara yönelik desteği hızlandırmak ve her iki ortağa da fayda sağlayacak teknik yönler konusunda uyum sağlamak.
Şirketler arasındaki görüşmelerde Meta'ya bazı düzenlemeler sağlayacak şartlar da yer alıyor. daha fazla TPU kapasitesine erişimDaha önceki önerilerde bu durum, yönetilen hizmetler olarak çerçevelenmişti: Google, Meta'nın kendi yazılımını ve modellerini çalıştırabileceği ortamlarda çiplerini konuşlandıracak ve operasyonel yükün büyük bir kısmını Google üstlenecekti.
Meta için, PyTorch'un daha geniş bir donanım yelpazesinde verimli bir şekilde çalışmasını sağlamak stratejik açıdan önemlidir. Şirketin bu konuda açık bir teşviki var. Çıkarım maliyetlerini azaltmak ve yalnızca Nvidia GPU'larına olan bağımlılıktan uzaklaşarak çeşitlendirme sağlamak.Bu hamle hem kendi harcamalarını azaltmak hem de gelecekteki çip alımları konusunda pazarlık gücünü artırmak içindir.
Meta, Google ile işbirliği yaparak PyTorch'un varlığını sürdürmesine yardımcı olabilir. donanımdan bağımsız ve geniş çapta optimize edilmişBu durum, PyTorch'un tek bir tedarikçinin ekosistemine sıkıca bağlı olarak görülmesi yerine, topluluk standardı statüsünü pekiştiriyor ve çerçeveyi hem araştırmacılar hem de işletmeler için cazip kılıyor.
Meta şu ana kadar bu özel düzenlemeler hakkında kamuoyuna açıklama yapmaktan kaçındı, ancak Çıkarların örtüşmesi açıktır.Sosyal medya ve yapay zeka devi Nvidia'nın ötesinde seçenekler isterken, Google ise PyTorch'un TPU'larında yerel bir ünite gibi çalışmasını ve böylece daha fazla müşterinin denemeye istekli olmasını istiyor.
Nvidia'nın CUDA avantajını yavaş yavaş azaltmak
Nvidia'nın yapay zekadaki hakimiyeti sadece güçlü GPU'lar üretmekle ilgili değil. Şirket, uzun yıllar boyunca PyTorch gibi çerçevelere derinlemesine entegre edilmiş kapsamlı bir yazılım yığını oluşturdu. Bu donanım ve yazılım kombinasyonu, en yeni yapay zeka modelleri için varsayılan eğitim ve çıkarım platformu haline geldi.
Bu sıkı entegrasyon nedeniyle birçok kuruluş şunu görüyor: Nvidia'dan uzaklaşmak riskli ve pahalı.Kod tabanları, iş akışları ve personel uzmanlığı tamamen CUDA'ya göre ayarlanmıştır; bu da alternatif çiplerin, kağıt üzerinde daha iyi fiyat veya performans vaat etseler bile, potansiyel bir sürtüşme kaynağı gibi görünmesine neden olur.
Google'ın TorchTPU girişimi, bu avantajı ortadan kaldırmaya yönelik doğrudan bir girişimdir. Eğer PyTorch, Nvidia GPU'larında olduğu gibi benzer bir kolaylık ve performans ayarlamasıyla TPU'larda da çalışabilirse, işletmeler bundan fayda sağlayacaktır. büyük yapay zeka iş yükleri için güvenilir bir alternatifYapay zeka işlem gücüne olan talebin hızla arttığı ve arz kısıtlamalarının yaygın olduğu bir pazarda, ciddi bir alternatifin daha olması oldukça cazip olabilir.
Aynı zamanda, Google'ın TorchTPU yığınının önemli parçalarını açık kaynaklı hale getirmeyi düşünme kararı, Nvidia'nın daha dikey entegre tarzından farklı bir yaklaşımı işaret ediyor. Google, altta yatan yazılımın daha fazlasını paylaşarak, Şeffaflığı ve taşınabilirliği önemseyen geliştiriciler arasında güven oluşturmak..
Bunların hiçbiri TPU'ların GPU'ların yerini alacağının garantisini vermiyor, ancak hesaplamaları değiştiriyor. Müşteriler, Nvidia'nın olgun ekosistemi ile tam bir araç seti geçişi gerektiren bir alternatif arasında seçim yapmak yerine, şu iki seçeneği değerlendirebilirler: performans, maliyet ve bulunabilirlik PyTorch'un tanıdık ortamında kalarak.
Bulut ve şirket içi dağıtımlarda, bu değişim kuruluşlar için işleri kolaylaştırabilir. donanım sağlayıcılarını karıştırıp eşleştirin. Zaman içinde, yapay zeka yol haritalarını varsayılan olarak tek bir tedarikçiye kilitlemek yerine.
Google, TorchTPU aracılığıyla PyTorch'a olan bağlılığını derinleştirirken, TPU'lara kurumsal erişimi artırırken ve Meta ile iş birliğini sıkılaştırırken, Yapay zeka altyapısı etrafındaki rekabet ortamı Süreç daha akıcı hale geliyor. Yıllarca süren donanım ve CUDA entegrasyonuna dayanan Nvidia'nın liderliği hala önemli olsa da, müşteriler artık yapay zeka iş yüklerinin nerede çalıştığı ve altta yatan işlem gücü için ne kadar ödedikleri konusunda daha gerçekçi yollar görüyorlar.
