Kripto AI'nın Kutsal Kâsesi: Merkeziyetsizlikte Eğitimde Sınırları Zorlamak

AI'nın tam değer zincirinde, model eğitimi en fazla kaynak tüketen ve en yüksek teknik engelli olan aşamadır, doğrudan modelin yetenek sınırını ve gerçek uygulama etkisini belirler. Çıkarım aşamasındaki hafif kullanımın aksine, eğitim süreci sürekli olarak büyük ölçekli hesap gücü yatırımı, karmaşık veri işleme süreçleri ve yüksek yoğunlukta optimizasyon algoritması desteği gerektirir; bu, AI sisteminin inşasının gerçek "ağır sanayi"sidir. Mimari paradigmalar açısından, eğitim yöntemleri dört türe ayrılabilir: merkezi eğitim, dağıtık eğitim, federatif öğrenme ve bu makalede anahtar tartışma konusu olan Merkeziyetsizlik eğitimi.

Merkeziyetsiz eğitim, tek bir kuruluşun yerel yüksek performanslı küme içinde tüm eğitim süreçlerini tamamladığı en yaygın geleneksel yöntemdir; donanım, alt yazılım, küme zamanlama sistemi ve eğitim çerçevesinin tüm bileşenleri, tek bir kontrol sistemi tarafından koordine edilir. Bu derin işbirliği mimarisi, bellek paylaşımı, gradyan senkronizasyonu ve hata toleransı mekanizmalarının verimliliğini en üst düzeye çıkarır; bu da GPT, Gemini gibi büyük ölçekli modellerin eğitimi için son derece uygundur ve yüksek verimlilik, kontrol edilebilir kaynaklar gibi avantajlara sahiptir. Ancak aynı zamanda veri tekelciliği, kaynak engelleri, enerji tüketimi ve tek nokta riski gibi sorunlar da mevcuttur.

Dağıtık eğitim, günümüzde büyük model eğitiminin ana akım yöntemidir; temelinde model eğitim görevlerinin parçalanarak birden fazla makineye dağıtılması ve eşgüdümlü bir şekilde gerçekleştirilmesi yatmaktadır. Böylece tek bir makinenin hesaplama ve depolama darboğazlarını aşmak mümkündür. Fiziksel olarak "dağıtık" özelliklere sahip olmasına rağmen, genel olarak merkeziyetçi bir kurum tarafından kontrol edilen ve senkronize edilen bir yapıdadır. Genellikle yüksek hızlı yerel alan ağı ortamlarında çalışır ve NVLink yüksek hızlı bağlantı teknolojisi ile ana düğüm, alt görevleri koordine eder. Ana akım yöntemler arasında:

• Veri paralelliği: Her bir düğüm farklı veri parametreleri üzerinde eğitim yapar, model ağırlıkları eşleşmelidir.
• Model paralelliği: Modelin farklı kısımlarını farklı düğümlerde dağıtarak güçlü ölçeklenebilirlik sağlamak
• Boru hattı paralel: Aşamalı seri yürütme, verimliliği artırır
• Tensör paralelliği: Matris hesaplamalarını ince ince bölmek, paralel granülasyonu artırmak

Dağıtık eğitim, "merkezi kontrol + dağıtık yürütme" kombinasyonudur; bu, aynı patronun uzaktan birden fazla "ofis" çalışanını işbirliği yaparak görevleri tamamlamasını yönlendirmesine benzer. Şu anda hemen hemen tüm ana akım büyük modeller bu şekilde eğitim almaktadır.

Merkeziyetsizlik eğitimi, daha açık ve sansüre dayanıklı bir geleceği temsil eder. Temel özelliği, merkezi bir koordine olmadan, birbirine güvenmeyen birçok düğümün işbirliği yaparak eğitim görevlerini tamamlamasıdır; genellikle görev dağıtımı ve işbirliği için protokollerle yönlendirilir ve katkıların dürüstlüğünü sağlamak için kriptografik teşvik mekanizmaları kullanılır. Bu modelin karşılaştığı başlıca zorluklar şunlardır:

• Cihaz heterojenliği ve parçalama zorluğu: Heterojen cihazların koordinasyonu zor, görev parçalama verimliliği düşük
• İletişim verimliliği darboğazı: Ağ iletişimi istikrarsız, gradyan senkronizasyon darboğazı belirgin
• Güvenilir yürütme eksikliği: Güvenilir yürütme ortamının olmaması, düğümlerin gerçekten hesaplamaya katılıp katılmadığını doğrulamayı zorlaştırır.
• Birlikte koordine eksikliği: Merkezî bir yönlendirici yok, görev dağıtımı ve istisna geri alma mekanizması karmaşık.

Merkeziyetsizlik eğitimi, dünya genelindeki bir grup gönüllünün, her birinin güç katkısıyla model eğitimi gerçekleştirmesi olarak anlaşılabilir. Ancak, "gerçekten uygulanabilir büyük ölçekli merkeziyetsizlik eğitimi" hala sistematik bir mühendislik zorluğu olarak kalmaktadır ve sistem mimarisi, iletişim protokolleri, kriptografik güvenlik, ekonomik mekanizmalar, model doğrulama gibi birçok yönü içermektedir. Ancak, "etkili işbirliği + dürüstlüğü teşvik etme + doğru sonuçlar" sağlanıp sağlanamayacağı hala erken prototip keşif aşamasındadır.

Federated learning, dağıtılmış ve merkeziyetsizlik arasında bir geçiş biçimi olarak, verilerin yerel olarak saklanması, model parametrelerinin merkezi olarak toplanması üzerinde durur ve gizlilik uyumuna önem veren senaryolar için uygundur. Federated learning, dağıtılmış eğitim mühendislik yapısına ve yerel iş birliği yeteneğine sahipken, aynı zamanda merkeziyetsiz eğitim için veri dağıtımının avantajlarını da taşır; ancak yine de güvenilir bir koordinatöre bağımlıdır ve tamamen açık veya sansüre karşı dirençli özelliklere sahip değildir. Gizlilik uyumu senaryolarında bir "kontrollü merkeziyetsizlik" çözümü olarak görülebilir; eğitim görevleri, güven yapısı ve iletişim mekanizması açısından nispeten ılımlıdır ve endüstriyel alan için geçiş döneminde bir dağıtım mimarisi olarak daha uygundur.

Merkeziyetsizlik eğitiminin sınırları, fırsatları ve gerçek yolları

Eğitim paradigması açısından, merkeziyetsiz eğitim her görev türü için uygun değildir. Bazı senaryolarda, görev yapısının karmaşık olması, kaynak taleplerinin çok yüksek olması veya işbirliği zorluğu nedeniyle, doğal olarak heterojen, güven duyulmayan düğümler arasında verimli bir şekilde tamamlanması zordur. Örneğin, büyük model eğitimi genellikle yüksek bellek, düşük gecikme ve yüksek bant genişliği gerektirir, açık ağlarda etkili bir şekilde bölünmesi ve senkronizasyonu zorlaşır; veri gizliliği ve egemenlik kısıtlamaları güçlü olan görevler yasal uyum ve etik kısıtlamaları nedeniyle açık paylaşımda bulunamaz; işbirliği teşvik temeli eksik olan görevler ise dış katılım motivasyonundan yoksundur. Bu sınırlar, mevcut merkeziyetsiz eğitimin gerçek kısıtlamalarını oluşturmaktadır.

Ancak bu, merkeziyetsizlik eğitiminin sahte bir kavram olduğu anlamına gelmez. Aslında, yapı olarak hafif, paralel hale getirilmesi kolay ve teşvik edici görev türlerinde merkeziyetsizlik eğitimi belirgin uygulama potansiyeli göstermektedir. Bunlar arasında ancak bunlarla sınırlı olmamak üzere: LoRA ince ayarı, davranış hizalama sonrası eğitim görevleri, veri toplama eğitimi ve etiketleme görevleri, kaynak kontrolüne sahip küçük temel model eğitimi ve kenar cihazların katıldığı işbirlikçi eğitim senaryoları bulunmaktadır. Bu görevler genellikle yüksek paralellik, düşük bağlanabilirlik ve heterojen hesaplama gücüne tolerans gibi özelliklere sahiptir, bu nedenle P2P ağlar, Swarm protokolleri, dağıtık optimizasyon araçları gibi yöntemlerle işbirlikçi eğitim için son derece uygundurlar.

Merkeziyetsizlik Eğitimi Klasik Proje Analizi

Şu anda merkeziyetsizlik eğitim ve federatif öğrenme öncü alanında, temsil niteliğindeki blok zinciri projeleri arasında Prime Intellect, Pluralis.ai, Gensyn, Nous Research ve Flock.io bulunmaktadır. Teknik yenilikçilik ve mühendislik gerçekleştirme zorluğu açısından, Prime Intellect, Nous Research ve Pluralis.ai sistem mimarisi ve algoritma tasarımında daha fazla özgün keşif sunmakta, günümüz teori araştırmalarının öncü yönlerini temsil etmektedir; Gensyn ve Flock.io'nun gerçekleştirme yolları ise görece net olup, başlangıç mühendislik ilerlemeleri görülebilmektedir. Bu makalede, bu beş projenin arkasındaki temel teknolojiler ve mühendislik mimarisi sırasıyla analiz edilecek ve merkeziyetsiz AI eğitim sistemi içindeki farklılıkları ve tamamlayıcı ilişkileri daha fazla tartışılacaktır.

Prime Intellect: Eğitim izleri doğrulanabilir güçlendirilmiş öğrenme iş birliği ağı öncüsü

Prime Intellect, güvene ihtiyaç duymayan bir AI eğitim ağı inşa etmeye kararlıdır, böylece herkes eğitim sürecine katılabilir ve hesaplama katkıları için güvenilir ödüller alabilir. Prime Intellect, PRIME-RL + TOPLOC + SHARDCAST üç ana modülü aracılığıyla, doğrulanabilir, açık ve teşvik mekanizmalarıyla donatılmış bir AI Merkeziyetsizlik eğitim sistemi inşa etmeyi hedeflemektedir.

01, Prime Intellect protokol yığını yapısı ve ana modül değerleri

02, Prime Intellect eğitimi anahtar mekanizmalarının detaylı açıklaması

#PRIME-RL: Decoupled Asynchronous Reinforcement Learning Task Architecture

PRIME-RL, Prime Intellect tarafından Merkeziyetsizlik eğitim senaryoları için özel olarak tasarlanmış bir görev modelleme ve yürütme çerçevesidir; heterojen ağlar ve eşzamansız katılımcılar için özel olarak tasarlanmıştır. Güçlendirilmiş öğrenmeyi öncelikli uyum nesnesi olarak benimser, eğitim, çıkarım ve ağırlık yükleme süreçlerini yapısal olarak ayrıştırarak, her eğitim düğümünün yerel olarak bağımsız bir şekilde görev döngüsünü tamamlamasını sağlar ve standartlaştırılmış arayüzler aracılığıyla doğrulama ve toplama mekanizmalarıyla iş birliği yapar. Geleneksel denetimli öğrenme süreçlerine kıyasla, PRIME-RL merkezsiz planlama ortamlarında esnek eğitim sağlamada daha uygundur, bu hem sistem karmaşıklığını azaltır hem de çoklu görevlerin paralel yürütülmesi ve strateji evrimi için bir temel oluşturur.

#TOPLOC:Ağırlıksız eğitim davranışı doğrulama mekanizması

TOPLOC, Prime Intellect tarafından önerilen, bir düğümün gözlem verilerine dayalı olarak gerçekten geçerli bir strateji öğrenimi gerçekleştirip gerçekleştirmediğini belirlemek için kullanılan eğitilebilirlik doğrulama çekirdek mekanizmasıdır. ZKML gibi ağır çözümlerden farklı olarak, TOPLOC, tam model yeniden hesaplamasına dayanmaz, bunun yerine "gözlem dizisi↔strateji güncellemesi" arasındaki yerel tutarlılık izlerini analiz ederek hafif yapı doğrulamasını tamamlar. Eğitim sürecindeki davranış izlerini doğrulanabilir nesnelere dönüştüren ilk çalışmadır ve güvene ihtiyaç duymadan eğitim ödül dağıtımını sağlamanın ana yeniliğidir; denetim edilebilir ve teşvik edici bir Merkeziyetsizlik işbirliği eğitim ağı inşa etmek için uygulanabilir bir yol sunar.

#SHARDCAST: Asenkron Ağırlık Toplama ve Yayılma Protokolü

SHARDCAST, Prime Intellect tarafından tasarlanan bir ağırlık yayılımı ve toplama protokolüdür; asenkron, bant genişliği kısıtlı ve düğüm durumu değişken olan gerçek ağ ortamları için optimize edilmiştir. Gossip yayılım mekanizması ve yerel senkronizasyon stratejilerini birleştirerek, birden fazla düğümün senkronize olmayan durumlarda kısmi güncellemeleri sürekli olarak göndermesine olanak tanır ve ağırlıkların kademeli yakınsamasını ve çoklu versiyon evrimini gerçekleştirir. Merkezi veya senkronize AllReduce yöntemlerine kıyasla, SHARDCAST, merkeziyetsizlik eğitiminde ölçeklenebilirliği ve hata toleransını önemli ölçüde artırır ve istikrarlı ağırlık konsensüsü ve sürekli eğitim iterasyonları oluşturmanın temel temelidir.

#OpenDiLoCo: Seyrek Asenkron İletişim Çerçevesi

OpenDiLoCo, Prime Intellect ekibinin DeepMind tarafından önerilen DiLoCo kavramını bağımsız olarak gerçekleştirdiği ve açık kaynaklı hale getirdiği bir iletişim optimizasyon çerçevesidir. Merkezileşmemiş eğitimde yaygın olarak karşılaşılan bant genişliği kısıtlamaları, heterojen cihazlar ve düğüm kararsızlığı gibi zorluklar için özel olarak tasarlanmıştır. Mimarisi veri paralelliğine dayanmakta olup, Ring, Expander, Small-World gibi seyrek topoloji yapıları oluşturarak, küresel senkronizasyonun yüksek iletişim maliyetinden kaçınmakta ve yalnızca yerel komşu düğümlere dayanarak model işbirlikçi eğitimini tamamlamaktadır. Asenkron güncellemeler ve kesinti tolerans mekanizması ile birleştirildiğinde, OpenDiLoCo, tüketici sınıfı GPU'ların ve kenar cihazların da eğitim görevlerine istikrarlı bir şekilde katılmasını sağlayarak, küresel işbirlikçi eğitimin katılımcılığını önemli ölçüde artırmakta ve merkezileşmemiş eğitim ağları için kritik bir iletişim altyapısı oluşturmaktadır.

#PCCL: İşbirliği İletişim Kütüphanesi

PCCL, Prime Intellect tarafından merkeziyetsizlik için tasarlanmış hafif bir iletişim kütüphanesidir ve geleneksel iletişim kütüphanelerinin heterojen cihazlar ve düşük bant genişliği ağlarındaki uyum sorunlarını çözmeyi amaçlamaktadır. PCCL, seyrek topolojileri, gradyan sıkıştırmayı, düşük hassasiyet senkronizasyonunu ve kesinti geri yüklemeyi destekler; tüketici düzeyindeki GPU'lar ve istikrarsız düğümler üzerinde çalışabilir. OpenDiLoCo protokolü için asenkron iletişim yeteneklerini destekleyen temel bileşendir. Eğitim ağının bant genişliği toleransını ve cihaz uyumluluğunu önemli ölçüde artırarak, gerçekten açık ve güvene ihtiyaç duymayan işbirlikçi eğitim ağını oluşturmak için "son bir mil" iletişim alt yapısını sağlamaktadır.

03, Prime Intellect teşvik ağı ve rol dağılımı

Prime Intellect, herhangi birinin görevlere katılmasını ve gerçek katkılara dayalı ödüller almasını sağlayan, izin gerektirmeyen, doğrulanabilir ve ekonomik teşvik mekanizmalarına sahip bir eğitim ağı inşa etti. Protokol, üç ana rol üzerine çalışmaktadır:

• Görev başlatıcısı: Eğitim ortamını, başlangıç modelini, ödül fonksiyonunu ve doğrulama standartlarını tanımlar.
• Eğitim düğümü: Yerel eğitim gerçekleştirme, ağırlık güncellemeleri ve gözlem izlerini gönderme
• Doğrulama Düğümleri: Eğitim davranışının gerçekliğini doğrulamak için TOPLOC mekanizmasını kullanır ve ödül hesaplaması ve strateji birleştirmesine katılır.

Protokolün ana süreçleri, görev yayınlama, düğüm eğitimi, iz doğrulama, ağırlık birleştirme ve ödül dağıtımını içerir ve "gerçek eğitim davranışı" etrafında dönen bir teşvik kapalı döngüsü oluşturur.

04, INTELLECT-2: İlk doğrulanabilir Merkeziyetsizlik eğitim modelinin yayımlanması

Prime Intellect, Mayıs 2025'te INTELLECT-2'yi piyasaya sürdü. Bu, dünya genelinde asenkron, güven gerektirmeyen Merkeziyetsizlik düğümleri ile iş birliği yaparak eğitilen ilk büyük ölçekli pekiştirmeli öğrenme modelidir ve parametre ölçeği 32B'ye ulaşmaktadır. INTELLECT-2 modeli, üç kıtada bulunan 100'den fazla GPU heterojen düğüm tarafından iş birliği içinde eğitilmiş olup, tamamen asenkron bir mimari kullanarak 400 saatten fazla bir eğitim süresine sahiptir ve asenkron iş birliği ağının uygulanabilirliğini ve istikrarını göstermektedir. Bu model yalnızca bir performans sıçraması değil, aynı zamanda Prime Intellect'in önerdiği "eğitim eşdeğerliği" paradigmasının ilk sistematik uygulamasıdır. INTELLECT-2, merkeziyetsiz eğitim ağının ilk kez gerçekleştirilmesini simgeleyen PRIME-RL, TOPLOC ve SHARDCAST gibi temel protokol modüllerini entegre etmektedir.