Arkadaşımın şirketi büyük paralar harcayarak bir AI müşteri hizmetleri sistemi kurdu, ancak sonuç olarak aynı anda yalnızca 3 modeli çalıştırabildi ve bir geçiş yapmak 5 dakika sürdü. Teknik direktör çaresiz bir şekilde başını kaşıdı ve bunun akıllı bir müşteri hizmeti değil, tam tersine yapay zekâ cahilliği olduğunu söyledi.
...çözümünü denediklerine kadar @OpenledgerHQ.
OpenLedger'ın en etkileyici yanı şudur:
AI dağıtımını telefon kılıfı değiştirmek kadar basit hale getiriyor. Bir GPU, binlerce özelleştirilmiş modeli çalıştırabilir, bellek kullanımı geleneksel çözümlerin yalnızca 1/4'ü kadardır ve model geçişi göz kırpma hızından daha hızlıdır (<100 ms). Bu, hantal bir masaüstü bilgisayarı taşınabilir bir İsviçre çakısına dönüştürmek gibidir.
Özellikle, üç ana nokta dikkat çekiyor: 1. Kaynak Verimliliği Devrimi: Geleneksel dağıtım, 40-50 GB bellek gerektiren modelleri gerektirirken, artık 8-12 GB ile halledilebiliyor. Tek bir GPU'nun verimliliği 2000+ token/saniye ile ulaşır, geleneksel çözümlerden 4 kat daha hızlıdır. Bu, ekonomi sınıfı bilet fiyatıyla birinci sınıf hizmeti almayı ifade ediyor.
2. Gerçek kişiselleştirme: Her kullanıcı kendi LoRA adaptörünü eğitebilir, tıpkı AI'ya DNA'sını özelleştirmek gibi. Sağlık, hukuk, programlama gibi dikey alanlarda, artık düşük maliyetle özel AI asistanına sahip olabilirsiniz. Gördüğüm en havalı uygulama, avukatların zincir üzerinde saklanan kanıtları kullanan AI asistanı. Her hukuksal öneri, eğitim veri kaynağına geri izlenebiliyor.
3. Kenar Hesaplama Atılımı: Jetson Nano gibi cihazların desteklenmesi, gelecekte Raspberry Pi'nizin de profesyonel düzeyde AI modellerini çalıştırabileceği anlamına geliyor. Süper bilgisayarı bir kibrit kutusuna sığdırmak gibi.
En çok duygulandıran şey teknolojinin demokratikleştirilmesi: Geçmişte büyük şirketlerin tekelinde olan AI yetenekleri, şimdi herhangi bir geliştiricinin bir fincan kahve maliyetiyle elde edebileceği bir şey. OpenLedger bir optimizasyon aracı değil, güç yapısını yeniden inşa ediyor - algoritmalar cam gibi şeffaf olduğunda, her kullanıcı teknolojinin sahibi oluyor.
Şu anda hala geleneksel mimariler kullanan ekipleri görmek, dial-up internet kullanan insanların 4K videoları tartıştığını görmek gibi. Teknoloji sıçraması asla kademeli değildir, bir neslin algısı tamamen yenilenir. OpenLedger, AI çağının işletim sistemi devrimini yazıyor. #OpenledgerHQ # Snaptopus @cookiedotfun @cookiedotfuncn #Cookie # CookieSnaps
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Geçen hafta ilginç bir şeyle karşılaştım:
Arkadaşımın şirketi büyük paralar harcayarak bir AI müşteri hizmetleri sistemi kurdu, ancak sonuç olarak aynı anda yalnızca 3 modeli çalıştırabildi ve bir geçiş yapmak 5 dakika sürdü.
Teknik direktör çaresiz bir şekilde başını kaşıdı ve bunun akıllı bir müşteri hizmeti değil, tam tersine yapay zekâ cahilliği olduğunu söyledi.
...çözümünü denediklerine kadar @OpenledgerHQ.
OpenLedger'ın en etkileyici yanı şudur:
AI dağıtımını telefon kılıfı değiştirmek kadar basit hale getiriyor.
Bir GPU, binlerce özelleştirilmiş modeli çalıştırabilir, bellek kullanımı geleneksel çözümlerin yalnızca 1/4'ü kadardır ve model geçişi göz kırpma hızından daha hızlıdır (<100 ms).
Bu, hantal bir masaüstü bilgisayarı taşınabilir bir İsviçre çakısına dönüştürmek gibidir.
Özellikle, üç ana nokta dikkat çekiyor:
1. Kaynak Verimliliği Devrimi:
Geleneksel dağıtım, 40-50 GB bellek gerektiren modelleri gerektirirken, artık 8-12 GB ile halledilebiliyor.
Tek bir GPU'nun verimliliği 2000+ token/saniye ile ulaşır, geleneksel çözümlerden 4 kat daha hızlıdır.
Bu, ekonomi sınıfı bilet fiyatıyla birinci sınıf hizmeti almayı ifade ediyor.
2. Gerçek kişiselleştirme:
Her kullanıcı kendi LoRA adaptörünü eğitebilir, tıpkı AI'ya DNA'sını özelleştirmek gibi.
Sağlık, hukuk, programlama gibi dikey alanlarda, artık düşük maliyetle özel AI asistanına sahip olabilirsiniz.
Gördüğüm en havalı uygulama, avukatların zincir üzerinde saklanan kanıtları kullanan AI asistanı. Her hukuksal öneri, eğitim veri kaynağına geri izlenebiliyor.
3. Kenar Hesaplama Atılımı:
Jetson Nano gibi cihazların desteklenmesi, gelecekte Raspberry Pi'nizin de profesyonel düzeyde AI modellerini çalıştırabileceği anlamına geliyor.
Süper bilgisayarı bir kibrit kutusuna sığdırmak gibi.
En çok duygulandıran şey teknolojinin demokratikleştirilmesi:
Geçmişte büyük şirketlerin tekelinde olan AI yetenekleri, şimdi herhangi bir geliştiricinin bir fincan kahve maliyetiyle elde edebileceği bir şey.
OpenLedger bir optimizasyon aracı değil, güç yapısını yeniden inşa ediyor - algoritmalar cam gibi şeffaf olduğunda, her kullanıcı teknolojinin sahibi oluyor.
Şu anda hala geleneksel mimariler kullanan ekipleri görmek, dial-up internet kullanan insanların 4K videoları tartıştığını görmek gibi.
Teknoloji sıçraması asla kademeli değildir, bir neslin algısı tamamen yenilenir.
OpenLedger, AI çağının işletim sistemi devrimini yazıyor.
#OpenledgerHQ # Snaptopus @cookiedotfun @cookiedotfuncn #Cookie # CookieSnaps