Bugünün en gelişmiş AI iş yüklerinden bazıları, kod ve video üretimi gibi, eşi benzeri görülmemiş bir ölçekte bağlam işleme talep ediyor ve genellikle bir milyondan fazla tokeni aşıyor.
Bu nedenle büyük bir teknoloji şirketi, çıkarımın hesaplama yoğunluğu aşaması için özel olarak tasarlanmış yeni bir GPU'yu piyasaya sürüyor.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Bugünün en gelişmiş AI iş yüklerinden bazıları, kod ve video üretimi gibi, eşi benzeri görülmemiş bir ölçekte bağlam işleme talep ediyor ve genellikle bir milyondan fazla tokeni aşıyor.
Bu nedenle büyük bir teknoloji şirketi, çıkarımın hesaplama yoğunluğu aşaması için özel olarak tasarlanmış yeni bir GPU'yu piyasaya sürüyor.