Beberapa beban kerja AI paling canggih saat ini, seperti generasi kode dan video, membutuhkan pemrosesan konteks dalam skala yang belum pernah terjadi sebelumnya, sering kali melebihi satu juta token.
Inilah alasan mengapa sebuah perusahaan teknologi besar meluncurkan GPU baru yang dirancang khusus untuk fase inferensi yang intensif komputasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Beberapa beban kerja AI paling canggih saat ini, seperti generasi kode dan video, membutuhkan pemrosesan konteks dalam skala yang belum pernah terjadi sebelumnya, sering kali melebihi satu juta token.
Inilah alasan mengapa sebuah perusahaan teknologi besar meluncurkan GPU baru yang dirancang khusus untuk fase inferensi yang intensif komputasi.