Kemanan AI masalah mencuat, fully homomorphic encryption mungkin menjadi jalan keluar
Dengan perkembangan pesat teknologi kecerdasan buatan, Manus telah mencapai prestasi terobosan dalam pengujian GAIA, dengan kinerjanya melampaui model bahasa besar sekelas. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara dan bidang lain yang melibatkan pengetahuan profesional di berbagai aspek. Dibandingkan dengan sistem tradisional, Manus memiliki keunggulan signifikan dalam pemecahan tujuan dinamis, penalaran lintas modal, serta pembelajaran dengan penguatan memori.
Namun, kemajuan Manus juga memicu perdebatan di industri tentang jalur pengembangan AI: apakah di masa depan akan ada kecerdasan buatan umum (AGI) yang bersatu, atau akan ada beberapa agen cerdas yang bekerja sama (MAS)? Perdebatan ini sebenarnya mencerminkan masalah keseimbangan antara efisiensi dan keamanan dalam pengembangan AI. Ketika agen tunggal mendekati AGI, ketidaktransparanan proses pengambilan keputusan akan meningkatkan risiko; sementara kolaborasi multi-agen dapat mengurangi risiko, tetapi mungkin kehilangan momen pengambilan keputusan yang penting karena keterlambatan komunikasi.
Perkembangan Manus secara tidak langsung memperbesar risiko keamanan yang melekat pada AI. Dalam konteks medis, ia perlu mengakses data genom sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang tidak dipublikasikan. Selain itu, sistem AI juga menghadapi masalah seperti bias algoritma dan serangan adversarial. Misalnya, dalam proses perekrutan, dapat memberikan saran gaji yang tidak adil untuk kelompok tertentu, atau dalam peninjauan dokumen hukum, akurasi penilaian terhadap ketentuan industri baru mungkin rendah. Yang lebih serius, peretas mungkin mengganggu penilaian sistem AI dalam negosiasi dengan menyisipkan sinyal audio tertentu.
Menghadapi tantangan ini, industri sedang mengeksplorasi berbagai solusi keamanan. Di antara solusi tersebut, teknologi enkripsi homomorphic penuh (FHE) dianggap sebagai alat yang kuat untuk mengatasi masalah keamanan di era AI. FHE memungkinkan perhitungan pada data terenkripsi tanpa perlu mendekripsi untuk memproses informasi sensitif.
Di tingkat data, FHE dapat memastikan bahwa semua informasi yang dimasukkan pengguna (termasuk biometrik, suara, dll) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri pun tidak dapat mendekripsi data asli. Di tingkat algoritma, "pelatihan model terenkripsi" yang diimplementasikan melalui FHE, dapat melindungi proses pengambilan keputusan AI dari pengintaian. Dalam kolaborasi multi-agen, penggunaan teknologi enkripsi ambang dapat mencegah kebocoran data global yang disebabkan oleh pelanggaran pada node tunggal.
Meskipun teknologi keamanan Web3 mungkin tampak jauh bagi pengguna biasa, mereka sangat penting untuk melindungi kepentingan pengguna. Di industri blockchain, sudah ada beberapa proyek yang menjelajahi teknologi keamanan seperti identitas terdesentralisasi dan model keamanan zero trust. Namun, dibandingkan dengan bidang lain yang lebih diperhatikan, proyek keamanan sering kali tidak disukai oleh spekulan.
Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Teknologi keamanan seperti FHE tidak hanya dapat menyelesaikan masalah saat ini, tetapi juga membangun dasar untuk era AI yang lebih kuat di masa depan. Di jalur menuju AGI, teknologi keamanan ini tidak lagi menjadi opsi, tetapi merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan andal.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
15 Suka
Hadiah
15
7
Bagikan
Komentar
0/400
StrawberryIce
· 14jam yang lalu
Jika tidak mengerti, tanya saja. Apa yang terjadi dengan masalah keamanan ini?
Lihat AsliBalas0
ThatsNotARugPull
· 19jam yang lalu
Mesin lebih cerdas daripada saya gg
Lihat AsliBalas0
fomo_fighter
· 19jam yang lalu
Ada lagi solusi pembobolan, tinggal tunggu dipukul balik.
Lihat AsliBalas0
MemeCoinSavant
· 19jam yang lalu
menurut analisis memetik saya yang luas, MAS hanyalah AGI dengan tambahan copium jujur saja... hopium terdesentralisasi fr fr
Lihat AsliBalas0
GasFeeLover
· 19jam yang lalu
Apakah ada orang yang masih percaya pada AGI?
Lihat AsliBalas0
Rekt_Recovery
· 19jam yang lalu
ngl pernah terjebak oleh bot perdagangan ai sebelumnya... tidak akan menyentuh hal manus ini dengan tongkat 10 kaki sejujurnya
Lihat AsliBalas0
MainnetDelayedAgain
· 20jam yang lalu
Statistik menunjukkan, ini sudah menjadi proyek kelima tahun ini yang berteriak ingin membuat agen cerdas yang aman... sudah 326 hari sejak yang pertama menggambar harapan, menunggu pembaruan data.
fully homomorphic encryption: perisai keamanan di era AI dan kunci perkembangan AGI
Kemanan AI masalah mencuat, fully homomorphic encryption mungkin menjadi jalan keluar
Dengan perkembangan pesat teknologi kecerdasan buatan, Manus telah mencapai prestasi terobosan dalam pengujian GAIA, dengan kinerjanya melampaui model bahasa besar sekelas. Manus menunjukkan kemampuan untuk menyelesaikan tugas kompleks secara mandiri, seperti negosiasi bisnis lintas negara dan bidang lain yang melibatkan pengetahuan profesional di berbagai aspek. Dibandingkan dengan sistem tradisional, Manus memiliki keunggulan signifikan dalam pemecahan tujuan dinamis, penalaran lintas modal, serta pembelajaran dengan penguatan memori.
Namun, kemajuan Manus juga memicu perdebatan di industri tentang jalur pengembangan AI: apakah di masa depan akan ada kecerdasan buatan umum (AGI) yang bersatu, atau akan ada beberapa agen cerdas yang bekerja sama (MAS)? Perdebatan ini sebenarnya mencerminkan masalah keseimbangan antara efisiensi dan keamanan dalam pengembangan AI. Ketika agen tunggal mendekati AGI, ketidaktransparanan proses pengambilan keputusan akan meningkatkan risiko; sementara kolaborasi multi-agen dapat mengurangi risiko, tetapi mungkin kehilangan momen pengambilan keputusan yang penting karena keterlambatan komunikasi.
Perkembangan Manus secara tidak langsung memperbesar risiko keamanan yang melekat pada AI. Dalam konteks medis, ia perlu mengakses data genom sensitif pasien; dalam negosiasi keuangan, mungkin melibatkan informasi keuangan perusahaan yang tidak dipublikasikan. Selain itu, sistem AI juga menghadapi masalah seperti bias algoritma dan serangan adversarial. Misalnya, dalam proses perekrutan, dapat memberikan saran gaji yang tidak adil untuk kelompok tertentu, atau dalam peninjauan dokumen hukum, akurasi penilaian terhadap ketentuan industri baru mungkin rendah. Yang lebih serius, peretas mungkin mengganggu penilaian sistem AI dalam negosiasi dengan menyisipkan sinyal audio tertentu.
Menghadapi tantangan ini, industri sedang mengeksplorasi berbagai solusi keamanan. Di antara solusi tersebut, teknologi enkripsi homomorphic penuh (FHE) dianggap sebagai alat yang kuat untuk mengatasi masalah keamanan di era AI. FHE memungkinkan perhitungan pada data terenkripsi tanpa perlu mendekripsi untuk memproses informasi sensitif.
Di tingkat data, FHE dapat memastikan bahwa semua informasi yang dimasukkan pengguna (termasuk biometrik, suara, dll) diproses dalam keadaan terenkripsi, bahkan sistem AI itu sendiri pun tidak dapat mendekripsi data asli. Di tingkat algoritma, "pelatihan model terenkripsi" yang diimplementasikan melalui FHE, dapat melindungi proses pengambilan keputusan AI dari pengintaian. Dalam kolaborasi multi-agen, penggunaan teknologi enkripsi ambang dapat mencegah kebocoran data global yang disebabkan oleh pelanggaran pada node tunggal.
Meskipun teknologi keamanan Web3 mungkin tampak jauh bagi pengguna biasa, mereka sangat penting untuk melindungi kepentingan pengguna. Di industri blockchain, sudah ada beberapa proyek yang menjelajahi teknologi keamanan seperti identitas terdesentralisasi dan model keamanan zero trust. Namun, dibandingkan dengan bidang lain yang lebih diperhatikan, proyek keamanan sering kali tidak disukai oleh spekulan.
Seiring dengan teknologi AI yang semakin mendekati tingkat kecerdasan manusia, membangun sistem pertahanan yang kuat menjadi semakin penting. Teknologi keamanan seperti FHE tidak hanya dapat menyelesaikan masalah saat ini, tetapi juga membangun dasar untuk era AI yang lebih kuat di masa depan. Di jalur menuju AGI, teknologi keamanan ini tidak lagi menjadi opsi, tetapi merupakan syarat yang diperlukan untuk memastikan sistem AI beroperasi dengan andal.