Krisis Tata Kelola OpenAI dan Pelajaran dari Model DAO

Belakangan ini, krisis tata kelola internal OpenAI telah memicu diskusi luas di industri. Banyak orang berpendapat bahwa jika OpenAI mengadopsi bentuk organisasi otonomi terdistribusi (DAO) untuk tata kelolanya, mungkin dapat menghindari gejolak ini. Pandangan ini patut dipikirkan, karena beberapa prinsip tata kelola DAO memang dapat membantu OpenAI menyempurnakan struktur manajemennya.

OpenAI sebagai lembaga nirlaba yang berkomitmen untuk menciptakan kecerdasan buatan umum yang aman (AGI) dan memberikan manfaat bagi seluruh umat manusia, misinya sangat mirip dengan banyak organisasi DAO yang menciptakan barang publik. Namun, gejolak internal OpenAI baru-baru ini bukan disebabkan oleh struktur organisasinya sendiri, tetapi oleh ketidakjelasan dan ketidakadilan dalam aturan tata kelola.

Misalnya, dewan OpenAI sebagai lembaga kekuasaan tertinggi awalnya terdiri dari 9 orang, tetapi saat ini hanya tersisa 6 orang dan belum berhasil menambah anggota baru tepat waktu. Yang lebih mengkhawatirkan adalah, keputusan besar seperti penggantian CEO Sam Altman ternyata diambil dalam rapat tertutup oleh sebagian direksi, tanpa adanya diskusi dan proses deliberasi yang memadai, serta tidak mempertimbangkan pendapat pemangku kepentingan lainnya.

Bagi sebuah organisasi penting yang berkaitan dengan pengembangan teknologi dasar, keamanan sosial, dan bahkan nasib umat manusia, mekanisme tata kelola OpenAI jelas memiliki kekurangan yang serius. Mengacu pada model tata kelola DAO, OpenAI mungkin dapat mempertimbangkan untuk memperkenalkan lebih banyak kekuatan penyeimbang, seperti perwakilan karyawan, dan membangun mekanisme pengambilan keputusan yang lebih transparan dan inklusif.

Perlu dicatat bahwa ketika DAO pertama kali diusulkan, tujuannya adalah untuk menciptakan sistem yang sepenuhnya bergantung pada kode dan berjalan secara mandiri. Namun, DAO di dunia nyata harus menerima perlunya intervensi manusia, dan karakternya telah berubah dari "kemandirian" menjadi "didorong oleh komunitas". Perubahan ini memiliki kesamaan menarik dengan jalur perkembangan AGI.

OpenAI mendefinisikan AGI sebagai sistem yang sangat otonom yang dapat melampaui manusia dalam sebagian besar pekerjaan yang memiliki nilai ekonomi. Pada dasarnya, AGI dan DAO keduanya mengejar pembangunan sistem yang benar-benar otonom. Jadi, bagaimana kita seharusnya mengatur sistem seperti itu? Apakah lebih bergantung pada penyelarasan nilai-nilai manusia yang mendasar, atau memperkuat batasan eksternal? Ini adalah pertanyaan yang perlu dipikirkan dalam proses perkembangan dari model bahasa besar menuju AGI.

Berita terbaru menunjukkan bahwa hingga 90% karyawan OpenAI menyatakan siap untuk mengundurkan diri dan mengikuti Sam Altman. Fenomena ini mencerminkan perdebatan yang sudah lama ada di bidang DAO: mana yang lebih penting, aturan yang dibatasi oleh kode atau konsensus komunitas yang lebih penting?

Meskipun aturan dan batasan dapat membentuk banyak konsensus, tetapi konsensus yang benar-benar hebat sering kali berasal dari rasa misi dan nilai-nilai budaya yang sama. Resonansi dan konsistensi yang mendalam ini adalah dasar dari kohesi organisasi. Kita sudah tahu bagaimana menciptakan resonansi ini antara orang-orang, tetapi bagi sistem AI, bagaimana mencapai penyelarasan nilai-nilai ini tetap menjadi tantangan besar.