Crise de gouvernance d'OpenAI et enseignements du modèle DAO

Récemment, la crise de gouvernance interne d'OpenAI a suscité de larges discussions dans l'industrie. Beaucoup pensent que si OpenAI adoptait une forme de gouvernance sous forme d'organisation autonome décentralisée (DAO), cela pourrait peut-être éviter cette tempête. Ce point de vue mérite réflexion, car certains principes de gouvernance des DAO pourraient effectivement aider OpenAI à améliorer sa structure de gestion.

OpenAI, en tant qu'organisation à but non lucratif dédiée à la création d'une intelligence artificielle générale (AGI) sûre et bénéfique pour l'humanité, partage une mission similaire à celle de nombreux DAO qui créent des biens publics. Cependant, les récentes turbulences internes d'OpenAI ne proviennent pas de sa structure organisationnelle elle-même, mais plutôt de l'ambiguïté et de l'irrationalité des règles de gouvernance.

Par exemple, le conseil d'administration d'OpenAI, en tant qu'organe suprême, était initialement composé de 9 membres, mais il ne reste actuellement que 6 membres, et il n'a pas été en mesure de recruter de nouveaux membres à temps. Ce qui est encore plus préoccupant, c'est que des décisions majeures, comme le remplacement du PDG Sam Altman, ont été prises par certains administrateurs lors de réunions non publiques, sans discussion ni examen adéquats, et sans prendre en compte les opinions des autres parties prenantes.

Pour une organisation importante qui concerne le développement des technologies fondamentales, la sécurité sociale et même le destin de l'humanité, le mécanisme de gouvernance d'OpenAI présente manifestement des défauts graves. En se référant au modèle de gouvernance des DAO, OpenAI pourrait envisager d'introduire davantage de contrepoids, comme des représentants des employés, et d'établir un mécanisme de décision plus transparent et inclusif.

Il est à noter que lorsque le DAO a été proposé pour la première fois, son objectif était de créer un système entièrement autonome et fonctionnant uniquement grâce au code. Cependant, dans la réalité, le DAO a dû accepter la nécessité d'une intervention humaine, et ses caractéristiques ont évolué de "l'autonomie" à "la conduite communautaire". Cette transformation présente des similitudes intéressantes avec le chemin de développement de l'AGI.

OpenAI définit l'AGI comme un système hautement autonome capable de surpasser les humains dans la plupart des travaux ayant une valeur économique. Essentiellement, l'AGI et le DAO poursuivent toutes deux la construction de systèmes véritablement autonomes. Alors, comment devrions-nous gouverner de tels systèmes ? Devons-nous nous fier davantage à l'alignement des valeurs humaines intrinsèques ou renforcer les contraintes externes ? C'est une question qui nécessite une réflexion urgente dans le processus de développement des grands modèles linguistiques vers l'AGI.

Les dernières nouvelles montrent que jusqu'à 90 % des employés d'OpenAI ont exprimé leur volonté de démissionner et de suivre Sam Altman. Ce phénomène fait écho à un débat de longue date dans le domaine des DAO : quelle est la règle la plus importante, celle imposée par le code ou celle fondée sur le consensus communautaire ?

Bien que les règles et les contraintes puissent créer de nombreux consensus, les véritables grands consensus proviennent souvent d'un sentiment de mission commune et de valeurs culturelles. Cette profonde résonance et cette cohérence sont fondamentales pour la cohésion organisationnelle. Nous savons déjà comment créer cette résonance entre les personnes, mais pour les systèmes d'IA, la manière de réaliser cet alignement des valeurs reste un défi majeur.