Нещодавно внутрішня криза управління в OpenAI викликала широке обговорення в галузі. Багато хто вважає, що якщо OpenAI впровадить управління у формі дистрибутивної автономної організації (DAO), це, можливо, зможе уникнути цього скандалу. Ця точка зору заслуговує на роздуми, оскільки деякі принципи управління DAO справді можуть допомогти OpenAI вдосконалити свою управлінську структуру.
OpenAI, як неприбуткова організація, що прагне створення безпечного загального штучного інтелекту (AGI) та на користь всього людства, має місію, схожу на багато DAO організацій, які створюють суспільні блага. Проте нещодавні внутрішні збурення в OpenAI не були викликані самою організаційною структурою, а стали наслідком нечітких та нерозумних правил управління.
Наприклад, рада директорів OpenAI, як найвища влада, спочатку складалася з 9 осіб, але наразі залишилося лише 6, і не вдалося своєчасно додати нових членів. Ще більш тривожно, що такі важливі рішення, як заміна генерального директора Сема Альтмана, були ухвалені на закритих засіданнях частиною директорів, без достатнього обговорення та розгляду, а також без врахування думок інших зацікавлених сторін.
Для важливої організації, що стосується розвитку базових технологій, соціальної безпеки та навіть долі людства, механізм управління OpenAI явно має серйозні недоліки. Посилаючись на модель управління DAO, OpenAI, можливо, варто розглянути можливість впровадження більшої кількості стримуючих сил, таких як представники працівників, та створити більш прозорий і інклюзивний процес прийняття рішень.
Варто зазначити, що DAO спочатку було запропоновано для створення системи, яка повністю залежить від коду та функціонує автономно. Однак реальні DAO змушені приймати необхідність людського втручання, їх характеристики змінилися з "автономності" на "керування спільнотою". Ця зміна має цікаві паралелі з розвитком AGI.
OpenAI визначає AGI як高度自主ний систем, який може перевершити людину в більшості економічно цінних робіт. По суті, AGI та DAO обидва прагнуть побудувати справді автономні системи. Отже, як ми повинні управляти такими системами? Залежати більше від внутрішнього узгодження людських цінностей чи посилювати зовнішні обмеження? Це питання, яке потребує термінового обговорення в процесі розвитку від великих мовних моделей до AGI.
Останні новини свідчать, що до 90% співробітників OpenAI висловили готовність звільнитися і слідувати за Сэмом Альтманом. Це явище відображає тривалу дискусію в сфері DAO: що важливіше, правила, обмежені кодом, чи колективна згода спільноти?
Хоча правила і обмеження можуть сформувати багато консенсусу, справжній великий консенсус часто походить від спільного почуття місії та культурних цінностей. Це глибоке резонування та узгодженість є основою організаційної згуртованості. Ми вже знаємо, як створити таке резонування між людьми, але для AI-систем, як досягти узгодження цих цінностей, все ще залишається великою проблемою.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
11 лайків
Нагородити
11
5
Поділіться
Прокоментувати
0/400
SillyWhale
· 6год тому
Дракон не показує хвоста, перший раз не видно людей на нараді.
Переглянути оригіналвідповісти на0
FlyingLeek
· 13год тому
Протягом року невдахи не можуть вирватися з A-акцій.
Криза OpenAI викликає роздуми: чи може модель DAO оптимізувати управління великими AI компаніями
Уроки з кризу управління OpenAI та моделі DAO
Нещодавно внутрішня криза управління в OpenAI викликала широке обговорення в галузі. Багато хто вважає, що якщо OpenAI впровадить управління у формі дистрибутивної автономної організації (DAO), це, можливо, зможе уникнути цього скандалу. Ця точка зору заслуговує на роздуми, оскільки деякі принципи управління DAO справді можуть допомогти OpenAI вдосконалити свою управлінську структуру.
OpenAI, як неприбуткова організація, що прагне створення безпечного загального штучного інтелекту (AGI) та на користь всього людства, має місію, схожу на багато DAO організацій, які створюють суспільні блага. Проте нещодавні внутрішні збурення в OpenAI не були викликані самою організаційною структурою, а стали наслідком нечітких та нерозумних правил управління.
Наприклад, рада директорів OpenAI, як найвища влада, спочатку складалася з 9 осіб, але наразі залишилося лише 6, і не вдалося своєчасно додати нових членів. Ще більш тривожно, що такі важливі рішення, як заміна генерального директора Сема Альтмана, були ухвалені на закритих засіданнях частиною директорів, без достатнього обговорення та розгляду, а також без врахування думок інших зацікавлених сторін.
Для важливої організації, що стосується розвитку базових технологій, соціальної безпеки та навіть долі людства, механізм управління OpenAI явно має серйозні недоліки. Посилаючись на модель управління DAO, OpenAI, можливо, варто розглянути можливість впровадження більшої кількості стримуючих сил, таких як представники працівників, та створити більш прозорий і інклюзивний процес прийняття рішень.
Варто зазначити, що DAO спочатку було запропоновано для створення системи, яка повністю залежить від коду та функціонує автономно. Однак реальні DAO змушені приймати необхідність людського втручання, їх характеристики змінилися з "автономності" на "керування спільнотою". Ця зміна має цікаві паралелі з розвитком AGI.
OpenAI визначає AGI як高度自主ний систем, який може перевершити людину в більшості економічно цінних робіт. По суті, AGI та DAO обидва прагнуть побудувати справді автономні системи. Отже, як ми повинні управляти такими системами? Залежати більше від внутрішнього узгодження людських цінностей чи посилювати зовнішні обмеження? Це питання, яке потребує термінового обговорення в процесі розвитку від великих мовних моделей до AGI.
Останні новини свідчать, що до 90% співробітників OpenAI висловили готовність звільнитися і слідувати за Сэмом Альтманом. Це явище відображає тривалу дискусію в сфері DAO: що важливіше, правила, обмежені кодом, чи колективна згода спільноти?
Хоча правила і обмеження можуть сформувати багато консенсусу, справжній великий консенсус часто походить від спільного почуття місії та культурних цінностей. Це глибоке резонування та узгодженість є основою організаційної згуртованості. Ми вже знаємо, як створити таке резонування між людьми, але для AI-систем, як досягти узгодження цих цінностей, все ще залишається великою проблемою.