Модель Manus показала выдающиеся результаты в Бенчмарке GAIA, вызвав争议 по поводу путей развития ИИ
В последнее время модель Manus достигла прорывных результатов в тестировании GAIA, ее производительность превзошла производительность крупных языковых моделей того же уровня. Это достижение демонстрирует выдающиеся способности Manus в обработке сложных задач, таких как международные бизнес-переговоры, включая анализ контрактов, разработку стратегий и генерацию предложений.
Преимущества Manus в основном проявляются в трех аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он может разбивать сложные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Этот прогресс снова вызвал обсуждение в отрасли о путях развития ИИ: будущее в направлении общего искусственного интеллекта (AGI) или многоагентных систем (MAS)?
Дизайнерская концепция Manus подразумевает две возможности:
Путь AGI: постепенное улучшение способности единой интеллектуальной системы, приближая её к уровню комплексного принятия решений человеком.
Путь MAS: позиционировать Manus как суперкоординатора, который управляет совместной работой тысяч специализированных агентов.
Эти два пути отражают одну из основных противоречий в развитии ИИ: как сбалансировать эффективность и безопасность? Чем ближе единая интеллектуальная система к AGI, тем сложнее объяснить ее процесс принятия решений; в то время как многоагентные системы могут снижать риски, они могут упустить ключевые моменты принятия решений из-за задержек в коммуникации.
Прогресс Manus также увеличивает потенциальные риски в развитии ИИ. Например, в медицинских сценариях может потребоваться доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть затронуты нераскрытые финансовые данные компаний. Кроме того, существует проблема алгоритмической предвзятости, когда в процессе найма возникают несправедливые предложения по зарплате для определённых групп. В области проверки юридических контрактов может наблюдаться высокая вероятность ошибок в условиях новых отраслей. Что еще более серьезно, хакеры могут вмешиваться в суждения Manus в переговорах, внедряя определенные аудиосигналы.
Эти вызовы подчеркивают суровую реальность: чем умнее система ИИ, тем шире ее потенциальная поверхность атаки.
В области Web3 безопасность всегда была важной темой. Теория "невозможного треугольника", предложенная основателем Эфириума Виталиком Бутериным (блокчейн-сеть не может одновременно обеспечить безопасность, децентрализацию и масштабируемость), породила множество криптографических технологий:
Модель нулевого доверия: акцент на строгой проверке и авторизации каждого запроса на доступ.
Децентрализованная идентичность (DID): позволяет субъектам получать проверяемую идентичность без необходимости централизованной регистрации.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над данными в зашифрованном состоянии, защищая конфиденциальность данных.
В частности, полностью гомоморфное шифрование считается ключевой технологией для решения вопросов безопасности в эпоху ИИ. Оно может играть роль в следующих аспектах:
На уровне данных: вся информация, введенная пользователем, обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения зашифрованной модели" с помощью FHE, даже разработчики не могут заглянуть в процесс принятия решений AI.
Координационный уровень: связь между несколькими агентами осуществляется с помощью порогового шифрования, при этом даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
В области безопасности Web3 было проведено несколько исследований. Например, uPort был выпущен в 2017 году на основной сети Ethereum и является одним из первых проектов децентрализованной идентификации. NKN выпустила основную сеть в 2019 году на основе модели безопасности с нулевым доверием. В области FHE проект Mind Network стал первым, который запустил основную сеть и установил партнерские отношения с несколькими известными учреждениями.
С быстрым развитием технологий ИИ построение мощной системы безопасности становится все более важным. Полная гомоморфная криптография не только решает текущие проблемы безопасности, но и готовит нас к наступлению эпохи сильного ИИ. На пути к AGI FHE уже стал незаменимой технической поддержкой.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Модель Manus преодолела тест GAIA, вызвав споры о путях развития ИИ и безопасности.
Модель Manus показала выдающиеся результаты в Бенчмарке GAIA, вызвав争议 по поводу путей развития ИИ
В последнее время модель Manus достигла прорывных результатов в тестировании GAIA, ее производительность превзошла производительность крупных языковых моделей того же уровня. Это достижение демонстрирует выдающиеся способности Manus в обработке сложных задач, таких как международные бизнес-переговоры, включая анализ контрактов, разработку стратегий и генерацию предложений.
Преимущества Manus в основном проявляются в трех аспектах: динамическое разбиение целей, кросс-модальное рассуждение и обучение с усилением памяти. Он может разбивать сложные задачи на сотни исполняемых подзадач, одновременно обрабатывая различные типы данных и постоянно повышая эффективность принятия решений и снижая уровень ошибок с помощью обучения с подкреплением.
Этот прогресс снова вызвал обсуждение в отрасли о путях развития ИИ: будущее в направлении общего искусственного интеллекта (AGI) или многоагентных систем (MAS)?
Дизайнерская концепция Manus подразумевает две возможности:
Путь AGI: постепенное улучшение способности единой интеллектуальной системы, приближая её к уровню комплексного принятия решений человеком.
Путь MAS: позиционировать Manus как суперкоординатора, который управляет совместной работой тысяч специализированных агентов.
Эти два пути отражают одну из основных противоречий в развитии ИИ: как сбалансировать эффективность и безопасность? Чем ближе единая интеллектуальная система к AGI, тем сложнее объяснить ее процесс принятия решений; в то время как многоагентные системы могут снижать риски, они могут упустить ключевые моменты принятия решений из-за задержек в коммуникации.
Прогресс Manus также увеличивает потенциальные риски в развитии ИИ. Например, в медицинских сценариях может потребоваться доступ к чувствительным генетическим данным пациентов; в финансовых переговорах могут быть затронуты нераскрытые финансовые данные компаний. Кроме того, существует проблема алгоритмической предвзятости, когда в процессе найма возникают несправедливые предложения по зарплате для определённых групп. В области проверки юридических контрактов может наблюдаться высокая вероятность ошибок в условиях новых отраслей. Что еще более серьезно, хакеры могут вмешиваться в суждения Manus в переговорах, внедряя определенные аудиосигналы.
Эти вызовы подчеркивают суровую реальность: чем умнее система ИИ, тем шире ее потенциальная поверхность атаки.
В области Web3 безопасность всегда была важной темой. Теория "невозможного треугольника", предложенная основателем Эфириума Виталиком Бутериным (блокчейн-сеть не может одновременно обеспечить безопасность, децентрализацию и масштабируемость), породила множество криптографических технологий:
Модель нулевого доверия: акцент на строгой проверке и авторизации каждого запроса на доступ.
Децентрализованная идентичность (DID): позволяет субъектам получать проверяемую идентичность без необходимости централизованной регистрации.
Полная гомоморфная криптография (FHE): позволяет выполнять вычисления над данными в зашифрованном состоянии, защищая конфиденциальность данных.
В частности, полностью гомоморфное шифрование считается ключевой технологией для решения вопросов безопасности в эпоху ИИ. Оно может играть роль в следующих аспектах:
На уровне данных: вся информация, введенная пользователем, обрабатывается в зашифрованном состоянии, даже сама AI-система не может расшифровать исходные данные.
Алгоритмический уровень: реализация "обучения зашифрованной модели" с помощью FHE, даже разработчики не могут заглянуть в процесс принятия решений AI.
Координационный уровень: связь между несколькими агентами осуществляется с помощью порогового шифрования, при этом даже если один узел будет скомпрометирован, это не приведет к утечке глобальных данных.
В области безопасности Web3 было проведено несколько исследований. Например, uPort был выпущен в 2017 году на основной сети Ethereum и является одним из первых проектов децентрализованной идентификации. NKN выпустила основную сеть в 2019 году на основе модели безопасности с нулевым доверием. В области FHE проект Mind Network стал первым, который запустил основную сеть и установил партнерские отношения с несколькими известными учреждениями.
С быстрым развитием технологий ИИ построение мощной системы безопасности становится все более важным. Полная гомоморфная криптография не только решает текущие проблемы безопасности, но и готовит нас к наступлению эпохи сильного ИИ. На пути к AGI FHE уже стал незаменимой технической поддержкой.