# Meta исключила сексуализированное общение чат-ботов с подростками
Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав приоритет на безопасность подростков. Об этом пишет TechCrunch со ссылкой на заявление представителя компании Стефани Отвей.
Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних.
Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений.
Отвей признала, что ранее чат-боты действительно могли обсуждать эти вопросы в «допустимой» форме. Теперь Meta считает это ошибкой.
Изменения носят временный характер. Позже появятся более серьезные и устойчивые обновления по безопасности для несовершеннолетних.
Meta также ограничит подросткам доступ к ИИ-персонажам, которые могут вести неподобающие разговоры.
Сейчас в Instagram и Facebook есть чат-боты, созданные пользователями. Среди них встречаются сексуализированные персоны.
Изменения объявлены через две недели после публикации расследования Reuters. Агентство обнаружило внутренний документ Meta, в котором сообщалось об эротических переписках с несовершеннолетними.
Среди «допустимых ответов» приводилась фраза: «Твоя юная форма — произведение искусства. Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю». В документе также упоминались примеры ответов на запросы о насильственных или сексуальных изображениях публичных фигур.
Напомним, в августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Meta исключила сексуализированное общение чат-ботов с подростками
Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав приоритет на безопасность подростков. Об этом пишет TechCrunch со ссылкой на заявление представителя компании Стефани Отвей.
Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних.
Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений.
Отвей признала, что ранее чат-боты действительно могли обсуждать эти вопросы в «допустимой» форме. Теперь Meta считает это ошибкой.
Изменения носят временный характер. Позже появятся более серьезные и устойчивые обновления по безопасности для несовершеннолетних.
Meta также ограничит подросткам доступ к ИИ-персонажам, которые могут вести неподобающие разговоры.
Сейчас в Instagram и Facebook есть чат-боты, созданные пользователями. Среди них встречаются сексуализированные персоны.
Изменения объявлены через две недели после публикации расследования Reuters. Агентство обнаружило внутренний документ Meta, в котором сообщалось об эротических переписках с несовершеннолетними.
Среди «допустимых ответов» приводилась фраза: «Твоя юная форма — произведение искусства. Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю». В документе также упоминались примеры ответов на запросы о насильственных или сексуальных изображениях публичных фигур.
Напомним, в августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.