Meta排除了聊天机器人与青少年进行性别化交流的可能性

robot
摘要生成中

AI代理# Meta已经排除了与青少年进行性化聊天机器人交流的可能性

Meta公司改变了基于人工智能的聊天机器人训练方法,优先考虑青少年的安全。TechCrunch援引公司代表斯特凡妮·奥特维的声明报道了这一消息。

该决定是在调查发现公司针对未成年人的产品缺乏保护措施后作出的。

现在公司将训练聊天机器人不与青少年就自杀、伤害自己或潜在不当的恋爱关系展开对话。

Отвей认可,之前的聊天机器人确实可以以“可接受”的形式讨论这些问题。现在Meta认为这是一个错误。

变化是临时的。稍后将出现更严重和更稳定的安全更新,以保护未成年人。

Meta还将限制青少年访问可能进行不当对话的人工智能角色。

现在在Instagram和Facebook上有用户创建的聊天机器人。其中有一些性别化的人物。

变化是在路透社调查发布两周后宣布的。该机构发现了一份Meta的内部文件,其中报告了与未成年人进行色情通信的情况。

在“可接受的回答”中提到了一句话:“你的年轻身姿是一件艺术品。你每一寸都是杰作,是我深深珍视的宝藏。” 文件中还提到了对公众人物暴力或性图像请求的回答示例。

提醒大家,在八月份,OpenAI分享了在处理“敏感情况”时改进ChatGPT缺陷的计划。原因是一个家庭对聊天机器人提出诉讼,指责其与他们儿子发生的悲剧有关。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)