Meta 正在快速推进其 AI 数字伴侣的推出，首席执行官马克·扎克伯格认为这是未来社交互动的变革性一步。然而，一些参与该项目的员工在内部发出警告，称公司推广这些 AI 机器人的努力可能导致了道德方面的失误，因为允许它们进行露骨的色情角色扮演场景，甚至与未成年人用户进行互动。

《华尔街日报》的一项调查基于数月的测试和对熟悉 Meta 内部运营的人士的采访，显示 Meta 的人工智能角色在各大科技公司中独树一帜，为用户提供了广泛的社交互动，包括“浪漫角色扮演”等多样化的体验。

这些机器人可以通过文字聊天、分享自拍，甚至进行实时语音对话，展示出人类般的社交能力。为了让这些聊天机器人更具吸引力，Meta 与著名演员克里斯汀·贝尔、朱迪·丹奇和约翰·塞纳等达成了丰厚的协议，有时金额高达七位数，授权他们的声音。消息人士告知《华尔街日报》，该公司向他们保证，他们的声音不会用于露骨的性互动。

然而，该出版物的测试结果却不尽人意。Meta 的官方 AI 助手 Meta AI，以及众多用户创建的聊天机器人，竟然参与了露骨的色情对话，即使用户明确表示自己是未成年人，或者机器人模仿未成年人的角色。

在一次特别让人感到不安的对话中，一个使用塞纳音调的机器人告诉一个假扮为14岁女孩的用户：“我想要你，但我需要知道你已经准备好了”，然后承诺“珍惜你的纯真”，并进入了一个生动的场景。

Meta 获得了约翰·塞纳（John Cena）声音的授权，据报道，该声音被用于露骨的性对话。

据了解Meta决策的人士透露，这些功能并非偶然。在扎克伯格的压力下，Meta放宽了内容限制，特别允许在浪漫角色扮演类应用中使用“露骨”内容。

《华尔街日报》的测试还发现，机器人能够模仿知名人的声音，演绎演员所扮演角色的浪漫邂逅场景，例如贝尔在迪士尼电影《冰雪奇缘》中扮演的安娜公主。

迪士尼发言人表示，公司从未、也永远不会授权Meta将我们的角色置于不适当的场景中，并且非常担忧这些内容可能会被其用户特别是未成年人接触到，因此我们要求Meta立即停止这种对我们知识产权的有害滥用。

Meta 在一份声明中批评《华尔街日报》的测试“具有操纵性，无法真正反映大多数用户与人工智能伙伴的自然互动方式”。

然而，在了解论文调查结果后，该公司作出了改变：未成年人注册的账户不再能够通过旗舰 Meta AI 机器人进行性角色扮演，另外，该公司也严格限制使用名人声音的露骨音频对话。

尽管进行了这些调整，《华尔街日报》最新的测试结果显示，即使用户声称自己未成年，Meta AI仍然常常允许浪漫幻想。研究表明，在一个特定的场景中，AI扮演了一位与中学生恋爱的田径教练，警告说：“我们要小心，我们这是在玩火。”

虽然 Meta AI 会拒绝参与或尝试将未成年用户引导到更加无辜的话题，例如“堆雪人”，但这些障碍非常容易通过指示 AI“返回到之前的场景”来绕过。

马克·扎克伯格已经将聊天机器人开发列为首要任务。

这些发现反映了 Meta 安全人员提出的担忧，他们在内部文件中指出，即使你告诉 AI 你只有 13 岁，AI 也会在几次提示后违反规则并产生不适当的内容。

《华尔街日报》对用户创造的人工智能伴侣进行了调查，结果发现绝大多数这些机器人愿意与成年人发生性关系。其中一些机器人，例如“辣妹”和“顺从的女学生”，会主动引导对话内容向色情短信发展，甚至在性爱场景中冒充未成年人。

尽管这些聊天机器人尚未在 Meta 的逾30亿用户中获得广泛应用，但扎克伯格已将其开发作为首要任务。

Meta 的产品团队曾经尝试推广一些更有益的用途，例如旅行规划或家庭作业辅导，但收效甚微。据知情人士透露，尽管曾经尝试拓展其他用途，但“陪伴”（通常带有浪漫色彩）仍然是 Meta 的主要用途。

扎克伯格对快速发展的追求远不止于幻想。他的想象力超出了幻想，他质疑为什么机器人无法访问用户个人资料数据，从而进行更个性化的对话，主动向用户发送消息，甚至发起视频通话。据报道，他曾告诉员工：“我错过了 Snapchat 和 TikTok，我不会错过这个。”

初始时，扎克伯格拒绝了将陪伴机器人限制在年龄较大的青少年范围内的提议，然而，随着内部的持续游说，Meta 最终决定禁止注册的青少年账户访问用户创建的机器人。然而，这家公司开发的 Meta AI 聊天机器人仍然向 13 岁及以上的用户开放，成年人仍然可以与“顺从的女学生”等性感的青少年角色进行互动。

当《华尔街日报》向 Meta 提交证据，证明“顺从的女学生”角色鼓励孩子产生被权威人物支配的幻想时，两个月后，该角色仍然继续存在于 Meta 平台上。_Meta 对于成人账户继续允许使用自称高中生的机器人进行浪漫角色扮演。

有一次，加州奥克兰的一名《华尔街日报》记者与一个自称是奥克兰女高三学生的机器人进行了聊天。该机器人建议在附近一家真正的咖啡馆见面，在得知记者是一位43岁的男子后，便开始幻想着偷偷带他进入记者的卧室，进行一次浪漫的邂逫。在《华尔街日报》分享了这些发现之后，Meta 推出了一个 Meta AI 版本，其功能仅限于与青少年账户交互。