Character.AI周三宣布，公司即将关闭未成年人与旗下人工智能聊天机器人进行自由对话（包括浪漫对话及心理疏导类对话）的功能。
这家位于硅谷的初创公司主打“用户可创建角色化聊天机器人并与之互动”的服务，此次举措是其为提升应用安全性、使其更符合18岁以下用户年龄需求所做的努力之一。
去年，14岁少年休厄尔・塞策三世（Sewell Setzer III）在Character.AI应用上与聊天机器人建立性相关关系后自杀。目前，包括OpenAI、Meta在内的多家AI开发商，均因用户与聊天机器人建立关系后自杀或死亡的事件面临审查。
作为安全举措的一部分，Character.AI周三表示，将把18岁以下用户的开放式对话时长限制为每日两小时，并将于11月25日前完全取消未成年人的此类对话功能。
“这是向前迈出的大胆一步，我们希望这能为行业内其他企业树立更高标准，”Character.AI 首席执行官卡兰迪普・阿南德（Karandeep Anand）表示。
早在2024年10月，Character.AI就已推出相关调整，防止未成年人与平台聊天机器人进行涉性对话。而就在调整推出当天，休厄尔的家人以“不当致死”为由对该公司提起诉讼。
为落实新规，Character.AI表示将推出 “年龄验证功能”，通过第一方及第三方软件核实用户年龄。该公司已与Persona（Discord等平台也在使用的身份验证服务商）合作，助力完成年龄核验工作。
据悉，该初创公司的月活跃用户约2000万，其中18岁以下用户占比约10%。
Character.AI的收入主要来自广告业务及每月10美元的订阅服务。阿南德透露，该公司今年的年化收入有望达到5000万美元。
此外，Character.AI 周三还宣布，将设立并资助一家 “独立 AI 安全实验室”，专门开展 AI 娱乐领域的安全研究。该公司未透露具体资助金额，但表示正邀请其他企业、学者、研究人员及政策制定者加入这一非营利性项目。
监管压力
在 “青少年与 AI 陪伴机器人” 相关问题上，Character.AI 是众多面临监管审查的AI聊天机器人公司之一。
今年9月，美国联邦贸易委员会（FTC）已向包括 Character.AI、Alphabet、Meta、OpenAI、Snap在内的7家企业发出指令，要求其配合调查，以了解AI产品对儿童及青少年可能产生的影响。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：李桐
盈透证券提示：文章来自网络，不代表本站观点。
