(来源:财闻)
《人工智能拟人化互动服务管理暂行办法》将于7月15日施行。新规落地前夕,豆包、千问相继宣布下线智能体功能,腾讯元宝、网易云音乐旗下AI陪伴产品也同步调整业务。
日前,字节跳动旗下豆包发布公告,称由于产品功能调整,智能体功能将于7月15日下线,用户可在一段时间内查看并自行保存相关数据,10月15日后平台将依隐私政策处理这些数据,届时将无法恢复。通知同时说明,字节跳动旗下“猫箱App”可继续提供智能体服务。
同日,阿里巴巴旗下千问也发布提醒,称智能体功能与服务将于7月15日正式下线,下线后用户无法再访问相关配置及历史对话。
豆包智能体功能下线通知 图源:豆包App截图
豆包智能体功能下线通知 图源:豆包App截图
腾讯元宝的智能体功能已于6月30日下线。网易云音乐(09899.HK)旗下AI情感陪伴App“妙时”也发布了7月14日停运的公告。
大厂同时下线智能体的背后,是即将落地的监管新规。
4月10日,网信办官网发布《人工智能拟人化互动服务管理暂行办法》。该规定由国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合发布,并于2026年7月15日起施行。
据悉,该规定旨在“促进⼈⼯智能拟⼈化互动服务健康发展和规范应⽤,维护国家安全和社会公共利益,保护公⺠、法⼈和其他组织的合法权益”。
新规主要适用于“利⽤⼈⼯智能技术,向中华⼈⺠共和国境内公众提供模拟⾃然⼈⼈格特征、思维模式和沟通⻛格的持续性的情感互动服务(以下简称拟⼈化互动服务)”,这类情感服务包括“通过⽂字、图⽚、⾳频、视频等形式,提供的情感照护、陪伴、⽀持等互动服务”。《办法》明确,不涉及持续情感互动的智能客服、办公助手、学习教育等产品,不适用该规定。
近年来,AI智能体带来的伦理问题和社会问题越来越显著。
2023年4月,MiniMax的首个AI陪伴产品Glow因色情内容被举报下架,据MiniMax产品经理在《智能涌现》采访中透露:“80%的人会在Glow里面和创建的AI智能体擦边、搞黄色”。
2024年5月,AI陪伴产品XHer被央视点名“露骨擦边”。十天后,腾讯就宣布在国内下架QQ音乐开发的AI社交APP未伴。
2025年6月19日,主打虚拟AI角色聊天互动服务的筑梦岛因生成低俗擦边内容,危害未成年人身心健康,被上海市网信办约谈。
三个月后,“AI服务涉黄第一案”在上海审理,上海市徐汇区人民法院作出一审判决,认定 AlienChat 两名主要运营者构成“制作淫秽物品牟利罪”,分别判处有期徒刑四年和一年半,罚金四百万元和二十万元。
上海市委网信办今年6月26日消息显示,“清朗·整治AI应用乱象”专项行动已下架违规智能体1.4万余个。
过去几年,AI拟人化互动相关产品存在生产传播色情内容、造成情感诈骗、危害未成年人身心健康等问题,规范其发展刻不容缓。但也有部分网友认为,当下各个年龄段群体情感陪伴的需求巨大,AI情感智能体仍有其存在价值。
目前留下的最大悬念,是新规执行的边界究竟如何划定。豆包、千问、元宝旗下既有情感互动类智能体,也有工具类智能体,后续是否会重新上架工具类智能体,截至发稿日,财闻向豆包、千问、元宝核实,暂未得到回复。