检察日报:兜售AI“造黄”教程已触法律红线
开心田螺
2026-04-20 19:23:44

  9.9元就能轻松购得“利用AI技术制作色情擦边视频”教程;发布售卖AI生成擦边视频“提示词”,称只需复制到AI软件即可获得擦边视频;开发灰色通道,供用户下载境外大尺度涉黄AI聊天软件……目前,部分不法商家、网络博主公开售卖各类“秘籍”,以传授人工智能生成色情内容的方法非法牟利,已形成一条产业链(据央视《财经调查》4月12日报道)。

  几张普通照片、几句简单指令,再花几块钱买个所谓“教程”,就能批量生成低俗色情内容,甚至靠传播牟利。AI“造黄”门槛低、传播快,让违法成本变得更低,危害无须多言。

  事实上,监管红线早已划定。根据2023年8月起施行的《生成式人工智能服务管理暂行办法》和2025年11月正式实施的《网络安全技术生成式人工智能服务安全基本要求》,提供和使用生成式人工智能服务,不得生成暴力、淫秽色情等内容,还要对明显诱导生成违法不良信息的问题拒绝回答。这不仅为服务提供者和使用者设定了基本准则,也说明兜售人工智能“造黄”教程,帮助使用者“造黄”同样违反监管要求。

  进一步讲,部分不法分子挖空心思教人“钻空子”,精心设计隐晦提示词、将敏感词翻译为英文、教唆使用境外软件或本地离线部署,从而规避限制机制,此类行为虽未直接提供“造黄”软件,亦未直接生成色情淫秽信息牟利,却能够为AI“造黄”相关违法违规行为提供关键帮助,其社会危害性也不可小觑。

  此前,中央网信办部署开展的“清朗·整治AI技术滥用”专项行动,曾明确将传授、售卖违规AI产品教程和商品等作为重点打击对象。这也传递出一个信号:为利用AI技术实施不法活动提供引导和帮助的行为,已经引发监管部门高度关注,且被纳入重点惩治范围。

  值得欣慰的是,约束AI滥用的“笼子”也在越扎越紧。将于今年7月15日施行的《人工智能拟人化互动服务管理暂行办法》明确规定,提供拟人化互动服务时,不得传播淫秽、色情、暴力等内容,进一步明确了安全评估和算法备案的相关要求,还对未成年人和老年人使用拟人化互动服务作出了相关规定。可见,随着一系列监管政策的出台与落地,打击传授AI“造黄”行为、斩断相关产业链的依据愈发坚实。

  AI“造黄”看似是新技术带来的新问题,实际上是老套路披上了新马甲。解决的方法依然是拿起法律利器,严格监管、持续整治。

  “造黄”教程可以公开兜售、“提示词”真能获得擦边视频,这也说明,安全拦截依然是整治AI“造黄”的重中之重。AI服务提供者理应把好“第一道关”,严格落实训练数据管理与过滤职责,筑牢防范AI“造黄”的前置防线。监管部门也要紧跟AI“造黄”产业链演变特点,及时调整细化监管措施,督促平台清理兜售AI“造黄”教程的信息,封堵境外涉黄AI软件流入的灰色通道,让监管真正做到常态化、不松懈。

相关内容

热门资讯

中国白银APP虚拟盘交易骗局,...   中国白银APP商城订购存在虚拟盘交易,并非是实盘在交易!平台修改参数,指数走势完全不对,其中包含...
起点订购交易平台非法期货,贵金...   在起点订购APP做交易的受害者很多,投诉无门!还有很多投资者根本不知道自己遭遇了一场骗局!现在互...
全新易购APP欺骗消费者,利用...   不要“充值送现”、“首单免赔”等广告给迷惑,这些宣传标语只是一个宣传语,诱导普通大众去参与投资,...
大吉订购、兴鑫淘金APP现货订...   大吉订购APP投资人亏损的资金能追回?该平台是否有期货经营资质?为什么一个现货订购平台能做高杠杆...
天龙白银APP订购白银亏损骗局...   白银贵金属投资,除了正规的期货交易公司,其他外面的这些交易软件都是骗人的!根本没有任何一家公司是...