生成式AI技术的广泛应用给人们的生活带来了便利，但也出现了一些商家利用这一技术制作涉黄视频，污染网络空间、败坏社会风气的现象。这些商家通过各种手段逃避监管，形成了一个灰色产业链。
有人公开兜售“AI生成色情擦边视频”的教程和“提示词”，声称仅凭一张图片或几句话就能生成大尺度视频。这些教程在互联网平台上公然宣扬如何让用户从无到有地制作色情擦边视频，并提供规避监管的方法，如使用境外图生视频AI软件或将程序部署在本地电脑离线运行等。
社交平台上的一些博主还售卖各类AI生成擦边视频的“提示词”。记者以低价购买了两组提示词，发现其中对发型、服饰、身材、姿势等细节进行了细致刻画，并将敏感词汇翻译成英文以规避监管。测试显示，如果输入的提示词表述较为隐晦，多数AI应用会绕过审核机制并生成内容。市场上甚至存在专门靠AI生成色情视频牟利的软件，用户只需付费即可通过一张图片生成全裸照片和色情视频。
此外，一些境外的AI聊天软件因尺度较大而受到年轻人的喜爱。这些软件不能从国内应用市场下载，但不法分子开发出灰色通道让国内用户可以使用，以此牟利。社交媒体平台和短视频平台评论区中可见用户分享推荐AI聊天软件及下载链接。知情人士透露，推销AI聊天软件的平台通过发放金币及充值返利的方式激励老用户拉新，并为用户发帖引流提供帮助，逃避监管的同时实现获利。记者体验了一款名为“Dady”的App，发现其聊天内容几乎都是围绕色情话题展开，吸引着众多年轻人沉浸其中，包括未成年人。
专家表示，境外软件可能带来病毒或其他信息安全隐患。网信办已开展专项行动，重点整治未履行大模型备案或登记程序的违规AI产品。《人工智能拟人化互动服务管理暂行办法》也进一步明确了安全评估和算法备案的相关要求，对未成年人和老年人使用拟人化互动服务作出了相关规定。
