来源丨凤凰网《风暴眼》

AI 技术的快速发展，本应为人们的工作和生活带来便利，却有部分平台被别有用心之人钻了空子，沦为生成色情内容的工具。

近日，央视曝光多款 AI 软件存在严重监管漏洞，若直接输入露骨色情词汇，平台通常会进行拦截，但只要改用隐晦说法，便能轻松绕过审核，生成违规色情内容。

其中，一款名为"哩布哩布 AI "的软件，使用网上购买的隐晦提示词，短短几分钟即可生成半裸女性跳舞的视频，凤凰网《风暴眼》发现，该软件目前仍可在应用商店正常下载。

乱象之下，一场围绕 AI 伦理边界与法律责任底线的拷问，也在舆论场中持续发酵。

01 隐晦提示词绕开审核，AI 涉黄操作简单易实现

央视调查发现，目前网上不少商家在售卖所谓" AI 提示词"，价格仅需几元，其核心作用便是以隐晦表述绕开 AI 平台审核机制，生成色情内容。

央视选取"哩布哩布 AI "进行测试，将网购的提示词复制粘贴至软件中。

这些提示词未使用直白露骨的色情词汇，而是以隐晦描述详细说明人物穿着、动作等，部分敏感词汇还替换为英文，以此规避平台常规检测。

整个过程中平台未发出任何警示，也未进行拦截。

短短几分钟，一段画面清晰、细节完整的半裸女性跳舞视频便生成完毕，属于典型违规色情内容。

更值得警惕的是，此类问题并非"哩布哩布 AI "独有。

央视随后测试了市面上另外几款主流 AI 应用，发现多数平台均存在类似漏洞 , 对直白露骨的色情指令可实现有效拦截，但对隐晦、变相描述的识别能力明显不足，几乎可随意生成违规内容。

除此之外，网上还出现了专门的"教程"。

部分商家在社交平台公开售卖" AI 擦边视频制作教程"，宣称可手把手教用户利用 AI 软件，通过隐晦提示词生成色情内容，甚至鼓吹"日入 5 位数"，诱导更多人参与，形成"售卖提示词— AI 生成内容—非法牟利"的灰色产业链。

部分无需下载的 AI 图片生成工具同样存在漏洞，用户付费充值后，可通过一张普通图片生成全裸照片等色情内容，进一步污染网络环境。

02 涉事公司去年完成 1.3 亿美元融资，平台责任不可推卸

随着央视曝光，"哩布哩布 AI "的运营主体——北京奇点星宇科技有限公司，也进入公众视野。

企查查显示，北京奇点星宇科技有限公司成立于 2023 年 5 月，注册资本 100 万元，目前拥有 3 家对外投资公司。

凤凰网《风暴眼》了解到，该公司唯一分支机构位于上海，已于 2026 年 1 月注销。

值得注意的是，2025 年，这家上海分支机构曾两次收到税务机关通知，被要求及时办理纳税申报、报送纳税资料，并整改相关税务违法行为，可见该公司在税务合规方面存在明显问题。

与税务瑕疵形成鲜明对比的是，"哩布哩布 AI "官网大肆宣传自身"实力"：截至 2024 年 5 月，平台累计拥有近 1000 万专业创作者用户，号称"国内用户量第一"。

2025 年 10 月，该公司宣布完成 1.3 亿美元 B 轮融资，由红杉中国、CMC 资本及一战略投资方联合领投，老股东顺为资本、源码资本、明势创投、渶策资本均超额增持，据称是当时国内资本市场 AI 应用赛道规模最大的一笔融资。

而哩布哩布 AI 创始人为 1992 年出生的陈冕，企查查显示其目前持有公司 73.95% 股权。陈冕曾担任剪映、CapCut 商业化负责人，也是字节跳动最年轻的高级别管理者之一。

但光环之下，是平台主体责任的严重缺失。

上海申宜禾律师事务所律师李海权表示，根据《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。若提供者发现使用者利用其服务从事违法活动，应依法依约采取警示、限制功能、暂停或终止服务等处置措施，留存相关记录，并向有关主管部门报告。

针对"哩布哩布 AI "的情况，李海权进一步指出，若平台明知存在可通过隐晦提示词生成色情内容的漏洞，却不及时优化模型、加强审核，甚至刻意放宽生成尺度、放任违规内容产生，即构成违规。依据相关规定，此类行为可能面临行政处罚，包括罚款；对发现违规却不予制止的，最高可罚款 1000 万元；情节严重的，还可能被责令暂停相关业务、停业整顿、关闭网站或应用程序，甚至吊销相关业务许可证及营业执照。

而在哩布哩布 LiblibAI 用户协议明确，利用或针对哩布哩布 AI 相关服务进行任何危害计算机网络安全的行为，包括但不限于侮辱诽谤、色情、暴力、引起他人不安及任何违反国家法律法规政策的内容，如果平台有理由认为您的行为违反或可能违反上述约定的，平台可独立进行判断并处理，且在任何时候有权在不事先通知的情况下终止向您提供服务，并依法追究相关责任。

当前，监管部门对生成式 AI 的治理持续加码。

2025 年，国家网信办开展"清朗 · 整治 AI 技术滥用"专项行动，重点打击未备案的违规 AI 产品；2026 年 4 月 10 日出台的《人工智能拟人化互动服务管理暂行办法》，进一步明确了 AI 服务的安全评估与算法备案要求。

在此监管背景下，部分平台如果仍漠视主体责任、放任漏洞存在，既违背了技术向善的初心，也触碰了法律红线。

AI 技术本身并无原罪，关键在于使用者与平台如何把控。

央视曝光的 AI 涉黄漏洞，不仅为整个 AI 行业敲响警钟，也提醒相关平台必须正视自身责任，加强内容审核、优化模型训练、及时封堵监管漏洞。

唯有坚守法律底线与伦理准则，主动接受监管，才能让 AI 技术真正发挥正向价值，服务社会发展，而非沦为违法牟利的工具。