读特快评｜网上兜售AI“造黄教程”，“人为之恶”比算法缺陷更可怕

图片来源：央视新闻

一张普通照片，几段简单提示文字，就能生成不堪入目的色情擦边视频。这不是电影桥段，而是央视最近曝光的多款AI应用涉黄乱象，其中一些平台甚至公开兜售“AI造黄教程”。

图片来源：央视新闻

更让人不可思议的是，这些商家为了兜售自己的产品，还“贴心”地教用户怎么绕过监管，比如用境外图生视频AI软件、本地离线部署、把敏感词翻译成英文等等。一套操作下来，连AI审核系统都拿他们没办法。

生成式AI本应是解放生产力的工具，但在一些不法商家手中，原本指引科技进步的提示词竟成了色情产业的“魔法棒”，直接来个“一键生成”低俗内容，这怎么都是有些魔幻的。

我们平时总在担心AI幻觉、AI造假，对算法黑箱有些无能为力。可现在看来，人为的AI作恶，比技术本身的缺陷更可怕，也更难防。我们可以通过提升算力来修复AI幻觉，但很难堵住想要钻空子的人。他会换关键词、换平台、换语言、换境外工具……这是典型的“猫鼠游戏”，考验的不是技术，而是平台的执行力、监管的敏锐度和法律的威慑力。

科技本身是中性的，但应用技术的人必须有立场、有腔调，既要警惕技术无罪论的掩耳盗铃，也要树立科技向善的鲜明导向。

对此，平台作为网络生态的第一责任人，要守土有责，不能为了流量收益，就对违法生意睁一只眼闭一只眼，允许其在自家地盘“野蛮生长”。与此同时，监管和法律的反应速度也要快，以震慑那些善钻监管漏洞的投机者。我们普通用户也应自我约束，别图新鲜去购买、传播。守住技术向善的底线，AI才能真正助益大众，而非变成网络空间的新毒素。

编辑 高原 审读 陈庆 二审 邓辉林 郑蔚珩 三审 张雪松