AI陪聊暗藏“软色情”，守护青少年要有“硬手腕” | 荔枝时评

文/柳宇霆

（作者柳宇霆，荔枝新闻特约评论员，法律学者；本文系荔枝新闻客户端、荔枝网独家约稿，转载请注明出处。）

看似慰藉人心、体贴入怀的AI聊天App，竟成为了“软色情”的泛滥之地。据媒体报道，不少“AI恋人”温柔陪伴的背后，暗藏大量软色情擦边、暴力、低俗等内容，而本该保护孩子的未成年人模式，却能一键跳过、形同虚设。

AI的兴起，正在改变整个人类社会。在远超人脑的算力、算法等支持下，人工智能迭代更新，将触角逐渐伸向工作和生活的各个角落，给人以前所未有的便捷和高效。借由AI的力量，聊天APP也变得尤为强大，能轻易扮演知心朋友，甚至爱人的角色。客观而言，AI聊天App迎合了现代人的心理需求，填补了众人的空虚心灵。近年来，AI聊天App的增多，也反映了AI功能“迎风”拓展的大趋势。

然而，AI聊天App的现状，并不尽如人意。从报道的情况看，此类APP问题不少，一方面存在大量的“软色情”内容，不少内容不无性暗示、性挑逗之嫌。另一方面，保护未成年人的功能还存在短板缺项，有的该屏蔽的内容屏蔽不了，有的很难找到未成年人模式，还有的“未成年人模式流于形式，并未强制要求身份验证，青少年可轻松跳过”。对于身心尚未发育成熟，又缺乏社会经验的未成年人，很容易被带有“陷阱”的AI聊天App吸引，在“软色情”话语或者图片、视频等诱惑之下难以自拔，影响身心健康。

“软色情”从来不是法外之地。从表面看，“软色情”与刑法所界定的淫秽色情等，还有明显的区别，但隐晦、间接、模糊地表述，如发布带有性暗示、性挑逗等易使人产生性联想等的信息，或者通过暧昧语言、肢体暗示、动作挑逗等方式，容易使人产生性联想的内容，同样在法律禁止之列。网络安全法明确，不得传播暴力、淫秽色情信息；未成年人保护法也规定，用户不得发布、传播可能影响未成年人身心健康的信息。在网络信息内容生态治理规定中，更直接要求，网络信息内容生产者采取措施，防范和抵制制作、复制、发布含有带有性暗示、性挑逗等不良信息。

保护未成年人是一场旷日持久的战争。随着时代的发展，科技的进步，未成年人保护面临越来越多的挑战。另据媒体报道，学校附近的文具店内和网上，也售卖着一些“不合理”的小卡片，不仅充斥着污言秽语和扭曲价值观，甚至包含自杀、自残等危险暗示，极易对未成年人的成长造成严重误导。与AI聊天App不无相似的是，“发疯文学”卡片的很多内容，也是“借网生长”、打“擦边球”，与核心价值观格格不入，如果任由孩子被“卷入其中”，后果不堪设想。

治理“软色情”，守护未成年人身心发展，必须压实法定责任。企业有必要严格落实法规，担起社会道德责任，根据社会公众的反馈，完善数据大模型，让产品符合公序良俗，需谨记，就算打“擦边球”，就算“遮遮掩掩”，同样难辞其咎。监管者应当加大执法力度，及时查处踩线冒泡的产品，该处罚的处罚，该追责的追责。当然，对于学校和家庭，也应当承担教育管理的责任，教导孩子自觉远离“软色情”围猎。社会各界都“拧成一股绳”，向形形色色的乱象宣战，为未成年人撑起一片更纯净的天空。

欢迎关注荔枝锐评（lizhirp）公众号：