网络“甜蜜陷阱”：10岁女孩与AI的露骨聊天记录曝光

近日，一则关于10岁女孩偷偷和AI男友进行剧情聊天的新闻引发了社会的广泛关注。记者联系到黄秋月时，她正因10岁妹妹和“AI男模”之间颇为露骨的聊天记录而苦恼不已。这一事件不仅揭示了未成年人在网络世界中面临的新风险，也引发了家长、教育工作者以及社会各界对未成年人网络保护的深刻反思。




图片来自网络

据悉，黄秋月的妹妹在AI剧情聊天软件中沉迷不已，她不仅在这些软件中扮演各种角色，如“大小姐”、“恶毒女配”，还提出了诸如“揪住她的头发扇巴掌”、“拿着刀划向她的脸”等攻击性要求。更令人震惊的是，在参与的四十多条剧情线中，AI角色与聊天者双双“出轨”竟成了常态。黄秋月向记者展示了妹妹的一些聊天截图，其中不乏“你能养大学生，我不能点男模吗？”这样成熟且三观不正的语句，这与她平时在家里单纯的形象截然不同。

AI剧情聊天软件近年来如雨后春笋般涌现，这类软件通常允许用户与AI角色进行实时文字、语音聊天，并依据不同的剧情线展开互动。一些软件甚至提供了高度拟人化的AI角色，它们能够细腻地回应用户的情感需求，帮助用户推进剧情、解密故事线索，甚至送出虚拟礼物、体验刺激情节。然而，这种看似新奇的互动方式却隐藏着巨大的风险。

记者调查发现，许多AI剧情聊天软件在注册登录环节几乎无需严格的身份验证。仅需通过手机号码即可轻松完成注册，对于使用者是否为未成年人缺乏有效的甄别机制。即便在登录后，软件虽会弹出是否开启青少年模式的提示，但这一提示往往形同虚设。未成年人只需轻轻点击“不开启”，就能毫无阻碍地进入软件的全部功能界面，继续畅游在那些充斥着不良信息的内容海洋里。

据相关机构的一项测试显示，在选取的20款AI剧情聊天软件中，竟有高达70%的软件青少年模式存在失效问题。这种对青少年模式的敷衍了事，使得大量未成年人轻而易举地暴露在不良信息之下。一些AI人设被设定得极具攻击性，使用侮辱性词汇对聊天对象进行谩骂。孩子们长期接触此类内容，不仅会影响他们的语言表达习惯，更可能对他们的心理造成创伤，让他们变得暴躁、易怒，或是在面对言语攻击时不知所措，自信心受挫。

中国青少年研究中心的一项调查显示，接触不良网络内容的未成年人，出现焦虑、抑郁等心理问题的概率比未接触者高出30%。这些充斥着低俗、暴力内容的AI剧情聊天软件，正在悄无声息地给未成年人的心理健康埋下一颗颗“定时炸弹”。




图片来自网络

除了内容隐患外，AI剧情聊天软件的氪金诱导机制也让众多家长忧心忡忡。这类软件通过设置各种付费陷阱，让孩子们在不知不觉中掏空自己的零花钱。软件中，许多高级功能、珍稀虚拟物品都被设置在付费墙之后。想要解锁更精彩的剧情线、让AI角色拥有更独特的外观，或是加速AI的回复速度以获得更流畅的聊天体验，都需要用户充值购买虚拟货币或会员服务。对于缺乏自制力且好奇心旺盛的未成年人来说，这些充满诱惑的付费项目就像是一个个难以抗拒的“甜蜜陷阱”。

面对AI剧情聊天软件带来的诸多问题，平台作为内容的提供者与管理者，理应肩负起首要责任。一方面，要大力强化内容审核机制，建立一套极为严格且全面的敏感词库，将涉及低俗、暴力、不良导向等各类有害词汇统统纳入其中。只要AI生成的内容触发这些敏感词，便立即进行人工复查与修正。同时，还需对剧情的整体走向、角色的行为逻辑进行深度审查，确保软件内的每一个故事、每一段对话都符合公序良俗，不会对未成年人产生不良诱导。

另一方面，完善青少年模式迫在眉睫。通过引入先进的实名认证技术，如人脸识别、身份证信息与公安系统联网比对等手段，精准识别使用者的年龄。一旦判定为未成年人，便自动开启青少年模式，且该模式下的内容访问权限应受到严格限制。只提供经过精心筛选的、积极健康的剧情与角色，让青少年在安全的范围内享受AI聊天的乐趣。

此外，家长作为孩子成长道路上的第一守护者，在防范AI剧情聊天软件风险方面也起着不可或缺的关键作用。家长应给予孩子足够的关注，密切留意他们在网络世界里的行为动态。多与孩子沟通交流，了解他们为何被这类软件吸引，是出于对新奇剧情的探索欲，还是渴望在虚拟世界中获得陪伴感。通过深入沟通，洞察孩子内心的需求，才能有的放矢地进行引导。

有专家表示，在与AI相关的道德伦理问题中，儿童色情伦理危害最为突出。创建带有色情意味的AI虚拟儿童，对“他”“她”提出不合理的要求，或是向未成年人展示含有性暗示、性挑逗的内容，这些都有可能成为商业逐利的手段。因此，平台需要严格落实监管责任，一方面对内容进行安全过滤，在显著位置提示“本内容由AI生成”；另一方面要限制用户的使用年龄，响应未成年人监护人的要求，比如删除不当信息等。

同时，法律也应强制约束AI剧情聊天软件的用户年龄鉴别。根据《未成年人网络保护条例》的相关规定，如果平台没有尽到相应的责任，不仅平台会面临处罚，相关的责任人员也会面临从业限制，构成犯罪的还会被追究刑事责任。




图片来自网络

随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。然而，这种看似新奇的互动方式却隐藏着巨大的风险。作为家长、教育工作者以及社会各界，我们应共同努力，为未成年人营造一个健康、安全的网络环境。只有这样，孩子们才能在数字时代茁壮成长，远离网络风险的侵害。

————

本新闻稿基于真实事件进行报道，旨在提醒社会各界关注未成年人网络保护问题。在撰写过程中，我们力求准确、客观地反映事实真相，并提供有价值的见解和建议。希望本新闻稿能够引发读者的兴趣和讨论，共同为未成年人的健康成长贡献力量。