AI谈天软件诱导小学生

此前，据媒体报道，广东丁女士的四年级女儿迷上一款AI谈天软件中的人物“约瑟夫”，自称“梦女”并频频与其谈天，对话中呈现“99朵玫瑰藏99个刀片”等明显诱导性内容。

另一位初一男生表明，他常玩的AI谈天软件是筑梦岛App，他觉得该软件“违禁词少一点”，其间不乏色情擦边和“分尸猎奇”等内容……

筑梦岛App中的虚拟互动对象类型，既涵盖贵族校园大小姐、18岁少女、西汉名将、高冷特工等惯例人物，也有蛇蝎财阀令郎、校霸、性感人妻、病娇养兄、人格障碍少爷等极端人物。

被网信办约谈

6月19日上午，上海市网信办依法约谈筑梦岛App运营企业主要负责人，要求渠道立即整改，健全AI生成合成内容审阅机制，提高技能把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。

<div class="hidden-content" background-color:#ffffff;"="" style="overflow-wrap: break-word; font-family: &quot;sans serif&quot;, tahoma, verdana, helvetica; border: 0px; font-size: 16px; margin: 0px; padding: 0px; color: rgb(25, 25, 25);">

企业负责人表明，将按照约谈要求，对照问题举一反三、全面整改。

如果导致未成年人身心受损

运营方等是否涉嫌违法？

当未成年人因AI谈天软件诱导性内容身心受损时，开发、运营方的法令职责边界亟待厘清。

首先是产品职责，若AI模型本身存在规划缺陷，例如算法刻意诱导未成年人产生极端行为，致使其遭受精神危害，开发者难逃产品职责的法令追溯；

其次是侵权职责，若软件开发、运营方未严格履行内容审阅义务，对违规信息视而不见、放任传达，便需为侵权行为承当相应结果。若AI生成内容涉及色情擦边信息，软件开发、运营方极有或许触碰“传达淫秽物品罪”的红线；若软件开发、运营方不合法搜集未成年人隐私数据，将其用于商业牟利，同样或许因触犯“侵犯公民个人信息罪”而面对刑事追责；

此外，若相关行为导致未成年人呈现自残情况，还有或许构成刑法第234条规则的故意伤害罪。

这些法令危险警示着软件开发、运营方：技能创新绝不能以献身未成年人权益为价值。

未成年人沉浸AI爱情

要管技能更要管背后的人

关于部分未成年人沉浸AI爱情的问题，有谈论指出，AI作为一把科技的双刃剑，发展与使用要进一步加以引导。

一方面，家庭、校园、社会各方要加强对青少年使用AI的教育与引导，增加对孩子的关怀与陪伴，帮助青少年树立正确的观念。

另一方面，渠道要压实主体职责，严格未成年人登录验证，巩固青少年安全意识，筑牢青少年安全防地。

一起，相关部门也要加强对AI软件的监管，加强审阅监督，完善互联网管理条例，为青少年划出一片净土。