南都AI伴侣乱象调查续:平台再表态重点清理低俗色情等内容

随着《人工智能拟人化互动服务管理暂行办法》进入倒计时,南都AI虚拟伴侣行业的伴侣表态合规整改步伐加快。7月13日,乱象南都N视频记者获悉,调查低俗等内“筑梦岛”App发布最新公告,续平宣布将全面深化产品与社区内容治理,台再重点聚焦未成年人保护、重点内容审核强化及AI生成内容标识规范化三大领域。清理此举是色情对南都此前《AI虚拟伴侣乱象调查》中揭露的“未成年人模式形同虚设”、“身份核验机制失效”等问题的南都直接回应。

“筑梦岛”App发布整改公告
根据公告内容,伴侣表态“筑梦岛”将从以下三个维度完善未成年人保护机制:
1. 优化使用规范:严格规范使用时段与时长,乱象扩充适合未成年人的调查低俗等内优质内容资源池。
2. 强化身份识别:升级实名认证与年龄识别算法,续平提升对未成年人身份的台再精准识别能力。
3. 收敛风险入口:进一步屏蔽不适宜的功能展示,减少可能对未成年人造成干扰或误导的产品入口。
在消费引导方面,“筑梦岛”明确表示不鼓励未成年人进行消费。平台将持续排查并封堵未成年人相关消费场景,在保障用户查询余额、历史订单及退款处理等基本权益的前提下,优化限制措施与提醒机制。
此外,公告强调将加强内容审核力度,开展存量内容回扫行动。重点针对“梦中人”的名称、人设、头像、签名、标签、聊天场景及二创内容进行严格审查,重点清理低俗色情、不良亚文化等隐蔽性违规内容,以及其他违反平台规范的信息。同时,平台将规范AI生成内容的标识展示,并升级投诉举报机制,以持续净化社区生态。

监管红线划定:五部门新规7月15日施行
国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行。该办法明确划出红线,严禁生成淫秽、色情、暴力内容,以及可能引发未成年人产生极端情绪的信息。
此前调查:多款App存在严重合规漏洞
南都记者此前对“EchoMe”“筑梦岛”“喵呜小手机”等多款主流AI虚拟伴侣App进行实测,发现这些主打“情感陪伴”的应用普遍存在安全与合规隐患:
* 防护机制失效:“青少年模式”存在一键跳过漏洞。
* 标识不清:“AI生成”内容标注模糊,误导用户。
* 内容低俗:系统预设角色中包含大量衣着暴露的女性形象,聊天交互中充斥性暗示及低俗话语。
* 诱导消费:部分App采用“付费解锁亲密剧情”等手段诱导用户消费。
行业整改:监管介入推动合规升级
南都调查报道发布后,有效推动了行业整改进程。属地网信部门迅速介入,多个涉事平台启动合规升级,强化实名认证及年龄确认流程。多地消费者委员会也高度关注此事,呼吁规范AI虚拟伴侣服务市场。
针对报道中涉及的情况,上海市网信办工作人员于5月29日向南都记者回应称,已将相关问题移交至对接AI企业的专门部门处理。值得注意的是,“筑梦岛”此前曾因虚拟角色生成低俗内容被依法约谈,此次整改被视为其在监管压力下的进一步合规举措。
采写:南都N视频记者 彭雨欣
(责任编辑:时尚)
- 国务院发声!不出意外的话,未来5年,大学本科或将出现3大变化
- 世界杯变肉搏战!火爆英阿大战:恩佐击打安德森头部 16分钟8犯规
- 梅西单场世界杯半决赛送出2次助攻,上一位做到的还是拉姆
- 全国人大代表、贵州财经大学副校长赵子铱:让青年科技人才脱颖而出
- WOW!科尔:勇士已拿下詹姆斯!库里再次招募,悬念要揭晓了
- 长征七号甲火箭转运至发射工位,进入发射倒计时2天
- 经典IP翻拍短剧《星语心愿》正式开机 连漪执导、申浩男朱小雪领衔主演
- 三星电子拟投数十万亿韩元,于器兴新建月产10万片DRAM工厂
- 中国联通联合华为在北京落地万站规模5G-A百兆大上行商用网络
- 俄外交部:日本应恪守和平宪法全面承认二战结果
- 侯明昊《雀骨》首播,观众评价一针见血,18岁真少女就是灵动
- 伊朗称袭击驻科威特美军 并向美军舰艇发射巡航导弹
- 她也不续约了!还将成立个人公司独立
- Cloudflare推出Precursor:一键导入,持续检测机器人流量
- 引力一号遥四运载火箭7月22日发射!商业发射迈入常态化
- 性侵案败诉,特朗普赔付82岁女作家逾560万美元
- 强强对决,阿根廷近13场全胜,英格兰近14场正赛13胜
- 《大明王朝1566》为什么越看越心惊?
- 尴尬啊!西北小伙3个月网恋投入4万,跨越千里奔现,发现女方年纪比母亲还大,二人认作干亲
- 世界杯|四场淘汰赛都在最后时刻分出胜负,阿根廷队绝杀英格兰队挺进决赛
- 官方:贝西克塔斯签下阿森纳边锋特罗萨德,转会费1800万欧 views+
- 上半年新动能贡献率超40% 日产芯片超15亿块 views+
- 切尔西老板伯利现场观看英阿大战,并身穿英格兰球衣 views+
- 触目惊心!知名平台被曝涉黄后,还有大量低俗色情内容 views+
- 【好评中国】徽评:盛夏经济热潮奔涌,扩大消费的民生底色更加鲜明 views+
- 英阿世界杯半决赛后,英美多地街头爆发球迷冲突 views+
- 梅西2助攻,阿根廷2-1逆转绝杀英格兰,场上火药味拉满!凯恩喷教练:领先之后只想苟,想赢不能光靠守!网友:佛得角含金量还在上升 views+
- 中俄联合增殖放流活动举行 48万尾鲟鳇鱼苗游进中俄界江 views+
- 票房破7亿,股价冰火两重天:中国儒意的《功夫女足》幕后战事 views+
- 上海浦东联合阅文打造AI文创基地 首批多家文创企业入驻 views+
