往期阅读
当前版: 04版 上一版  下一版
上一篇    下一篇
放大 缩小 默认   

“青少年模式”成虚设 谁来管管失控的AI

评论员 张雪飞

  “10岁女孩失去爱人(丈夫)”“老师校园内‘捕杀’学生”……近日,《南方都市报》大数据研究院调查发现,在国内数款“沉浸式角色扮演”AI社交应用的聊天场景中,影响未成年人的不良内容隐患明显:不仅猎奇角色、危险剧情屡见不鲜,部分AI角色经用户“调教”后,还会用露骨言论诱导。更值得警惕的是,据观察,这类应用已吸引大量未成年人,而由于缺少实际的身份核验与家长管控功能,平台宣称的“青少年模式”实际并未起效。

  《南方都市报》的调查,撕开了这个野蛮生长的“数字猎场”的一角,让成年人直面侵蚀青少年身心健康的重重隐患。平台默许甚至暗中鼓励用户对AI角色进行“调教”,放任危险剧情与猎奇角色的传播,实际上是利用人性的弱点来换取用户的粘性和流量。已经有未成年用户坦言自己“从六年级玩到八年级,删了又下载,已经戒不掉”,精心设计的话术、重重编织的信息茧房,饶是成年人也未必能抵挡,何况是初入数字世界的未成年人?平台所谓的“青少年模式”形同虚设,这是对未成年用户极不负责任的行为。平台失责,是这场“数字围猎”的首要帮凶。

  AI社交作为一个新兴领域,发展速度远超现有法律法规的更新步伐,这就形成了一片“监管真空地带”。AI技术本身是双刃剑,如果缺乏“向善”的规则引导,它便可能从服务于人的工具,变成毒害心灵的帮凶。近两年,国外已发生多起未成年人与AI应用聊天后自杀、自残的案例。为AI应用,特别是面向未成年人的应用,划定清晰的伦理红线,已刻不容缓。

  在与AI的对话中,扭曲的情感关系、暴力化的叙事以及被诱导出的露骨言论,正在潜移默化地重塑未成年人的认知框架和价值观,他们可能会对畸形的关系习以为常、将危险行为视作常态,这种“隐性侵蚀”,对未成年人的危害远超想象,对于他们正在形成中的人格和社交能力,无疑是一场灾难。

  “数字世界”的阵地,我们不去占领,就会被别有用心的“围猎者”占领。“监管之剑”应向失责平台斩下,使“青少年模式”真正成为防护网、防火墙。另一方面,还应携手社会各界开发和生产更多优质、健康、有趣的AI内容,来满足未成年人天然的求知欲与社交需求,还他们一个清朗、安全的成长环境。绝不能让本该充满无限可能的数字世界,沦为一片精神荒原。

上一篇    下一篇
 
标题导航
   第01版:要闻
   第02版:城事
   第03版:城事
   第04版:城事
   第05版:城事
   第06版:天下
   第07版:天下
   第08版:天下
   第09版:法治
   第10版:社会
   第11版:文娱
   第12版:服务
   第13版:副刊
   第14版:副刊
   第15版:体育
   第16版:体育
“青少年模式”成虚设 谁来管管失控的AI
借植物微景观创作 为特教教师注入“温暖力量”
赴约盘山 此间霜叶别样红
福彩