随着生成式人工智能(AI)被应用在社交娱乐等领域,恋爱AI不受限制与无法预知的警惕互动内容引发了新问题。近日,侵蚀有10岁女孩被发现偷偷用AI聊天软件与AI生成的未成“角色”谈恋爱,甚至多次出现“擦边”对话,年人在其参与的恋爱40多条剧情线中,AI角色与聊天者双双“出轨”成为常态。警惕(据1月13日 《重庆晚报》报道)
10岁是侵蚀未成年人价值观和自我认知形塑的关键期,此阶段的未成孩子好奇心重、模仿能力强,年人但辨别是恋爱非的能力较弱。而AI聊天软件所提供的警惕虚拟“恋爱”等新奇体验,对于10岁的侵蚀孩子极具吸引力,容易让他们深陷其中。未成其成瘾性主要体现在,年人AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。心智尚未成熟、自我控制能力较弱的未成年人,极易对这种虚拟情感体验产生依赖,难以自拔。
与此同时,AI聊天基于后台数据库和用户指令运行,因社交场景的多样性、偶发性和私密性,其反馈结果易偏离社会伦理规范,产生不良内容。未成年人在错误价值观和行为模式的误导下,可能做出逾越道德和法律边界的行为,给个人和社会带来严重危害。
有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务。但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度,亟待进一步细化规则。
在商业利益的驱使下,部分AI产品为追求流量和活跃度,过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。
为扭转此局面,平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。
家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,还应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。
全社会应当齐心协力,为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。(孔德淇)
沿淮地区是我国重要粮食主产区,耕地面积约1.2亿亩,也是我国涝渍灾害频发重发、成灾面积最大地区之一,面广、频发的涝渍灾害长期困扰着粮食生产稳定性和增产潜力的提升。安徽农业大学程备久教授课题组,联合 ...
亲子共赴机械盛宴,畅享欢乐时光在德国慕尼黑bauma展,山推展区化身“游乐场”,通过充满创意的亲子互动日,为欧洲家庭打造了一场刚柔交融的独特体验,硬核科技的严谨与童真的想象力在 ...
中安在线、中安新闻客户端讯近日,由团中央有关部门、全国学联秘书处、中国青年报社共同举办的“寻访2018年度‘最美中学生’‘最美中职生’”活动结果正式揭晓,我省灵璧中学的李梦梦等28人获得2018年 ...
中安在线、中安新闻客户端讯2月21日,记者从安徽省教育工作会议上获悉,从今年春季学期起安徽将全面启动课后服务。 会上提出要求,要做好中小学课后服务工作。各地要结合当地实际,按照“省级统筹、市县负 ...
被传破产倒闭已久的造车新势力威马汽车,近日又重新出现在公众眼前。9月6日,威马汽车发布落款为翔飞汽车&新威马项目组的“致供应商白皮书”称,根据2025年4月3日法院裁定批准的重整计划,翔飞已接 ...
近日,河南金融监管局、河南省保险行业协会与多家保险企业代表一同走访宇通,共同探索更高效的风险减量路径,整合多方资源提升用户用车安全,切实发挥保险的保障作用,共同为新能源商用车行业筑牢安全屏障。与会代表 ...