随着生成式人工智能(AI)被应用在社交娱乐等领域,恋爱AI不受限制与无法预知的警惕互动内容引发了新问题。近日,侵蚀有10岁女孩被发现偷偷用AI聊天软件与AI生成的未成“角色”谈恋爱,甚至多次出现“擦边”对话,年人在其参与的恋爱40多条剧情线中,AI角色与聊天者双双“出轨”成为常态。警惕(据1月13日 《重庆晚报》报道)
10岁是侵蚀未成年人价值观和自我认知形塑的关键期,此阶段的未成孩子好奇心重、模仿能力强,年人但辨别是恋爱非的能力较弱。而AI聊天软件所提供的警惕虚拟“恋爱”等新奇体验,对于10岁的侵蚀孩子极具吸引力,容易让他们深陷其中。未成其成瘾性主要体现在,年人AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。心智尚未成熟、自我控制能力较弱的未成年人,极易对这种虚拟情感体验产生依赖,难以自拔。
与此同时,AI聊天基于后台数据库和用户指令运行,因社交场景的多样性、偶发性和私密性,其反馈结果易偏离社会伦理规范,产生不良内容。未成年人在错误价值观和行为模式的误导下,可能做出逾越道德和法律边界的行为,给个人和社会带来严重危害。
有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务。但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度,亟待进一步细化规则。
在商业利益的驱使下,部分AI产品为追求流量和活跃度,过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。
为扭转此局面,平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。
家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,还应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。
全社会应当齐心协力,为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。(孔德淇)
9月19日,以“数链未来 智塑新界”为主题的不动产数智化转型白皮书发布暨产业发展沙龙于北京清华大学召开。本次活动由清华大学土木水利学院、清华校友总会城乡建设专委会主办,清华大学恒隆房地产研究中心、龙湖 ...
中国消费者报西安讯记者徐文智)食品安全“守底线、查隐患、保安全”专项行动和解决食品药品领域群众反映强烈突出问题专项整治行动开展以来,陕西省咸阳市市场监管局着力下好“四步棋”,切实保障人民群众“舌尖上的 ...
中国消费者报福州讯记者张文章)2022年9月6日,以“共创食安新发展,共享美好新生活”为主题的2022年福建省三明市食品安全宣传周现场宣传咨询活动在福建省三明市工人文化宫广场举办。此次活动由三明市食安 ...
中安在线、中安新闻客户端讯2月21日,记者从安徽省教育工作会议上获悉,从今年春季学期起安徽将全面启动课后服务。 会上提出要求,要做好中小学课后服务工作。各地要结合当地实际,按照“省级统筹、市县负 ...
近日,北京市石景山区市场监管局开展中秋节前鲜活水产品专项检查,执法人员对全区现货水产市场进行全面摸底排查,严查违法经营行为,防止不符合食品安全标准的水产品进入市场销售。中国消费者报记者董芳忠摄影报道责 ...
@2024届高校毕业生,请查收毕业季档案“攻略”!_南方+_南方plus又到一年毕业季,无论是就业、创业,还是升学、留学,即将离开校园的你,可得重视自己的个人档案哦!毕业后,档案会到哪里?档案有什么作 ...