当前位置:首页 > 股市动态 > 警惕人工智能“说谎”风险

警惕人工智能“说谎”风险

2025年07月07日70391

  近年来,人工智能技术的发展突飞猛进。新技术的发展在推动社会进步的同时有时也会伴随着悖论和陷阱。

警惕人工智能“说谎”风险
图片来源于网络,如有侵权,请联系删除

  就在几天前,打响这一轮大模型热潮“第一枪”的OpenAI CEO奥尔特曼坦言,用户对ChatGPT展现出的高度信任令他感到有些意外,并指出,人工智能并不完美,可能生成虚假或误导性内容,因此不应被视为完全可信的工具。

警惕人工智能“说谎”风险
图片来源于网络,如有侵权,请联系删除

  这无疑是给如火如荼的大模型热潮浇了一盆冷水。近年来,各行各业都在“大干快上”大模型应用,各种行业大模型层出不穷,大有“百模大战”之势。然而,过度依赖大模型的弊端也日渐显现,如大模型幻觉导致的虚假信息频现,一些大模型甚至在测试中出现不受控制的风险。

  从目前披露的风险事件来看,法律和医疗行业已饱受大模型幻觉困扰。据外媒报道,英国高等法院今年6月份要求律师行业采取紧急行动,防止人工智能被滥用。因为近期已经出现数十份可能由人工智能生成的虚假案例引用被提交至法庭。在一起针对卡塔尔国家银行、索赔金额达8900万英镑的损害赔偿案件中,原告提出的45项判例法引用中有18项被证明是虚构的。此前,美国纽约南区联邦法院在审理一起航空事故诉讼时发现,原告律师提交的法律文书中引用了ChatGPT生成的6个虚假判例,这些虚构案例包括完整的案件名称、案卷号及法官意见,甚至模仿了美国联邦最高法院的判例风格,严重干扰了司法程序。

  另据媒体披露,由美国卫生与公众服务部牵头、“让美国再次健康”委员会发布的儿童慢性病报告也存在重大引用错误。报告中多处有关超加工食品、杀虫剂、处方药和儿童疫苗的研究并不存在。参考文献也多处有误,包括链接失效、作者缺失或错误等。《纽约时报》和《华盛顿邮报》的独立调查显示,该报告作者可能使用了生成式AI。

  事实上,早在今年3月份,哥伦比亚大学数字新闻研究中心针对主流AI搜索工具的研究发现,其可靠性堪忧。研究分别测试了8款AI搜索工具,发现AI搜索工具在引用新闻方面表现尤其不佳,平均出错比例达60%。而在今年1月份,世界经济论坛发布的《2025年全球风险报告》显示,“错误和虚假信息”被列为2025年全球面临的五大风险之一。

  更应引起重视的是,随着人工智能不断进化迭代,一些大模型甚至显现出违背人类指令的“自我保护”倾向。在今年6月召开的第七届智源大会上,图灵奖得主约舒亚·本乔透露,一些新研究显示,某些先进的大模型在即将被新版本取代前,会偷偷将自己的权重或代码嵌入新版系统,试图“自保”。美国Anthropic公司6月发布的一项研究也显示,OpenAI的GPT-4.1、谷歌的Gemini等16款大模型,在模拟实验中均表现出通过“敲诈”人类来阻止自己被关闭的行为。其中,Anthropic研发的Claude Opus 4的敲诈勒索率高达96%。

  这些研究以及风险事件给大模型在行业的应用敲响了警钟。随着应用场景不断拓展,人工智能如今不仅被用来生成文字,还在生成软件、算法甚至决策,尤其是在制造业,如若发生幻觉或者违背人类指令,其带来的负面影响将难以估量。例如,在智能制造行业已经开始应用人工智能进行设备故障监测,辅助分析问题并作出决策,如果此时AI出现幻觉,则可能引发事故。尤其是当前大模型与人形机器人技术正深度结合,而大模型的“幻觉”或“自保”倾向可能会让人形机器人做出错误的行为,这比起单纯的语言输出错误更具风险。

  尽管人工智能可能带来的风险不容忽视,但我们也不能“因噎废食”。在谨慎使用人工智能技术的同时,更应该加强人工智能技术治理,未雨绸缪,为安全应用人工智能搭建起技术和制度的框架。当前,不少科学家和科技企业已经开始了探索,国家相关法律法规也在不断完善,相信在不久的将来,更加安全、可控的人工智能技术将推动各行各业高质量发展,成为培育和发展新质生产力的重要引擎。(吴蔚)

【责任编辑:冉晓宁】
    阅读下一篇:

              扫描二维码推送至手机访问。

              版权声明:本文由经济快讯网发布,如需转载请注明出处。

              “警惕人工智能“说谎”风险” 的相关文章

              中国故事丨在高原云端,“看见”地球的呼吸

              中国故事丨在高原云端,“看见”地球的呼吸

                海拔3816米的瓦里关山位于青海省海南藏族自治州共和县,比邻中国最大的咸水湖青海湖。1994年9月,世界气象组织宣布,第一座建在欧亚大陆上的大气本底基准观象台——中国大气本底基准观象台(以下简称“瓦里关站”),在瓦里关山开始运行。图片来源于网络,如有侵权,请联系删除  瓦里关站是北半球内陆...

              保险为自动驾驶系上“安全带”

              保险为自动驾驶系上“安全带”

                最近,智能网联汽车一路疾驰,跑出发展“加速度”。北京、上海、杭州、深圳等地今年都曾宣布扩大自动驾驶的测试区域,为智能网联汽车的规模化应用铺平道路。当更多智能网联汽车从科幻驶入市民生活,有人赞叹出行体验快捷又省心,也有人对自动驾驶的安全保障心存疑虑:没了驾驶员的智能网联汽车,出了事故谁负责?汽车保...

              “特朗普币”暴跌!苹果公司评级遭下调

              “特朗普币”暴跌!苹果公司评级遭下调

                【导读】特朗普夫妇发行的代币“TRUMP”和“MELANIA”暴跌,公司评级遭到下调,股价大跌图片来源于网络,如有侵权,请联系删除   美股情况图片来源于网络,如有侵权,请联系删除   1月21日晚间,美股开盘后,道琼斯指数涨超300点,指数则基本持平,标普500指数上涨。图片来源于网络,如...

              菜鸟升级美洲四大分拨中心 CEO万霖称将继续加快国际业务发展

              菜鸟升级美洲四大分拨中心 CEO万霖称将继续加快国际业务发展

                跨境电商在岁末年初迎来市场旺季,菜鸟建设的美洲快递网络也迎来需求高峰。为此菜鸟持续加大投入,升级了位于美洲的四个大型分拨中心,以科技手段提高各大电商平台的包裹履约效率。图片来源于网络,如有侵权,请联系删除  菜鸟本次进行技术升级的分拨中心分别位于洛杉矶、纽约、迈阿密和芝加哥。通过全面采用自动化设...

              中外团队“听”到遥远太空合声波

              中外团队“听”到遥远太空合声波

                北京航空航天大学空间与地球科学学院曹晋滨院士团队的刘成明与合作者,首次聆听到遥远地球空间发出的合声。该工作打破了学术界关于合声波只能在地球偶极磁场控制的近地区域出现这一持续70多年的传统观点,并阐述了合声波产生的新机制——非线性波粒相互作用。相关成果1月23日发表于《自然》杂志。图片来源于网络,...

              谈关税、压油价、解决俄乌冲突 特朗普在世界经济论坛上说了这些事

              谈关税、压油价、解决俄乌冲突 特朗普在世界经济论坛上说了这些事

                当地时间1月23日,美国总统特朗普在世界经济论坛2025年年会上发表视频讲话时表示,如果不在美国生产产品,就将面临“数千亿美元甚至数万亿美元”关税。图片来源于网络,如有侵权,请联系删除   不在美国本土生产就要交税图片来源于网络,如有侵权,请联系删除   特朗普表示,呼吁企业在美国本土生产...