当前位置:首页 > 股市动态 > 给“AI造”加标识,应对AI作假的有效之举

给“AI造”加标识,应对AI作假的有效之举

2025年03月17日67178

  近日,国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也将同步实施。

给“AI造”加标识,应对AI作假的有效之举
图片来源于网络,如有侵权,请联系删除

  近年来,人工智能(AI)技术突飞猛进,AI生成合成的文字、图片、音视频等在网络平台迅速传播,在丰富信息内容的同时,也成为编造虚假信息、扰乱传播秩序、实施新型诈骗的帮凶。有利用AI撰写假新闻、造谣博眼球者;有假手AI发表评论,打造“智能水军”者;还有深度造假知名院士视频,带货宣传护肤品者;更有借助AI假冒明星,骗取老人钱财者……

给“AI造”加标识,应对AI作假的有效之举
图片来源于网络,如有侵权,请联系删除

  AI技术给虚假信息披上高科技“伪装衣”,使“耳听未必为真、眼见未必为实”,且技术还在不断迭代,迷惑性越来越强。防范AI造假,不仅仅是网络平台的责任,依靠公众的“火眼金睛”去识别造假行为更不现实。

  给AI生成合成内容添加标识,是从源头上治理AI造假的有效手段。如果把AI生成合成内容比作一种特殊产品,制作内容的AI服务商就是厂家,传播内容的网络平台就是商店。《标识办法》规定,厂家在产品出厂时要贴上标识引起商店关注,商店也要在销售时通过贴标识等方式提醒消费者注意。其作用就是从内容生产和传播的源头入手,给“AI造”打上识别码,使其更容易被网络平台检得出、被社会公众看得见。公众知道眼前信息源自AI,也就不会轻易上当受骗。

  AI正在蓬勃发展,我们既要加强对其有违伦理方面的治理,但又不能因这种治理而阻碍技术进步。显然,制订《标识办法》注意到了这种平衡。比如,并未强制要求AI服务提供者采取难度过大、成本过高的标识技术,而是创新提出多种低成本标识方法,以避免增加企业负担、导致其对AI技术研发的投入受到影响。制订强制性国家标准,也充分吸纳了AI领域高科技企业的专业意见。相关部门的这些举措,体现了“统筹发展和安全”的治理理念。

  当然,治理AI造假,除了信息标识,技术防范同样不可忽视。比如,对网络平台上没有依规标识的AI生成合成内容该如何检测?怎样提升检测能力?如果未检测识别出来且造成不良社会影响的,责任应当如何划分?还有,对那些我国法规约束之外的境外AI工具生成合成内容,其发布和传播该怎样管理?这些,都是在《标识办法》实施中值得关注和解决的问题。

  AI可以拟人、助人,但不能骗人、坑人。我们相信,《标识办法》的发布和施行,将有效治理“AI造假迷人眼”的乱象,还网络空间以清朗,促AI发展之健康。(作者 胡定坤)

【责任编辑:朱家齐】
    阅读下一篇:

              扫描二维码推送至手机访问。

              版权声明:本文由经济快讯网发布,如需转载请注明出处。

              “给“AI造”加标识,应对AI作假的有效之举” 的相关文章

              支持200所学校后,腾讯游戏继续用科技课助乡村孩子打开未来之门

              支持200所学校后,腾讯游戏继续用科技课助乡村孩子打开未来之门

                在腾讯“久久公益节”中,腾讯成长守护携手57款游戏展开“爱心回礼”活动,号召用户关注并参与到乡村青少年科技教育的公益议题中。图片来源于网络,如有侵权,请联系删除  截至9月8日,本次“爱心回礼”活动已为乡村孩子筹得1586套“未来科技盒”,预计将支持120多所中小学,三年内可为12万人次学生带来...

              跨国公司税收战争阴云密布 美国停止支持全球税收协议有何影响?

              跨国公司税收战争阴云密布 美国停止支持全球税收协议有何影响?

                在“特朗普2.0政府”的全球贸易争端版图中,关税并不是唯一的议题。与美股超级巨头息息相关的全球企业税问题,现在已经“子弹上膛”。图片来源于网络,如有侵权,请联系删除   在周一晚间公布的总统备忘录中,特朗普指示美国财政部,撤回美国对经合组织全球税收协议的支持,并要求该部门制定美国公司遭到域外国...

              “特朗普币”暴跌!苹果公司评级遭下调

              “特朗普币”暴跌!苹果公司评级遭下调

                【导读】特朗普夫妇发行的代币“TRUMP”和“MELANIA”暴跌,公司评级遭到下调,股价大跌图片来源于网络,如有侵权,请联系删除   美股情况图片来源于网络,如有侵权,请联系删除   1月21日晚间,美股开盘后,道琼斯指数涨超300点,指数则基本持平,标普500指数上涨。图片来源于网络,如...

              发挥智慧大数据优势 让大城市治理更“智慧”

              发挥智慧大数据优势 让大城市治理更“智慧”

                党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》要求,深化城市建设、运营、治理体制改革,加快转变城市发展方式,并且提出,推动形成超大特大城市智慧高效治理新体系。随着城市化进程的加快,传统的城市治理模式已难以满足现代城市发展的需求,迫切需要引入新技术、新理念来提升...

              中国科学家领衔团队首次记录遥远“太空合声”

              中国科学家领衔团队首次记录遥远“太空合声”

                新华社北京/伦敦1月23日电 地球磁力线像琴弦一样被宇宙空间带电粒子拨动,会发出什么样的声音?中国科学家领衔团队在23日正式出版的英国学术期刊《自然》发表论文,宣布在世界上首次记录到遥远的“太空合声”。图片来源于网络,如有侵权,请联系删除  论文通讯作者、中国科学院院士曹晋滨说:“这项开创性工作...

              世贸组织:特朗普关税引发的贸易战将是“灾难性的”

              世贸组织:特朗普关税引发的贸易战将是“灾难性的”

                世界贸易组织(WTO)总干事伊维拉周四表示,美国总统特朗普关税威胁引发的任何针锋相对的贸易战都会对全球经济造成“灾难性”后果。图片来源于网络,如有侵权,请联系删除   在当天的世界经济论坛上,伊维拉指出:“如果我们针锋相对地报复,无论是25%的关税,还是60%的关税,都会让我们重现上世纪30年...