专家警告：AI系统的可解释性存在欺骗可能
德国人工智能研究中心（DFKI）研究团队在日前召开的国际机器学习大会上报告称，在可解释人工智能（AI）领域，“X-hacking”是一个此前被普遍忽视的风险，并呼吁批判性和反思性地使用自动化机器学习（AutoML）工具。
图片来源于网络，如有侵权，请联系删除
图片来源：princeea网站
图片来源于网络，如有侵权，请联系删除
如果AI系统作出了正确预测，但却以完全不同的方式解释其得出的这些结果，会发生什么？DFKI数据科学团队介绍了“X-hacking”给AI可信度带来结构性风险的研究成果。
图片来源于网络，如有侵权，请联系删除
X-hacking一词源于统计学中的P-hacking。所谓P-hacking指的是研究人员可通过一些数据操作技巧，在统计学上得出一个有显著意义的结果，即使这个结果实际上并无意义。这相当于一种数据篡改，可能会导致发布假阳性结果。
相应的X-hacking描述了两种核心机制：一是Cherry-picking，即从众多同样优秀的模型中，精心挑选出解释能力最强、最能支持预期结果的模型；二是定向搜索，AutoML系统不仅能优化预测性能，还能精准地找到具有特定解释模式的模型。但这里面存在的风险往往被低估。
即使模型得出的结果几乎相同，所谓的特征重要性也可能存在巨大差异。这在医学研究或社会科学等应用领域尤为敏感，因为在这些领域，可解释的模型通常构成关键决策的基础。
AutoML代表了开发、选择和优化机器学习模型的自动化流程。软件工具接管了许多以前只有经验丰富的机器学习工程师才能完成的任务，例如选择合适的模型架构、数据预处理和超参数优化等。在医学、工业或社会研究等数据密集型领域，AutoML有望实现更快的开发速度、更低的进入门槛和可重复的结果。
然而，这种自动化使得人们难以理解模型决策的制定方式，这是可解释AI的一个关键问题。因此，DFKI研究团队建议，使用AutoML的学科应该意识到方法的风险，而不仅仅只是信任软件。（记者李山）
【责任编辑:朱家齐】
扫描二维码推送至手机访问。
版权声明：本文由经济快讯网发布，如需转载请注明出处。
“专家警告：AI系统的可解释性存在欺骗可能” 的相关文章
（原标题：急速反弹后港股进入调整期，哪些基金表现稳健？）图片来源于网络，如有侵权，请联系删除 出品｜公司研究室基金组 文｜曲奇 自9月中旬美联储降息0.5%，确定开启宽松周期后，港股就掀起了一波快速上涨行情。 根据Wind数据，9月11日至10月7日，恒生指数在17个交易日内涨幅34.32...
（原标题：两新股今日登陆创业板，最高涨幅分别达883.35%、800%）图片来源于网络，如有侵权，请联系删除 中宏网股票10月24日电 10月24日，六九一二（301592.SZ）、苏州天脉（301626.SZ）创业板首发上市，盘中双双大幅拉升。其中六九一二发行价29.49元/股、盘中最高289....
（原标题：盛普股份：多家新成立企业迅速跻身主要供应商）图片来源于网络，如有侵权，请联系删除 在2023年1月已创业板IPO“过会”的上海盛普流体设备股份有限公司(以下简称“盛普股份”)，近期撤回了创业板首发上市申请。此次IPO，公司原计划募资7.07亿元，除1.8亿元用于补流外，其余投向新能源流体...
（原标题：苏州天脉在深交所敲钟上市 开启导热散热领域新篇章）图片来源于网络，如有侵权，请联系删除 中宏网股票10月28日电 10月24日，国家高新技术企业苏州天脉导热科技股份有限公司（股票简称：苏州天脉、股票代码：301626）成功登陆深交所创业板，开启了在国内散热领域的新征程。图片来源于网络，如...
（原标题：“换头大师”毛戈平苦战IPO八年，上半年家族套现11.5亿）图片来源于网络，如有侵权，请联系删除 出品｜公司研究室IPO组 文｜曲奇 10月9日，美妆品牌毛戈平第二次向港交所递表。从核准制到注册制，再从A股到港股，这已经是毛戈平谋求上市的第八年。 屡败屡战却坚持不懈的毛戈平，IP...
（原标题：胜科纳米IPO：专注检测分析二十年，举债增持打造芯片全科医院）图片来源于网络，如有侵权，请联系删除 10月21日，胜科纳米（苏州）股份有限公司（以下简称“胜科纳米”）审核状态更新为已问询，并披露了最新的招股说明书和问询回复，这意味着这家主要服务于半导体产业链研发环节的实验室距离科创板I...
