三维天地牵头研制神经网络可解释评估标准，破解AI"黑箱"难题

12月1日，人工智能领域标准化工作取得重要进展，中国电子学会正式发布《神经网络关键特性可解释评估要求》团体标准。该标准由北京三维天地科技股份有限公司牵头，联合大连理工大学、工业和信息化部电子第五研究所、清华大学等权威机构共同研制，将于2026年1月1日起正式实施。此举标志着我国在神经网络可解释性评估领域建立了首个系统性规范，填补了国内外相关标准的空白。

随着神经网络，特别是大模型的深度应用，其运行效率、抗干扰能力不足以及普遍存在的“黑箱”问题，日益成为制约人工智能技术在工业生产、自动驾驶、医学诊断等关键复杂场景中可靠落地与广泛推广的瓶颈。提升神经网络的可解释性、可靠性与适用性，已成为推动人工智能高质量发展、落实国家相关战略部署的核心攻关方向。

《神经网络关键特性可解释评估要求》标准应运而生，旨在系统性地解决上述挑战。标准聚焦于神经网络的结构冗余性、抗噪声干扰性及预测可靠性等关键性能，首次提出了一套可解释的评估框架。该标准详细规定了评估方法、输入要求、操作流程、量化指标、性能等级划分及实施规范，为客观、公平、可靠地衡量神经网络核心性能提供了统一标尺。

业内专家指出，尽管网络剪枝、鲁棒性评估等技术已广泛研究，但现有方法多缺乏可解释性，评估结果往往停留于概括性判断，难以保障客观公平，也无法灵活适配多样化任务场景，其可信度与实用性因此受限。新标准基于可解释性理论，致力于构建一套多等级、全客观、可解释的关键性能评估体系，有望实现对神经网络设计、训练、部署到维护的全生命周期关键性能进行实时检测与评估，为产业健康发展注入标准动能。

评审专家一致认为，该标准提出的评估方法和技术手段具有显著创新性，达到了国际先进水平。它的发布与实施，不仅将直接助力提升人工智能产品的可靠性与透明度，增强用户信任，更将为我国人工智能技术创新和产业生态的规范化、高质量发展提供至关重要的基础支撑。