论文标题：Transparency: The Missing Link to Boosting AI Transformations in Chemical Engineering

期刊：Engineering

DOI：https://doi.org/10.1016/j.eng.2023.11.024

微信链接：点击此处阅读微信文章

在当今数字化时代，数据驱动的人工智能（AI）技术迅速发展，在众多领域展现出巨大价值。然而，其在化学工程（CE）等敏感领域的应用却因算法不透明性受到限制。宁波东方理工大学祝京旭教授团队在中国工程院院刊《Engineering》发表了题为“Transparency: The Missing Link to Boosting AI Transformations in Chemical Engineering”（透明度——促进化学工程中人工智能变革的缺失环节）的综述性文章，深入探讨了人工智能在化学工程应用中的透明度问题，为该领域的发展提供了重要参考。宁波东方理工大学袁月为文章第一作者，祝京旭教授为通讯作者。

文章指出，数据已成为时代发展的重要支柱，人工智能相关收入呈显著增长趋势。国际数据公司（IDC）预测，2022 年全球人工智能相关收入较 2021 年的 3418 亿美元增长 18.8%，到 2024 年有望突破 5000 亿美元。尽管人工智能市场发展迅猛，但应用中的不透明性问题成为其向关键领域扩展的障碍。在临床应用和化学工程等涉及健康、安全和巨大经济价值的领域，由于人工智能决策过程缺乏透明度，其裁决难以被接受。例如，在化学工程中，当前占主导地位的人工智能算法如人工神经网络和深度学习，虽能准确预测复杂系统，但黑箱性质导致决策过程不透明，限制了其在关键工业流程中的应用。

为解决这一问题，文章基于可解释的人工智能（XAI）概念和化学工程领域关键特征，讨论了人工智能应用中的透明度概念。该概念从因果关系、可解释性和信息性三个方面进行阐述。因果关系强调人工智能预测与输入特征的紧密联系，使预测可通过输入特征影响得到解释；可解释性代表决策过程的透明度，取决于计算流程基本原理的可理解程度；信息性则要求人工智能应用能够阐述受化学和物理定律支配的化学工程过程，将理论知识融入算法，以获得物理上一致的预测并增进对现象的理解。

图1 CE中AI变革的因果关系、信息性和可解释性透明度概念的说明。

图2 CE中AI变革的透明度及相关改进策略。

在化学工程中，考虑透明度的先进人工智能应用研究取得了一定进展。在因果关系方面，众多研究聚焦于过程优化、控制和监测等系统。如 Agarwal 等通过评估输入-输出数据分类可观察性，提出顺序分层相关传播（SLRPFP）算法，有效避免数据过拟合，提高分类模型计算效率；Bhakte 等利用 SHAP 值进行变量归因分析，提高深度神经网络透明度，为实时操作策略提供现场解释。在可解释性方面，Venkatasubramanian 博士及其团队对神经网络内部机制进行研究，发现神经网络结构对其性能有重要影响，为定制神经网络结构提供了理论依据。在信息性方面，物理信息学习和混合建模成为重要研究方向。物理信息学习通过整合物理定律和先验知识改进机器学习算法，物理信息神经网络（PINN）在化学工程中广泛应用，可有效解决复杂系统问题；混合建模将理论模型与数据驱动算法相结合，提高算法准确性和鲁棒性，在复杂非理想环境的化学工程过程研究中发挥重要作用。

文章通过一个混合多尺度薄膜沉积模型的案例研究，对人工智能透明度进行了全面分析。该案例从信息性、因果关系和可解释性三个维度展开，结果表明透明度分析有助于增强对系统的理论理解，揭示环境因素对系统动态的影响，阐明人工神经网络的操作原理，为科学研究和实际应用提供有效指导。

图3 从信息性、因果关系和可解释性等方面对薄膜生长模型进行全面的透明度分析。

尽管在化学工程中人工智能透明度研究已取得一定成果，但仍面临诸多挑战。目前涉及因果关系、信息性和可解释性的人工智能应用仍受限制，未来需要在这些方面进行更深入研究。在因果关系研究上，需实现实时解释，为人工智能决策过程提供动态即时解释；在信息性方面，应进一步开发全尺寸的智能互通多尺度工程（IIMSE）模型，利用混合模型补偿系统在恶劣条件下的性能；在可解释性领域，要努力阐明关键技术运作机制，加深对多层人工智能算法决策过程的理解。

该研究对化学工程领域发展具有重要意义，有助于提高化学工程师对开发可靠人工智能变革性应用重要性的认识，推动人工智能在化学工程中的实际应用，为解决该领域的瓶颈挑战提供新的思路和方法。

论文信息：

Yue Yuan, Donovan Chaffart, Tao Wu, Jesse Zhu. Transparency: The Missing Link to Boosting AI Transformations in Chemical Engineering. Engineering, 2024, 39(8): 45–60

开放获取：

https://doi.org/10.1016/j.eng.2023.11.024

更多内容

高折射率透明纳米复合光刻胶助力显示技术新发展

展望化学工程的未来：主动机器学习引领变革

流动电化学技术助力水中微污染物降解

Engineering征稿启事：人工智能赋能工程科技

Engineering将亮相2025世界化学工程大会