您的位置: 首页 > 专家动态

李国杰院士:智能化科研要适当容忍“黑盒模型”

资讯出处:顾问与高端人才服务组资讯作者:发布时间:2024-08-30

近日,中国工程院院士、中国科学院计算技术研究所首席科学家李国杰在《科技导报》上发表《智能时代呼唤新的科研方法》一文。他提出:智能化科研(AI4R)不仅要关注科学智能(Al4S),更要重视技术智能(AI4T)。AI4S侧重于利用AI技术解决基础科学问题,将大量观察数据编码成符号化的规律或知识;AI4T则更关注于技术发明和工程应用,将大量满足需求规范的样例解码成人造物的具体设计,如芯片设计、天气预报优化等。其次,AI4R不仅要关注大语言模型(LLM)的发展,更要重视大科学模型(LSM)的构建和应用。当前,国内学者普遍更关注LLM,从海量数据中学习语言知识,实现文本、图像、语音的合成等多种功能,缺陷是知识主要来源于训练数据,缺乏对实践活动的隐性知识的理解。相比之下,LSM则更加关注科研领域的实际应用,不仅需要考虑神经网络架构、机器学习算法等技术因素,还需要关注数据驱动和模型驱动的融合、科学伦理等多个方面。AI4R实践表明,在不确定的环境中寻找最优解或近似解,满足科研的实际需求,放弃绝对性、拥抱不确定性是科研方法的重要转变。科学研究是一个将“黑盒模型”逐步转化为“白盒模型”的过程,即从对某些现象或过程不了解逐步推进到充分理解其内部机制和原理。解决复杂度不高的问题时,由于已掌握其基本原理,因此更强调可解释性,尽可能采用“白盒模型”。但对于非常复杂的问题,必然要适当容忍“黑盒模型”,承认其存在的合理性,逐步转化为“白盒模型”,才能有助于实际问题的解决。在容忍“黑盒模型”的过程中,为了防止“黑盒模型”潜在的失控或可能出现的不良后果,要加强科技伦理监管,让智能化科研始终在安全可控的轨道上良性发展。

根据科技导报信息编辑

分享至: