嘉宾简介

中国科学院院士，数学家、信号与信息处理专家、西安交通大学教授。

主要从事智能信息处理、机器学习、数据建模基础理论研究。曾提出稀疏信息处理的L(1/2)正则化理论,为稀疏微波成像提供了重要基础；发现并证明机器学习的“徐-罗奇”定理, 解决了神经网络与模拟演化计算中的一些困难问题,为非欧氏框架下机器学习与非线性分析提供了普遍的数量推演准则; 提出基于视觉认知的数据建模新原理与新方法，形成了聚类分析、判别分析、隐变量分析等系列数据挖掘核心算法, 并广泛应用于科学与工程领域。曾获国家自然科学二等奖、国家科技进步二等奖、陕西省最高科技奖; 国际IAITQM 理查德.普莱斯(Richard Price)数据科学奖;中国陈嘉庚信息技术科学奖、华罗庚数学奖、苏步青应用数学奖、吴文俊人工智能最高科技成就奖；曾在2010年世界数学家大会上作45分钟特邀报告。

曾任西安交通大学副校长。现任鹏城国家实验室广州基地/琶洲实验室（黄埔）主任、陕西国家应用数学中心主任、大数据算法与分析技术国家工程实验室主任。是国家大数据专家咨询委员会委员、国家新一代人工智能战略咨询委员会委员。

报告摘要

以大模型为特征的生成式人工智能近年来迅猛发展，正深刻影响并变革着科学技术的研究范式与工业革命进程。按照流行的认识,大模型的能力之所以强大源自它可能存在的智能涌现(Intelligent Emergence)。然而,什么是智能涌现? 是什么要素摧生了智能涌现?大模型在什么情况下才会出现智能涌现?大模型为什么能工作? 对这些问题充满着疑惑和争论。

本报告基于“智能涌现源于知识从有限到无限所引起的认知改变”观点,提出一个数学框架和数学理论来对此加以解析。我们的核心思想是: 利用三元随机函数ℰ(N, P, K)来度量大模型性能, 利用 ℰ(N, P, K)的极限行为/极限速度 (N→∞, P→∞, K→∞)来度量大模型的尺度变化律(Scaling Law),并以此为基础来解译智能涌现和尺度律，这里N 是用以训练大模型的数据规模, P是模型尺寸(包含参数个数), K是训练步数。我们定义“极限架构”这一无穷维系统概念,说明大模型智能涌现存在的必要条件是极限架构存在,而极限架构存在的必要充分条件是构成大模型的基块算子Ti满足:(i)Lipschitz特征Lip(Ti)≤1 和 (ii) {Ti} 具有凝聚性质。一旦极限架构存在,我们说明,极限架构便承载了大模型的湧现智能,換言之, 涌现后所表现出的新特征和新行为(由ℰ(∞, ∞, ∞)刻画。我们证明,作为无穷维系统的极限架构,它由一个有限维系统与一个快速衰减的无穷维系统之和构成, 因而应用中可由有限维系统一致逼近。这是大模型可用的理论依据。

我们也提出ℰ(N, P, ∂ℓ)- ℰ(∞, ∞,0)的标准误差分解，并应用非线性Lipschitz算子工具, 无限维Bayes估计工具来对这些误差进行估计。最终, 我们获得大模型的尺度律估计。所获得理论揭示: (1) 大模型是否出现智能涌现依赖于数据、训练和架构多重要素, 但架构是核心, 而架构完全由大模型的功能块{Ti}特性决定; (2) 大模型智能涌现只会出现在临界动力学环境 Lip(Ti)=1，这提供了临界动力学原理成立的理论证据; (3)大模型是靠有限维系统工作的, 从而理论上支持”Universal Weight Subspace Hypothesis” (Kaushik et al, 2025)。

将所建立的理论用于ChatGPT大模型, 我们验证: ChatGPT-2及以后改进模型会出现智能涌现/尺度律, 但ChatGPT-1不能。

嘉宾简介

中国科学院院士，信息工程大学研究员。1956年9月出生于吉林省长春市，籍贯浙江宁波。1987年毕业于中国科学技术大学研究生院。1992年被评为国家有突出贡献的中青年专家、享受政府特殊津贴。长期从事复杂信息系统分析和相关基础理论研究，对该领域的序列论、函数论、算法设计与分析等进行了系统研究，在复杂信息系统输出分析技术、系统模型解析理论和方法、系统参数还原技术研究中均取得创新性研究成果，这些研究成果在实际复杂系统分析中多次发挥显著作用。曾获国家科技进步一等奖3项等。

报告摘要

随着万物互联的智能化时代到来，安全威胁逐步由虚拟空间向现实空间蔓延，关系着能源、军事、金融等重要领域的网络安全进入“大安全”时代。云计算、人工智能等新技术加速推进数字化和现代化的同时，也带来了网络安全新风险。然而，被动地查杀封堵显然难以应对层出不穷的新风险，亟需建立主动安全防护的网络安全新理念。

密码定义安全基于可证明安全的思想，将密码技术“紧”地作用在保护对象上。从网络行为、操作和对象三个层面出发，密码定义安全被划分密码定义网络、密码定义计算、密码定义数据三个层次，力求实现行为受控、计算一致和数据保密。网络安全的本质是对抗，通过密码定义安全可将网络对抗规约到密码对抗，即网络攻击能否得手仅取决于敌手能否突破密码防护。随着该理论的完备性、体系性和兼容性不断优化，网络安全技术和密码技术同步发力、协同创新，最终形成可证明安全的主动安全防护能力体系。

嘉宾简介

通信网络领域专家，复杂系统仿真总体重点实验室主任，中国科学院院士，博士生导师。长期从事通信网络理论方法研究、体系结构设计和技术应用等方面研究，主持完成多项国家重点科研与工程建设项目，获国家和省部级科技进步奖多项。目前主要研究方向为物联网和卫星通信技术。

报告摘要

人工智能赋能网络空间安全是数字时代的必然趋势，技术创新为网络安全防御体系提质增效的同时，也带来了攻防失衡、模型风险、数据泄露、治理滞后、产业短板、运维失控等一系列复合型挑战。报告简要介绍了AI赋能网络空间安全的赋能机遇与风险反噬双面性；分析了AI赋能网络空间安全面临的六位一体复合型风险挑战；讨论了智能时代安全问题的深层成因——四维结构性矛盾；提出了基于五位一体综合治理体系的应对措施与发展路径。

嘉宾简介

中国工程院院士，中国人民政治协商会议第十三届、第十四届全国委员会委员，中关村实验室首席科学家。长期从事网络与信息安全领域的技术研究和管理工作，科研成果先后获得国家科技进步一等奖两项、二等奖一项，省部级科技奖多项。

报告摘要

随着前沿大模型能力快速演进，AI红队测试已成为人工智能安全的重要环节。本报告围绕生成式人工智能红队测试技术与实践，介绍红队测试的现实需求与发展现状，当前的主要技术与国内的前沿探索，以及红队的组织管理。分析红队测试由单一内容安全向多维可信评估、由模型测试向复杂智能系统评估、由人工智能系统安全向“AI+网络安全”融合测试拓展，以及由现象评测向安全机理研究演进的发展趋势。

嘉宾简介

中国工程院院士，中国科学院计算技术研究所研究员，中关村实验室首席科学家。

曾担任中国科学院计算技术研究所所长。计算机系统结构专家，主要从事高性能计算机研究。获国家杰出青年基金，中国科学院杰出科技成就奖，国家科技进步二等奖四次，参与获得国家科技进步一等奖一次、国家自然科学二等奖一次。获一项国家专利金奖。

报告摘要

报告围绕处理器安全主题，从漏洞挖掘、检测修复、设计安全、安全指令集、等级认证及智能体新风险六个维度展开。通过典型安全事件揭示处理器漏洞的普遍性与挖掘方法演进，梳理“发现—检测—修复”三阶段技术体系；针对安全生态碎片化困境，提出安全指令集标准化路径和实践；最后剖析智能体时代安全本质从“防代码漏洞”转向“防意图滥用”的范式转变。报告旨在为构建自主可控的处理器安全体系提供参考。

嘉宾简介

中国工程院信息与电子学部和工程管理学部院士，是通信与信息安全和工程管理专家；组织攻坚完成国家级重大专项工程，取得历史性突破，攻克多项国家重点研发计划专项，填补空白，荣获国家科技进步一等奖2项、国家技术发明二等奖1项。

曾任国家某部领导、部科技委主任，第十七届、第十八届中央纪律检查委员会委员；现任某部科技战略咨询委员会委员、中国信息安全测评中心学术委员会副主任、赛博空间全国重点实验室学术委员会主任。

报告摘要

报告直面人工智能狂飙突进背后的深层伦理危机，指出西方文明囿于“二元对立”与“生存博弈”的思维定式，无论是马斯克的“物理同化”还是辛顿的“生物本能”，均无法从根本上确保超级智能对人类的长久善意。

报告创新性地提出，唯有东方智慧能为冰冷的算法注入温热的灵魂。以《易经》“阴阳平衡”与“和合共生”为哲学根基，将碳基生命与硅基智能的关系，从“征服与取代”重构为“阴阳共振、一体共生”。主张以“敬天法祖”的敬畏之心筑牢理性压舱石，以“推己及人”的仁心确立“碳硅永恒契约”，从而构建“以人为本、智能向善”的碳硅命运共同体。这不仅是为AI发展校准航向的中国方案，更是引领人类文明跨越技术迷雾、走向共生共荣的东方灯塔。

嘉宾简介

中国工程院院士，网络空间安全技术专家，现任中关村实验室首席科学家。作为第一完成人获得国家科技进步一等奖1项、二等奖2项，第一发明人获授权发明专利45项，主持制定国家及通信行业标准15项，出版专著2部，发表学术论文100余篇，培养博士研究生30余人。他长期致力于国家网络空间安全的技术研究和工程实践，主持研制了国家网络安全系列平台，主导建立了国家网络安全应急处置技术体系，为有效应对全球性网络安全威胁做出了重要贡献。

报告摘要

系统阐述美国AI安全能力的阶跃式突破与中国的战略机遇窗口，对中国网络安全产业现状与基础能力进行全景分析，提出中国网络安全技术弯道超车的三大路径，探讨“以智御智”技术体系和非对称超车的五大战略。

嘉宾简介

中国科学技术大学常务副校长、教授，中科院量子信息与量子科技创新研究院院长，中国科学院院士，英国皇家学会外籍院士，发展中国家科学院院士。

主要从事量子光学、量子信息和量子力学基础问题检验等方面的研究。作为国际上量子信息实验研究领域的开拓者之一，他是该领域有重要国际影响力的科学家。利用量子光学手段，他在量子调控领域取得了一系列有重要意义的研究成果，尤其是他关于量子通信、量子计算和多光子纠缠操纵的系统性创新工作使得量子信息实验研究成为近年来物理学发展最迅速的方向之一。

报告摘要

自上世纪90年代以来，随着量子调控技术的发展，人们掌握对光子、原子等量子系统进行主动操纵的能力，从而催生了新兴的量子信息科技。量子信息科技的发展目标是构建“量子网络”，其主要内容包括：通过量子精密测量（量子传感）实现信息的高精度感知、通过量子通信实现信息的安全高效传输、通过量子计算实现信息的高速处理。特别是，量子通信为构建安全、高效的网络空间提供了全新的方案。在信息安全方面，量子计算的快速发展对经典密码体系带来了巨大冲击，而基于量子密钥分发的量子保密通信提供了“信息论可证”的安全通信方式，可从根本上抵御量子计算的攻击。将量子保密通信与抗量子计算的数学密码相结合，可为向抗量子计算的密码体系迁移提供有效可行的路径。在信息传输方面，量子隐形传态可实现量子网络中量子计算和量子传感终端的高效连接。未来10至15年，将构建起天地一体的高效率广域量子网络，为保障信息传输安全、提高计算速度、提升测量精度等国家重大需求做出实质性贡献。