新黄河对话齐向东:具身智能正站在产业规模化的前夜,模型“幻觉”、信号劫持等或带来新安全挑战
新黄河  2小时前

新黄河记者:李运恒  

undefined

undefined

AI、具身智能是当前科创圈的热词,从机器人“霸屏”春晚,扎堆登上舞台,到Seedance2.0迅速出圈,根据《中国互联网络发展状况统计报告》最新数据,我国生成式人工智能用户达6.02亿人。

“我最关注的是用‘AI+安全’双轮驱动筑牢现代化产业体系。当前在转型过程中仍面临产业升级的底盘不够牢靠、转型实效不够明显、产业的运行秩序不够稳健三重突出挑战。”日前,新黄河记者在北京专访了全国政协委员、全国工商联副主席、奇安信科技集团董事长(以下简称“奇安信”)齐向东。他认为,人工智能的变革,正定义下一代安全。

全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东

提及具身智能的迅速发展,齐向东谈到作为拥有“智能决策+物理执行”双重属性的智能物体,具身智能现在正站在产业规模化的前夜。而人形机器人,在部分明星厂商的带领下,已经在突破阶段,但数据投毒、模型“幻觉”、近距离劫持信号等可能给具身智能带来新安全挑战。

继续提升企业家精神中“以人民为中心”的浓度

齐向东告诉新黄河记者,他今年重点关注三个方向。其中,最关注的是用“AI+安全”双轮驱动,筑牢现代化产业体系根基。党的二十届四中全会明确提出“构建以先进制造业为骨干的现代化产业体系”,但在转型过程仍面临产业升级的底盘不够牢靠、转型实效不够明显、产业的运行秩序不够稳健三重突出挑战。他认为,需以“AI+安全”双轮驱动,形成“安全筑基—智能应用—绿色融合”的现代化产业体系良性发展循环。

“另外两个方向分别关注了‘AI场景下的网络安全升级改造’和‘以人民为中心弘扬企业家精神’,我针对这两个方向带了两份建议上会。”齐向东介绍。

他认为,网络安全行业正经历三大根本性变革。包括:人工智能的变革,正定义下一代安全;威胁格局的变革,让“零事故”成为必须达成的目标,当前国家级黑客攻击与黑灰产交织,网络攻击日益常态化、高对抗;产业需求的变革,呼唤实战化防护效果,过去分散、静态的防护体系早就力不从心。

在安全升级改造方面,齐向东建议从AI应用全链条安全与监管能力、数字资产安全能力、身份授权安全能力、威胁对抗能力入手,改变现有防护手段与时代需求的四重不适配,筑牢中国式现代化的网络安全防线;在弘扬企业家精神方面,齐向东提出加强企业家委员之间的交流走访等建议,继续提升企业家精神中“以人民为中心”的浓度,助力中国式现代化建设。

近距离劫持信号等,或造成具身智能被非法控制

齐向东理解,具身智能简单来说,就是具有身体一样的智能物体,有“智能决策+物理执行”的双重属性。

他认为,具身智能现在正站在产业规模化的前夜。他举例,智能驾驶汽车,是具身智能的一种,L3级别的智能驾驶,技术和市场都成熟了,L4级别在北京已经有试点了。智能无人机、无人船也已经普遍应用了,轮式、多足机器人从事特定场景的特定工作的市场,也已经成熟了。“人形机器人,在部分明星厂商的带领下,也已经在突破阶段了。”

不过,随着具身智能的发展,也带来了新的安全挑战,主要集中在三个层面:一是决策层,数据投毒、数据库被污染、模型“幻觉”、框架缺陷等,会导致具身智能“大脑”混乱,造成决策混乱失真;二是执行层,具身智能的“四肢”由智能体和硬件“执行体”构成,软硬件供应链复杂,终端漏洞、云平台、API接口等处处都是攻击突破口,而这些口子一旦被攻破,会直接影响具身智能现实操作,让它做出危险动作、违规执行指令等;三是物理层,具身智能物理暴露的特性容易遭到临机攻击,可能被近距离劫持信号、植入程序,造成具身智能被非法控制。

针对上述安全问题,齐向东提出三个方面的建议:第一是针对具身智能做专属安全防护。例如目前奇安信已经探索构建了“端—网—云—机”一体化的防御体系,并聚焦攻击入口探测、威胁场景构建、CVE漏洞验证等核心环节,开展渗透测试,为具身智能的安全检测提供强有力的技术服务支撑。二是保障数据资产安全。关键是以数据资产为中心,形成集“事件监测、风险分析、策略调整、访问控制”为一体的全链条闭环体系。三是锻造高水平的实战能力。实时发现、精准研判、快速溯源、有效阻断各类网络攻击,做到全链路精准反制与立体式纵深防御。

“创业是一个选择,过程舒服说明选错了”

谈到在吸引和留住高端人才方面,民营企业的优势和劣势时,齐向东表示,民营企业的核心优势在于机制活、效率高、激励实。但劣势是很难解决人才的住房、就医、子女教育这三件大事。

全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东做客新黄河会客厅。

他表示,希望政府在“技术强”才是“硬指标”的领域,再下“及时雨”,激活民营科技企业人才“蓄水池”的作用:一是让民营企业的顶尖技术人才,能够平等地参与国家级人才的评定;二是把民营企业技术人才的职称评定和国有企业拉齐,让人才在民营企业里工作也能获得同等的待遇;三是企业亟须的特殊人才,给予解决上述三件大事的政策保障。

作为连续多届的政协委员,齐向东还提到,“企业家精神”和“政协委员责任”虽然路径不同,但方向一致;岗位不同,但使命同归。把两者结合好,要时刻把以人民为中心和服务国家发展摆在关键位置,攻坚克难、久久为功。

此外,对于投身人工智能、网络安全等硬科技领域的青年创业者,他说:“我要分享的经验和建议是:创业是一个选择,过程舒服说明选错了,过程坎坷才可能有好的结果。创业成功要不忘初心、不惧坎坷、以苦为伴、咬牙坚持、剩者为王。”

摄像:王春鹏 张文龙  剪辑:王春鹏  编辑:杨子梦  校对:汤琪 杨荷放