龚克:人工智能应用于韧性治理,要依法和适度******
中新网北京12月11日电 “人工智能(AI)应用于韧性治理要依法和适度,要贯彻AI伦理原则,坚持以人为目的,以目的为中心,而不是以工具为中心,避免技术异化。”
2022人工智能合作与治理国际论坛12月9日开幕。在其中的主题论坛“人工智能引领韧性治理与未来科技”中,世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克这样指出。
2022人工智能合作与治理国际论坛由清华大学主办、清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。
世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克,在2022人工智能合作与治理国际论坛主题论坛“人工智能引领韧性治理与未来科技”中发言。主办方供图龚克认为,当前,韧性已成为可持续发展中的重要要求和愿景。“进入21世纪以来,韧性理论从生态学、工程学、心理学领域逐步延展到城市治理领域。”
在他看来,韧性发展现在已经成为重要的发展思路。“它正视困难、风险、冲击、变化,以适应力、恢复力应对之,使系统损失减少到可承受、使运行不失稳、发展不逆转。”
龚克举例指出,韧性的基础设施是韧性城市的基础,AI在提高基础设施韧性方面可以发挥积极的作用。“比如AI可以快速、精准地帮助发现地下送水管网的泄露,以实施快速修复。又比如,AI可以及时、准确预测城市用水需求,帮助实现适时适量的供水。再如,AI可以及早、准确地预报特定灾害,帮助实现预防和减损。”
“这些例子告诉我们,AI助力韧性发展的作用是无可置疑的,数据是AI发挥作用的重要基础,数据的及时、准确、全面对于AI助力韧性发展至关重要。”龚克坦言,因此,物联网的发展、多源数据的融合、数据的无偏化处理等等,特别是相关知识与数据的结合,以及降低算法对于数据规模、质量的依赖性,成为AI助力韧性发展的技术趋势。
龚克表示,“就技术赋能而言,人工智能与韧性治理的关系,包括人工智能作为治理工具和人工智能作为治理对象两方面。我认为,两者统一于人工智能在韧性治理中负责任地、符合伦理地、依法和适度地应用。”
他指出,如果AI要赋能韧性治理,就需要自身增能,增强透明度、可解释性、可靠性、鲁棒性,自身要能抗干扰、抗攻击等,让其自身成为有韧性的AI。“如果AI自身很脆弱,容易被攻击、受干扰,它非但不能助力韧性治理,还会起到相反的作用。”
同时,龚克强调,AI在用于韧性治理上,要做到依法和适度。
“就技术赋权来讲,特别强调赋权必须是依法的,要防止技术异化为权力。”他认为,AI系统作为治理工具时应能针对具体应用主体和场景,识别法律赋予的权力边界,并在任何情况下,保证包容、公平、无歧视,保证不伤害,保证人类的监督和决定权。(完)
【乌镇声音】专访丨亚信安全陆光明:传统安全边界逐渐消亡 须建立新型立体防御体系****** 伴随数字经济时代的开启,产业生态和生产组织方式带来了深刻变革,但同时也遇到了新困难、新挑战。在2022年世界互联网大会乌镇峰会期间,亚信安全总裁陆光明接受光明网记者专访表示,数字化转型推动了传统安全边界的消亡,这就需要建立新型立体防御综合解决方案,实现常态化、实战化、体系化运营管理。 陆光明谈到,过去网络边界清晰,用户能够在各个节点上部署相应的安全产品来进行安全防御。然而,边界的逐步消亡,数字资产的暴露面增加,都给网络威胁攻击提供了新的“暗道”。 “这种情况下,需要部署的是整个纵深防御和体系化防御,不仅从云、网、边、端都能进行形成网络威胁发现、处置、响应、阻断等一系列能力,还要能够把不同安全能力关联分析,对整个攻击链条进行完整回溯,形成联动。”陆光明表示,在网络安全思维转变,需求多样化、个性化的大趋势面前,网络安全市场的平台化已是大势所趋。期待建立全网安全免疫防御系统,在安全平台基础上,形成一整套全面高效的安全解决方案,实现了丰富的威胁情报与安全产品能力联动,实现全网协同、立体纵深防御。(记者 刘昊 李政葳) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |