《人工智能安全治理框架》1.0版发布 确保人工智能技术造福于人类

《人工智能安全治理框架》1.0版发布 确保人工智能技术造福于人类9月9日,在网络安全技术峰会主论坛暨粤港澳大湾区网络安全大会上,全国网络安全标准化技术委员会公布《人工智能安全治理框架》1.0版(下称《框架》)。

据统计,2023年10月,中国提出《全球人工智能治理倡议》,就多方关切的人工智能发展和安全治理等问题,给出了全局性解决思路。《框架》落实《全球人工智能治理倡议》提出的分类分级、灵巧治理、共治共享的理念,紧密联系人工智能技术特征,系统分析人工智能风险,以及网络、实际、认知、伦理等不同视角,提出相应技术解决和综合治理对策,以促进政府、国际组织、公司、科研单位、民间团体、公民个人等各方,就人工智能安全治理达成一致。《人工智能安全治理框架》1.0版发布 确保人工智能技术造福于人类

《框架》以鼓励人工智能改革创新为第一要务,以有效防范化解人工智能安全风险为出发点和落脚点,给出了包容审慎、保证安全,风险导向、灵巧治理,技管融合、协作解决,开放合作、共治共享等人工智能安全治理的原则。

《框架》依照风险管理的理念,紧密联系人工智能技术特点,剖析人工智能风险来源和表达形式,对于模型算法安全、数据安全和系统优化等内部安全风险和网络域、实际域、认知域、伦理域等应用安全风险,提出相应技术解决和综合防治措施,及其人工智能安全开发运用引导。《人工智能安全治理框架》1.0版发布 确保人工智能技术造福于人类

全国网络安全标准化技术委员会秘书处关键负责人表示,《框架》的发布,对促进社会各方积极开展、协同推进人工智能安全治理有重要推动作用,为培养安全、靠谱、公平、透明色人工智能技术研发和应用生态,推动人工智能的健康发展和完善运用,带来了基本性、框架性技术指南。同时,也有利于在全球范围促进人工智能安全治理国际交流,推动形成具备广泛共识全球人工智能治理体系,保证人工智能技术造福于人们。

人工智能是我们发展新领域,给世界带来巨大机会,也会带来各种风险考验。9月9日,全国网络安全标准化技术委员会制订的《人工智能安全治理框架》1.0版(下称《框架》)对外公开公布。《框架》将人工智能安全风险按内生安全和应用安全归类,并给出相应的技术应对策略。围绕“鼓励创新,对人工智能研发与应用采用宽容心态”“迅速动态精确调节治理对策”“确立主体安全管理”“共享良好实践”的原则,《框架》促进多方就人工智能安全治理达成一致,推动人工智能安全有序发展。《人工智能安全治理框架》1.0版发布 确保人工智能技术造福于人类

《框架》提出,人工智能系统设计、研发、练习、检测、布署、应用、维护等生命期各环节都面临安全风险,既遭遇本身技术缺点、不够带来的风险,也面临不当使用、乱用乃至故意运用带来的安全风险。

其中人工智能内部安全风险包含模型算法安全风险、数据安全风险、系统安全风险。人工智能运用安全风险包含网络域安全风险、实际域安全风险、认知域安全风险和伦理域安全风险。

以上风险中模型算法安全风险的篇幅最多,共优化成六方面:可解释性差;成见、岐视;鲁棒性弱;被盗取、伪造;导出不可靠;对坑进攻。以排在第一位的可解释性差为例,此风险是指以深度学习为代表人工智能算法内部运作逻辑繁杂,推理过程属黑灰盒方式,可能造成输出结果难以预料和准确归因,如有异常无法迅速调整和追溯追责。

对于该类风险,《框架》强调要不断提升人工智能可解释性、可预见性,为人工智能系统内部结构、推理逻辑、技术插口、输出结果给予明确规定,恰当体现人工智能系统造成结论的过程。在规划、研发、布署、维护过程中建立并实践安全开发规范,尽量清除模型算法存有的安全缺点、歧视性趋向,提升鲁棒性。

让大模型给的结论更准确,是大模型落地到公司端基本,可见治理该类风险对整个行业的必要性。

猜你喜欢

蜡瓶糖风靡学生群体或含致癌物 蜡瓶糖质量参差不齐需加强监管

凯尼恩学院适合中国留学生留学吗 凯尼恩学院热门留学专业2024

瑞德福大学在美国是什么级别的院校 瑞德福大学奖学金申请流程2024