人工智能如何实现安全可控？张钹院士发展第三代人工智能

　　来源：人民网原创稿
　　受访者供图
　　人民网北京6月4日电（丁亦鑫）作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响，但数据隐私、算法偏见、技术滥用等安全问题也正给社会公共治理与产业智能化转型带来严峻挑战。未来人工智能如何兼顾创新发展与安全可控？6月3日，北京智源大会期间，围绕这一话题展开的AI安全与产业治理论坛成功召开。
　　现阶段，人工智能产业正经历从高速增长向高质量发展的转变，产业期待的提升让金融、医疗等更复杂的高价值场景的应用需求不断增加，安全性的重视程度也不断提升，人工智能如何长久高质量发展成为亟待解决的问题。
　　会上，中国科学院院士、清华大学人工智能研究院院长张钹在致辞中表示，未来人工智能产业发展在扩大应用场景的同时，必须实现数据、算法与应用层的安全可控。同时，他表示人工智能的安全可控问题要同步从技术层面来解决。在具体的实现路径上，他提出要发展第三代人工智能，即融合了第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术。
　　北京市经济和信息化局郭家义在讲话中对发展第三代人工智能表达了充分的期待。他认为，随着人工智能的快速发展，各种安全问题也接踵而至。第三代人工智能的提出恰逢其时，将助力我国实现人工智能在安全可信领域的突破，也必将对北京进一步落实国际科技创新中心定位、构建首都高精尖经济结构产生积极的影响。
　　中国信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能与数据产业互促发展的同时安全问题也交织影响，一方面人工智能对数据强依赖的发展特性导致其面临的自身数据安全风险、应用导致的数据安全风险以及应用加剧的数据治理挑战日益凸显，另一方面，人工智能也为数据治理工作提供自动化、智能化、高效化、精准化的智慧支撑。
　　数据的不安全和算法的不安全是制约当前人工智能产业发展的主要因素，也是发展安全可控人工智能需要解决的核心问题。什么样的人工智能才是安全可控的？作为第三代人工智能的践行者，瑞莱智慧CEO田天在会上介绍说，安全是指打造数据安全与算法安全两大核心能力，解决数据强依赖带来的隐私泄漏与数据投毒等隐患，同时提升算法的鲁棒性与可靠性。可控既指应用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，通过理论创新、技术突破形成核心竞争力。他强调，安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。
　　针对算法治理路径的探索，清华大学人工智能治理研究院副院长梁正提出，首先需进行分领域、分级治理，并确定治理优先级，目前聚焦于利用个人信息进行的自动化决策系统，未来聚焦于涉及人身安全的高风险领域，同时在算法治理中识别和区分规则问题和技术问题，采取针对性的措施，以及坚持安全、公平、透明和隐私等基本原则，实现负责任的人工智能。