8月21日—25日，2024世界机器人大会在北京举办。本届大会以“共育新质生产力　共享智能新未来”为主题，聚集世界各国代表、专家学者、行业精英等，共同探讨机器人产业发展、协同创新、技术革新等主题，展示机器人前沿技术和成果，加快培育新质生产力。本期版面关注“2024世界机器人大会”，摘编部分精彩观点，以飨读者。

在2024世界机器人大会协同创新主论坛上，北京大学法学院教授、北京大学人工智能安全与治理中心主任、北京大学武汉人工智能研究院副院长张平作了《人工智能伦理治理的基本问题》的主题演讲。他提到，尽管人工智能和机器人技术为人类带来了诸多便利，但人工智能的伦理问题不容忽视，特别是关注安全和治理问题已成为全球共识。

张平介绍了中国人工智能治理的基本理念，即“以人为本，智能向善”。中国对于以人为本的理解是强调人类的权益，宏观上高维度的权益。人工智能最终发展不能影响人类生存，同时，对以人为本还有另外一个理解，就是个人权利不能受到侵害，比如基本人权、隐私等。同时，中国在国际社会还倡导人工智能以及机器人发展必须平等互惠，不能产生智能鸿沟。

张平指出，安全与伦理是人工智能治理的重要方面，未来构建一个可靠、可控、可信的AI系统，以防止欺诈和歧视尤其重要，特别是现在深度伪造技术已经给社会带来了一些困惑。2023年中国提出了《全球人工智能治理倡议》，倡议中再一次强调发展、安全和治理这三个方面的主旨。目前中国在构建可信的人工智能方面已经有一些实践，在人工智能伦理方面制定了一系列法律、法规和政策，同时从安全、隐私、透明度、平等、可问责等方面多维度构建了人工智能治理框架。从立法方面来看，中国已经实施四法一条例，即《民法典》《网络安全法》《数据安全法》《个人信息保护法》以及《生成式人工智能服务管理暂行办法》，并制定了大量技术标准。在算法治理、知识产权保护、垄断问题等方面也颁布了相关法律法规。

张平介绍了人工智能治理方面的国际共识。一是伦理先行。无论人工智能技术发展到何种程度，都应先经过伦理审查。“人工智能这四个字已经不能代表一种技术，未来可能演变成一种社会形态，比如整个社会都是由智能体帮助人类共同建设，这时就进入了智能社会。”张平说。智能社会的治理和传统社会是不一样的，因此，现在探讨伦理问题是为了预防未来有可能发生的一些风险。

二是安全保障机制。联合国有一系列关于推动人工智能发展的决议，提出一定要确保人工智能的安全性和可信度，包括可靠、透明、可问责的基本原则。英国、韩国也分别举办过人工智能安全峰会，呼吁更多国家关注人工智能技术的安全问题。很多国际组织或区域性协定都有关于安全的一些原则；美国、欧盟也分别颁布一系列的法案、提案，关注人工智能安全问题。例如欧盟颁布的《人工智能法案》，把人工智能按照风险来分级分类进行管理和归置。

张平认为，全球人工智能的协调共治是不可或缺的，不可能是某一个国家去主导人工智能的治理问题，一定是各国共同探讨，防止人工智能的滥用和失控。他指出，目前国际上尽管在以人为本、安全和发展方面已达成共识，但仍面临诸多挑战。“人工智能发展的瓶颈之一是高质量训练数据的合法性，未来人工智能要想进一步‘进化’，在人工智能训练数据方面任重道远。”张平说。