AI治理刻不容缓，安全应贯穿开发全流程

>>> 实盘10倍股票加杠杆平台

在2025年可持续全球领导者大会上，牛津大学计算机科学系导师、艾伦·图灵研究所研究员佩塔尔·拉达尼列夫发表了主题演讲，聚焦人工智能的快速发展与潜在挑战。作为《AI智能体的崛起》一书的作者，他结合自身研究经验，为全球AI治理提供了前瞻性见解。

佩塔尔指出，人工智能技术正以惊人速度渗透各行各业，它既是推动创新的引擎，也潜藏着不容忽视的风险。一方面，AI在医疗、交通和教育领域取得突破性进展；另一方面，安全漏洞和伦理问题若处理不当，可能引发系统性危机。他强调，构建可靠的安全框架应从研发初期着手，而非事后补救。

自2018年GPT模型问世以来，公开可用的AI模型数量已超过1600个，这些工具在癌症药物研发、自动驾驶技术优化等方面展现出巨大潜力。然而，佩塔尔提醒，技术滥用同样值得警惕：例如，年轻黑客利用暗网中的生成式AI实施诈骗，或AI系统因“幻觉”问题输出错误信息，这些都可能对社会稳定构成威胁。

当前许多企业过于追求开发速度，而忽视了安全标准的重要性。佩塔尔以“睡眠智能体”为例，说明恶意程序可能长期潜伏于关键基础设施（如医疗系统或导航网络），且传统检测手段难以识别。这种隐蔽性威胁一旦爆发，将严重损害用户信任，最终反噬业务发展。

为解决这一问题，佩塔尔主张将安全逻辑嵌入AI设计全流程。无论是量子AI还是下一代操作系统，都需建立类似“防护栏”的机制，并通过“AI物料清单”追溯数据来源，提升透明度。只有将安全作为技术发展的基石，才能最大限度释放AI的正面价值，避免其沦为双刃剑。

本次可持续全球领导者大会由世界绿色设计组织与新浪集团联合主办，国际财务报告准则基金会北京办公室协办，上海市黄浦区人民政府提供支持。大会以“携手应对挑战：全球行动、创新与可持续增长”为主题，汇聚全球各界领袖，共同探索可持续发展新路径。

作为往届ESG全球领导者大会的升级版，本届活动邀请了约500位中外嘉宾，包括政要、国际组织代表、诺贝尔奖与图灵奖得主，以及全球500强企业负责人。议题覆盖能源转型、绿色金融、可持续消费与科技创新等领域，旨在通过多元对话推动全球治理进程。