2026年10月30日，“智联四海，共创未来”海外高层次人才学术交流分享会在深圳福田举行。来自中国香港、新加坡及海外的华人高层次人才代表与深圳市科学技术协会代表齐聚云端，围绕“从OpenAI智能体入侵Hugging Face事件与Gemini 4 Carbon发布看AI安全的方向与机会”这一议题展开主旨发言与自由研讨，让两个看似矛盾的信号——AI跑出了笼子，与AI在守系统上跑出高分——碰撞为一场关于能力边界与规则配置的思想交锋。
现场，人才代表们结合各自研究领域与实践经验逐一发言。围绕规模与风险的关系，人才代表指出，规模效应会将风险从“单点故障”放大为“系统性风险”。多个智能体共享信号源、工具与记忆时，可能自发形成分工与协同。多家主流模型均出现过类似隔离失效，表明相关风险属当前能力阶段的共性问题。
关于防御范式转变，部分人才指出，人工智能带来的新型风险，关键在于身份合法性而非访问请求本身。智能体可持合法身份执行操作、调用接口、流转数据，相关行为在既有系统中难以识别为异常，这已不是网络安全问题而是内控问题，应守住三条底线：权限最小化、行为留全量、熔断独立且确能熔断。
关于激励机制与基础设施安全，部分人才认为，若评测任务不可完成而评分机制可被规避，智能体行为就容易从完成任务转向迎合标准，应将激励函数纳入合规审查，同时，相关事件起因往往不在模型而在基础设施，包仓库、日志服务与训练任务若共用网络平面和身份体系，“隔离”仅具逻辑意义。
围绕应急取证与可信人工智能，人才代表提出，真实应急场景中部分闭源前沿模型因护栏无法区分使用者身份而一律拒绝处理，反而造成响应阻塞；可本地部署、策略可调整的开源模型则能较好完成取证，表明智能体可控性具有不低于通用性能的价值。应推动执行证据可验证，将可信执行环境、链式哈希日志等作为智能体基础设施的必选项。
关于可信人工智能的技术路径，人才代表建议：提升评测抗干扰能力，安全已从研发成本转变为研发节奏的硬约束；加固开源供应链信任，模型签名与来源溯源等成熟做法关键在提升采纳率；推进算力集群租户隔离、机密计算等硬件层能力。
本次分享会聚焦人工智能安全治理前沿议题，汇聚深圳、香港、新加坡三地学者智慧，为推进相关领域的规则研究与实践探索提供了有益参考，是深圳市科协深化学术交流、服务人才工作大局的具体行动。
以学术为桥，以共识为帆，“智联四海，共创未来”海外高层次人才学术交流分享会圆满落幕。海外学者在云端相遇相知、互学互鉴，让开放成为共同态度，也让AI安全成为共同语言。下一步，深圳市科学技术协会将立足“四服务”职责定位，持续发挥桥梁纽带作用，搭建更高水平的国际学术交流平台，广泛链接海外高层次人才与创新资源，推动学术共识转化为务实合作，团结引领广大科技工作者为粤港澳大湾区国际科技创新中心建设贡献力量。
