站长之家(chinaz.com) 5月24日 消息:近日，openai、谷歌、微软和智谱ai等来自不同国家和地区的16家公司，在“人工智能首尔峰会”（ai seoul summit）上共同签署了前沿人工智能安全承诺(frontier ai safety commitments)。这一承诺标志着ai开发领域的一次重大进展，旨在加强ai技术的安全性和透明度。
图源备注：图片由ai生成，图片授权服务商midjourney
1. 承诺要点
- 确保前沿ai安全的负责任治理结构和透明度
- 基于人工智能安全框架，负责任地说明如何衡量前沿ai模型的风险
- 建立前沿ai安全模型风险缓解机制的明确流程
图灵奖得主yoshua bengio认为，这一承诺的签署是建立国际治理制度以促进人工智能安全的重要一步。openai全球事务副总裁anna makanju也表示，这一承诺是推动先进ai系统安全实践的重要一步。
2. 背景与动因
近期，openai联合创始人、首席科学家ilya sutskever与openai超级对齐团队共同领导人jan leike相继离开openai。leike在x发布帖子，批评openai忽视安全问题。这一事件在业界引发广泛关注，凸显了当前ai安全问题的严峻性。
5月21日，图灵奖得主yoshua bengio、geoffrey hinton和姚期智等业内专家在《science》期刊上刊文，呼吁世界各国领导人采取更有力的行动应对ai风险，警告ai的无节制发展可能导致生命和生物圈的大规模损失。
作为中国的大模型公司，智谱ai也签署了前沿人工智能安全承诺。智谱ai在顶会iclr2024上分享了他们的ai安全具体做法，强调了超级对齐技术在提升大模型安全性方面的重要性。智谱ai透露，其glm-4v模型内置了安全措施，以防止有害或不道德行为，保护用户隐私和数据安全。
5月22日，欧盟理事会正式批准了《人工智能法案》（ai act），这是全球首部ai全面监管法规，将于下月生效。这部具有里程碑意义的法案采用“基于风险”的方法，规定对社会造成更高风险的ai技术需要遵守更严格的规则，对违反规定的公司将处以严厉罚款。
比利时数字化大臣mathieu michel表示，这一法案是世界上第一部此类法规，旨在解决全球性技术挑战，同时为社会和经济创造机遇。
总结
ai安全问题正在全球范围内引起广泛关注。从企业到政府，各方都在采取措施预防和解决ai安全问题。openai、谷歌、微软和智谱ai等公司的前沿人工智能安全承诺，以及欧盟《人工智能法案》的出台，都是为确保ai技术安全发展的重要举措。随着ai技术的不断进步，确保其安全性和透明度将是各方共同努力的方向。