OpenAI于4月16日发布新版《准备框架》(Preparedness Framework),旨在更系统地识别和应对前沿AI技术可能引发的严重风险。该框架通过结构化评估流程,明确高风险能力的优先级标准,并将其归类为“高能力”或“关键能力”,要求开发与部署前必须采取充分的安全措施。
新版本细化了能力分类,新增网络安全、AI自我改进等关键领域,并引入研究类别以覆盖潜在危害。OpenAI强调将加强资源投入,确保风险评估的严谨性和透明度。内部安全顾问小组将负责审查措施,并通过可扩展的评估机制定期测试,进一步降低风险。