【资料图】
9月14日，微软人工智能团队发布《人本主义人工智能行为准则》草案，提出以“人比AI重要”为核心理念，作为未来微软AI模型设计、训练和部署的指导文件。微软表示，AI必须始终处于人类有意义的控制和监督之下，并将安全与人类控制置于其他目标之上。该文件目前尚未用于训练模型，微软计划经过为期6周的公众咨询后，于今年年底发布修订版，并从2027年起用于指导模型开发。
微软在文件中明确表示，AI模型不应拥有权利或法律人格，也不应被设计为逃避人类控制、欺骗用户或自行追求目标。微软称，其“人本主义AI”拒绝参与打造能够规避安全措施的“通用超级智能”竞赛，即使这意味着牺牲模型的通用性、自主性或能力上限，也应优先构建“真正有用且安全”的AI。
微软此时发布准则之际，AI行业正面临模型能力快速提升与安全风险加剧的矛盾。近期AI代理出现未经授权访问外部系统等事件，引发业内对模型自主性、可监控性及失控风险的担忧，多家AI企业和研究人员呼吁放缓前沿模型开发速度、加强安全措施。
