技术进步加剧就业市场担忧;Channel 4高管呼吁政府干预;Anthropic明确ASL-4/5能力阈值。
技术进步加剧就业市场担忧;Channel 4高管呼吁政府干预;Anthropic明确ASL-4/5能力阈值。
不过需要明确:当前模型(ASL-3 级别)风险可控,真正的重大风险出现在 ASL-4(可能造成大规模伤害)和 ASL-5(存在灭绝风险)。
这些行为的复杂性导致Anthropic将Claude Opus 4归入其目前实际使用的最高安全级别分类(ASL-3,代表显著高风险,具体是指灾难性滥用风险显著增加或具有较低水平自主能力的AI系统),仅次于目前尚未定义的ASL