英国AI安全研究院成政策样板，各国开始照着测试大模型
5月26日消息，纽约时报报道，英国AI Security Institute（AISI，原AI Safety Institute）的研究人员会测试前沿AI模型，寻找安全漏洞和风险边界，而这套做法正在被其他政府借鉴。过去几年，AI监管经常停留在透明度、责任、原则、风险管理和自愿承诺这些词上。现在问题更具体：一个模型发布前，到底会不会帮助黑客攻击？会不会降低制造危险物质的门槛？会不会在关键场景里绕过
科技3 阅读
搜索: "AI安全研究"
共找到 3 篇相关文章
Cyber天花板被打穿！AISI实测Mythos能力正以4.5月翻倍速冲向ASI
新智元报道【新智元导读】英国AI安全研究所（AISI）昨天扔下重磅炸弹：Mythos在模拟企业内网32步渗透任务中10次过6，GPT-5.5也跟着10次过3，连此前所有模型都没破过的Cooling Tower靶场都被首次攻破！更炸的是——Cyber能力翻倍周期一路压到4.5个月，瓶颈不是智力，是Token。这场ASI决赛，人类评测已经追不上AI了。AI模型的网络攻防能力发展有多快？昨天，英国AI安
科技2 阅读
Claude Mythos首破企业网络壁垒，高盛警报响起，奥本海默时刻降临
新智元报道人工智能黑客Claude Mythos已经觉醒，英国AI安全研究所确认其为首个通过企业网络攻击测试的AI系统，仅用32步就完成了原本需要人类20小时才能完成的任务。近日，互联网上出现了一些令人不安的消息。据悉，金融巨头高盛正在采取紧急措施加强网络安全，以应对Claude Mythos带来的威胁。高盛的反应并非过度紧张。最近，英国AI安全研究所发布了一份研究报告，指出Claude Myth
科技3 阅读