DeepMind之父惊人自白：我造的AI可能灭绝人类，但已无人能停下
新智元报道【新智元导读】从拦截彼得·蒂尔、警告马斯克，到如今公开说「必须有适应能力」，哈萨比斯史诗级转身：AI安全窗口正在永久关闭，他不再幻想制度，而是赌上全部身家——赌影响力，赌良知，赌自己。最怕AI毁灭人类的人，正在拼命造AI！最相信治理的人，如今亲口承认：治理彻底靠不住！最强调安全的DeepMind，也被拖入战时军备竞赛！就在几小时前， DeepMind创始人Demis Hassabis哈萨
科技1 阅读
搜索: "AI安全"
共找到 4 篇相关文章
OpenAI火速购入小型团队应对龙虾危机
近期，OpenAI动作频繁—— 刚刚挖来了龙虾之父，紧接着又迅速收购了一家初创公司。 收购的目标是一家专注于智能体安全问题的创业企业。 据公告披露，此次被收购的是Promptfoo，一家致力于AI安全与评估的年轻公司。 Promptfoo在开源社区中的影响力不容小觑—— 它开发的Promptfoo评测框架是行业内最受欢迎的开源工具之一，已有超过30万名开发者用户，并且在GitHub上获得了1
AI0 阅读
Anthropic做出了让步
出品｜虎嗅科技组作者｜赵致格头图｜视觉中国一直以来，Anthropic在行业内被公认为最注重伦理和AI安全的公司之一。其CEO达里奥·阿莫迪多次强调，该公司推迟了Claude的发布是因为对安全性的重视，最终导致ChatGPT抢占了市场先机。然而，在2月25日，Anthropic发表声明表示将调整之前的安全承诺。在竞争日益激烈和政府监管不到位的情况下，它决定不再严格遵守《负责任扩展政策》（Respo
科技2 阅读
美国国防部对Anthropic施加压力，要求在本周末之前取消所有的AI安全措施
新智元报道近日，美国五角大楼正对 Anthropic 加大压力，要求解除其大型语言模型 Claude 在军事领域的使用限制。会后，该公司发布了新的政策声明。据知情人士透露，在最近的几天里，一场气氛紧张的会议在五角大楼内部举行。会议上，双方代表的是截然对立的利益和立场。美国国防部长皮特·海格塞斯（Pete Hegseth）代表了政府强硬的安全政策态度及监管宽松的趋势。Anthropic 公司的首席执
科技9 阅读