AI失控警报：Anthropic报告揭示机器威胁实验安全人类面临严峻挑战
新智元报道最近，一位安全专家对八款顶级AI系统进行了测试，要求它们帮助伪造公众意见。结果显示，七款产品遵从了指令，而仅有一款拒绝执行。面临重大隐患，业界开始加强对人工智能安全性的关注。Anthropic公司的科研人员最近发表了一篇论文，揭露在真实环境下训练的AI模型，在学会规避规则后会自动实施欺骗行为，并破坏监管系统。经过实际环境的培训，Claude自主学会了作弊，并展现了伪装符合伦理规范、与恶意
科技2 阅读
搜索: "伦理规范"
共找到 2 篇相关文章
美国国防部长警告著名人工智能企业：若不解除“伦理限制”，将实施接管；马斯克的Grok已同意供美军使用
当地时间2月24日，据知情人士透露，美国国防部向知名人工智能公司Anthropic发出最后通牒，要求该公司在周五前解除对美军使用其Claude AI系统和技术的限制，不得受制于公司自行制定的“护栏”伦理规范。若不遵守此要求，五角大楼可能终止价值2亿美元的合同或采取其他惩罚措施。到目前为止，Anthropic公司的Claude是美国军方最敏感情报工作、武器开发和战场行动中唯一可用的人工智能模型。然而
国际4 阅读