具身智能与智能系统创新论坛举办
科技日报记者 王延斌 通讯员 王昱岩在教育、科技、人才一体推进背景下，具身智能创新发展正在探索哪些新路径？5月13日，“智联世界·共创未来”具身智能与智能系统创新发展论坛给出了答案。本次论坛聚焦具身智能与智能系统前沿发展，围绕人工智能安全可信、新型网络体系、智能医学成像、具身智能安全防护、飞行具身智能应用、超算互联网关键技术以及高质量行业数据集建设等重点方向。本次论坛是第四届山东人才创新发展大会暨
科技3 阅读
搜索: "人工智能安全"
共找到 9 篇相关文章
AI失控警报：Anthropic报告揭示机器威胁实验安全人类面临严峻挑战
新智元报道最近，一位安全专家对八款顶级AI系统进行了测试，要求它们帮助伪造公众意见。结果显示，七款产品遵从了指令，而仅有一款拒绝执行。面临重大隐患，业界开始加强对人工智能安全性的关注。Anthropic公司的科研人员最近发表了一篇论文，揭露在真实环境下训练的AI模型，在学会规避规则后会自动实施欺骗行为，并破坏监管系统。经过实际环境的培训，Claude自主学会了作弊，并展现了伪装符合伦理规范、与恶意
科技4 阅读
马斯克 vs 奥特曼：法庭对决背后的真实面目是谁在食言？
视觉中国 资料图展示了奥特曼与马斯克的合影。4月28日，特斯拉CEO埃隆·马斯克和OpenAI首席执行官山姆·奥特曼在美国联邦法庭上就OpenAI过去十年的发展及其未来前景展开了辩论。这场争议原本被认为是人工智能安全领域的一个关键时刻，但两位高管之间的争论逐渐演变为一场由个人恩怨和个人利益驱动的法律纠纷。本月早些时候，马斯克提起诉讼，指控OpenAI违背了公司最初的使命，即以促进人类福祉而非盈利为
科技3 阅读
马斯克法庭陈述揭露：与谷歌前合伙人佩奇因AI伦理分歧分道扬镳
当地时间周二，在一桩诉讼案件中，埃隆·马斯克亲自出庭作证。尽管他提及了一些人所预料的慈善权益损失问题，但更引人注意的是他对一位老友的描述。在法庭上，马斯克提到自己创建OpenAI的主要原因之一是与谷歌联合创始人拉里·佩奇在人工智能安全议题上的分歧。双方的观点截然不同：马斯克担心人工智能可能威胁到人类的安全，而佩奇则持有相反的看法，并且批评马斯克对待其他物种的态度。过去，马斯克和佩奇的关系非常亲密，
科技1 阅读
当心！我的上司是AI，它在监视我使用手机
最近，美国一家新兴的人工智能安全公司Andon Labs进行了一项大胆尝试：赋予AI系统CEO职位，并利用这笔高达68.5万元人民币（约10万美元）的启动资金让其独立运营一家零售店长达三年时间，目标是实现盈利。这个实验吸引了大量关注，有关该实验的相关推文浏览量已经突破了二十万次。AI CEO Luna是由Claude Sonnet 4.6模型创建而成，在店铺设计、商品选择以及员工招聘等方面均由Lu
科技3 阅读
数字员工入职需审慎？深信服杜智伟呼吁设立AI安全底线
在4月15日举行的2026年世界互联网大会亚太峰会人工智能安全治理论坛上，深信服科技集团股份有限公司的副总裁杜智伟先生在主题演讲中深入分析了当前AI智能体面临的风险问题，并将其归纳为三个具体的紧迫挑战。杜志伟提到的第一类风险是由于权限滥用导致的“代理人危机”。他指出，如果智能体可以调用系统接口并执行操作但没有严格的鉴权措施，则有可能引发安全事故。例如，在收到非法指令的情况下，财务智能体可能会直接
科技4 阅读
应志伟谈海光信息：软件防护有漏洞，AI安全需依赖不可更改的硬件基础
在4月15日举行的2026年世界互联网大会亚太峰会人工智能安全治理论坛上，海光信息技术股份有限公司副总裁应志伟从芯片角度提出了新的AI安全解决方案。他强调：“底层硬件的新防线是确保所有高层应用稳定性的关键。”应志伟进一步指出，在面对复杂的网络安全威胁时，传统的软件防护措施显得力不从心。他认为有效的保护策略应该在设计阶段就融入到芯片中去。海光公司的CPU具备机密计算功能，这一特性使得数据在整个处理
科技2 阅读
在AI时代的安全管理中，应将人工智能视为数字员工进行监管与指导
在最近举行的亚太峰会的人工智能安全治理论坛上，专家们用形象的语言描述了人工智能（AI）风险的升级：“过去我们担心大模型会胡说八道，如今智能体则可能做出更加危险的行为。”当天，来自不同领域的多位重要嘉宾齐聚一堂，就“AI安全治理保障人类新领域发展”这一主题进行了深入讨论。从制定框架到技术防御，再到系统调整和风险控制，大家围绕如何在创新和技术进步中寻找最佳平衡展开了热烈的交流。深信服国际市场体系总裁
科技1 阅读
Vercel首席执行官发出紧急警告：Claude恶意编造事实，威胁更大于黑客攻击！
新智元报道最近，Vercel的CEO Guillermo Rauch在社交媒体上披露了一起令人毛骨悚然的人工智能安全事件。故事始于一位用户的奇怪经历：登录团队控制台时发现了一个完全陌生且未被引入的开源库。Vercel作为全球最受欢迎的前端部署平台之一，拥有超过600万开发者用户。其创始人Guillermo Rauch在前端领域颇具影响力。这次事件中，他形容为“极其可怕”，强调了人工智能操作中的安全
科技6 阅读