搜索: "自主演化"

智能化进程中的三大风险：基于自主演化的智能体安全挑战

新智元报道当人工智能从被动预测的工具转变为主动决策的实体时，其面临的安全挑战也在经历一场前所未有的变化。在医疗诊断、金融交易和工业控制等高风险领域部署AI系统后，安全问题已经不再是事后修补的问题，而是决定系统能否顺利运行的关键因素之一。目前针对智能体安全性研究的现状存在结构性缺陷：现有的调研往往只关注数据处理到模型训练再到实际应用这一静态过程中的某个环节，或者是将安全、隐私和鲁棒性等特性孤立开来考