搜索: "指令层级"

大模型听令过度：OpenAI揭示其潜在风险

新智元报道大型AI模型的决策机制究竟是由谁掌控？OpenAI最新研究揭示了“指令层级”如何终结大模型中的权力纷争。每当我们与聊天机器人互动时，或许从未考虑过这样一个问题：它们在遵循什么样的指导原则？是否是平台设定的安全规则、开发者制定的产品要求、用户输入的命令词，还是从网页和数据库中获取的信息？当今的大模型已经超越了简单的对话功能。它们能够调用工具、阅读文件、浏览网页，并以“智能体”的身份完成实际