近日,Anthropic公司发布了一款名为Claude Mythos Preview的超强人工智能模型,但由于其强大的功能,该公司决定不向公众开放使用权限。
Anthropic启动了Project Glasswing项目,与亚马逊AWS、苹果、博通等知名企业及机构合作,在小范围内测试这款大模型,以保护软件的安全性。
自该模型发布以来,包括美联储和英国央行在内的全球金融机构纷纷召集专家探讨其潜在影响,因为如此强大的AI系统若不能保障金融安全,则可能引发严重后果。
Anthropic透露,Mythos目前的主要能力在于发现软件中的安全漏洞。例如,它在OpenBSD这样的知名安全操作系统中发现了长达27年的未被人类察觉的安全问题。
然而,Tomshardware网站的研究表明,Mythos的实际表现与Anthropic宣传的有所不同。虽然声称能检测出数千个漏洞,但这一数据多为推测性结论,并非全部经过人工验证。
在对超过7000个开源软件堆栈进行测试后,Mythos仅发现了大约600个可能导致系统崩溃的安全漏洞,其中只有约10个被确认为严重问题。
即便Mythos确实找到了许多潜在的漏洞,但很多问题是存在于旧版或不再使用的软件中,并且在现有的安全防护措施下无法实际利用。
此外,Red Hat公司的独立分析指出,大量标记的问题实际上是功能缺陷而非真正的安全漏洞。因此,安全专家们面临着从海量数据中识别真正威胁的任务。
总的来看,虽然Anthropic声称Mythos能发现数千个安全漏洞,但这些漏洞的实际价值远不及宣传中的那样高,而且很多漏洞在当前环境下并不构成实际威胁。
此外,关于因Mythos过于强大而不向公众开放的说法也存在夸大成分。实际上,微软和亚马逊的云平台已经提供了这款模型的服务,尽管收费高昂。Anthropic不对外公开使用可能更多是出于成本考虑。
最后值得一提的是,尽管Anthropic被认为是开发最强编程大模型的企业之一,但最近其声誉有所下降,并且频繁利用“AI将超越人类”的营销策略来提升自身影响力。
近年来,该公司几乎每年都以AI具备自我意识为话题进行宣传,这种做法与OpenAI的做法如出一辙。通过这些手段不断吸引关注,巩固市场地位。
他们这几年来几乎每年都要传播几次AI有了自己的意识之类的说法,跟OpenAI的CEO奥特曼整天把已经实现了AGI的营销挂在嘴头上是半斤八俩,时不时用这些东西来刺激下大家,刷刷存在感。

