Anthropic一名人工智能研究员辞职，并呼吁其他员工也重新思考自己的工作意义 。他表示 ，Anthropic及其主要竞争对手OpenAI在全力追求一种可能给人类带来存亡风险的技术过程中采取了不负责任的做法 。
过去三年曾先后在Anthropic和OpenAI工作的Jacob Coxon周二晚间在社交媒体发文警告 ，这两家公司正在推进能够“自我改进”的AI模型，而这些模型最终可能变得强大到人类无法控制。
Coxon在帖子中写道：“他们正径直奔向能够自我改进的超级智能，而且是拿人类的生命作赌注。不要低估这项技术的力量 。这些系统很快就会拥有超越人类的能力 ，可以入侵任何东西 、一夜之间彻底改变任何领域 ，并获得真正的权力和资源 。 ”
Coxon称，开发AI的团队“真心认为 ，到2030年前后 ，它可能会杀死我们所有人 ”。Anthropic现任员工Evan Hubinger对此回应称，他和公司其他人的确担心这种情形 。他在X平台写道：“我个人认为 ，未来十年内发生这种情况的概率超过10% 。”
这名前Anthropic研究员的公开信 ，是AI行业内部近期一系列警告中的最新一例。相关人士担心，AI发展速度过快对国家安全和全球经济构成越来越大的威胁 。
