澳洲168-传OpenAI员工在CEO下台前警告董事会超级人工智能可能威胁人类

鞭牛士报道，12月23日消息，据路透社报道，两位知情人士告诉路透社，在 OpenAI 首席执行官萨姆·奥尔特曼流亡四天之前，几名研究人员向董事会发出了一封警告信，警告称发现一项强大的人工智能可能威胁人类OpenAI。

两位消息人士称，此前未报道的信件和人工智能算法是董事会罢免生成人工智能的典型代表奥特曼之前的一项关键进展OpenAI。在周二晚间他凯旋归来之前，700 多名员工威胁要辞职并加入支持者微软，以声援他们被解雇的领导人。

消息人士称，这封信是导致奥特曼被解雇的董事会众多不满之一OpenAI。路透社无法查看这封信的副本。写这封信的研究人员没有立即回应置评请求。

据一位消息人士透露，长期担任高管的 Mira Murati 周三向员工提到了这个名为 Q* 的项目，并表示在本周末的活动之前已向董事会发送了一封信OpenAI。

该报道发表后，OpenAI 发言人表示，穆拉蒂告诉员工媒体将要报道的内容，但她没有对报道的准确性发表评论OpenAI。

其中一位知情人士告诉路透社，ChatGPT 的制造商在 Q*（发音为 Q-Star）方面取得了进展，一些内部人士认为这可能是该初创公司寻找超级智能（也称为通用人工智能 (AGI)）的突破OpenAI。

OpenAI 将 AGI 定义为比人类更聪明的人工智能系统OpenAI。

该人士不愿透露姓名，因为他们无权代表公司发言，鉴于拥有大量计算资源，新模型能够解决某些数学问题OpenAI。消息人士称，虽然数学成绩仅达到小学生的水平，但在此类测试中取得好成绩让研究人员对 Q* 未来的成功非常乐观。

路透社无法独立验证研究人员声称的 Q* 的功能OpenAI。

研究人员认为数学是生成式人工智能发展的前沿OpenAI。

目前，生成式人工智能擅长通过统计预测下一个单词来进行写作和语言翻译，而同一问题的答案可能会有很大差异OpenAI。但征服数学能力（只有一个正确答案）意味着人工智能将拥有类似于人类智能的更强推理能力。例如，人工智能研究人员认为，这可以应用于新颖的科学研究。

与只能解决有限数量运算的计算器不同，AGI 可以概括、学习和理解OpenAI。

消息人士称，研究人员在给董事会的信中指出了人工智能的能力和潜在危险，但没有具体说明信中提到的具体安全问题OpenAI。计算机科学家长期以来一直在讨论超级智能机器带来的危险，例如他们是否会认为毁灭人类符合他们的利益。

在此背景下，Altman 努力使 ChatGPT 成为历史上增长最快的软件应用程序之一，并从微软吸引了必要的投资和计算资源，以更接近超级智能（AGI）OpenAI。

除了在本月的演示中宣布一系列新工具外，奥特曼上周还在旧金山举行的世界领导人聚会上开玩笑说，他相信通用人工智能即将到来OpenAI。

「在 OpenAI 的历史上已经有四次了，最近一次是在过去几周，当我们推开无知的面纱并向前推进发现的前沿时，我已经在房间里了，并且能够做到这一点是一生的职业荣誉OpenAI。」他在亚太经济合作组织峰会上说道。

一天后，董事会解雇了奥特曼OpenAI。

特斯拉CEO马斯克转发了路透社文章，并表示这令人担忧OpenAI。