参议院民主党人和一名独立立法者已致函 OpenAI 执行长 Sam Altman,内容涉及该公司对举报人的安全标准和雇用做法。

《华盛顿邮报》首先获得的这封信中最重要的部分也许是第9 项,其中写道:「OpenAI 是否承诺将其下一个基础模型提供给美国政府机构进行部署前测试、审查、分析和评估?

这封信概述了另外 11 个需要解决的问题,包括确保 OpenAI 承诺将其 20% 的运算能力用于推动安全研究和协议,以防止恶意行为者或外国对手窃取 OpenAI 的人工智慧产品。

监管审查

尽管监管审查对OpenAI 和人工智慧领域来说并不是什么新鲜事,但民主党立法者的这封信是由举报人举报GPT-4 Omni 安全标准松懈的,以确保该产品的市场发布不会被推迟。

相关:Synchron、ChatGPT 可帮助瘫痪患者再次聊天和发短信

OpenAI 举报人还声称,向管理层提出安全问题的努力遭到了报复,并涉嫌非法保密协议,促使举报人于 2024 年 6 月向美国证券交易委员会提出投诉。

不久之后的 7 月,由于监管审查力度加大,科技巨头微软和苹果放弃了 OpenAI 董事会成员资格,尽管微软在 2023 年向 OpenAI 投资了 130 亿美元,但仍决定不担任董事会席位。

存在的恐惧依然存在

OpenAI 前员工 William Saunders 最近透露,他退出公司是因为他认为 OpenAI 正在进行的研究可能对人类构成生存威胁,他将 OpenAI 的潜在发展轨迹比作 1912 年臭名昭著的泰坦尼克号失事事件。

Saunders 澄清,他并不关心 OpenAI 的 ChatGPT 大语言模型当前的迭代,而是更关心 ChatGPT 的未来版本以及高级超人智慧的潜在发展。

举报人认为,在人工智慧领域工作的员工有权警告公众人工智慧快速发展所展现的潜在危险能力。

杂志:AI Eye:人工智慧是核武层级的威胁吗?为什么人工智慧领域同时进步,愚蠢的双关语