AI危机来袭：OpenAI与DeepMind员工联名警示人工智能风险

几位现任和前任的OpenAI与谷歌DeepMind员工于2024年6月4日共同签署了一封公开信，严正警告人工智能（AI）带来的潜在风险。信中指出，OpenAI的AI系统已接近人类智能水平，并且通用人工智能（AGI）在2027年问世的概率高达50%，远远早于此前预测的2050年。这一惊人预测引发了广泛关注和担忧。

公开信详述了人工智能可能带来的多种风险，诸如加剧社会不平等、助长操控和虚假信息传播，甚至可能导致人类灭绝。值得注意的是，公开信得到了AI领域内几位重量级人物的支持，包括被誉为“人工智能教父”的Geoffrey Hinton、图灵奖得主Yoshua Bengio和AI安全专家Stuart Russell。

公开信指出，人工智能公司在推进AI研发时拥有强大的经济动力，但对保护措施和风险水平的信息却讳莫如深。因此，公开信呼吁内部人士站出来发声，因为不能指望这些公司自愿分享信息。

由于缺乏有效的政府监管，现任和前任员工成为了少数能够让公司对公众负责的群体。然而，严格的保密协议限制了员工发声，他们只能向可能未妥善处理问题的公司反映问题。传统的举报人保护措施不适用于当前AI风险，因为这些风险尚未受监管。

为此，这封公开信呼吁人工智能公司提供可靠的举报人保护措施，共有4条：

• 禁止创建或执行阻止员工对风险问题提出批评的协议；
• 提供可验证的匿名程序，使员工能够向董事会、监管机构和独立组织提出与风险相关的担忧；
• 支持开放批评的文化，允许员工在保护商业机密的前提下，向公众、董事会、监管机构等提出技术相关的风险担忧；
• 在其他程序失效后，避免对公开分享风险相关机密信息的员工进行报复。

这封公开信共有13名员工签署，其中包括7名前OpenAI员工、4名现任OpenAI员工、1名前谷歌DeepMind员工和1名现任谷歌DeepMind员工。

有关公开信的详细内容，请查看官方地址：

A Right to Warn about Advanced Artificial Intelligence