OpenAI联合创始人SamAltman：AGI安全需建立平等、统一的国

21世纪经济报道记者 郭美婷 实习生林婉娜 广州报道

“人工智能正以快速的步伐扩展着人类的想象力。想象一下，未来十年，人工通用智能系统几乎在每一个领域都超过了人类的专业知识，该系统最终可能超过所有大型公司的集体生产力。这将提高每一个人的生活水平，但同时，我们必须共同管理其可能带来的风险。”

6月10日，在2023北京智源大会-AI安全与对齐论坛上，OpenAI联合创始人Sam Altman发表了主题演讲。

Sam Altman指出，AGI是一项关乎全球的技术，不计后果地开发和部署所带来的事故成本将影响到每一个人。

通过国际合作和协调AGI 治理非常必要。他认为有两个关键领域:首先，在技术研发过程中建立平等、统一的国际规范和标准，以便所有国家都能使用AGI；其次，通过国际合作，以可验证的方式，建立全球对日益强大的人工智能系统安全开发的信任体系。

做到这两点并不容易，Sam Altman表示，国际社会应投入大量而持续的关注，而最具建设性的一步是，国际科技界应该促进在安全领域的技术进步方面增加透明度和知识共享机制。当ACI安全研究人员发现紧急问题后，应及时分享他们的见解，以实现利益最大化。“我们需要思考的是，如何鼓励这种制度，同时尊重保护知识产权，如果能够实现这一点，新世界的大门将为我们打开，使我们保持更加广泛的合作。”

Sam Altman介绍了OpenAI在安全研究上的投入、促进和引导。OpenAI正在推进对齐研究，让AGI与人类价值观保持一致并遵循人类意图。“我们通过来自人类反馈的强化学习来训练模型，使其成为一个有用而安全的助手。从ChatGPT推出到GPT-4完成，我们一共花了8个月的时间，目前来看进展良好，GPT-4在对齐性上比以前的所有模型都要高。但对于未来更先进的AI系统而言，对齐性仍然是一个悬而未决的问题，我认为需要新的技术方法，并加强治理和监管，我们想象一下，未来的 AGI 系统或许具有 10 万行二进制代码，人类监管人员不太可能发现这样的模型是否在做一些邪恶的事情。正因此，我们还投资了许多新的研究方向，希望可以实现扩展和突破。”

Sam Altman认为，使用人工智能来管理人工智能也许是一个好的思路，例如，人类可以训练一个模型来帮助自己发现其他模型输出中的缺陷。另外，关于可解释性的研究，Sam Altman相信，机器学习技术的进步可以进一步提高人类产生解释的能力。

“我们的最终目标是，培训人工智能系统来帮助对齐研究。获得 AGI 带来的非凡好处，同时降低风险，是我们这个时代的开创性挑战之一。我们已经看到了中国、美国以及其他世界各地的研究人员的巨大潜力，并期待共同努力实现同一个目标，若能做到这一点，未来通过AGI解决世界难题并提高人类福祉，将指日可待。”Sam Altman表示。