(相关资料图)

英国政府宣布将于今年秋季(秋季)举办首届全球人工智能安全会议。 在此次峰会上，主要国家、领先的科技公司和研究人员将齐聚一堂，讨论安全措施，以评估和监测人工智能带来的最重大风险。

“人工智能具有不可思议的潜力，可以让我们的生活变得更美好，”英国首相 Rishi Sunak 说。 “但我们需要确保以安全可靠的方式开发和使用它。”

“纵观历史，我们一次又一次地发明了颠覆范式的新技术，并利用它们造福人类。 这是我们必须再次做的事情。没有一个国家可以单独做到这一点。 这需要全球的努力。 但凭借我们丰富的专业知识和对开放、民主国际体系的承诺，英国将与我们的盟友站在一起，引领潮流。”

从日常生活到科幻小说，人工智能所带来的潜在风险已经被多方面关注。 目前人工智能最常见的危险是它会产生称为幻觉的虚假信息。

OpenAI 正在研究其 LLM 中的处理方法，验证每个阶段的逻辑以减少"胡说八道"的发生率，但该模型尚未部署用于广泛使用。 除了这个问题，人工智能还可以被恶意黑客用来生成可用于攻击的恶意代码。

虽然这不直接构成人工智能安全问题，但围绕人工智能抢走工作的情况是政客们必须应对的另一件事。 例如，上周报道说，一些公司已经开始用生成人工智能取代人类。

在本次峰会宣布之前，Rishi Sunak 的 AI 顾问 Matt Clifford 表示，如果不受监管，AI 可能会在短短两年内变得非常强大，这显然会让人类难以控制。 虽然终结者 AI 场景现在感觉像是科幻小说，而且可能会持续两年多，但政府最好在为时已晚之前调查潜在风险。