OpenAI 共同创始人伊利亚·苏斯克韦尔在 NeurIPS 人工智能年度会议上发表了一番广泛的话题演讲,随后接受了表彰,以表彰他在该领域做出的贡献。
苏斯克韦尔预测了“超级智能 AI”的前景——这种 AI 在许多任务上的能力将超过人类,并且他认为这种技术将在某个时间点实现。
苏斯克韦尔表示,超级智能 AI 将在质上与我们现有的 AI 不同——在某些方面甚至难以辨认。“超级智能系统实际上将以一种真正的方式具有自主性,”苏斯克韦尔说,这与当前的“略具自主性”的 AI 形态不同。
它们将进行推理,并因此变得更具不可预测性。它们能够从有限的数据中理解事物。而且,苏斯克韦尔相信它们会具备自我意识。实际上,它们可能还会想要权利。
“如果 AI 只是希望与我们共存并拥有权利,这并不是一个糟糕的结果,”苏斯克韦尔说。离开 OpenAI 后,苏斯克韦尔创立了 Safe Superintelligence(安全超级智能)实验室,专注于通用人工智能的安全性。
Safe Superintelligence 在九月份筹集了 10 亿美元。