物理学诺贝尔奖得主杰弗里·辛顿和化学奖得主德米斯·哈萨比斯在周六的一场新闻发布会上坚持认为,需要对人工智能进行强有力的监管。
人工智能是一项非常重要的技术,但我们需要确保监管措施正确无误,而目前的难点在于这项技术发展速度非常快。哈萨比斯与美国科学家大卫·贝克和约翰·詹默共同获奖,他们通过人工智能揭示了蛋白质的秘密。
哈萨比斯表示,这种进化速度带来了巨大的挑战。但他指出,根本问题在于我们希望用这些系统做什么、如何部署它们,并确保整个人类都能从中受益。这位英裔加拿大人、被视作人工智能之父的辛顿承认,他希望更早地考虑安全性问题,因为他担心人工智能可能会加剧军备竞赛。
去年他离开谷歌时曾引起轰动,并警告机器有一天可能会超越人类。辛顿因与美国科学家约翰·霍普菲尔德共同研究人工神经网络而获奖。各国政府在致命自主武器方面不愿意自我监管,并且存在美国、中国、俄罗斯、英国和以色列等主要军火供应商之间的军备竞赛。
哈萨比斯建议各国政府制定灵活的监管措施,并建议政府和民间社会借鉴医疗和交通领域的监管经验,随着技术的发展迅速适应。哈萨比斯在接受法新社采访时还提到与埃隆·马斯克讨论了不恰当使用人工智能所构成的“存在性威胁”。
他表示马斯克对人工智能可能夺回控制权的潜在风险感到担忧。他补充说,有信心马斯克会在唐纳德·特朗普明年1月重返白宫时向他传达这一信息。
但他也警告称,并不确定特朗普团队中是否所有人都能充分意识到其中的风险。他认为马斯克本人可能并不是一个特别有道德的人。