IT之家 3 月 5 日消息，两位开创性科学家安德鲁・巴托（Andrew Barto）和理查德・萨顿（Richard Sutton）因其在人工智能训练技术领域的卓越贡献，今天荣获了 2024 年图灵奖。然而他们在领奖之际，却对当前人工智能开发中的安全隐患表达了深切担忧。
巴托是马萨诸塞大学的研究员，而萨顿曾是 DeepMind 的研究科学家。他们指出，许多人工智能公司在产品尚未经过充分测试的情况下便急于推向市场，这种做法无异于“建造一座桥，然后通过让行人使用来测试其安全性”。
图灵奖被誉为“计算机界的诺贝尔奖”，奖金高达 100 万美元（IT之家备注：当前约 726 万元人民币），此次巴托和萨顿凭借开发“强化学习”技术而共同获奖。强化学习是一种通过试错训练人工智能系统做出优化决策的机器学习方法。谷歌高级副总裁杰夫・迪恩（Jeff Dean）称这一技术是“人工智能进步的关键”，并且一直是推动人工智能发展的“核心支柱”，包括 OpenAI 的 ChatGPT 和谷歌的 AlphaGo 等突破性模型都受益于此。
巴托在接受《金融时报》采访时表示：“在没有安全措施的情况下向数百万用户发布软件，这并不是良好的工程实践。工程实践的演进本应是为了减轻技术可能带来的负面影响，但我并未看到开发人工智能的公司遵循这一原则。”
人工智能开发的安全性问题早已引起广泛关注。被称为“人工智能教父”的约书亚・本吉奥（Yoshua Bengio）和杰弗里・辛顿（Geoffrey Hinton）也曾对这一问题提出批评，他们同样是图灵奖的获得者。
巴托批评人工智能公司过于“受商业利益驱动”，而忽视了人工智能研究的深入发展。
