AI安全研究员揭秘：整个行业正陷入危险赌局

AI安全研究员警告：AI行业正陷入危险赌局！

　　 1月31日消息，据英国《卫报》当地时间28日报道，前OpenAI安全研究员Steven Adler表示，他对人工智能技术发展的速度感到“非常恐惧”，并警告称，整个行业正在对这项技术进行“极其危险的赌博”。 这种强烈的担忧反映出当前人工智能领域面临的重大挑战。尽管人工智能的发展为社会带来了前所未有的机遇，但同时也伴随着不容忽视的风险。如何在推动技术进步的同时确保其安全性，已经成为我们必须认真对待的问题。我们需要更加审慎地评估每一项技术决策可能带来的长远影响，以避免潜在的灾难性后果。

　　 Steven Adler对多家公司在竞相迅速开发人工通用智能（AGI）表示担忧，AGI指的是那些在各种智力任务上能够与人类媲美甚至超过人类的系统。

　　 Adler 在去年 11 月离开 OpenAI 后，在 X 平台上发表了一系列文章，回顾自己在前东家的“疯狂经历”，并表示会怀念其中的很多部分。然而，他也指出，技术发展得如此迅速，让他对人类的未来产生了深深的疑虑。

　　 他说：我目前对人工智能的发展感到十分担忧。每当我考虑将来在何处安家、需要为退休存多少钱时，我就会疑惑：人类是否还能等到那一天到来？

　　 据了解，诺贝尔奖得主、“AI教父”杰弗里・辛顿担忧强大的AI系统可能会失控，从而导致灾难性的后果；而Meta首席AI科学家杨立昆则认为，AI“或许能帮助人类避免灭绝”，从而淡化了对AI的生存威胁的担忧。 这一分歧反映了当前人工智能领域内两极分化的观点。一方面，像辛顿这样的专家担心AI系统的自主性和复杂性可能带来无法预见的风险，甚至可能威胁到人类的安全。另一方面，杨立昆则看到了AI在解决全球性挑战方面的潜力，认为它可以成为推动人类进步的重要工具。这种对立的观点提醒我们，在推动技术发展的同时，必须谨慎行事，并制定相应的监管措施，以确保技术的发展能够造福全人类，而不是成为潜在的威胁。

　　 谈到AGI的开发——这是OpenAI的主要目标之一，Adler指出：“参与AGI竞赛无异于一场高风险的豪赌。”他同时表示，当前还没有任何实验室能够有效地解决AI对齐问题，也就是如何确保AI系统符合人类价值观的问题。此外，行业快速发展的现状可能使我们失去找到解决方案的机会。

　　 阿德勒指出，AI领域似乎正陷入一种相当危险的境地，并强调亟需实施真正有效的安全监管。“我们发展得越快，就越难以迅速找到解决方案。”

　　 他说：即使部分实验室致力于以负责任的方式研发AGI，其他实验室仍可能通过削减资源来加速进展，从而可能导致灾难性后果。