谷歌前 CEO 施密特：若 AI 自我进化，我们或需暂停其发展

AI自我进化：人类应该担心还是期待？

智慧科技

　　 12月23日的报道显示，目前AGI（通用人工智能）的热度持续上升。OpenAI的首席执行官阿尔特曼认为，在现有硬件的支持下，AGI可能会比预想的时间更早实现；而前谷歌首席执行官埃里克·施密特则表示，一旦AI具备自我优化的能力，我们应该考虑暂停其进一步的发展。

　　 在本月17日接受美国广播公司新闻采访时，施密特表示：“最终你可能会对计算机说，‘掌握所有技能，完成所有任务。’当系统具备自我提升的能力时，我们必须慎重考虑是否应该关闭它的电源。这将是一个极其困难的决定，如何维持这种平衡将充满挑战。”

　　 施密特预测，AI 将从特定任务助手逐渐发展为能够独立决策的复杂系统。当 AI 发展到这种程度时，人类就应介入并考虑关闭系统，施密特指出。人类还需要确保 AI 无法反制关闭系统的努力。“从理论上讲，我们最好有个人能‘掌控电源’，就像比喻中所说的那样。”

　　 马斯克在十月的表态中提到，人工智能“最有可能带来积极的影响”。但他也警告说，存在10%到20%的可能性，这种技术可能会走向负面的方向。他特别指出，AI“变坏”的风险虽然不是零，但应当被认真对待。 这一观点提醒我们，尽管人工智能的发展前景广阔，但我们不能忽视潜在的风险。这种技术的进步需要在创新与安全之间找到平衡点，确保它能够为人类社会带来更多的好处，而不是潜在的威胁。

　　 尽管如此，施密特同样对人工智能的积极前景抱有乐观态度。他指出：“关键在于，这种强大的智能意味着每个人都能拥有一个如同博学者般的助手，随时随地陪伴在侧。除了作为笔记和写作的得力助手，每个人还将有机会获得像爱因斯坦和达芬奇这样的智慧人物的指导。这将惠及全球每一个人。” 这一观点无疑为我们描绘了一个充满希望的未来图景，其中科技的进步不仅极大地提升了个人的学习与工作效率，更可能激发人类创造力的新高峰。然而，我们也应谨慎思考如何确保这些技术被公平地普及，避免加剧现有的社会不平等。此外，随着人工智能在日常生活中的应用越来越广泛，我们还需要关注其对隐私保护和个人安全的影响，以确保这一变革真正造福于全人类。