AI时代儿童安全护航：Roblox、OpenAI、谷歌共组力量成立新组织

AI巨头联手保护儿童安全：Roblox、OpenAI、谷歌携手成立新组织

　　 2月11日消息，据Engadget今日报道，Roblox、Discord、OpenAI和谷歌共同发起成立了一个名为ROOST（强大开放在线安全工具）的非营利组织，致力于在AI时代构建可扩展且互联互通的安全基础设施。

　　 该组织计划向公共和私人机构免费提供开源安全工具，以增强其平台上的安全防护措施，初期将重点关注儿童安全。ROOST在宣布时特别强调，计划提供用于“检测、审核和报告儿童性虐待材料（CSAM）”的相关工具。合作公司不仅为这些工具提供资金支持，还贡献了构建这些工具所需的技术力量。

　　 ROOST认为，随着生成式人工智能技术的迅速发展，网络环境正在发生深刻的变革，对于“可靠且易于访问的安全基础设施”提出了更高的需求。ROOST的目标是避免让小公司或组织从头开始构建安全工具，而是免费为他们提供现成的解决方案。 这种做法不仅有助于提高整体网络安全水平，还能大大减轻小型企业和组织在安全防护方面的负担。在当前这个数字化转型加速的时代，这样的支持显得尤为重要。通过提供免费的安全工具，ROOST为那些资源有限的小型实体提供了强大的安全保障，有助于他们在日益复杂的网络环境中更好地生存和发展。

　　 据了解，儿童在线安全问题自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在国会审议以来，一直备受关注，尽管这两项法案都未能在众议院获得通过。包括谷歌和OpenAI在内的多家公司已承诺，将停止利用AI技术生成儿童性虐待材料。

　　 对于Roblox而言，儿童安全问题显得尤为紧迫。据统计，2020年美国九至十二岁的儿童中有三分之二的人在使用Roblox，而该平台在儿童安全方面一直面临着诸多挑战。2024年，《彭博商业周刊》报道称公司曾遇到“恋童癖问题”，这促使公司对儿童私信实施了更多的限制和新政策。

　　 报道称，尽管ROOST无法解决所有问题，但它无疑为那些与Roblox类似的平台或企业提供了一种更为便捷的解决方案。这一创新工具不仅简化了管理流程，还大大提升了用户体验，对于那些正在寻找高效管理方法的组织来说，ROOST无疑是一个值得考虑的选择。它在提高效率的同时，也为用户带来了更加流畅和愉悦的互动体验，这无疑将推动相关行业向着更加智能化、人性化的方向发展。