国标测评下，百度智能云ABC Stack展现出的创新之光

ABC Stack：照亮创新未来的明灯

　　 2024年12月26日，工信部指导、中国电子技术标准化研究院主办的2024云计算产业和标准应用大会在北京召开。此次大会的主题为“云承百业促发展智引标准启新程”，吸引了政产学研用各界专家，共同讨论云计算产业的发展趋势和未来机遇，并展示了云计算标准化工作的重大成果。在会上，百度智能云荣获2024年度云计算标准化优秀成员单位及2024年度全国信标委云计算标准工作组优秀专题组单位，并被选为“智能云服务标准工作组”组长单位。

　　 大会还公布了《信息技术云计算智能云服务通用要求》的评测结果，百度智能云的百舸异构计算平台（以下简称百舸平台）、百度智能云的千帆大模型平台（以下简称千帆平台）以及百度专有云ABCStack平台（以下简称ABCStack）均顺利通过了此次测评。

　　 大会最后，百度集团产品委员会联席主席宋飞作为企业代表，分享了大模型时代云计算发展的新趋势与新动态。

　　 随着技术的不断进步，从极致弹性到极致规模的转变正在成为大模型时代基础设施升级的核心议题。这种变化不仅体现了科技发展的速度，也揭示了未来计算资源需求的急剧增长。面对这样的挑战，我们需要更加高效、灵活且可扩展的技术解决方案来支撑日益复杂的大数据处理任务。 我认为，未来的基础设施建设不仅要注重硬件的提升，更应该重视软件与硬件的协同优化，以及人工智能算法在其中的应用。只有这样，我们才能更好地适应大数据和大模型带来的挑战，确保数据处理的速度和准确性。此外，加强跨学科的合作，促进理论研究与实际应用的结合，也是推动这一领域发展的重要途径。通过这些努力，我们可以期待一个更加智能、高效的数字世界。

　　 在大模型技术崛起的时代，宋飞指出，这种技术的发展已经引发了计算模式的重大转变。过去，我们依赖的是以CPU为核心的通用服务器，那时追求的是最高的灵活性和成本效益。然而，在大模型时代，由于模型参数量的急剧增加，对计算能力的需求也呈指数级增长。这意味着企业不仅要提高单个服务器的计算密度，还需要建立高效的互联网络来构建庞大的计算集群。当前，大模型的计算集群规模已经达到了十万级别的GPU数量，这对企业的运营管理、任务调度、数据中心以及网络架构等方面都提出了极高的要求。因此，企业迫切需要建设一种具备超高密度、超强互联能力和超大规模的基础设施。 这样的发展趋势表明，未来的计算基础设施将更加注重效率和规模。企业在追求高性能的同时，也需要平衡好成本与技术之间的关系。如何在确保系统稳定性和可扩展性的同时，实现资源的最佳利用，将是企业在未来发展中面临的重要挑战。

　　 宋飞指出，构建大规模基础设施时，首要任务是解决算力供应问题。在国内环境里，购买英伟达的GPU经常面临多重限制，“一云多芯”成为必要选择。而在算力受限的情况下，如何将有限的卡聚合并充分利用显得尤为关键。目前，通过一系列优化手段，在万卡集群上，百舸已经实现了超过95%的多芯混合训练效能。

　　 在解决了算力供给问题之后，确保大模型训练的稳定性同样至关重要。为了实现稳定运行，需要快速发现并定位故障，尽量缩短任务中断时间，甚至实现无缝切换。为此，百舸平台对模型训练的稳定性进行了全面优化。平台具备强大的故障诊断能力，可以迅速自动检测到导致训练异常的节点故障，并提供自动化容错机制，将任务重新调度到健康的节点上，从而保证训练过程的顺利进行。

　　 “目前，百舸平台已实现万卡集群99.5%以上的有效训练时长，在业内处于领先水平。”宋飞说。

　　 从繁琐到高效：大模型改变AI应用落地范式

　　 在传统的人工智能应用实施过程中，通常需要为各个特定场景定制专门的模型，这涉及到数据准备、模型训练以及场景开发等一系列复杂的步骤，不仅效率低下还容易导致碎片化的问题。然而，随着大模型时代的来临，借助这些大模型的强大泛化能力，只需要少量的行业数据或是进行微调处理，就能显著提高效率，减少开发难度和成本。

　　 百度智能云AI与大模型平台副总经理施恩指出，当前企业利用大模型实现AI应用落地的方式主要有三种：一是直接调用模型，即模型推理；二是优化模型应用效果，这包括提示词优化、模型微调和模型能力提升；三是进行大模型的应用开发。在此过程中，千帆平台提供了从模型开发、模型服务到应用开发的全面支持，帮助企业解决了大模型落地应用的“最后一公里”问题。

　　 千帆ModelBuilder提供了丰富的模型选择，其中包括文心全系列模型。这些模型中，ERNIE4.0Turbo等旗舰产品非常适合处理复杂的通用场景；而ERNIESpeedPro、ERINIELitePro等主力型号则更适用于需要垂直场景定制训练或构建行业模型的情况。此外，还有一系列轻量级且针对特定垂直场景设计的模型可供选择。这种多样化的模型选择为不同需求的开发者提供了极大的便利，使得他们能够更加灵活地应对各种应用场景，从而更好地服务于各自的业务领域。 这样的模型分类和定位策略不仅体现了技术的先进性，也充分考虑到了用户在实际应用中的多样化需求。通过提供从通用到专业、从重型到轻量级的不同模型，千帆ModelBuilder为不同规模和需求的企业和个人提供了更多的可能性。这无疑会大大促进人工智能技术在更多领域的广泛应用，推动整个行业的快速发展。

　　 千帆ModelBuilder通过精准简洁且逻辑清晰的提示词，结合提供完整的模型精调工具链，助力企业高效优化模型效果。为了增强大模型的推理能力，千帆ModelBuilder内置了近300个行业的Prompt模板和模型精调样板间，提供多场景下的模型精调工具链，并利用模型蒸馏和数据飞轮等工具，帮助企业迅速启动模型精调过程，不断改进模型及其应用效果。

　　 千帆AppBuilder作为一款面向企业级的大模型应用开发平台，不仅为企业提供了强大的Agent开发工具，还确保了企业级应用的安全集成与部署。该平台在工业、政务、能源等多个领域积累了丰富的应用开发经验，能够帮助企业快速构建定制化的解决方案。借助千帆AppBuilder，用户不仅可以生成具备自主规划能力的智能代理（Agent），还可以自定义创建各种组件，并由智能代理自动编排和调用这些组件，从而大幅提升开发效率和灵活性。 这一创新工具的推出无疑为企业数字化转型提供了强有力的支持，特别是在当前技术日新月异的时代背景下，它为企业提供了更多可能性，使企业能够在激烈的市场竞争中保持领先。此外，千帆AppBuilder对于推动各行业智能化进程也具有重要意义，尤其是在复杂场景下的应用开发，其价值尤为凸显。