NIE 2023丨圆桌论坛：AI时代下对基础设施的要求

头豹研究院AI行业首席分析师 袁栩聪

袁栩聪表示，近年来，AI技术持续升级迭代，我们见证了智能语音、自然语言处理等方面的突破，生成式AI和大模型的涌入，人工智能与各行业实现了更紧密的融合。随着新一代智能技术的突破和大模型的到来，他们如今已经成为了引领潮流的力量。

而AI基础设施为大模型的成功提供了坚实的基础，包括数据、计算能力和算法。在今天的论坛中，我们将深入探讨AI基础设施的最新发展趋势、技术突破和产业格局，分享行业领袖的见解，共同思考AI基础设施与人工智能未来的交汇点。希望本次交流能够启发新思考，推动AI技术的创新应用，为构建更加智能和便捷的未来社会贡献我们的智慧和力量。

商汤科技战略研究主任 刘亮

Q1：人工智能的发展是一个历史性的战略机遇，对于促进我国经济结构转型升级至关重要，伴随各行业智能化转型的迫切需求，AI基础设施行业在促进产业智能化转型中有哪些新趋势是值得关注的？行业内有哪些新变化能够进一步驱动人工智能的发展？

刘亮表示，目前正处于AI2.0时代，AI的快速发展受到三股重要力量的推动。首先，政策推动自2020年以来成为一个关键因素。其次，用户场景发生了显著变化。在2020年之前，AI设施的用户主要是在尝试应用AI，而如今从企业角度来看，这已经从试点项目转变为规模化应用。最后，人工智能技术本身也在进化，尤其是大模型、生成式AI的兴起，人工智能不仅能够自动化，进行分类，支持决策，而且也实现了生成能力，人工智能具备了创造性，这对整个行业产生深远影响。在迎接AI2.0时代的过程中，AI基础设施的支撑变得至关重要。这包括硬件和软件的全栈基础维度，覆盖了从人工智能的开发、部署、服务到实际应用，以及后续的迭代运营等关键环节，是一个完整的生命周期。这一基础设施必须是算力基础设施、AI开发平台、AI开发工具以及数据治理平台的全面发展。

对于AI 2.0时代的到来，商汤前瞻性的布局了新型的AI基础设施，也就是SenseCore商汤AI大装置，大装置是把智能计算中心、算法优化服务、数据治理这些原力“封装”在一起，做出来AI行业的“原力场”，源源不断地输出给市场、客户、合作伙伴。

Q2：大模型的狂热已经席卷国内大半年，我们正在进入全民大模型时代，每个掌握大模型自研能力的公司都想做大模型时代的基础设施运营商，在大模型时代，AI基础设施扮演了什么角色，以及应该如何发展？

刘亮表示，面向AI大模型的AI基础设施相对复杂，它不能简单地通过堆积芯片来支撑大模型的训练，也绝非是一个单纯的暴力美学，背后是大量的软件工程系统问题。确保AI基础设施在训练环节的稳定性和提升多机多卡的并行效率是基础，而高质量的训练数据也是竞争的重要因素，底层数据质量对于大模型训练和性能至关重要。精确地筛选和处理底层数据不仅可以提高模型训练的效率和准确性，还能确保模型在复杂场景下的稳定性和可信度。想要做出一个性能强悍的、真正有竞争力的大模型，需要几百上千次的模型迭代，来改进各种算法和工程上的知识沉淀，改进数据清洗的方法，还有改进数据配比的配方等等，这都要依赖大量的 GPU 和配套的软件、系统来支持。

商汤的AI基础设施——SenseCore商汤AI大装置——支持了自身的千亿大模型的训练和迭代升级。为此，商汤建立了一套工程化的体系来支撑大模型的快速迭代，将软件、系统、和硬件都在以服务大模型快速迭代为目标做研发配合，实现非常敏捷、低成本、大批次地做模型迭代，这样才能发现和实践大模型最好、最有效的生产配方。

另外，商汤大装置也在对外服务客户。自2023年以来，共有超1,000个参数量数十亿至上千亿的大模型在商汤大装置上完成训练，支持了数十款生成式AI应用。而这些大量的项目经验，让我们沉淀和构建了宝贵的知识体系，让大装置能够成为更好的大模型时代的AI基础设施。

在大模型时代，企业可以采取一系列策略来提升竞争力，包括加强算法研究、提高数据质量、不断更新算力，积极参与跨学科合作和国际合作等。这些举措将有助于推动AI技术在各个领域得到广泛应用并不断发展。

燧原科技副总裁 高平

Q1：随着算力基础设施的不断蓬勃发展，我们目睹了计算领域的一系列深刻变革。这个过程中，国家不断完善公共算力布局，加速了边缘算力基础设施的建设，为未来的发展奠定了坚实的基础。未来算力基础设施发展趋势和主旋律会是什么呢？

高平表示，一方面，通用算力继续稳定发展，AI技术的发展将继续推动对通用算力的需求增长。未来，我们可能会看到更多专门为AI工作负载优化的硬件和软件工具的出现，以实现更高效的AI计算。这将进一步深化AI与算力的融合，推动智能应用的不断发展。

另一方面，未来云边端协同发展将成为另一发展趋势，越来越多的设备需要在边缘执行本地计算，以减少数据传输延迟和提高响应速度。这将促使算力基础设施向边缘移动，以满足不断增长的边缘计算需求。

此外，可持续性和绿色计算将成为关注焦点。环境可持续性日益引起广泛关注，因此未来的数据中心和计算设施将更加注重能源效率和环保。我们可以预期，将采用更多的绿色能源和高效的冷却技术，以减少碳足迹，实现更可持续的计算。

Q2：在AI基础设施领域，企业的商业模式可能涵盖硬件销售、技术授权与合作、软硬件一体化解决方案、AI平台即服务等。这些商业模式各有优势，取决于企业的技术实力、市场定位和客户需求。针对AI基础设施的商业模式，您认为哪种模式在当前市场竞争中表现更为出色？它如何满足客户需求并推动企业的发展？

高平表示，首先硬件销售模式是最常见的商业模式，从营收获利角度也为最重要的一种商业模式，这种模式可以为客户提供高性能的硬件设备，如GPU或专用AI芯片。这满足了客户对计算资源的高性能需求。在大模型时代，AI平台及服务为最有潜力的商业模式，为企业和开发者提供了强大的AI开发和部署平台，减轻了客户在底层基础设施方面的负担。这鼓励创新和应用开发，使客户能够专注于构建和部署自己的AI模型和应用程序。技术授权与合作为客户提供了更大的灵活性，使他们可以根据自己的需求选择和支付，此外，软硬件一体化解决方案模式在某些情况下也非常有吸引力。这种模式提供完整的软硬件解决方案，从硬件到应用场景。这减少了客户的集成和管理工作，提高了便利性。

拓数派创始人兼CEO 冯雷

Q1：人工智能的大规模应用需要利用海量数据对模型进行训练，可以说，没有高质量的数据集就没有人工智能的大规模应用。在人工智能大规模应用中，如何确保获取、处理和管理高质量的数据集，以支持模型训练和发展，从而促进人工智能技术的持续发展和应用扩展？

冯雷表示，人工智能主要由模型产生、底层为数据和计算，参数需要带入数据，为了确保数据的质量和有效利用，需要考虑数据采集、清洗、标注、安全与隐私、存储与管理、共享与合作、自动化处理、监控与维护等多个方面。这些步骤和策略可以保证数据的高质量和可靠性，为人工智能模型的训练和应用提供坚实的支持。

我们觉得未来数据会形成数据网络，这也意味着数据资源消费化，这个乐观的设想需要时间去沉淀，监管的规范才可实现，目前数据产品具有很大的复购能力，短期内的商业模式可运营公司支撑提供更好的数据管理和处理方法，进而满足不断增长的人工智能需求，推动AI大模型的发展。

Q2：目前中国在芯片、云服务和数据资源方面取得了令人瞩目的进展，拥有庞大的数据资源为AI基础设施提供支持，行业也涌现了众多参与者，主流的参与者各具有哪些特色优势？是否可以分享一些具体的案例或关键领域？以及各类厂商又是如何相互协作去推动整个AI基础设施生态系统的发展？

冯雷表示，AI基础设施厂商众多，概括可以分为云计算厂商、数据服务及数据治理商、以及AI基础硬件提供商。每类厂商都在AI基础设施领域发挥着独特的优势和贡献。据预测，未来国内1/4的GDP是与AI相关的，中国AI巨大产业链在形成，在云基础设施厂商中科技大厂做得比较好；在垂直场景方面也有做得很好的企业，如现场的商汤科技等企业；作为数据计算领域的服务商，公司推出了大模型数据计算系统，为业务决策提供坚实的数据计算支持，并确保数据的质量，安全和合规。

目前中国AI相关厂商在国内市场中各具优势，通过协同合作构建了一个相对完整的AI基础设施生态系统。这一生态系统为企业和开发者提供了多样化的选择和支持，推动了AI技术的快速发展和广泛应用。在未来，这些厂商将继续发挥各自的优势，推动AI基础设施领域的进一步创新和发展。