本次论坛以“数字经济与产业融合:AI加速下的全行业变革”为主题,邀请到18位重磅嘉宾及行业专家,汇聚产业领袖、行业专家及投资机构,聚焦数字经济投融资新机遇,共同探讨企业穿越周期的资本和产业力量。

北京滴普科技有限公司FastAG产品研发部总经理 吕鑫
在本次论坛上,北京滴普科技有限公司FastAG产品研发部总经理吕鑫发表了题为“AIGC时代:科技行业大模型探索与实践”的主题演讲。该演讲主要探讨了基于数据智能的企业运营情况,介绍了基础模型服务体系。演讲还分析说明了FastAGI能力工具链的性能指标,并分享了大模型应用的多个创新案例。
一、基于数据智能的企业运营
吕鑫指出,数字化的本质是基于数据和智能的企业运营体系的闭环,未来的企业服务市场需要的是数据整合的实时性和业务价值的敏捷性。具体来看,赋予企业运营数据智能的核心价值在于:(1)分布式数据湖的应用能够打通数据孤岛,提升性能节省搬迁成本;(2)大数据平台支持国产化持续向湖仓演进;(3)多模态数据的统一存储,结合AI工具统一分析,帮助企业向量化检索;(4)数据要素治理和资产化,实现数据最终价值。

二、基础模型服务体系
基础设施可分为模型层、工具层和应用层,其中,基础模型的训练及优化处于模型层,领域模型及应用处于应用层。吕鑫认为,基础模型、领域模型取决于预训练数据集的准备度,其中包括自有文本、结构化知识和多模态数据。值得一提的是,预训练数据集可帮助模型增加专业知识,是模型增加知识的层面。其语料中需增加领域数据,比如各学科的概念和名词。
三、FastAGI 能力工具链
FastAGI能力工具链平台基于Deepexi 13B的模型进行推理加速,可实现33 Tokens/S,并发100、响应<1S,支持一机多卡,多卡多模型,负载均衡+高可用、服务更多用户并发等多个单卡的性能指标,具备智能问答、文案生成、数据分析、与API交互、信息提取和文档总结等多个功能。除此之外,吕鑫还介绍了Deepexi AI Agent在交互式精确检索数据/指标、灵活生成丰富数据图表、自动调用系统API以及以业务逻辑与统一数据平台对话解读等多个核心能力。
四、基于大模型的应用创新案例
演讲最后,吕鑫列举了品牌零售头部企业百丽时尚基于大模型的创新运营管理、与中核装备院成立数据智能大模型实验室、文旅集团虚拟馆长模型应用、南网数字双碳领域模型及应用以及为新能源汽车整车厂商提供操作驾驶指导手册等多个应用案例。



