交通行业的 AI 应用场景目前主要涵盖交通公共服务体验优化、汽车等交通工具的智能化升级和物流的智能化转型。大部分应用场景仍在项目实验阶段。此阶段需要有效地平衡项目需求、成本和开发效率。
在项目预演阶段中,通常小规模算力就可以满足需求。此阶段主要是对模型的可行性、架构设计的合理性以及算法的有效性进行初步验证,此时模型规模相对较小,参数数量和复杂度都处于较低水平。
例如,在构建一个简单的文本分类预演模型时,可能只需要训练几万到几十万的参数,小规模算力足以支持模型在较短时间内完成训练和评估。等到模型进入正式训练和优化阶段,才会对算力有更高的要求。
我们今天就几种主要的 AI 场景,谈谈对于处在项目预演阶段的团队,值得尝试的一些高效又经济的本地化硬件部署方案。
1
智慧交通大模型
目前在开发的智慧交通大模型面向的公共服务体验场景非常多元,例如:
报告生成类:很多团队在本地化部署大语言模型,主要使用 AI 生成交通违规报告,加快交通事故处理效率;
咨询服务类:部分团队借助大语言模型 ,正在基于现有的交通标准规范、学科教材、交通知识等材料搭建用于交通知识问答的大模型,希望为出行者、企业等提供便捷精准的交通咨询服务;
业务办理类:有些团队利用现有的路网数据,训练用于交通情况预测、智能咨询和 AI 辅助办理业务的大模型;
资源调度类:还有团队在考虑利用 DeepSeek 的深度推理能力,对历史流量、天气、事件等多源数据进行融合分析,开发出大模型能够动态地优化信号灯控制策略,提升路口通行效率和交通资源利用率。
这其中,报告生成类任务主要基于 DeepSeek 等模型进行部署,通常为长文本生成场景,咨询服务类则多为短文本生成,模型以 DeepSeek R1 70B、32B、通义千问 QWQ 32B 为主,主要采用的推理精度为 FP16。在项目预演阶段,采用搭载 NVIDIA RTX? GPU 的平台可以在1周内完成模型部署并启动研究工作。
NVIDIA RTX? GPU 属于 NVIDIA 企业级显卡,兼具有图形处理和 AI 能力,安培架构被称为“卡皇”的 NVIDIA RTX? A6000 就是属于该系列的显卡。目前 NVIDIA RTX? A6000 已停产,性能更强的 NVIDIA Ada Lovelace 架构显卡为 NVIDIA RTX? 5000 Ada (32GB)、NVIDIA RTX? 5880 Ada (48GB)。
*测试数据来源:赞奇科技
*详细测试数据可扫描底部二维码登记获取
2
汽车的AI应用开发
车企正在布局开发更多的 AI 场景,包括 AI 工厂机器人、车内 AI Agent 应用等。
工厂 AI 机器人
AI 机器人逐步开始在工厂流水线的一些特定环节中“打工”,逐步尝试着未来能降本增效。AI 机器人场景对硬件设备的 AI 与图形处理能力均有要求。目前,机器人仿真测试任务主流基于 NVIDIA Isaac Sim? 平台,同时采用的是NVIDIA Isaac? Lab 进行强化学习,还需要通过 DeepSeek 等大语言模型的推理能力来实现语音交互。此类场景中,NVIDIA RTX GPU 可以同时满足 AI 和图形需求,我们以搭载 NVIDIA RTX 5000 Ada 的计算平台为例,来看看一些开发场景中的 GPU 消耗、可以适配的部署方案及其预期效果。
*测试数据来源:赞奇科技
*详细测试数据可扫描底部二维码登记获取
车内 AI Agent
车内的 Agent 应用已经在如火如荼地开发进程中,场景不限于出行伴侣、旅行专家、用车助手等。很多开发团队尝试借助 DeepSeek、QWQ 的深度推理能力,实现多情感、多模态的超拟人交互。随着 Manus AI Agent 的出现,对于 Agent 的市场关注度和开发热度也有所提升。
在项目前期开发阶段,AI Agent 会以相对简单的场景来实现快速落地,开发团队用于模型训练和推理测试的规模并不是非常庞大的,但依然需要较强的算力来支持不同的算法模型。NVIDIA RTX 5880 Ada 无论在计算能力还是图形能力上,都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 单卡能力超强,这能够为后续机器的扩展留有较大的空间,毕竟随着 AI Agent 功能的完善,即使是项目前期预演阶段,算力需求也会在增长。
由于 AI Agent 具体的应用场景、功能需求和数据规模差异比较大,我们需要根据具体情况来评估所需的算力规模,并且不断通过测试来匹配开发效果预期。
本文转载自快科技,转载目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请联系快科技通知我方删除,我方将在收到通知后第一时间删除内容!本文只提供参考并不构成任何投资及应用建议。本站拥有对此声明的最终解释权。