海康威视推出多模态大语言模型量化技术,提升模型部署效率

天眼查App显示,近日,杭州海康威视数字技术股份有限公司公开了一项重要的发明专利,名为“多模态大语言模型量化方法、装置、设备、存储介质及产品”。该专利涉及模型部署技术领域,旨在通过模块划分和量化调整,提升多模态语言大模型的部署效果。

根据专利摘要,该技术将待量化的大模型划分为多模态处理分块和语言模型分块,并根据多模态处理分块中各处理子模块的量化误差构建处理子模块序列。随后,基于该序列对多模态处理分块中的各处理子模块进行量化,并进一步确定语言子模块序列,对语言模型分块中的各语言子模块进行量化。

该技术的创新之处在于,它能够依据多模态语言大模型的计算特性进行针对性的模块划分,并基于模块划分顺序进行量化调整,确保量化过程符合模型的实际计算特性。这不仅提升了量化部署的效果,还为多模态语言大模型的应用提供了更高效的技术支持。

该专利的公开标志着海康威视在人工智能领域的技术创新迈出了重要一步,未来有望在智能安防、自动驾驶等多个领域发挥重要作用。

风险警告:本文根据网络内容由AI生成,内容仅供参考,不应作为专业建议或决策依据。用户应自行判断和验证信息的准确性和可靠性,本站不承担可能产生的任何风险和责任。内容如有问题,可联系本站删除。

Copyright © DoNews 2000-2025 All Rights Reserved
蜀ICP备2024059877号-1     京ICP证151088号
京网文【2018】2361-237号