16g显存只用了34%
vllm我加载0.5b都要用12g不止
news
2026/5/8 23:15:27
ollama 调用vlm模型 显存可以省到只用5g左右
张小明
前端开发工程师
1.2k
24
版权声明:
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若内容造成侵权/违法违规/事实不符，请联系邮箱：809451989@qq.com进行投诉反馈，一经查实，立即删除！
网站建设
2026/4/30 23:52:57
高通SEE架构深度解析(3): 核心组件从功能模块到安全体系
高通SEE（Sensors Execution Environment/Secure Execution Environment）架构作为传感器管理与安全处理的核心框架，其组件设计围绕“高效调度”与“安全隔离”两大核心目标展开。结合高通官方文档、平台实现（如SDM845）及…
: 核心组件从功能模块到安全体系)
李华
网站建设
2026/5/1 8:29:02
C++中的职责链模式实战
1、非修改序列算法这些算法不会改变它们所操作的容器中的元素。1.1 find 和 find_iffind(begin, end, value)：查找第一个等于 value 的元素，返回迭代器（未找到返回 end）。find_if(begin, end, predicate)：查找第一个满…
李华
网站建设
2026/5/2 3:26:54
C++编译期反射实现
1、非修改序列算法 这些算法不会改变它们所操作的容器中的元素。 1.1 find 和 find_if find(begin, end, value)：查找第一个等于 value 的元素，返回迭代器（未找到返回 end）。find_if(begin, end, predicate)：查找第…
李华
网站建设
2026/5/3 12:34:53
【读书笔记】《大流感》
《大流感》读书笔记 引言：史诗级的灾难 《大流感》描述的是1918年到1919年期间在全球流行的大流感。这场流感造成的死亡人数： 最早官方统计：2,100万人随着深入研究不断攀升：5,000万人这是人类历史上的重大灾难，但也…
李华
网站建设
2026/5/5 19:30:21
设计模式在C++中的实现
1、非修改序列算法 这些算法不会改变它们所操作的容器中的元素。 1.1 find 和 find_if find(begin, end, value)：查找第一个等于 value 的元素，返回迭代器（未找到返回 end）。find_if(begin, end, predicate)：查找第…
李华
网站建设
2026/5/5 15:10:28
基于最小均方算法的半球谐振子特征参数辨识方法
1. 论文中文标题 基于最小均方算法的半球谐振子特征参数辨识方法 2. 论文主要内容概括 本文针对半球谐振陀螺（HRG）核心元件——半球谐振子（HSR）缺乏有效性能量化评估方法的问题，提出一种基于最小均方（LMS）算法的特征参数辨识方法。该方法通过构建非理想谐振子的正交误…
李华