十进制整数存储我们都知道,采取的是短除法,那么浮点类型的小数又是怎么存储的呢?硬件存储的数据都是都准确的吗?答案是不一定,但是具体又是怎么回事呢?下面我将明确浮点型存储的方法,并通过举例说明硬件为什么不能保证精确存储呢
一、计算方法
十进制数拆分成整数部分和小数部分,分别转换后合并
1、整数部分:采用短除法–不断除以2,取余数,倒叙排列
2、小数部分:采用短乘法—不断乘以2,取整数部分(0或1),正序排列,直到结果为0或达到所需精度
二、示例
1、小数部分可计算到结果为0 的例子
2、小数部分不可计算结果为0的例子
通过上面计算,我们发现十进制0.2的二进制小数是无限循环小数,计算机空间有限,无法完整保存无限循环小数,只能截断近似存储,所以说计算中的存储实际是一个近似值,不能保证完全的精确。这也是在平时常见直男表达0.2+0.1不等于0.3的根源。
浮点数的存储简述
张小明
前端开发工程师
Agent 计划器设计:先把任务拆清楚,再让模型发挥
Agent 计划器设计:先把任务拆清楚,再让模型发挥 Agent 很容易被包装成“模型自己会规划”。听起来很省事,实际落地后你会发现:模型规划不稳定、步骤跳跃、工具调用乱飞、失败后不知道怎么补救。Agent 计划器不是让模型自由发挥的舞…
大模型业务基准测试实战指南
1. 为什么你需要自己的业务基准测试?在大模型和RAG技术落地的过程中,我发现很多团队都会陷入一个误区:过度依赖公开的基准测试和参数对比。这就像用百米赛跑的成绩来选拔马拉松选手——看似相关,实则南辕北辙。去年我们团队在金融…
独立产品智能客服:先解决高频问题,再接大模型
独立产品智能客服:先解决高频问题,再接大模型 一、智能客服不是上来就做全能助手 独立产品做智能客服时,很容易想象一个全能 AI:能回答产品问题、处理订单、引导新用户、甚至自动挽留流失用户。现实是,小产品的客服需…
数据库向量索引:召回率、延迟和写入成本一起算
数据库向量索引:召回率、延迟和写入成本一起算 一、向量索引不是给数据库加一个新字段那么简单 向量检索进入数据库后,很多系统开始把 embedding 当成普通列存储,再加一个近似最近邻索引。表面上看,这是 SQL 能力的扩展࿱…
智能服务网格灰度:策略建议可以 AI 化,执行必须可回滚
智能服务网格灰度:策略建议可以 AI 化,执行必须可回滚 一、流量治理不能让模型直接改生产 服务网格提供了流量拆分、熔断、限流、重试、超时和可观测能力。AI 可以分析指标,建议灰度比例、熔断阈值或回滚条件。但让模型直接修改生产流量&…
AI 视觉回归评审:截图对比之外还要读懂界面意图
AI 视觉回归评审:截图对比之外还要读懂界面意图 一、像素差异不能解释所有 UI 变化 传统视觉回归主要比较截图差异,能发现颜色、位置、尺寸和布局变化。但它不知道变化是否合理。例如按钮文案换行可能是 bug,也可能是国际化后的正常结果&…