- 综合排序
- 最热优先
- 最新优先
- 来自专栏Fish
双精度，单精度和半精度
常用的浮点数有双精度和单精度。除此之外，还有一种叫半精度的东东。 双精度64位，单精度32位，半精度自然是16位了。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。 解析一个浮点数就5条规则: 如果指数位全零，尾数位是全零，那就表示0 如果指数位全零，尾数位是非零，就表示一个很小的数（subnormal），计算方式 (−1)^signbit × 2^−126 × 0 .fractionbits 如果指数位全是1，尾数位是全零，表示正负无穷 如果指数位全是1，尾数位是非零，表示不是一个数NAN 剩下的计算方式为 (−1)^signbit × 2^(exponentbits
6.9K50发布于 2019-05-27 - 来自专栏AIWalker
ANTNet|端侧架构，精度速度双超MobileNetV2
在CIFAR100数据集上，所提方法取得了75.7%的top1精度，它比MobileNetV2高1.5%且少8.3%的参数量与19.6%的计算量；在ImageNet数据集上，所提方法取得了72.8%的top1 精度，它比MobileNetV2高0.8%，同时在iphone5上的速度为157.7ms(比MobileNetV2快20%)。 MobileNetV2的前提下，速度快20%。 所以该文的目的就在于构建一个具有更少MAdds、更少参数量、更高精度的CNN架构。ANTNet的核心模块为ANTBlock，而该模块主要采用了深度分离卷积与通道注意力机制。 相比MobileNetV2与ShuffleNetV2两大知名端侧模块，所提方法具有更高的精度。 ?
1.9K30发布于 2020-08-10 - 来自专栏算法学习日常
高精度加法和高精度减法
（期末了，天天都会想创作，但是有点怕费时间，耽误复习，之前想发一个关于C语言程序漏洞的博客，但是写一半操作发现那个漏洞被vs改了，因此没发布，今天就写一下我前几周写过的算法题，高精度加减法吧（用C++写法更方便 1.引入： 高精度算法：是可以处理较大数据的算法，这里所说的较大数据指的是已经爆了long long范围的，而此算法是模拟正常加减法计算操作的算法。 2.高精度加法 （题目链接：P1601 A+B Problem（高精） - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） #include <iostream> #include <cstring for (int i = 0; i < len; i++) { printf("%d", c[len - 1 - i]); } printf("\n"); return 0; } 3.高精度减法 （题目链接：P2142 高精度减法 - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） 与加法相似，但是要多调换字符串这一步骤 #include <iostream> #include
40610编辑于 2024-03-25 - 来自专栏LET
精度，Precision
上一节我们讲了球心坐标和本地坐标之间的转换，这里也有一个精度的问题。 如果不想花时间，只需要记住，float可以有7位有效数字，而double可以有16位，选择合适的浮点类型，当你的精度需求超过这个范围时，你就要小心了。 相机抖动 如果精度达不到要求，怎么办？ 但在Virtual Earth中，如果我们近地面浏览，RTC-rendering还是会出现浏览范围超过float精度的情况，就会出现精度的丢失，也就是相机抖动。 不管怎样，你能看到的，要么范围大，精度低，要么范围小，精度高。 本文主要介绍了我对精度的理解，float精度为何会有损失，以及RTC和RTE解决相机抖动的思路，因为孩子发烧，无能为力，夜不能寐，索性写写文章，聊以自慰，因而写的过程比较压抑。
1.5K70发布于 2018-06-20 - 来自专栏ACM算法竞赛——模板
ACM算法竞赛——高精度除以低精度（模板）
// A / b = C ... r, A >= 0, b > 0 vector<int> div(vector<int> &A, int b, int &r) { vector<int> C; r = 0; for (int i = A.size() - 1; i >= 0; i -- ) { r = r * 10 + A[i]; C.push_back(r / b); r %= b; } reverse(C.
62250编辑于 2022-05-14 - 来自专栏ACM算法竞赛——模板
ACM算法竞赛——高精度乘低精度（模板）
// C = A * b, A >= 0, b >= 0 vector<int> mul(vector<int> &A, int b) { vector<int> C; int t = 0; for (int i = 0; i < A.size() || t; i ++ ) { if (i < A.size()) t += A[i] * b; C.push_back(t % 10); t /= 10; } w
64340编辑于 2022-05-14 - 来自专栏奇妙的算法世界
高精度模板
以下输出需从高位开始 高精度加法 vi add(vi&A, vi &B){ if(A.size()<B.size()) return add(B,A); vi C; int t= t+=B[i]; C.push_back(t%10); t/=10; } if(t) C.push_back(t); return C; } 高精度减法 vi C=sub(B,A); printf("-"); for(int i=C.size()-1;i>=0;i--) printf("%d",C[i]); } 高精度乘法 if(i<A.size()) t+=A[i]*b; C.push_back(t%10); t/=10; } return C; } 高精度除法
92120发布于 2020-10-23 - 来自专栏编码前线
Java精度问题
,double v2)public static double mul(double v1,double v2)public static double div(double v1,double v2) */public class Arith{ //默认除法运算精度 private static final int DEF_DIV_SCALE = 10; //这个类不能实例化 v1,double v2){ BigDecimal b1 = new BigDecimal(Double.toString(v1)); BigDecimal b2 = v1,double v2){ return div(v1,v2,DEF_DIV_SCALE); } /** * 提供（相对）精确的除法运算。 当发生除不尽的情况时，由scale参数指 * 定精度，以后的数字四舍五入。
1.3K50发布于 2019-03-04 - 来自专栏Windows技术交流
Windows时钟精度
问题：客户端（云服务器）调用QueryPerformanceCounter获取的时间与服务端（PC电脑）本地的时间有毫秒级偏差所有云平台都一样的表现，非云平台问题Windows时钟精度默认是15.625ms blackbeautybake/92681097 TimerRes.exe是一个小demo，功能类似微软的clockres用法：①不加参数, 直接执行TimerRes.exe这个程序就是一直输出当前时钟精度 ②加参数 , 比如timerres.exe 1, 就会先设置时钟精度为1ms（1000微秒）, 然后再循环输出当前精度(方便判断是否有更改成功) 针对此问题有2个方案：①强推1ms执行timeBeginPeriod
14810编辑于 2026-03-02 - 来自专栏每天学Java
高精度运算
向英雄致敬,向逝者致哀 愿逝者安息,生者奋发 愿国泰民安,山河无恙 前言 在写Java代码时候，我们其实很少去考虑高精度运算，即使遇到无法避免高精度的计算问题也不会太烦恼，因为有大整数类BigInteger Java越来越多，对于手撸高精度计算代码也就越来越少了。 但是直到过年在家使用C++刷PAT算法的时候，又不可避免的使用到高精度算法(因为long int和long long也无法解决整数长度受限的问题)， 所以今天得空用Java来实现高精度的运算(嗯.... .有没有意义不知道，反正闲着也是闲着)，除法就先放一放，因为高精度除高精度有点难，这里就谈一谈高精度的加减乘。 正文 高精度加 高精度的加法是比较容易理解的和实现，我们只需要注意进位就好， 将输入整数的字符串，进行遍历，将char类型转为int进行相加，保存进位在下一轮循环中使用即可。
1.6K20发布于 2020-06-01 - 来自专栏集智书童
图视觉模型崛起 | MobileViG同等精度比MobileNetv2快4倍，同等速度精度高4%！
因此，通过提供比基于ViT的模型更快的速度和比基于CNN的模型更高的精度，基于ViG的模型可能是一种可能的解决方案。 为了改善这种状况，作者提出了MobileViG，它提供了与MobileNetv2相当的速度和与EfficientFormer相当的精度。 与MobileViTv2-1.5相比，MobileViG-M的NPU延迟快3倍以上，GPU延迟快2倍，Top-1精度高0.2%。 此外，MobileViG-B比DeiT-S快6倍，能够在Top-1的精度上击败DeiT-S和Swin Tiny。 混合CNN-GNN架构可以提供基于CNN的模型的速度以及ViT模型的准确性，使其成为高精度移动端架构设计的理想候选者。
93240编辑于 2023-09-04 - 来自专栏电爪
看Robotiq 2F-85如何实现高精度自适应抓取
在技术架构层面，2F-85支持0-85mm行程调节，有效负载5kg ，夹持力20-235N可调，位置分辨率0.4mm。 在技术架构层面，2F-85支持0-85mm行程调节，有效负载5kg，夹持力20-235N可调，位置分辨率0.4mm。 控制算法层面，2F-85内置自适应抓取算法库，包含“软抓取”“硬抓取”“自适应包络”等多种模式。当接触物体时，夹爪通过实时力矩监测与碰撞检测功能，可在0.1秒内触发安全停止，避免意外损伤。 随着碳纤维复合材料的应用与23位编码器的普及，Robotiq 2F-85将持续突破精度边界，在尖端领域发挥关键作用，推动精密抓取技术迈向新高度。
24600编辑于 2025-12-26 - 来自专栏全栈程序员必看
oracle字段精度修改,oracle number类型增加精度
oracle迁移到sqlserver时，报错-如下图， 查找原因，发现是因为有些表number类型没有设精度导致的，解决方法如下，修改表结构加上精度 ，加上之后就可以了。 考虑到有些表有多个字段没有设精度，所以采取以下方式实现。 (p_list VARCHAR2, p_sep VARCHAR2) return type_split PIPELINED IS l_idx PLS_INTEGER; v_list VARCHAR2( l_idx + length(p_sep)); ELSE PIPE ROW(v_list); EXIT; END IF; END LOOP; RETURN; end test_split; / –修改表加精度的存储过程 create or replace procedure changefield (tablename in varchar2, fieldname in varchar2 ) as CURSOR c1
2.1K40编辑于 2022-09-15 - 来自专栏全栈程序员必看
java怎样解决除法精度_java 除法 精度问题
0.000”); double d = 123; System.out.println(df.format(d)); //保留4位小数 double d1 = 123.0123456; String d2 = String.format(“%.4f”, d1); System.out.println(d2); int d3=5; //float d4=d3/100; String d4 = String.format System.out.println(t); } public static void main(String[] args) { format f = new format(); f.m1(); f.m2( Math.floor(1.4)=1.0 Math.round(1.4)=1 Math.ceil(1.4)=2.0 Math.floor(1.5)=1.0 Math.round(1.5)=2 Math.ceil (1.5)=2.0 Math.floor(1.6)=1.0 Math.round(1.6)=2 Math.ceil(1.6)=2.0 Math.floor(-1.4)=-2.0 Math.round(-
2.4K40编辑于 2022-09-06 - 来自专栏ShanSan的云原生之路
精度(precision)控制
C++输出精度（precision）控制,格式化输出 使用cout对象的成员 setprecision() setf() width() fill() flags(ios::fixed) #include (8); cout<<a<<endl; cout<<endl; cout.flags(ios::fixed); //flags(ios::fixed)和precision()配合使用控制精度 ); cout<<a<<endl; return 0; } image.png 使用头文件iomanip中的setprecision()和setiosflags(ios::fixed)进行精度控制
82120发布于 2020-07-07 - 来自专栏编程三昧
精度丢失问题
背景 BFF Client 使用的 npm 包 request-promise-native 请求微服务接口返回 ID 精度丢失 1713166949059674112 => 1713166949059674000 存储二进制时小数点的偏移量最大为52位，计算机存储的为二进制，而能存储的二进制为62位，超出就会有舍入操作，因此 JS 中能精准表示的最大整数是 Math.pow(2, 53)，十进制即9007199254740992 大于 9007199254740992 的可能会丢失精度 参考：https://zhuanlan.zhihu.com/p/100353781 request-promise-native 发起请求时，当 } } 最小 demo 搭建服务 API 一、搭建 Java Web Api： 参考：Building a RESTful Web Service 修改 service 层使 id 最小值大于 js 精度限制 const postRes = await rp(postOptions); console.log('post result: ', jsonBigInt.parse(postRes)); 2.
2.2K00编辑于 2022-02-03 - 来自专栏AngelNI
高精度运算
sizeof(B)); memset(ans,0,sizeof(ans)); string a,b; cin>>a>>b; int len1 = a.length(),len2 = b.length(); for(int i =0;i<len1;++i) A[len1-i] = a[i]-'0'; for(int i = 0;i<len2;++i ) B[len2-i] = b[i]-'0'; for(int i =1;i<=len2;++i) { int x = 0; for(int j-1]/10; ans[i+j-1]%=10; } ans[i+len1] = x; } int len = len1+len2;
1K20发布于 2020-04-16 - 来自专栏秘籍酷
C语言（浮点精度）
关于C语言的浮点数精度问题，很多人存在误解，他们往往认为精度指的是float、double和long double三种数据类型，这是片面的。 拓展： 浮点数的二进制存储细节： ? 对于每个不同的浮点数，都有相应的最小可辨识精度（即δ），此最小可辨识精度随着该浮点数的数值变化而变化，具体究竟是多少要具体分析该浮点数的二进制存储内部细节，找到其指数域之后才能确定，我们根据这个最小可辨识精度才能明确判定代码中所有对此浮点数的运算是否有效
2K30发布于 2019-08-08 - 来自专栏从小白开始修炼
【算法】高精度问题
高精度：利用计算机进行数值计算，有时会遇到这样的问题：有些计算要求精度高，希望计算的数的位数可达几十位甚至几百位，虽然计算机的计算精度也算较高了，但因受到硬件的限制，往往达不到实际问题所要求的精度 我们可以利用程序设计的方法去实现这样的高精度计算。 示例 1： 输入：num = [1,2,0,0], k = 34 输出：[1,2,3,4] 解释：1200 + 34 = 1234 示例 2： 输入：num = [2,7,4], k = 181 输出：[4,5,5] 解释：274 + 181 = 455 示例 3： 输入：num = [2,1,5], k = 806 输出：[1,0,2,1] 解释：215 + 806 = 1021 高精度除法除了返回商，还有余数。
50230编辑于 2023-10-15 - 来自专栏蓝天
cJSON精度丢失问题
问题复现步骤： 1) 输入字符串： { "V":0.12345678 } 2) 字符串转成cJSON对象 3) 调用cJSON_Print将cJSON对象再转成字符串 4) 再将字符串转成cJSON对象 5) 保留8位精度方式调用printf打印值，输出变成：0.123456 问题的原因出在cJSON的print_number函数： static char <= INT_MAX && d >= INT_MIN) { str = (char*) cJSON_malloc(21); /* 2^ sprintf(str, "%f", d); } } return str; } 最后一个sprintf调用没有指定保留的精度 注：float的精度为6~7位有效数字，double的精度为15~16位。
1.8K20发布于 2018-08-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号