- 综合排序
- 最热优先
- 最新优先
10Xvisium HD高精度平台探索
高精度平台带来的最大的最明显的变化，就是微环境分析，包括邻域与社区。还有就是算力变化，为了提升分析能力，需要转移到python中分析了。 visium-hd/hcc-16um/'sc.pl.spatial(adata, color='leiden', frameon=False, groups=['7', '11', '14', '2', '9', '10 ], img_key=None)adata.obs['leiden'] = adata.obs['leiden'].astype(str).apply(lambda x: '0' if x in ['10
24220编辑于 2024-04-21- 来自专栏Fish
双精度，单精度和半精度
常用的浮点数有双精度和单精度。除此之外，还有一种叫半精度的东东。 双精度64位，单精度32位，半精度自然是16位了。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。 比较下几种浮点数的layout: 双精度浮点数： ? 单精度浮点数： ? 半精度浮点数： ? 它们都分成3部分，符号位，指数和尾数。 不同精度只不过是指数位和尾数位的长度不一样。
6.9K50发布于 2019-05-27 - 来自专栏机器之心
模型精度平均提升10%
工程师进阶课：模型调参与算法优化技巧实战」，百度高级研发工程师现身说法，带来基于全功能AI开发平台BML的算法优化技巧分享，还有现场调参实战与直播Q&A，直播现场live coding带你实践脚本调参，模型精度直提超过 10%！ BML为企业和个人开发者提供机器学习和深度学习一站式AI开发服务，并提供高性价比的算力资源，助力企业快速构建高精度AI应用。
37510编辑于 2023-03-29 - 来自专栏算法学习日常
高精度加法和高精度减法
（期末了，天天都会想创作，但是有点怕费时间，耽误复习，之前想发一个关于C语言程序漏洞的博客，但是写一半操作发现那个漏洞被vs改了，因此没发布，今天就写一下我前几周写过的算法题，高精度加减法吧（用C++写法更方便 1.引入： 高精度算法：是可以处理较大数据的算法，这里所说的较大数据指的是已经爆了long long范围的，而此算法是模拟正常加减法计算操作的算法。 2.高精度加法 （题目链接：P1601 A+B Problem（高精） - 洛谷 | 计算机科学教育新生态 (luogu.com.cn)） #include <iostream> #include <cstring ) { c[i+1]+= c[i] /10; //该位的进位 c[i] = c[i] % 10; //该位的数字 } } len */ a[i + 1]--; c[i] = a[i] + 10 - b[i]; //记得给a[i]加10，就是模拟实际的计算 } } //因为一开始就进行了调换最长的数放在str1
40610编辑于 2024-03-25 - 来自专栏FreeRonin
精度提升 10 倍！
使用方式： related:www.newhua.com ---- 10、数值范围：.. 例如：数码相机 600..900 万像素 3000..4000 元 注意：“900”与“万”之间必须有空格。
37K177发布于 2019-07-17 - 来自专栏LET
精度，Precision
上一节我们讲了球心坐标和本地坐标之间的转换，这里也有一个精度的问题。 如果不想花时间，只需要记住，float可以有7位有效数字，而double可以有16位，选择合适的浮点类型，当你的精度需求超过这个范围时，你就要小心了。 相机抖动 如果精度达不到要求，怎么办？ 但在Virtual Earth中，如果我们近地面浏览，RTC-rendering还是会出现浏览范围超过float精度的情况，就会出现精度的丢失，也就是相机抖动。 不管怎样，你能看到的，要么范围大，精度低，要么范围小，精度高。 本文主要介绍了我对精度的理解，float精度为何会有损失，以及RTC和RTE解决相机抖动的思路，因为孩子发烧，无能为力，夜不能寐，索性写写文章，聊以自慰，因而写的过程比较压抑。
1.5K70发布于 2018-06-20 - 来自专栏ACM算法竞赛——模板
ACM算法竞赛——高精度除以低精度（模板）
{ vector<int> C; r = 0; for (int i = A.size() - 1; i >= 0; i -- ) { r = r * 10
62250编辑于 2022-05-14 - 来自专栏ACM算法竞赛——模板
ACM算法竞赛——高精度乘低精度（模板）
0; i < A.size() || t; i ++ ) { if (i < A.size()) t += A[i] * b; C.push_back(t % 10 ); t /= 10; } while (C.size() > 1 && C.back() == 0) C.pop_back(); return C; }
64340编辑于 2022-05-14 - 来自专栏奇妙的算法世界
高精度模板
以下输出需从高位开始 高精度加法 vi add(vi&A, vi &B){ if(A.size()<B.size()) return add(B,A); vi C; int t= for(int i=0;i<A.size();i++){ t+=A[i]; if(i<B.size()) t+=B[i]; C.push_back(t%10 ); t/=10; } if(t) C.push_back(t); return C; } 高精度减法 bool cmp(vi &A,vi &B){ if vi C=sub(B,A); printf("-"); for(int i=C.size()-1;i>=0;i--) printf("%d",C[i]); } 高精度乘法 ); t/=10; } return C; } 高精度除法 vi div(vi A,int b,int &r){ r=0; vi C; for(int
92120发布于 2020-10-23 - 来自专栏编码前线
Java精度问题
这个问题相当严重，如果你有9.999999999999元，你的计算机是不会认为你可以购买10元的商品的。 在有的编程语言中提供了专门的货币类型来处理这种情况，但是Java没有。 */public class Arith{ //默认除法运算精度 private static final int DEF_DIV_SCALE = 10; //这个类不能实例化 return b1.multiply(b2).doubleValue(); } /** * 提供（相对）精确的除法运算，当发生除不尽的情况时，精确到 * 小数点以后10 当发生除不尽的情况时，由scale参数指 * 定精度，以后的数字四舍五入。
1.3K50发布于 2019-03-04 - 来自专栏Windows技术交流
Windows时钟精度
问题：客户端（云服务器）调用QueryPerformanceCounter获取的时间与服务端（PC电脑）本地的时间有毫秒级偏差所有云平台都一样的表现，非云平台问题Windows时钟精度默认是15.625ms blackbeautybake/92681097 TimerRes.exe是一个小demo，功能类似微软的clockres用法：①不加参数, 直接执行TimerRes.exe这个程序就是一直输出当前时钟精度 ②加参数 , 比如timerres.exe 1, 就会先设置时钟精度为1ms（1000微秒）, 然后再循环输出当前精度(方便判断是否有更改成功) 针对此问题有2个方案：①强推1ms执行timeBeginPeriod
14810编辑于 2026-03-02 - 来自专栏每天学Java
高精度运算
Java越来越多，对于手撸高精度计算代码也就越来越少了。 .有没有意义不知道，反正闲着也是闲着)，除法就先放一放，因为高精度除高精度有点难，这里就谈一谈高精度的加减乘。 else temp = (b.charAt(j--) - '0'); temp += adv; adv = temp / 10 ; res = temp % 10 + res; } if (adv ! ; res[i + j] = res[i + j] % 10; } res[i + j] = adv; }
1.6K20发布于 2020-06-01 - 来自专栏全栈程序员必看
oracle字段精度修改,oracle number类型增加精度
oracle迁移到sqlserver时，报错-如下图， 查找原因，发现是因为有些表number类型没有设精度导致的，解决方法如下，修改表结构加上精度 ，加上之后就可以了。 考虑到有些表有多个字段没有设精度，所以采取以下方式实现。 l_idx + length(p_sep)); ELSE PIPE ROW(v_list); EXIT; END IF; END LOOP; RETURN; end test_split; / –修改表加精度的存储过程
2.1K40编辑于 2022-09-15 - 来自专栏全栈程序员必看
java怎样解决除法精度_java 除法 精度问题
public static void main(String[] args){
2.4K40编辑于 2022-09-06 - 来自专栏ShanSan的云原生之路
精度(precision)控制
C++输出精度（precision）控制,格式化输出 使用cout对象的成员 setprecision() setf() width() fill() flags(ios::fixed) #include (8); cout<<a<<endl; cout<<endl; cout.flags(ios::fixed); //flags(ios::fixed)和precision()配合使用控制精度 ); cout<<a<<endl; return 0; } image.png 使用头文件iomanip中的setprecision()和setiosflags(ios::fixed)进行精度控制
82120发布于 2020-07-07 - 来自专栏编程三昧
精度丢失问题
背景 BFF Client 使用的 npm 包 request-promise-native 请求微服务接口返回 ID 精度丢失 1713166949059674112 => 1713166949059674000 而能存储的二进制为62位，超出就会有舍入操作，因此 JS 中能精准表示的最大整数是 Math.pow(2, 53)，十进制即9007199254740992大于 9007199254740992 的可能会丢失精度 } } 最小 demo 搭建服务 API 一、搭建 Java Web Api： 参考：Building a RESTful Web Service 修改 service 层使 id 最小值大于 js 精度限制
2.2K00编辑于 2022-02-03 模块化高精度铷原子钟存在的意义、高精度铷钟、10MHz铷原子钟、铷钟模块
西安同步电子科技有限公司的SYN3306型高性能铷原子钟，通过将10MHz输出设计为模块化结构，实现了从“单一功能设备”到“可重构系统”的跨越，为现代高精度时频应用提供了全新模式。 在GNSS信号中断时，原子物理模块与频率控制模块的协同守时精度可达10us/24小时。这种动态校准机制使10MHz信号的长期稳定性接近铯钟水平，但成本仅为其1/10。 工业领域：宽温模块（-40℃~+85℃）和抗振动设计，使设备在智能制造产线中可稳定运行，保障多机器人协同作业的同步精度。 三、模块化设计的行业启示：从设备到生态的模式革新SYN3306的成功实践为高精度时频设备的发展提供了新路径：成本控制的颠覆性创新模块化生产使SYN3306型高性能铷原子钟的研发周期缩短40%，测试效率提升 其10MHz输出的模块化架构，通过标准化接口、动态校准、智能运维等创新，重新定义了高精度时频设备的价值边界。
28410编辑于 2025-09-15- 来自专栏AngelNI
高精度运算
A.size();++i) { t+=A[i]; if(i<B.size()) t+=B[i]; ans.push_back(t%10 ); t/=10; } while(i<A.size()) { t += A[i]; ans.push_back(t%10); t /=10; } if(t) ans.push_back(t); return ans; } int main() { string a,b; )%10); if(t<0) t=1; else t = 0; } // while(i<A.size() ) // { // t += A[i]; // ans.push_back(t%10); // t /=10; // } while
1K20发布于 2020-04-16 分子生成模型 TABASCO：用极简架构实现物理级精度，速度提升 10 倍！
今天，我们要介绍的TABASCO模型彻底打破了这一僵局——它用最简单的Transformer架构，在GEOM-Drugs基准测试中刷新了PoseBusters有效性纪录，同时将推理速度提升了10倍！ 这种“减法思维”带来了惊人效果： • 模型架构简化60%以上 • 数据吞吐量大幅提升 • 在GEOM-Drugs数据集上，PoseBusters有效性达到0.92（SOTA） • 推理速度比最强基线快10 生成时只预测原子坐标和类型，不建模化学键 • 生成后用RDKit等成熟工具根据坐标自动推断键合关系 • 实验证明：只要坐标足够精确，化学键信息可完全由物理规则推导 这种设计让模型将90%的计算资源集中在坐标生成上，大幅提升精度 未来展望：从分子生成到药物研发的落地 TABASCO的设计为药物研发提供了新范式： • 高吞吐量筛选：10倍速提升让大规模虚拟筛选成为可能 • 基于药效团的设计：精确的3D结构生成适配靶点结合口袋 • 通过剥离冗余约束，聚焦物理本质，反而能实现精度与效率的双赢。这不仅是技术突破，更重塑了我们对AI建模化学系统的认知——有时候，让模型“轻装上阵”，才能跑得更快更远。
10110编辑于 2026-01-08- 来自专栏秘籍酷
C语言（浮点精度）
关于C语言的浮点数精度问题，很多人存在误解，他们往往认为精度指的是float、double和long double三种数据类型，这是片面的。 拓展： 浮点数的二进制存储细节： ? 对于每个不同的浮点数，都有相应的最小可辨识精度（即δ），此最小可辨识精度随着该浮点数的数值变化而变化，具体究竟是多少要具体分析该浮点数的二进制存储内部细节，找到其指数域之后才能确定，我们根据这个最小可辨识精度才能明确判定代码中所有对此浮点数的运算是否有效
2K30发布于 2019-08-08
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号