看不见的浮点数，0.1+0.2竟然都算错
说到浮点误差，有一个比较高深的计算机概念——浮点数，有兴趣的同学可以问度娘。简单说，在计算机的计算中，只能存储和处理二进制数据，就是1和0。Excel在计算时，首先要把十进制的数值转换为二进制，交给计算机处理，最后再把二进制的结果转换为十进制，显示到Excel
浮点数
刘心向学（11）联合体的定义及其应用
在编程中，联合体（Union）是一种特殊的数据结构类型，允许在相同的内存位置存储不同类型的数据。与结构体不同，联合体的所有成员共享同一块内存空间，这意味着在同一时间只能存储其中一种数据类型。尽管联合体的应用场景相对有限，但它在某些特定情况下可以显著提高内存使用
告别计算误差！Python中这个神器，专治各种计算不服！
计算机竟然说这是错的！别慌，这不是你的问题，而是浮点数的“先天缺陷”。今天带你解锁Python中的Decimal类型，告别计算误差！
DeepSeek 新模型上线：6850亿参数的 DeepSeek-V3 再进化！
3 月 24 日晚，DeepSeek 在官方 Hugging Face 社区上传了一个名为 DeepSeek-V3-0324 的新模型。
SCADA|如何用KingIOServer采集汇川PLC的双精度浮点数？
数据类型为双精度浮点数，KingSCADA采集到的数据与汇川PLC内的数据不一致。
2.NumPy 数组对象
返回值表示这是一个包含5个元素的向量，取值分别为0~4的整数。数组的shape属性返回一个元组（tuple），元组中的元素即为NumPy数组每一个维度上的大小。
在 Python 中将浮点数转换为整数方法指南
def compare_conversion_methods(number): print(f"\nOriginal number: {number}") print(f"int: {int(number)}") print(f"round: {round(n
如何将整数除法转换为浮点数除法？
在 C# 中，整数除法会舍去小数部分，返回一个整数结果。如果需要将整数除法转换为浮点数除法，从而保留小数部分，可以通过以下方法实现：将除法操作中的一个或两个整数操作数显式转换为浮点类型（如 float 或 double），确保除法运算是浮点运算。int a =
大模型量化训练极限在哪？腾讯混元提出低比特浮点数训练Scaling Laws
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz
大模型量化训练极限在哪？腾讯混元低比特浮点数训练Scaling Laws
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz
【AI系统】计算之比特位宽
在前面的深度学习计算模式里面我们提到了模型的量化操作，通过建立一种有效的数据映射关系，使得模型以较小的精度损失获得更好的模型执行效率的收益。模型量化的具体操作就是将高比特的数据转换为低比特位宽表示。本文我们将对计算的比特位宽概念做一个更具体的了解。
多个字节如何转为浮点数
今天我们手动用算法转换一下，在转换之前大家想想，为什么不论工控机、西门子、三菱或是其他品牌PLC，都能正常显示浮点数？其实他们的底层一定离不开数据标准。没错，我们使用IEEE754标准算法进行计算。
Python 中的数字
经常用于各种任务的编程，例如游戏中的评分、数据表示和信息存储。