2.3是单精度还是双精度 显卡单精度浮点运算能力怎么算？
显卡单精度浮点运算能力怎么算？浮点是浮点数，比如1.323256256 12.54256 32位长的精度运算，图形卡最常见的精度是64位/128位，128位稍慢，图形变换都是浮点运算，GPU设计做浮点
显卡单精度浮点运算能力怎么算？
浮点是浮点数，比如1.323256256 12.54256 32位长的精度运算，图形卡最常见的精度是64位/128位，128位稍慢，图形变换都是浮点运算，GPU设计做浮点运算，这很难说，我在用人脑计算浮点。很头疼啊，二进制实数，小数，索引，分数，小数。计算，然后来回转换。这是单精度，单精度是二进制32位，双精度是二进制64位。浮点就是浮点数，比如1.323256256 12.54256 32位长的精度运算，图形卡最常见的精度是64位/128位，128位稍慢，图形变换都是浮点运算，GPU是专门做浮点运算的，可以想象一张卡稍微好一点！