<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>GPU on 111qqz's blog</title><link>https://111qqz.com/en/tags/gpu/</link><description>Recent content in GPU on 111qqz's blog</description><generator>Hugo -- gohugo.io</generator><language>en</language><managingEditor>hust.111qqz@gmail.com (111qqz)</managingEditor><webMaster>hust.111qqz@gmail.com (111qqz)</webMaster><copyright>© 2011-2026 111qqz</copyright><lastBuildDate>Mon, 16 Nov 2026 21:15:00 +0800</lastBuildDate><atom:link href="https://111qqz.com/en/tags/gpu/index.xml" rel="self" type="application/rss+xml"/><item><title>Numerical Stability in ML Systems：从浮点误差到 GPU 计算</title><link>https://111qqz.com/en/post/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/2026-11-16-numerical-stability-ml-systems/</link><pubDate>Mon, 16 Nov 2026 21:15:00 +0800</pubDate><author>hust.111qqz@gmail.com (111qqz)</author><guid>https://111qqz.com/en/post/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0/2026-11-16-numerical-stability-ml-systems/</guid><description>&lt;h2 class="relative group"&gt;起因：H20 上 FP64 只有 1 TFLOPS，但计算要的是双精度
 &lt;div id="起因h20-上-fp64-只有-1-tflops但计算要的是双精度" class="anchor"&gt;&lt;/div&gt;
 
 &lt;span
 class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"&gt;
 &lt;a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#%e8%b5%b7%e5%9b%a0h20-%e4%b8%8a-fp64-%e5%8f%aa%e6%9c%89-1-tflops%e4%bd%86%e8%ae%a1%e7%ae%97%e8%a6%81%e7%9a%84%e6%98%af%e5%8f%8c%e7%b2%be%e5%ba%a6" aria-label="Anchor"&gt;#&lt;/a&gt;
 &lt;/span&gt;
 
&lt;/h2&gt;
&lt;p&gt;写这篇笔记的直接原因是一块 H20。业务里有一块对数值精度敏感的计算，需要接近 FP64 的结果，但 H20 的 FP64 算力只有 1 TFLOPS。对照同一张卡的其他规格，这个数字有多别扭很直观：FP32 是 44 TFLOPS，FP16/BF16 Tensor Core 是 148 TFLOPS，FP8 是 296 TFLOPS，FP64 只有 1——不到 FP32 的四十分之一，而满血的 H100 上 FP64 是 34 TFLOPS。&lt;/p&gt;</description></item></channel></rss>