最近的文章
caffe 源码阅读笔记
·30 字·1 分钟
caffe做部署是YYDS!
blob
layer
net
激活函数
卷积
reshape
slice
loss function
reduce
eltwise
argmax
从价格发现到流动性螺旋:股票市场为什么需要“国家队”?
·9286 字·19 分钟
在很长一段时间里,我对股票市场的理解非常机械,甚至带着一种理所当然的工程偏见。
作为一个长期和分布式系统、性能优化与反馈控制打交道的工程师,我习惯把撮合引擎看作一个纯粹的分布式信息处理系统:全市场的参与者带着各自的信息、算力和风险偏好,用真金白银在订单簿上挂单出清。价格上涨,说明对未来的盈利预期转好;价格下跌,说明基本面恶化或风险溢价上升。
为什么测试集表现很好,模型上线后仍然可能失败?——从 Distribution Shift 到 Extrapolation
·9554 字·20 分钟
起因 # 上一篇聊随机标签实验的时候,我把注意力放在了模型容量和假设空间上:一个参数量巨大、完全有能力死记硬背随机噪声的神经网络,为什么在面对真实规律的数据时,依然能找到泛化良好的解。
大量主动卖出,股价为什么不跌?——从 SOXL 成交统计理解流动性与价格冲击
·4243 字·9 分钟
10月16日,美东时间上午,我在看 SOXL 的成交统计时看到了一组让我反复盯着屏幕的数字。
SOXL 是 3 倍做多半导体 ETF,那天跌了超过 6%。我打开成交统计,本来预期应该看到一个主动卖出量远超买入量的页面——毕竟已经跌成这样了。结果是这样的:
为什么美债收益率会变化?从 3M 国债理解债券定价
·5981 字·12 分钟
前段时间在梳理短期利率时,有一个朴素的疑问困扰了我一阵子。
当时我在看 3 个月期美国国债(3-Month Treasury Bill,简称 3M T-Bill)。直觉上的买卖过程非常直接:假设我花了 9,900 美元买下一张三个月后到期、面值为 10,000 美元的国债。只要美国政府不违约,三个月后财政部如期兑付 10,000 美元,我净赚 100 美元差价。
从 CPI 到美联储加息:利率为什么能影响通胀?
最近在整理金融基础笔记,梳理到利率和通胀的关系时,发现自己以前对"加息抑制通胀"的理解一直停留在一个很粗糙的直觉上:
美联储加息 → 大家更愿意把钱存进银行 → 市场上流通的钱变少了 → 通胀就下来了。
从 FGSM 理解对抗攻击:泛化好的模型为什么还会被微小扰动欺骗?
·5618 字·12 分钟
起因 # 上一篇写完随机标签实验之后,我对泛化的理解更新了一轮:模型有能力记住随机标签,不代表它面对真实数据时只会死记硬背。capacity、learned function 和 generalization 是三件不同的事。
从 CPI 到资产价格:利率是怎么串起整个金融市场的
·3756 字·8 分钟
前段时间在看美股盘面,注意到一个经常出现的现象:CPI 数据公布的那几分钟,所有东西同时在动。
那天的情况大概是这样的:CPI 同比上涨超预期,美股三大指数几乎同时跳水,10 年期国债收益率拉升,黄金也在跌。新闻标题写的是"通胀超预期,降息预期降低"。
Timestep Embedding 学习笔记:一个共享的 U-Net 怎么做条件去噪
·5260 字·11 分钟
从 U-Net 文章结尾的一个问题说起 # 上一篇结尾我写:DDPM 里的 U-Net 和 2015 年原版 U-Net 有几处关键扩展,第一个就是 Timestep Embedding——通过 sinusoidal embedding 将时间步 \(t\) 编码成向量,注入到每个 residual block 中。
从随机标签实验重新理解深度学习泛化:能记住,为什么还能泛化?
·5182 字·11 分钟
起因 # 看 6.S191 的课程内容时,讲到 generalization 相关的话题,提到了一篇 2017 年的论文。
说实话,我以前对"泛化"这件事没有太深入地想过。教科书上的经典说法——模型越复杂越容易过拟合,要用正则化控制复杂度——我一直就这么接受下来了。L1、L2、Dropout 这些方法背后的直觉也说得通:限制模型的有效复杂度,不让它过度拟合训练数据中的噪声。没觉得有什么问题。