最近的文章
caffe 源码阅读笔记
·30 字·1 分钟
caffe做部署是YYDS!
blob
layer
net
激活函数
卷积
reshape
slice
loss function
reduce
eltwise
argmax
从 CPI 到资产价格:利率是怎么串起整个金融市场的
·3739 字·8 分钟
前段时间在看美股盘面,注意到一个经常出现的现象:CPI 数据公布的那几分钟,所有东西同时在动。
那天的情况大概是这样的:CPI 同比上涨超预期,美股三大指数几乎同时跳水,10 年期国债收益率拉升,黄金也在跌。新闻标题写的是"通胀超预期,降息预期降低"。
Timestep Embedding 学习笔记:一个共享的 U-Net 怎么做条件去噪
·5259 字·11 分钟
卡在 U-Net 文章结尾的一个问题 # 上一篇结尾我写:DDPM 里的 U-Net 和 2015 年原版 U-Net 有几处关键扩展,第一个就是 Timestep Embedding——通过 sinusoidal embedding 将时间步 \(t\) 编码成向量,注入到每个 residual block 中。
从随机标签实验重新理解深度学习泛化:能记住,为什么还能泛化?
·5187 字·11 分钟
起因 # 看 6.S191 的课程内容时,讲到 generalization 相关的话题,提到了一篇 2017 年的论文。
说实话,我以前对"泛化"这件事没有太深入地想过。教科书上的经典说法——模型越复杂越容易过拟合,要用正则化控制复杂度——我一直就这么接受下来了。L1、L2、Dropout 这些方法背后的直觉也说得通:限制模型的有效复杂度,不让它过度拟合训练数据中的噪声。没觉得有什么问题。
从 U-Net 到 FPN:重新理解多尺度特征融合
·4614 字·10 分钟
DDPM 的噪声预测网络到底是什么 # 前两篇文章在推导 DDPM 的前向扩散和反向去噪时,一直在用一个符号 \(\epsilon_\theta(x_t, t)\) 来表示噪声预测网络——给一张带噪图片和当前 timestep,输出对噪声的预测。
DDPM 反向去噪:为什么不能把前向过程倒过来
·2857 字·6 分钟
接着上一篇的问题 # 上一篇搞清楚了一件事:DDPM 的前向扩散虽然定义成一步一步加噪的马尔可夫链,但因为高斯分布在线性组合下的封闭性,任意时刻的 \(x_t\) 都可以一步算出来:
DDPM 前向扩散:为什么加噪可以跳过中间步骤
·3722 字·8 分钟
起因 # 最近在看 DDPM(Denoising Diffusion Probabilistic Models)。前向扩散的定义写得很清楚:从原始图片出发,每一步往上面加一点噪声,一步一步把图片变成纯噪声。
从 EMA 到 MACD:理解趋势、动能与动能的变化
·6209 字·13 分钟
最近一直在学美股的技术分析。前面接触了 Breakout + Retest、Double Bottom、Head & Shoulders 这些价格形态,发现每次想进一步分析趋势强度或转折信号时,MACD 都会冒出来——金叉、死叉、红绿柱、顶背离、底背离,这些词到处都是。
从成交量到资金净流入:重新理解股票价格是如何形成的
·7161 字·15 分钟
之前写量化交易系统那篇时提到过 execution 层——每笔 order 多大、对手盘的流动性够不够、是挂盘口还是主动吃价差。当时一笔带过,没有认真想 order book 这一层到底怎么运转。
最近第一次认真看市场微观结构(market microstructure)的一些材料,想搞清楚几个一直模模糊糊的问题。结果发现,不是模糊,是错的。
从 Q-Learning 到 Policy Gradient:为什么要直接学习策略?
·4692 字·10 分钟
上一篇走完了从 Q-Learning 到 DQN 的过程。用神经网络近似 Q-Function,输出各动作的 Q 值,取 argmax 选动作。加上 Experience Replay 和 Target Network,DQN 在 Atari 游戏上工作得很好。
继续跟 MIT 6.S191 Lecture 5 往下走,课程在讲完 DQN 之后,介绍了一种完全不同的思路——不学 Q-Function,直接学 Policy。