111qqz

caffe做部署是YYDS! blob layer net 激活函数 卷积 reshape slice loss function reduce eltwise argmax

起因 # 机缘使然，最近在工作中接触到了 MoE（Mixture of Experts）。

背景 # 公司内部的基于torch的toolbox发现某个版本之后,结果发生了偏移. 通过一系列排查,发现当导入cupy和torch的顺序不同时，计算结果会有所差异。 也就是说,如下两段代码会导致模型训练等环节的计算得到不同的结果.

记录在 Bazel 工程中引入 ONNX Runtime 预编译包时的动态库、头文件与依赖配置。

背景 # 需要在gitlab pipelines中跑一堆测试 其中某些测试需要与rancher交互，在训练集群上执行一个训练任务

背景 # 2022年惊讶的发现，当时竟然没有写关于softmax的笔记，因此来补充一下。

背景 # 每一个cpp expression都有一个type 和 value category 属性 前者大家都比较了解，但是后者却常常被忽视

最近在做一个智能算力的项目，其中需要用到redis维护某个全局的时间窗口

接口 # 一个ABC，后面会继承这个类做各种实现

arena时levelDB中的内存池实现 接口 # 没有太多好说的，都非常直观。 补了些注释