Deep-Learning on 111qqz's blog

caffe 源码阅读笔记

Tue, 30 Jun 2020 19:47:02 +0800

caffe做部署是YYDS!

[施工中] cupy与torch的导入顺序不同对计算结果的影响

Sun, 17 Dec 2023 18:22:24 +0800

背景
#

公司内部的基于torch的toolbox发现某个版本之后,结果发生了偏移. 通过一系列排查,发现当导入cupy和torch的顺序不同时，计算结果会有所差异。也就是说,如下两段代码会导致模型训练等环节的计算得到不同的结果.

Build Onnxruntime With Bazel

Mon, 16 Jan 2023 16:28:22 +0800

背景
#

需要使用bazel build onnxruntime

[施工中]caffe 源码学习笔记(11) softmax

Sat, 06 Aug 2022 12:26:03 +0800

背景
#

2022年惊讶的发现，当时竟然没有写关于softmax的笔记，因此来补充一下。

(CSE 599W)Reverse Mode Autodiff

Mon, 05 Apr 2021 14:44:25 +0800

背景
#

怎么算微分。。通常有三种方法。

【推荐系统】Toward the Next Generation of Recommender Systems: A Survey of the State-of-the-Art and Possible Extensions

Sat, 23 Jan 2021 17:42:15 +0800

迫于生计，从今天开始学习推荐系统相关的内容，今天先来读一篇推荐系统领域的综述 Toward the next generation of recommender systems: a survey of the state-of-the-art and possible extensions

【施工中】torch2trt　学习笔记

Fri, 18 Sep 2020 11:02:50 +0800

前言
#

偶然发现了 torch2trt 的模型转换方案，思路是直接将pytorch op映射到TensorRT的python api. 在pytorch进行每个op　forward的时候，tensorrt也相应往network上添加op. 这里会先涉及torch2trt的使用，后面会补充这个转换工具的代码学习

Jetson Nano踩坑记录

Tue, 08 Sep 2020 14:41:34 +0800

写在前面
#

主要是需要在jetson nano做模型转换，来记录下踩的坑目前有两条路径，一条是我们现有的转换路径，也就是pytorch->onnx(->caffe)->trt的路径在这条路径上踩了比较多的坑，最终暂时放弃，最直接的原因是cudnn8.0升级接口发生改动，编译caffe遇到较多问题 这里其实仍然采用了两条平行的路径，一条是直接在nano上构建环境，另外一种是基于docker(包括构建交叉编译环境用于加快编译速度)

caffe 源码学习笔记(11) argmax layer

Wed, 06 May 2020 21:26:03 +0800

背景
#

似乎没什么背景,继续看caffe代码

caffe 源码学习笔记(10) eltwise layer

Sun, 03 May 2020 17:53:22 +0800

背景
#

这个layer和reduce layer有一些相似,就干脆一起看了. 作用是输入至少两个blob,然后对每个blob中的元素所一些运算,最后得到一个blob.

caffe 源码学习笔记(9) reduce layer

Sun, 03 May 2020 15:16:53 +0800

背景
#

其实没什么背景,继续啃caffe代码而已2333

Focal Loss for Dense Object Detection(RetinaNet) 学习笔记

Sat, 02 May 2020 18:50:06 +0800

先写个简略版的笔记..看之后的情况要不要读得更精细一点..

背景
#

two stage的检测比one stage的检测效果好,原因是啥?

caffe 源码学习笔记(8) loss function

Sat, 18 Apr 2020 18:33:29 +0800

背景
#

虽然不太care 训练的过程，~~但是由于容易看懂的layer都看得差不多了~~ 所以打算看一下这些loss function.

caffe 源码学习笔记(7) slice layer

Mon, 13 Apr 2020 21:22:54 +0800

背景　
#

ocr组那边有个shuffle net 的网络,里面有个pytorch op叫chunk,转成的onnx对应的op是 split

caffe 源码学习笔记(6) reshape layer

Thu, 09 Apr 2020 21:03:06 +0800

背景　
#

最近在魔改 tensorRT 的caffe parser 之前caffe模型转到trt模型时，有一个修改是需要将reshape　layer的param末尾补1,比较繁琐，于是看了下caffe的reshape layer的实现．

caffe 源码学习笔记(5) 卷积

Wed, 08 Apr 2020 20:29:37 +0800

caffe中卷积运算的实现
#

暴力实现的卷积大概是这样子的

tensorrt INT8 量化debug记录（cuda error 700）

Wed, 08 Apr 2020 14:58:16 +0800

背景是要把某个caffe model,转换成tensorrt的INT8 模型。然后遇到如下报错:

caffe 源码学习笔记(4) 激活函数

Tue, 07 Apr 2020 23:21:40 +0800

在看过caffe代码的三个核心部分,blob,layer,net之后，陷入了不知道以什么顺序继续看的困境。

Faster Rcnn 目标检测算法

Sun, 05 Apr 2020 20:38:28 +0800

背景
#

2019年对了好几次faster rcnn，第一次是赛事之窗项目和北京的同事，对齐sdk和训练的实现。第二次是被tensorRT4和tensorRT5之间默认参数不一致的问题坑了一下。第三次是被caffe proto中roi align 的默认参数坑了。

resnet 学习笔记

Sun, 05 Apr 2020 16:49:44 +0800

背景
#

基于Conv的方法在某年的ImageNet比赛上又重新被人想起之后，大家发现网络堆叠得越深，似乎在cv的各个任务上表现的越好。

caffe 源码学习笔记(3) Net

Sun, 12 Jan 2020 19:18:15 +0800

Net 基本介绍
#

网络通过组成和自微分共同定义一个函数及其梯度。

caffe 源码学习笔记(2) Layer

Sat, 11 Jan 2020 17:47:05 +0800

layer 整体介绍
#

layer是模型计算的基本单元类似于pytorch或者其他深度学习框架的op layer中的数据流向为,输入若干个blob，称之为"bottom blob",然后经过layer的计算，输出若干个blob,称之为"top blob"

caffe 源码学习笔记(1) Blob

Fri, 10 Jan 2020 11:24:23 +0800

迫于生计，开始看caffe代码。会侧重于分析inference部分。

记一次faster-rcnn debug记录

Fri, 13 Dec 2019 16:32:14 +0800

问题描述
#

一年debug 三次faster rcnn,每次都有新感觉（不

FPN:Feature Pyramid Networks 学习笔记

Sun, 08 Dec 2019 17:30:50 +0800

检测不同尺度的物体一直是计算机视觉领域中比较有挑战性的事情．我们先从之前的工作出发，并对比FPN比起之前的工作有哪些改进．

SSD: Single Shot MultiBox Detector 学习笔记

Sun, 08 Dec 2019 15:00:15 +0800

概述
#

SSD是一种单阶段目标检测算法．所谓单阶段，是指只使用了一个deep neural network,而不是像faster-rcnn这种两阶段网络．为什么有了faster-rcnn还要使用SSD? 最主要是慢… 两阶段网络虽然准确率高，但是在嵌入式等算力不足的设备上做inference速度非常感人，很难达到real time的要求．（实际业务上也是这样，公有云上的检测模型几乎都是faster-rcnn,而到了一些盒子之类的硬件设备，检测模型就全是SSD等single stage 模型了)

rankboost 算法学习笔记

Tue, 26 Nov 2019 20:59:04 +0800

boosting 算法是什么．
#

机缘使然，接触到了 Boosting 算法．Boosting是一种通过组合弱学习器来产生强学习器的通用且有效的方法.

Kubernetes(k8s)在深度学习模型转换方面的探索

Fri, 22 Nov 2019 11:14:19 +0800

年中的时候接了离职的同事模型转换的锅，在不断地更新迭代的过程中，发现了一些痛点。发现k8s能够解决一部分痛点，因此来分享一下在这方面的探索。

faster rcnn 模型 tensorrt4与tensorrt5 结果不一致踩坑记录

Thu, 07 Nov 2019 23:40:39 +0800

最近有同事report给我们,用同一个模型转换工具,转同一个faster rcnn 模型, 同样的sdk代码,在有些显卡上结果正常,但是再比较新的显卡上(比如Titan V)上结果完全不正确.

Anchor Box Algorithm

Mon, 01 Jul 2019 19:53:24 +0800

动机
#

将一张图分成多个grid cell进行检测之后,每个cell只能检测到一个object. 如果这个grid cell中不止有一个物体要怎么办呢? 因此提出了anchor box algorithm来解决这个问题.

目标检测领域的滑动窗口算法

Sun, 30 Jun 2019 16:55:40 +0800

对象检测（Object Detection）的目的是”识别对象并给出其在图中的确切位置”，其内容可解构为三部分：

caffe2 添加自定义operater

Fri, 13 Apr 2018 03:08:19 +0000

记录一些一个没有之前没有接触过caffe/caffe2的人为了添加自定义的op 到caffe2需要做的工作.

非极大值抑制（Non-Maximum Suppression，NMS）

Fri, 16 Mar 2018 02:56:14 +0000

NMS是为了在诸多CV任务如边缘检测，目标检测等，找到局部最大值

reid 相关任务记录

Sat, 24 Feb 2018 04:34:02 +0000

被师兄（同事？）普及了一番实验规范orz…

我还是太年轻了

分类评价指标之Cumulative Match Characteristi (CMC)曲线

Fri, 23 Feb 2018 08:20:55 +0000

CMC曲线全称是Cumulative Match Characteristic (CMC) curve，也就是累积匹配曲线，同ROC曲线Receiver Operating Characteristic (ROC) curve一样，是模式识别系统，如人脸，指纹，虹膜等的重要评价指标，尤其是在生物特征识别系统中，一般同ROC曲线（多标签图像分类任务的评价方法-mean average precision(mAP) 以及top x的评价方法）一起给出，能够综合评价出算法的好坏。

pytorch 函数笔记

Fri, 23 Feb 2018 02:55:25 +0000

记录一些常用的…总去查文档也是有点麻烦

tensor.view 的作用是reshape 比如 a = torch.range(1, 16) 得到一个tensor that has 16 elements from 1 to 16. 在a=a.view(4,4)就得到了一个44的tensor。需要注意reshape之后元素的个数不能改变(16==44) 参数-1的作用是，我懒得算这一维度应该是多少,（由于元素个数不能改变）所以希望自动被计算。需要注意的是，只有一个维度可以写-1。不过view和reshape有些区别：reshape always copies memory. view never copies memory
#

torch.squeeze 将输入张量形状中的`1` 去除并返回。如果输入是形如(A×1×B×1×C×1×D)，那么输出形状就为： (A×B×C×D)当给定`dim`时，那么挤压操作只在给定维度上。例如，输入形状为: (A×1×B), `squeeze(input, 0)` 将会保持张量不变，只有用 `squeeze(input, 1)`，形状会变成 (A×B)。注意：返回张量与输入张量共享内存，所以改变其中一个的内容会改变另一个。
#

torch.unsqueeze 返回一个新的张量，对输入的制定位置插入维度 1 注意：返回张量与输入张量共享内存，所以改变其中一个的内容会改变另一个。如果`dim`为负，则将会被转化dim+input.dim()+1
#

 1>>> x = torch.Tensor([1, 2, 3, 4])
 2>>> torch.unsqueeze(x, 0)
 3 1 2 3 4
 4[torch.FloatTensor of size 1x4]
 5>>> torch.unsqueeze(x, 1)
 6 1
 7 2
 8 3
 9 4
10[torch.FloatTensor of size 4x1]
11
12
13
14 * 

tensor.expand(size) 扩展tensor.可以保持维度数目不变，每一维度的size增加(比如AB变到C*D,其中C>=A,D>=B).-1参数表示某一个维度的size不发生改变 . 有可以扩展tensor到更多的维度，新增加的维度会默认放在最前面，并且不能以-1作为参数。
#

tensor.contiguous 将一个tensor变成连续的。（一些ops如expand/expand_as会让tensor 不连续）
#

光流法初探

Thu, 22 Feb 2018 09:03:48 +0000

算是CV领域的传统算法了

只写两句话就够了。

它是空间运动物体在观察成像平面上的像素运动的瞬时速度，是利用图像序列中像素在时间域上的变化以及相邻帧之间的相关性来找到上一帧跟当前帧之间存在的对应关系，从而计算出相邻帧之间物体的运动信息的一种方法。

end-to-end 神经网络

Thu, 22 Feb 2018 02:53:01 +0000

所谓end-to-end 神经网络，更多是一种思想。

这种思想的核心是，比如对于图像处理，输入原始图像数据，输出的是直接有用的结果（有用取决于具体的任务，比如自动驾驶)

Pose-driven Deep Convolutional Model for Person Re-identification 阅读笔记

Thu, 22 Feb 2018 02:25:00 +0000

1709.08325

Reid问题指的是判断一个probe person 是否在被不同的camera捕获的gallery person 中出现。

Deep Mutual Learning（相互学习）阅读笔记

Sun, 18 Feb 2018 10:46:35 +0000

原始论文

DNN在很多问题上效果很不错，但是由于深度和宽度过大，导致需要的执行时间和内存过大。我们需要讨论一些能快速执行并且对内存的需要不大的模型。

Similarity learning 和Metric learning

Sun, 18 Feb 2018 08:14:10 +0000

Similarity_learning
#

相似性学习（Similarity learning ）有监督机器学习，它与回归和分类密切相关，但目标是从实例中学习一个相似函数，以衡量两个对象的相似程度或相关程度。

persion reid 论文列表

Sat, 17 Feb 2018 07:17:49 +0000

Key:

(1). Pose-driven, body part alignment, combine whole feature and body part feature, focus on alignment of part model,

(2). Combine image label and human attributes classes, do classification with attributes and identity learning

多标签图像分类任务的评价方法-mean average precision(mAP) 以及top x的评价方法

Fri, 09 Feb 2018 03:53:09 +0000

参考资料:

多标签图像分类任务的评价方法-mAP

wiki_Sensitivity and specificity

False Positives和False Negative等含义

Non-local Neural Networks 阅读笔记

Mon, 05 Feb 2018 02:24:34 +0000

先粗略读了2遍orz.可能不够严谨，先写一些high-level的理解。

non-local means algorithm 学习笔记

Thu, 25 Jan 2018 02:53:52 +0000

终于忙完学校的事情可以干正事了orz

这里会记录一些第一遍看paper的过程中遇到的一些影响理解的概念，不过大多不会深究，只算做粗浅的理解。

PCA + kmeans

Sun, 26 Nov 2017 11:05:50 +0000

先记录一下PCA实战需要用到的安装包(arch下,python2环境)
#

python2-scikit-learn
#

python2-numpy

反向传播学习笔记

Tue, 05 Sep 2017 12:30:17 +0000

先说下自己目前很笼统的理解：

反向传播是用来快速计算梯度的一种方法；

tensorflow input pipline 学习笔记

Thu, 24 Aug 2017 09:12:58 +0000

参考资料：

tf_doc_Reading data

TENSORFLOW INPUT PIPELINE EXAMPLE

tensorflow：理解tensorflow中的输入管道

第二个参考资料是第一个的翻译版本，翻译的水平一般，建议看原文，不是很长。

tensorflow 合并模型

Mon, 21 Aug 2017 06:56:22 +0000

在这里存个备份，还有些问题没有解决。

raise ValueError(“GraphDef cannot be larger than 2GB.”)

记录一些思路好了。现在是没有生成.meta文件，爆掉应该是因为所有的变量都加载到了默认图里。

Deep-Learning on 111qqz's blog

caffe 源码阅读笔记

[施工中] cupy与torch的导入顺序不同对计算结果的影响

背景 #

Build Onnxruntime With Bazel

背景 #

[施工中]caffe 源码学习笔记(11) softmax

背景 #

(CSE 599W)Reverse Mode Autodiff

背景 #

【推荐系统】Toward the Next Generation of Recommender Systems: A Survey of the State-of-the-Art and Possible Extensions

【施工中】torch2trt 学习笔记

前言 #

Jetson Nano踩坑记录

写在前面 #

caffe 源码学习笔记(11) argmax layer

背景 #

caffe 源码学习笔记(10) eltwise layer

背景 #

caffe 源码学习笔记(9) reduce layer

背景 #

Focal Loss for Dense Object Detection(RetinaNet) 学习笔记

背景 #

caffe 源码学习笔记(8) loss function

背景 #

caffe 源码学习笔记(7) slice layer

背景 #

caffe 源码学习笔记(6) reshape layer

背景 #

caffe 源码学习笔记(5) 卷积

caffe中卷积运算的实现 #

tensorrt INT8 量化debug记录（cuda error 700）

caffe 源码学习笔记(4) 激活函数

Faster Rcnn 目标检测算法

背景 #

resnet 学习笔记

背景 #

caffe 源码学习笔记(3) Net

Net 基本介绍 #

caffe 源码学习笔记(2) Layer

layer 整体介绍 #

caffe 源码学习笔记(1) Blob

记一次faster-rcnn debug记录

问题描述 #

FPN:Feature Pyramid Networks 学习笔记

SSD: Single Shot MultiBox Detector 学习笔记

概述 #

rankboost 算法学习笔记

boosting 算法是什么． #

Kubernetes(k8s)在深度学习模型转换方面的探索

faster rcnn 模型 tensorrt4与tensorrt5 结果不一致 踩坑记录

Anchor Box Algorithm

动机 #

目标检测领域的滑动窗口算法

caffe2 添加自定义operater

非极大值抑制（Non-Maximum Suppression，NMS）

reid 相关任务记录

分类评价指标之Cumulative Match Characteristi (CMC)曲线

pytorch 函数笔记

torch.unsqueeze 返回一个新的张量，对输入的制定位置插入维度 1 注意： 返回张量与输入张量共享内存，所以改变其中一个的内容会改变另一个。如果dim为负，则将会被转化dim+input.dim()+1 #

tensor.contiguous 将一个tensor变成连续的。（一些ops如expand/expand_as会让tensor 不连续） #

光流法初探

end-to-end 神经网络

Pose-driven Deep Convolutional Model for Person Re-identification 阅读笔记

Deep Mutual Learning（相互学习） 阅读笔记

Similarity learning 和Metric learning

Similarity_learning #

persion reid 论文列表

推荐系统之 LFM (Latent Factor Model) 隐因子模型 学习笔记

多标签图像分类任务的评价方法-mean average precision(mAP) 以及top x的评价方法

Non-local Neural Networks 阅读笔记

non-local means algorithm 学习笔记

PCA + kmeans

先记录一下PCA实战需要用到的安装包(arch下,python2环境) #

python2-scikit-learn #

反向传播学习笔记

tensorflow input pipline 学习笔记

tensorflow 合并模型

背景
#

背景
#

背景
#

背景
#

【施工中】torch2trt　学习笔记

前言
#

写在前面
#

背景
#

背景
#

背景
#

背景
#

背景
#

背景　
#

背景　
#

caffe中卷积运算的实现
#

背景
#

背景
#

Net 基本介绍
#

layer 整体介绍
#

问题描述
#

概述
#

boosting 算法是什么．
#

faster rcnn 模型 tensorrt4与tensorrt5 结果不一致踩坑记录

动机
#

torch.unsqueeze 返回一个新的张量，对输入的制定位置插入维度 1 注意：返回张量与输入张量共享内存，所以改变其中一个的内容会改变另一个。如果`dim`为负，则将会被转化dim+input.dim()+1
#

tensor.contiguous 将一个tensor变成连续的。（一些ops如expand/expand_as会让tensor 不连续）
#

Deep Mutual Learning（相互学习）阅读笔记

Similarity_learning
#

推荐系统之 LFM (Latent Factor Model) 隐因子模型学习笔记

先记录一下PCA实战需要用到的安装包(arch下,python2环境)
#

python2-scikit-learn
#