优化 | 111qqz的小窝

ska::flat_hash_map 源码分析
2021-08-21 · 6 min read · hash map
背景
最近在调研各种hashmap.. 发现ska::flat hash map性能优秀。。于是来看看代码。。发现最大的特点是,ska::flat_hash_map使用了带probe count上限的robin hood hashing

阅读更多
一次avx2在gcc上core dump的排查经历
2021-07-22 · 3 min read · simd avx
背景
起因是同事在实现int4的功能，结果流水线有一条死活过不了(gcc版本为4.8.5),一直core dump 经过初步排查，找出了如下最小可以复现的代码:

阅读更多
tensorRT 模型兼容性说明
2020-03-24 · 2 min read · cuda tensorrt
名词说明
- CUDA. 一般来说指的是CUDA SDK. 目前经常使用的是CUDA 8.0和CUDA 10.1两个版本. 8.0和10.1都是SDK的版本号.
- CUDNN. The NVIDIA CUDA® Deep Neural Network library (cuDNN). 是一个可以为神经网络提供GPU加速的库
- compute capability. 是GPU的固有参数,可以理解为GPU的版本.越新的显卡该数值往往越高.
- tensorRT.NVIDIA TensorRT™ is an SDK for high-performance deep learning inference. 是一个深度学习推理库,旨在提供高性能的推 …
阅读更多
【施工中】 halide学习笔记
2019-02-18 · 3 min read · halide 图像处理
**Halide is a programming language designed to make it easier to write high-performance image and array processing code on modern machines. **
halide有两个特性比较吸引人。一个是对于各种平台架构的支持。
* CPU architectures: X86, ARM, MIPS, Hexagon, PowerPC * Operating systems: Linux, Windows, macOS, Android, iOS, Qualcomm QuRT * GPU …
阅读更多
优化学习笔记(1):Loop unrolling
2019-01-23 · 2 min read · halide 编译原理循环展开
~~迫于生计，~~最近要学习halide
先去学习/复习一下常见的编译优化技巧。
loop unrolling，也就是循环展开，顾名思义，就是把循环展开来写。
```
normal loop:
int x;
 for (x = 0; x < 100; x++)
 {
     delete(x);
 }

after loop unrolling:
int x; 
 for (x = 0; x < 100; x += 5 )
 {
     delete(x);
     delete(x + 1);
     delete(x + 2);
     delete(x + 3);
     delete(x + 4);
 }
```
循环展开 …

阅读更多
CUDA C Best Practices Guide 阅读笔记（二） Heterogeneous Computing
2018-02-13 · 2 min read · cuda cpp
CUDA 编程涉及到在不同的平台上同时运行代码:包含CPU的host 和包含GPU的device.
所以了解host和device的对性能优化是非常重要的。

阅读更多
CUDA C Best Practices Guide 阅读笔记（1）并行计算方法论(APOD)
2018-02-12 · 2 min read · cuda 并行计算
APOD指的是Assess, Parallelize, Optimize, Deploy
如图所示，APOD过程是一个循环的过程，每次只进行一部分，从A到P到O到D,然后再进行下一轮的APOD

阅读更多
cuda c++ 基础算法库 thrust 学习笔记
2018-02-10 · 1 min read · cuda stl thrust cpp
可以了解成并行版的STL(?
过了一遍nvidia的官方网文档
发现如果熟悉STL的话,thrust没什么太多好说的,看起来很简单...
不过还是开一篇记录一下,一段时间内估计要和cuda c++ 打交道,就当记录使用过程中遇到的问题吧.

阅读更多
cuda error checking 学习笔记
2018-02-09 · 1 min read · cuda cpp
由于发现cuda c++ 的 debug方式和c++ 差别很大,因此打算再开一篇,专门记录一些和error checking 以及debug有关的内容.
Error checks in CUDA code can help catch CUDA errors at their source. There are 2 sources of errors in CUDA source code:

阅读更多
cuda 学习笔记
2018-02-01 · 6 min read · cuda
uodate:有毒吧。kernel中出问题原来是不会报错的。。。。
请教了组里的hust学长orz..、
学到了cuda-memcheck命令和cudaGetLastError来查看问题。。可以参考What is the canonical way to check for errors using the CUDA runtime API?

阅读更多

背景

背景

名词说明

**Halide is a programming language designed to make it easier to write high-performance image and array processing code on modern machines. **

Halide is a programming language designed to make it easier to write high-performance image and array processing code on modern machines.