一、网络结构

LeNet包含多个版本，通常所说的LeNet是指LeNet-5，网络结构如下图：

源代码：https://gitee.com/killf/deep-learning-notes

最近在研究基于NPU的推理方法，编写的demo已经测试通过，但集成到项目中却发现各种问题。

一、编译错误

1
2

/home/killf/data/AndroidSdk/ndk-bundle/toolchains/llvm/prebuilt/linux-x86_64/lib/gcc/aarch64-linux-android/4.9.x/../../../../aarch64-linux-android/bin/ld: warning: libz.so, needed by /home/sensing/face-api-deps/HIAI/HiAI_DDK_100.300.010.010/HiAI_DDK_100.200.010.011/DDK/ai_ddk_mixmodel_lib/lib64/libhiai.so, not found (try using -rpath or -rpath-link)
/home/killf/data/AndroidSdk/ndk-bundle/toolchains/llvm/prebuilt/linux-x86_64/lib/gcc/aarch64-linux-android/4.9.x/../../../../aarch64-linux-android/bin/ld: warning: libstdc++.so, needed by /home/sensing/face-api-deps/HIAI/HiAI_DDK_100.300.010.010/HiAI_DDK_100.200.010.011/DDK/ai_ddk_mixmodel_lib/lib64/libhiai.so, not found (try using -rpath or -rpath-link)

期初以为这个错误是因为在不到libz.so和libstdc++.so引起的，事实上只需要加上-rpath-link即可解决问题。

1

target_link_options(test_performance PRIVATE -Wl,-rpath-link=/home/killf/data/AndroidSdk/ndk-bundle/toolchains/llvm/prebuilt/linux-x86_64/sysroot/usr/lib/aarch64-linux-android/26/)

二、启动时段错误

一切都编译没问题，但启动的时候直接报Segmentation fault，连main函数中第一行代码都没有执行，所以这肯定是链接的问题，通过逐一排除的方法，发现问题出现在libhiai.so上面。

三、链接protobuf的问题

1

[libprotobuf ERROR /home/sensing/github/protobuf-3.6.1/src/google/protobuf/descriptor_database.cc:58] File already exists in database: google/protobuf/descriptor.proto[libprotobuf FATAL /home/sensing/github/protobuf-3.6.1/src/google/protobuf/descriptor.cc:1358] CHECK failed: GeneratedDatabase()->Add(encoded_file_descriptor, size): terminating with uncaught exception of type google::protobuf::FatalException: CHECK failed: GeneratedDatabase()->Add(encoded_file_descriptor, size): 

这是因为libhiai.so中存在静态链接的protobuf，而我们的项目也是静态链接了protobuf，造成二次链接的问题。

• NPU不支持：DepthwiseConvolution

写在前面：
这个文章核心并不是程序优化的具体技巧，而是拿到一个问题如何思考和利用工具的通用方法。比如即使我们不知道 profiler 这个东西，通过搜索”代码 每一行 时间”也可以很快知道有这样的工具叫做 profiler，并且学会怎么使用。即使不知道 rand 这个函数怎么加速，通过搜索引擎也可以找到别人写好的现成代码。另一方面是发现瓶颈之后也不要着急自己修复，如果不是特别一目了然的话，先看看别人是怎么做的。站在巨人的肩膀上，事半功倍。

1.多看看「官方文档」

我们很多的问题和技术细节，其实，只要我们认真将官方文档过一遍，会发觉大部分的问题和认识模糊的地方都消失了。甚至，你还能发现自己之前通过搜索获得的到一些资料，可能是不准确或者已经过时的。官方文档是真正的好东西，因为编写文档的人群，通常就是这些技术或者软件的开发者，他们才是对这些东西最了解的人，因此，他们写的文档质量是很高的，通常也是最新的。

官方文档的不足的地方，大概是中文版本不多，看起来可能会比较吃力。不过，请相信我，下载一个翻译辅助软件，慢慢看还是可以的。另一方面，就是这些文档编写者，通常是技术界大牛，他们编写文档有时候是基于他们自己的技术认知水平，跳过了很多基础概念，也增加了阅读难度。不过，这个我们也可以通过多查资料，慢慢看来解决，并且通常会带来额外的学习收获。

2.比官方文档更重要的是源代码

看源代码 1）意味着你可以看到以及学习优秀的代码；2）意味着即使源代码有坑，你也会提前在大脑有回路更容易找到问题所在。

看不懂源码意味着不同的几点：
1）你对这个库或者代码的功能不熟悉 (知道某段源码的功能及特点)
2）你不会用 Debug
3）你的算法基础薄弱
4）源码太过混乱

你需要反思自己属于哪一项。针对其中某一类下药上来直接从头看源码学东西一般是不可行的。你需要从上层入侵到下层。先用这段代码才能看懂源码。而不是在上层都不熟悉的基础上开始。任何重复的代码/重复的类似代码。意味着你框架设计有问题，或者开发语言的表达能力不够。

Java 的固定设计模式就是 Java 本身表达能力不够的表现。流程意味着生命周期，即你不仅需要抽象已知的流程。还需要在未提及的点留下一个坑 (函数/接口/钩子)。往往这些坑在以后的需求变更和项目扩展和维护中是救命的点。日志非常重要，日志环境也非常重要，debug 是基础技能，对应的是开发状态。日志则对应稳定的线上状态。而不能重现的 bug 占整个开发的非常多的时间。所以错误日志记录详细的环境意味着你可以更快的重现这个错误。

一、常见数学公式范例

行内公式

• $E=mc^2$ => $E=mc^2$
• $c=\pm\sqrt{a^2+b^2}$ => $c=\pm\sqrt{a^2+b^2}$
• $x>y$ => $x>y$
• $f(x)=x^2$ => $f(x)=x^2$
• $\alpha=\sqrt{1-e^2}$ => $\alpha=\sqrt{1-e^2}$
• $(\sqrt{3x-1}+(1+x)^2)$ => $(\sqrt{3x-1}+(1+x)^2)$
• $\sin(\alpha)^\theta=\sum_{i=0}^n(x^i+\cos(f))$ => $\sin(\alpha)^\theta=\sum_{i=0}^n(x^i+\cos(f))$
• $\dfrac{-b\pm\sqrt{b^2-4ac}}{2a}$ => $\dfrac{-b\pm\sqrt{b^2-4ac}}{2a}$
• $f(x)=\int_{-\infty}^{\infty}f\hat(\xi)e^{2\pi i \xi x}\,d\xi$ => $f(x)=\int_{-\infty}^{\infty}f\hat(\xi)e^{2\pi i \xi x}\,d\xi$
• $\frac{1}{(\sqrt{\phi\sqrt{5}}-\phi)e^{\frac{2}{5}\pi}} = 1+\frac{e^{-2\pi}}{1+\frac{e^{-4\pi}}{1+\frac{e^{-6\pi}}{1+\frac{e^{-8\pi}}{1+\cdots}}}}$ => $\frac{1}{(\sqrt{\phi\sqrt{5}}-\phi)e^{\frac{2}{5}\pi}} = 1+\frac{e^{-2\pi}}{1+\frac{e^{-4\pi}}{1+\frac{e^{-6\pi}}{1+\frac{e^{-8\pi}}{1+\cdots}}}}$
• $\displaystyle\left(\sum_{k=1}^na_kb_k\right)^2\leq\left(\sum_{k=1}^{n}a_k^2\right)\left(\sum_{k=1}^{n}b_k^2\right)$ => $\displaystyle\left(\sum{k=1}^na_kb_k\right)^2\leq\left(\sum{k=1}^{n}ak^2\right)\left(\sum{k=1}^{n}b_k^2\right)$
• $a^2$ => $a^2$
• $a^{2+2}$ => $a^{2+2}$
• $a_2$ => $a_2$
• $x_2^3$ => $x_2^3$
• ${x_2}^3$ => ${x_2}^3$
• $10^{10^{10}}$ => $10^{10^{10}}$
• $a_{i,j}$ => $a_{i,j}$
• $_nP_k$ => $_nP_k$
• $c=\pm\sqrt{a^2+b^2}$ => $c=\pm\sqrt{a^2+b^2}$
• $\frac{1}{2}=0.5$ => $\frac{1}{2}=0.5$
• $\dfrac{k}{k-1}=0.5$ => $\dfrac{k}{k-1}=0.5$
• $(_k^n) \dbinom{n}{k} \binom{n}{k}$ => $(_k^n) \dbinom{n}{k} \binom{n}{k}$
• $\oint_Cx^3\,dx+4y^2\,dy$ => $\oint_Cx^3\,dx+4y^2\,dy$
• $\bigcap_1^np\bigcup_1^kp$ => $\bigcap_1^np\bigcup_1^kp$
• $e^{i\pi}+1=0$ => $e^{i\pi}+1=0$
• $(\frac{1}{2})$ => $(\frac{1}{2})$
• $x_{1,2}=\frac{-b\pm\sqrt{b^2-4ac}}{2a}$ => $x_{1,2}=\frac{-b\pm\sqrt{b^2-4ac}}{2a}$
• $x^2+2x-1$ => $x^2+2x-1$
• $\sum_{k=1}^{N}k^2$ => $\sum_{k=1}^{N}k^2$
• $\frac{\frac{1}{2}[1-(\frac{1}{2})^n]}{1-\frac{1}{2}}=s_n$ => $\frac{\frac{1}{2}[1-(\frac{1}{2})^n]}{1-\frac{1}{2}}=s_n$
• $\binom{n}{k}$ => $\binom{n}{k}$
• $0+1+2+\cdots$ => $0+1+2+\cdots$
• $\sum_{k=1}^{N}k^2$ => $\sum_{k=1}^{N}k^2$
• $\textstyle \sum_{k=1}^{N}k^2$ => $\textstyle \sum_{k=1}^{N}k^2$
• $\displaystyle \sum_{k=1}^{N}k^2$ => $\displaystyle \sum_{k=1}^{N}k^2$
• $\prod_{i=1}^{N}x_i$ => $\prod_{i=1}^{N}x_i$
• $\coprod_{i=1}^{N}x_i$ => $\coprod_{i=1}^{N}x_i$
• $\int_{1}^{3}\frac{e^3/x}{x^2}\,dx$ => $\int_{1}^{3}\frac{e^3/x}{x^2}\,dx$
• $\int_Cx^3\,dx+4y^2\,dy$ => $\int_Cx^3\,dx+4y^2\,dy$
• ${}_1^2\!\Omega_3^4$ => ${}_1^2!\Omega_3^4$
• L_2=\sqrt{x\div2} => $L_2=\sqrt{x\div2}$
• \% => $\%$
• \infty => $\infty$

二、参考资料

• GitHub:https://pandao.github.io/editor.md/examples/katex.html
• 公式手册:https://www.cnblogs.com/1024th/p/11623258.html

cgit是一个github快速下载器，使用国内镜像，clone速度可达10M/s。
项目地址：https://github.com/killf/cgit.git

一、安装方法

目前，已提供了Ubuntu和Mac的预编译程序，如果使用的是其他系统，可以采用源码编译安装。

linux下安装

1

sudo wget http://cgit.killf.info/cgit_linux_latest -O /usr/local/bin/cgit && sudo chmod 755 /usr/local/bin/cgit

mac下安装

1

sudo wget http://cgit.killf.info/cgit_mac_latest -O /usr/local/bin/cgit && sudo chmod 755 /usr/local/bin/cgit

编译安装

1

git clone https://github.com/killf/cgit.git && sudo ./cgit/install.sh

二、使用方法

cgit运行时与需要使用git，因此需要先安装git，如果需要使用其他路径的git，可配置环境变量GIT，如：

1

export GIT=/usr/bin/git

cgit的使用方法git与一样，事实上内部使用的也是git，使用时只需将命令替换成cgit即可，如下：

1

cgit clone https://github.com/killf/cgit.git

三、下载速度

前几天刚把放到Github上的开源程序发布到开源中国，没想到很快就有网站联系说希望收录这款软件，于是重新整理了下帮助文档，文档比较简单，以后有空再完善。

一、简介

SqlContext是一个轻量级的Sql帮助类，旨在提供一种快速、简洁、优雅地数据库访问方法。
相比于重量级的EntityFramework，SqlContext非常轻量化，包括空行和注释，代码也不过几百行；而相对于ADO.Net，SqlContext又非常简洁、灵活和优雅，你可以以一种直观的方式来访问数据库，而不必关心其实现的细节。本质上，SqlContext是对ADO.Net的封装，ADO.Net能做的事情SqlContext都能做到。

SqlContext的基本功能：

• 支持任意SQL
• 支持事务
• 支持简单的ORM
• 支持多种数据库
• 自动管理连接，支持长连接和短连接

项目地址：https://github.com/killf/SqlContext

最近，项目中需要使用本地SQLite库，由于EF框架太重，而直接采用ADO.Net又太麻烦，所以就简单的封装了个Sql库，支持CURD、事务、(简单的)ORM、多数据库支持等，项目地址：https://github.com/killf/SqlContext

使用时需要先引用SQLite支持库，使用方法如下：

一直想做一个面向Web的自动化测试工具，而最近工作中刚好遇到类似的问题，于是就先写了个支持库，用于自动化模拟点击，以备后用。

自动化模拟点有什么用？

• 自动化测试。目前，市面上流行的Web自动化测试工具都是基于WebDriver的，而基于WebBrowser的几乎没有。
• 编写一些游戏的挂机脚本之类的东西。
• 编写爬虫，自动抓取页面中的数据。
• 代替人工，完成一些简单而又乏味的重复工作。
• 嗯，纯粹为了技术。

因为使用的是sudo安装docker，所以会导致一个问题。以普通用户登录的状况下，在使用docker images时必须添加sudo，那么如何让docker免sudo依然可用呢？解决方案如下。

• 如果还没有 docker group 就添加一个：

  1	sudo groupadd docker

• 将用户加入该 group 内。然后退出并重新登录就生效啦。

  1	sudo gpasswd -a ${USER} docker

• 重启 docker 服务

  1	sudo service docker restart

• 切换当前会话到新 group 或者重启 X 会话

  1	newgrp - docker

  注意:最后一步是必须的，否则因为 groups 命令获取到的是缓存的组信息，刚添加的组信息未能生效，所以 docker images 执行时同样有错。

一、常用快捷键

• ctrl + p -> 快速打开，转到文件
• ctrl + t -> 显示所有符号
• ctrl + g -> 转到行
• ctrl + shift + o -> 转到符号
• ctrl + shift + m -> 打开问题面板
• ctrl + shift + p -> 打开命令面板
• ctrl + shift + ` -> 打开终端面板
• ctrl + shift + i -> 格式化当前文件
• ctrl + / -> 注释/取消注释当前行
• ctrl + shift + n -> 打开新窗口
• ctrl + shift + w -> 关闭当前窗口
• alt + shift + [拖放/点击] -> 多行编辑命令
• alt + ↑/↓ -> 向上/向下移动行
• alt + shift + ↓/↑ -> 向上/向下复制行
• ctrl + shift + k -> 删除当前行
• ctrl + enter -> 在下面插入行
• ctrl + shift + enter -> 在上面插入行
• home -> 跳转到行首
• end -> 跳转到行尾
• ctrl + home -> 跳转到文件开头
• ctrl + end -> 跳转到文件结尾
• ctrl + w -> 关闭编辑器
• ctrl + \ -> 拆分编辑器
• ctrl + alt + - -> 返回上一个光标

二、常见问题

1.终端字体太长的问题

添加如下配置即可：

1
2
3

{
  "terminal.integrated.fontFamily": "monospace"
}

2.改变字体样式

默认的字体样式实在是太丑了，看起来非常密集，可以安装Font Switcher插件切换字体试一试，再不行可以直接安装一个字体，并在配置文件中配置进去。

3.同步配置文件和插件

使用Settings Sync插件即可，需要有一个github账号。

4.使用翻译功能

安装插件vscode-translator

5.切换为中文

vscode的界面默认是英文的，ctrl + shift + p然后输入configure language，选择或安装中文语言即可。

看文档，一步一步来。

1. https://docs.docker.com/engine/install/ubuntu/
2. https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html

一、安装桌面和依赖

安装桌面和一些依赖软件：

1
2
3
4
5
6

sudo apt update
sudo apt install -y ubuntu-desktop
sudo apt install -y lightdm     # 在GUI中选择lightdm
sudo apt install -y dkms pkg-config     # nvidia-cuda
sudo apt install -y freeglut3-dev mesa-utils    # opengl
sudo apt install -y x11-xserver-utils libxrandr-dev     # x11

二、安装Nvidia显卡驱动和CUDA

1
2

wget https://developer.download.nvidia.com/compute/cuda/11.5.0/local_installers/cuda_11.5.0_495.29.05_linux.run
sudo sh cuda_11.5.0_495.29.05_linux.run

参考：

• https://developer.nvidia.com/cuda-downloads
• https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html
• https://docs.microsoft.com/en-us/azure/virtual-machines/linux/n-series-driver-setup

三、安装VirtualGL

1
2

sudo apt install -y libegl1-mesa
sudo dpkg -i virtualgl_2.6.95_amd64.deb

参考：

• https://sourceforge.net/projects/virtualgl/files/

四、安装TurboVNC

1

sudo dpkg -i turbovnc_2.2.6_amd64.deb

注意，需要安装相应的window版本进行远程登陆

下载地址：https://sourceforge.net/projects/turbovnc/files/

五、安装libjpeg-turbo

1

sudo dpkg -i libjpeg-turbo-official_2.1.1_amd64.deb

下载地址： https://sourceforge.net/projects/libjpeg-turbo/

六、配置

1
2
3
4
5
6
7
8

sudo nvidia-xconfig --query-gpu-info    # 查看busid
sudo nvidia-xconfig -a --allow-empty-initial-configuration --virtual=1920x1200 --busid PCI:0@1:0:0  # 填上一步中获取的busid 

sudo service lightdm stop   # 关闭显示服务
sudo /opt/VirtualGL/bin/vglserver_config    # 选1，其他都为n，最后x退出
sudo service lightdm start # 开启显示服务

sudo reboot

重启后，检查安装的是否ok

1
2

xdpyinfo -display :0
/opt/VirtualGL/bin/glxinfo -display :0 -c

手动启动vncserver，也可以配置成开机启动

1

sudo /opt/TurboVNC/bin/vncserver # 启动vnc服务，第一次启动时需要配置密码，使用window远程的时候需要输入

远程桌面登陆到服务上，使用vglrun命令启动应用程序

1
2

chmod +x ./Presenter.x86_64
vglrun ./Presenter.x86_64

七、参考

• https://virtualgl.org/Documentation/HeadlessNV
• 如何在 Ubuntu 服务器上安装桌面环境（GUI）
• Running CARLA without Display and Selecting GPUs
• ubuntu18.04安装虚拟显示器，不接显示器可远程桌面
• doc

1
2
3
4
5
6
7
8
9
10
11

Closing an issue just means that the issue was resolved or was not something that needs to be addressed in VirtualGL. Continuing to discuss the same topic in the comments is OK, even if the issue is closed.

That error message means that either the 3D X server isn't running or VirtualGL can't access it. Perform the "Sanity Check" procedure described here:
https://cdn.rawgit.com/VirtualGL/virtualgl/2.6.4/doc/index.html#hd006002001

Some common reasons why the 3D X server may not be accessible:

1. vglserver_config was never run on the VirtualGL server.
2. The VirtualGL server supports Wayland, but you did not answer "yes" when vglserver_config prompted you to disable Wayland in the display manager.
3. The 3D X server isn't actually running (perhaps due to an X server issue-- check /var/log/Xorg.0.log for errors-- or simply because it was stopped in order to run vglserver_config and never restarted.)
4. You restricted 3D X server access to the vglusers group, but your user account isn't in the vglusers group (or you did not log out and back in after adding your user account to the group.) Make sure you can read /etc/opt/VirtualGL/vgl_xauth_key.