ARMNN是ARM公司推出在ARM芯片上进行前向推理库和NCNN、MNN这种类似。网上大部分都是基于AMR64的,这里我给大家介绍AMR32的ARMNN编译过程。
Step 1: 下载库
ARMNN依赖于很多库,我们需要一个一个下载。首先我们新建一个文件夹叫armnn-dist然后把所有需要下载的库都放在这里面
$ mkdir armnn-dist && cd armnn-dist
$ export BASEDIR=`pwd`
首先下载armnn和compute library
git clone https://github.com/Arm-software/ComputeLibrary.git
git clone https://github.com/Arm-software/armnn
然后下载tensorflow,protobuf和flatbuffers,如果命令行下载比较慢的话可以直接去github下载然后放在armnn-dist里面
git clone -b v3.12.0 https://github.com/google/protobuf.git
git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow/
git checkout a4dfb8d1a71385bd6d122e4f27f86dcebb96712d
wget -O flatbuffers-1.12.0.tar.gz https://github.com/google/flatbuffers/archive/v1.12.0.tar.gz
tar xf flatbuffers-1.12.0.tar.gz
Step 2: 编译ComputeLibrary
我们首先编译ComputeLibrary,这里使用的是scons编译的,先安装scons。
sudo apt-get install scons
在编译前要设置好toolchain
编译
cd $BASEDIR/ComputeLibrary
scons arch=armv7a extra_cxx_flags="-fPIC" benchmark_tests=0 validation_tests=1 neon=1
编译成功可以在build目录下生成如下的库
Step 3: 编译protobuf
cd ${BASEDIR}/protobuf
git submodule update --init --recursive
./autogen.sh
mkdir build
cd build
CC=arm-linux-gnueabihf-gcc \
CXX=arm-linux-gnueabihf-g++ \
../configure --prefix=${BASEDIR}/google/arm32_pb_install \
--with-protoc=${BASEDIR}/google/arm32_pb_install/bin/protoc
make install
可以得到如下的库
Step 4: 编译flatbuffers
这个有点难搞,首先使用gcc编译一版
cd $BASEDIR/flatbuffers-1.12.0
mkdir build
cd build
CXXFLAGS="-fPIC" cmake .. -DFLATBUFFERS_BUILD_FLATC=1 -DCMAKE_INSTALL_PREFIX:PATH=$BASEDIR/flatbuffers
make
make install
得到
然后
cd ${BASEDIR}
mkdir tflite
cd tflite
cp $BASEDIR/tensorflow/tensorflow/lite/schema/schema.fbs .
$BASEDIR/flatbuffers-1.12.0/build/flatc -c --gen-object-api --reflect-types --reflect-names schema.fbs
由于上面这一版是gcc编译的,我们最终需要arm版本的,因此再编译arm版本的
CXXFLAGS="-fPIC" cmake .. -DCMAKE_C_COMPILER=arm-linux-gnueabihf-gcc -DCMAKE_CXX_COMPILER=arm-linux-gnueabihf-g++ -DFLATBUFFERS_BUILD_FLATC=1 -DCMAKE_INSTALL_PREFIX:PATH=$BASEDIR/flatbuffers
arm版本的会报错,不用管,然后把build文件夹里面的libflatbuffers.a替换掉gcc编译目录的libflatbuffers.a
Step 5:编译armnn
经过以上几个步骤,你的目录应该是这样的
然后运行
cd $BASEDIR/armnn
mkdir build
cd build
cmake .. -DCMAKE_C_COMPILER=arm-linux-gnueabihf-gcc -DCMAKE_CXX_COMPILER=arm-linux-gnueabihf-g++ -DARMCOMPUTE_ROOT=$BASEDIR/ComputeLibrary -DARMCOMPUTE_BUILD_DIR=$BASEDIR/ComputeLibrary/build -DTF_GENERATED_SOURCES=$BASEDIR/protobuf -DBUILD_TF_LITE_PARSER=1 -DTF_LITE_GENERATED_PATH=$BASEDIR/tensorflow/tensorflow/lite/schema -DFLATBUFFERS_ROOT=$BASEDIR/flatbuffers -DFLATC_DIR=$BASEDIR/flatbuffers-1.12.0/build -DARMCOMPUTENEON=1 -DARMNNREF=1
make
如果你报如下错误,可能是你系统是64位的
cmake source directory "xxxxxxxxxxxx" does not exist
bash: No such file or directory
运行下面这个命令解决,如果安装过程中出问题,应该是源的问题
apt-get install lib32z1
最后如果你编译出了如下的库就成功了
参考:Documentation – Arm Developer