配套资料在网盘资料的“iTOP-3399 开发资料汇总(不含光盘内容)\04_iTOP-3399 开发板人工智能测试资料\智能回复配套资料.zip”目录下。
本章节将在 ITOP-3399 开发板上测试智能回复 APP,这是 TensorFlow Lite 在 Android 上的示例应用程序。智能回复 APP 可以实时回答问题,帮助用户高效且毫不费力地回复消息(或电子邮件)。智能回复在谷歌产品中已经非常成功,包括 Gmail、Inbox 和 Allo。智能回复 APP 回复模型针对的是文本聊天,它的架构与基于云计算的同类产品完全不同,它是专门针对手机或者手表等内存较小的设备而设计的。该设备模型具有多个优点:
更快:该模型运行在设备上,不需要网络连接。因此,推论是非常快的并且具有仅几毫秒的平均等待
时间。
资源高效:该模型在设备上的内存占用很小。
隐私友好型:用户数据永远不会离开设备,这消除了任何隐私限制
38.1 下载示例源码
如果您没有安装 AndroidStudio,请参考本手册“安装 AndroidStudio”章节安装 Android Studio 3.2 或更
高版本。您需要最低 API 21 的 Android 设备和开发环境。
TensorFlow Lite 是一种用于设备端推断的开源深度学习框架,官网提供了现成模型来供开发者使用,输
入网址 h t t p s : // t e n s o r f l o w .g o o g l e .c n/lite/examples?hl=zh-cn 打开中文官网,如下图所示:
点击“智能回复”框图中的“在 Android 设备上试试”,会弹出自述文件说明,这个文件会说明如何将APP 在 android 上测试,如下图所示:
接下来将 TensorFlow 示例源代码下载到您的电脑上,下载地址是:
h t t p s : // g i t h u b .com/tensorflow/examples ,下载完成后得到 examples-master.zip 文件,迅为配套资料里面
有下载好的,大家可以直接拿来用。
38.2 构建 Android Studio 项目
在 AndroidStudio 中打开刚刚下载的 TensorFlow 源代码,打开 AndroidStudio 选择“Open an existing
project”,依次打开 examples-master\lite\examples\smart_reply\android,如下图所示:(注意存放源码的路
径不能带中文)
打开工程以后自动开始下载依赖库,如果网络下载太慢的话,我们可以换阿里云源进行下载,如下图所示:
maven { url 'h t t p s : / / m a v e n . a l i y u n . c o m /repository/public/' }
修改完以后,点击“Sync Now”,如下图所示:
<ignore_js_op>
编译会出现如下图所示的错误,这是因为找不到下载的设备模型,因为从国外下载比较不稳定,我们迅为已经替大家下载好了,大家可以直接使用。
我们将迅为资料包里面的 smartreply.tflite 拷贝到examples-master\lite\examples\smart_reply\android\app\build 目录下,如果没有 build 文件夹,则新建一个。拷贝完如下图所示:
修改完保存,点击“Build”->Rebuild Project,重新编译工程,如下图所示:
编译成功,如下图所示。特别要注意的是在编译前要配置好 AndroidSDK,至少需要 SDK 版本为 23。
38.3 安装并运行应用程序
将 ITOP-3399 开发板设备连接到电脑,硬件连接如下图所示:
我们要确保开发板里面烧写了 android8 的系统,并且打开了开发者模式,并允许 USB 调试和设置 USB模式为文件传输模式(MTP 模式),然后选择 Run -> Run app。我们在要安装该应用程序的设备的连接设备中选择部署目标(ITOP-3399 开发板),这将在设备上安装该应用程序。重新安装该应用程序可能需要您卸载以前的安装。安装成功如下图所示:
我们输入文本“nice to meet you”,智能回复 APP 反馈如下图所示:
迅为iTOP3399