深度学习模型·阿里云服务器使用感受

我是一名西安交通大学软件学院大四在读生,目前正在做毕设。我的毕设要求,开发一个图像识别小程序。在小程序的开发过程中,我了解到,我训练的深度学习模型,必须部署到服务器,才能供小程序调用。因此我需要一台服务器,在对比阿里云服务器、腾讯云服务器的过程中,了解到了阿里云飞天加速计划。
···经过注册、学生登陆、完成新手预备营等步骤,我成功领用了一台云服务器。在这里不得不说、新手预备营的介绍以及提供的开发文档真的很有用了,经过预备营,就可以快速上手一台云服务器。连接云服务器的方式也多种多样,可以使用官方提供的三种方式,也可以使用xshell, mobaxterm等工具连接。因为个人习惯,我使用mobaxterm工具连接的云服务器。在没有使用云服务器之前,感觉云服务器很神秘,上手比较困难。使用之后,发现云服务器很简单,如果之前使用过Linux系统的话,会感到很亲切。
本次使用阿里云服务器主要用于部署深度学习模型以及部署flask项目。主要用到了google提供的tensorflow-serving。tensorflow-serving主要有两个优点。一,支持多版本的热部署(比如当前生产环境部署的是1版本的模型,训练完成后生成一个2版本的模型,tensorflow会自动加载这个模型,停掉之前的模型)。二,tensorflow serving内部通过异步调用的方式,实现高可用,并且自动组织输入以批次调用的方式节省GPU计算资源。整个模型的调用方式:客户端发送请求到web端,web通过grpc或rest发送请求到tf/serving。在阿里云服务器上,环境部署过程也很简单。通过docker pull tensorflow/serving命令就可以拉取tensorflow/serving镜像。然后使用docker run命令,就可以将训练好的模型在服务器上跑起来了。
在此次阿里云服务器的使用过程中,揭开了云服务器的神秘面纱,也深刻的体会到了阿里作为中国顶尖的互联网企业在社会教育方面的担当,感谢阿里,感谢阿里的飞天加速计划。希望在接下来几个月里,能够更加深刻的感受到云服务器的便利,也希望我能够顺利的通过毕业答辩,顺利毕业。

上一篇:Java命名规范(通用)


下一篇:Apache RocketMQ在我司的最佳实践--智慧政务场景下的分布式消息与分布式事务