Tensorflow|Tensorflow serving with docker
本次教程的目的是带领大家看下如何用 Docker 部署深度学习模型的
【Tensorflow|Tensorflow serving with docker】第一步我们需要 pull 一个 docker image
sudo docker pull tensorflow/serving
文章图片
如上图所示，执行 pull 之后，我们看到本地已经存在 tensorflow/serving:latest
接下来我们 clone 一个仓库
git clone https://github.com/tensorflow/serving
文章图片
上图中的 saved_model_half_plus_two_cpu 就是我们想要部署的模型
然后我们可以直接运行以下命令实现部署
文章图片
运行结果如下图所示，我们可以看到 Exporting HTTP/REST API at:localhost:8501，那么就代表着部署成功了
文章图片
接下来我们可以进行预测，返回的结果也能对的上
文章图片
推荐阅读
- Hacking|Hacking with iOS: SwiftUI Edition - SnowSeeker 项目（一）
- LeetCode（03）Longest|LeetCode（03）Longest Substring Without Repeating Characters
- performSelectorOnMainThread:withObject:waitUntilDone:参数设置为NO或YES的区别
- 前沿论文|论文精读（Neural Architecture Search without Training）
- 为Google|为Google Cloud配置深度学习环境（CUDA、cuDNN、Tensorflow2、VScode远程ssh等）
- 联邦学习|【阅读笔记】Towards Efficient and Privacy-preserving Federated Deep Learning
- ZOMBIES|ZOMBIES WITH RADISH
- 清晨朗读327（How|清晨朗读327：How Successful People Network with Each Other）
- 40
- ubuntu16.04-caffe-tensorflow安装教程