安装 TensorFlow Lite 解释器

需要根据平台以及python版本选择安装，下面是linux(arm64)平台的，python版本为3.7

1

pip3 install https://dl.google.com/coral/python/tflite_runtime-2.1.0.post1-cp37-cp37m-linux_aarch64.whl

具体参考https://tensorflow.google.cn/lite/guide/python

联邦推理

1. 部署EdgeX环境

   kubectl apply -f test.yaml

   

2. 启动云端推理服务

   python detect.py

   

3. 使用postman 发送图片至EdgeX

   http://39.104.160.208:30086/api/v2/resource/sample-image/jpeg

4. 使用k3s 查看容器日志

   kubectl logs -f edgex-app-service-simple-image-classification-http-75c66b5vh4f5

   

5. 查看推理结果图片（图片保存在挂载目录下）

   

   

总体上分为三个部分：

• 设置EdgeX触发器，当有图片事件的时候，触发触发器，触发器将图片数据发送给监听程序
• 监听程序：对图片数据进行解析，比如这次是将图像的base64编码解析成RGB数据，并且转换成张量数据发送给推理模型
• 推理端：对收到的数据进行推理，返回推理结果，利用tensorflow serving进行部署，具体参考https://tensorflow.google.cn/tfx/guide/serving

发送图片数据，利用虚拟设备sample-image: