文章目录

Architechture
Model Structure
- Subgraph
- - Operator
Class Structure
- TfLiteNode/TfLiteRegistration
Interpreter Implement
- mmap
- - TfLiteNode
  - TfLiteRegistration
  - TfLiteContext
- Workflow
- - InterpreterBuild::operator()
  - Subgraph::Invoke()
Example
- ParseNodes
- ParseTensors
- - SetTensorParameterReadOnly()
  - SetTensorParameterReadWrite()
- Subgraph::Invoke()

Architechture

PC
- model training
- convert model to xxx.tflite
Device
- xxx.tflite interpreter
- inference
  - Neon Kernels
  - Hardware Acceleration interface(GPU/APU…)

Model Structure

Subgraph

Operator

Class Structure

TfLiteNode/TfLiteRegistration

Interpreter Implement

mmap

TfLiteNode

TfLiteRegistration

TfLiteContext

Workflow

InterpreterBuild::operator()

Subgraph::Invoke()

Example

This is CNN Model

Conv2D
MaxPool2D
Conv2D
MaxPool2D
Reshape
FullyConnected
Softmax

ParseNodes

ParseTensors

SetTensorParameterReadOnly()

SetTensorParameterReadWrite()

Subgraph::Invoke()

TFLite Interpreter相关推荐

Tensorflow Lite之编译生成tflite文件
这是tensorflow生成的各种模型文件: GraphDef (.pb) - a protobuf that represents the TensorFlow training and or co ...
android ndk怎样加载o文件_在Android中使用TFLite c++部署
之前的文章中,我们跟大家介绍过如何使用NNAPI来加速TFLite-Android的inference(可参考使用NNAPI加速android-tflite的Mobilenet分类器).不过之前介绍的 ...
TFLite基础知识
此基础知识仅为个人学习记录,如有错误或遗漏之处,还请各位同行给个提示. 概述 TFLite主要含有如下内容: (1)TFLite提供一系列针对移动平台的核心算子,包括量化和浮点运算.另外,TFLite ...
tflite C++ API 部署分类模型
TensorFlowLite C++ API 分类模型文章目录 TensorFlowLite C++ API 分类模型 1.编写CMakeLists.txt 2.定义Settings 3.引入头文件 ...
怎么将tflite部署在安卓上_手把手教程：如何从零开始训练 TF 模型并在安卓系统上运行...
本教程介绍如何使用 tf.Keras 时序 API 从头开始训练模型,将 tf.Keras 模型转换为 tflite 格式,并在 Android 上运行该模型.我将以 MNIST 数据为例介绍图像分类 ...
模型转换：tensorflow2 模型转pb，pb转tflite
def img_to_batch():img = cv2.imread('xxxx.jpg')img = cv2.resize(img, (112,112)).astype(np.float32) / ...
【嵌入式AI】TFLite介绍
[嵌入式AI]TFLite介绍概述 TFLite主要含有如下内容: (1)TFLite提供一系列针对移动平台的核心算子,包括量化和浮点运算.另外,TFLite也支持在模型中使用自定义算子. (2)T ...
tensorflow2.X 转tflite
1.saved_model转换成TFLite,注意这里提供的是.pb文件的目录默认转化是不进行bit降位,但是会仅convolution和bn的融合 saved_model_to_tflite_co ...
模型转换：pytorch模型转onnx, onnx转tensorflow, tensorflow转tflite
文章目录软件版本: pytorch模型转onnx onnx模型转tensorflow tensorflow模型转tflite 软件版本: tensorflow 2.3.1 pytorch 1.6.0 ...
tensorflow量化感知训练_tensorflow模型量化实例
1,概述模型量化应该是现在最容易实现的模型压缩技术,而且也基本上是在移动端部署的模型的毕竟之路.模型量化基本可以分为两种:post training quantizated和quantization ...

TFLite Interpreter

文章目录

Architechture

Model Structure

Subgraph

Operator

Class Structure

TfLiteNode/TfLiteRegistration

Interpreter Implement

mmap

TfLiteNode

TfLiteRegistration

TfLiteContext

Workflow

InterpreterBuild::operator()

Subgraph::Invoke()

Example

ParseNodes

ParseTensors

SetTensorParameterReadOnly()

SetTensorParameterReadWrite()

Subgraph::Invoke()

TFLite Interpreter相关推荐

最新文章

热门文章