Съдържание:

Как обслужвате модел TensorFlow?
Как обслужвате модел TensorFlow?

Видео: Как обслужвате модел TensorFlow?

Видео: Как обслужвате модел TensorFlow?
Видео: Установка Tensorflow. Создание нейронной сети. FMNIST. Распознавание изображений. Python 2024, Ноември
Anonim

За да служи на модел Tensorflow , просто експортирайте SavedModel от вашия Tensorflow програма. SavedModel е езиково неутрален, възстановим, херметичен формат за сериализация, който позволява на системи и инструменти от по-високо ниво да произвеждат, консумират и трансформират Модели на TensorFlow.

Съответно, как да стартирам модел TensorFlow?

Това са стъпките, които ще направим:

  1. Направете глупав модел за пример, обучете го и го съхранявайте.
  2. Извлечете променливите, от които се нуждаете, от вашия съхранен модел.
  3. Изградете тензорната информация от тях.
  4. Създайте подписа на модела.
  5. Създайте и запазете конструктор на модели.
  6. Изтеглете изображение на Docker с обслужващ TensorFlow, който вече се компилира върху него.

Освен това, какво обслужва TensorFlow? Обслужване на TensorFlow е гъвкав, високопроизводителен сервиране система за модели за машинно обучение, предназначена за производствени среди. Обслужване на TensorFlow осигурява готова интеграция с TensorFlow модели, но може лесно да се разшири до сервирам други видове модели и данни.

По отношение на това, как работи TensorFlow service?

Обслужване на TensorFlow ни позволява да изберем коя версия на модел или „обслужваема“искаме да използваме, когато правим заявки за извод. Всяка версия ще бъде експортирана в различна поддиректория под дадения път.

Какво е модел сървър?

Модел сървър за Apache MXNet (MMS) е компонент с отворен код, който е предназначен да опрости задачата за внедряване на дълбоко обучение модели за заключение в мащаб. Разгръщане модели тъй като изводът не е тривиална задача.

Препоръчано: