Введение в TensorFlow
В этой статье мы увидим план архитектуры TensorFlow. TensorFlow - это кроссплатформенная библиотека, в которой есть некоторые общие понятия, такие как операции, сеансы и графы вычислений. TensorFlow Serving позволяет легко развертывать новые алгоритмы и эксперименты, сохраняя при этом ту же архитектуру базы данных и API.
Что такое Tensorflow Architecture?
Tensorflow - это широко используемая библиотека глубокого обучения, созданная командой специалистов Google по искусственному интеллекту. Он был разработан таким образом, чтобы его можно было использовать на нескольких процессорах, графических процессорах, а также можно запускать на мобильных устройствах и поддерживает различные классы-оболочки, такие как python, C ++ или Java, и Tensors, которые представляют собой объекты, описывающие линейное отношение между векторами, скалярами и другими тензорами.,
Тензоры - это не что иное, как многомерные массивы. Для понимания архитектуры и функций TensorFlow сначала нам нужно понять некоторые термины.
- Tensorflow Servables
- Обслуживаемые версии
- Обслуживаемые потоки
- Модель Tensorflow
- Tensorflow Loaders
- Источники тензорного потока
- Tensorflow Manager
- Tensorflow Core
- Жизнь Служащих
- Дозатор в архитектуре Tensorflow
1. Tensorflow Servables
- Tensorflow Servables - это обычные объекты, которые в основном используются для выполнения вычислений. Размер обслуживаемого TensorFlow очень гибкий. Servables - центральные незавершенные единицы в обслуживании TensorFlow.
- Обслуживаемый модуль может содержать что угодно, как он может содержать кортежи, таблицы поиска. Обслуживаемые объекты могут быть любого типа и любого интерфейса, благодаря этим функциям он очень гибок и прост в выполнении будущих улучшений, таких как асинхронные режимы операций, потоковые результаты и экспериментальные API.
2. Обслуживаемые версии
- Обслуживаемые версии используются для поддержки версий обслуживаемого TensorFlow. Он может обрабатывать одну или несколько версий Servables. Это может помочь настроить новые алгоритмы, обрабатывать веса и другие изменения, данные могут быть загружены.
- Он также может изменять и управлять версиями, включать несколько обслуживаемых версий одновременно.
3. Обслуживаемые потоки
Это коллекция различных версий Servables. Это сохраняет это в возрастающей последовательности версий.
4. Тензорные модели
- Модель TensorFlow может содержать один или несколько обслуживаемых TensorFlow. Он в основном используется в задачах машинного обучения, которые могут содержать более одного алгоритма, который содержит различные веса в зависимости от модели, справочных таблиц, метрик и вложений таблиц.
- Его можно обслуживать разными способами, так что существуют разные способы обслуживания таблицы поиска.
5. Tensorflow Loaders
- Загрузчик Tensorflow - это API, который управляет жизненным циклом TensorFlow Servables. Он обеспечивает общую инфраструктуру для некоторых алгоритмов обучения.
- Основное использование загрузчика TensorFlow - загрузка и выгрузка Servables с использованием стандартизированных API загрузчика.
6. Тензорные источники
- Источники работают как модуль плагина. Источник Tensorflow выполняет базовую обработку обслуживаемых объектов, например, обнаружение обслуживаемых, обеспечивающих обслуживание по запросу.
- Каждая ссылка может предоставить один или несколько обслуживаемых потоков одновременно. Каждый источник предоставляет экземпляр загрузчика для обработки версии потока. И каждый обслуживаемый поток загружается на основе версии.
- У источника есть разные состояния, которые могут использоваться разными версиями и несколькими серверами. Может также обрабатывать обновления или изменения между версиями.
7. Tensorflow Managers
- Tensorflow Manager управляет сквозным жизненным циклом работоспособности.
- Загрузка обслуживаемых, обслуживаемых обслуживаемых, разгрузочных обслуживаемых.
- Менеджер получает ответ от всех обслуживаемых источников, а также отслеживает все его версии. Менеджер также может отказаться или отложить загрузку.
- Функция GetServableHandle () предоставляет интерфейс, который помогает обрабатывать управленческие вещи, касающиеся TensorFlow Servables.
8. Тензорный сердечник
Ядро Tensorflow содержит:
- Жизненный цикл, Метрика.
- Обслуживающее ядро Tensorflow принимает обслуживаемые объекты и загрузчики в качестве объекта.
9. Жизнь служащего
Вся процедура объясняется о том, как используется обслуживаемое и весь жизненный цикл обслуживаемого:
- Исходники создают загрузчики для разных обслуживаемых версий. Клиентский запрос к менеджеру и менеджеру отправляет загрузчикам устремленную версию, загружает и обслуживает обратно клиенту.
- Загрузчик содержит метаданные, которые можно использовать для загрузки Servables. Обратный вызов используется для уведомления менеджера о версиях исправного источника. Менеджер следует политике версий, которая помогает настроить и решить, какие действия необходимо предпринять дальше.
- Менеджер также проверяет безопасность загрузчиков, если это безопасно, то только он предоставит загрузчику необходимые ресурсы и даст разрешение на загрузку новой версии. Менеджер предоставляет Severable по запросу клиента, либо он явно запрашивает конкретную версию, либо может запросить прямую последнюю версию после того, как этот менеджер вернет дескриптор для доступа к обслуживаемому объекту.
- Динамический менеджер обрабатывает обслуживаемые версии, применяет политику версий и решает, что версию или последнюю версию необходимо загрузить. Динамический менеджер выделяет память для загрузчика. Loader запускает график TensorFlow и обновляет веса графика TensorFlow.
- Когда клиент запрашивает обслуживаемый объект и проверяет версию, запрашиваемую клиентом, динамический менеджер возвращает этот обработчик с запрошенной версией Servable.
10. Дозатор в тензорной архитектуре
- Пакетная обработка - это процедура обработки нескольких запросов в одном запросе.
- Используя эту процедуру, мы можем снизить стоимость выполнения выводов, особенно ускорения аппаратного обеспечения, такого как GPU, TPU.
- Tensorflow Servable содержит виджет Batcher, с помощью этого виджета клиенты могут легко объединять несколько запросов на вывод в один пакетный запрос. Таким образом, они могут выполнить эту процедуру эффективно.
Вывод - TensorFlow Architecture
Tensorflow Architecture представляет собой децентрализованную систему. Он показывает, как разные компоненты работают и выполняют свои функции в децентрализованной системе. Обслуживание по запросу клиента и параллельное использование нескольких операций. Некоторые из лучших функций в архитектуре TensorFlow - это пакетирование операций, аппаратное ускорение и параметры динамического менеджера, загрузчики, источники, обслуживаемые потоки.
Рекомендуемые статьи
Это руководство по архитектуре TensorFlow. Здесь мы обсудим, что такое TensorFlow и некоторые из лучших функций в TensorFlow Architecture. Вы также можете просмотреть наши другие предлагаемые статьи, чтобы узнать больше -
- Введение в Tensorflow с характеристикой
- Тензорфлоу против Спарк | Топ 5 Сравнение
- Theano против Tensorflow - главные отличия
- TensorFlow Альтернативы | Топ 11