Advantech сообщает об успешной демонстрации генеративного искусственного интеллекта с помощью MIC-733-AO на базе NVIDIA® Jetson AGX Orin™.
MIC-733 демонстрирует разработчикам ИИ(искусственного интеллекта) преимущества более оперативной работы, повышенной безопасности и снижения затрат на интернет по сравнению с облачным генеративным ИИ.
Генеративный ИИ на MIC-733-AO
Граничная система генеративного ИИ MIC-733-AO от Advantech, совместимая с моделями генеративного ИИ NVIDIA из лаборатории Jetson AI, теперь эффективно работает с большими языковыми моделями (LLM), моделями языка зрения (VLM), трансформаторами зрения (ViT), генерацией изображений и граничными вычислениями Llamaspeak, благодаря NVIDIA® Jetson AGX Orin™. Уникальная платформа охватывает несколько уровней, включая ускоренные вычисления, жизненно важное ПО для ИИ и предварительно обученные модели, облегчая создание, настройку и развертывание генеративных моделей ИИ, подходящих для различных приложений и локаций.
С помощью генеративных моделей ИИ из лаборатории Jetson AI разработчики могут использовать метод генерации с расширением поиска (RAG), подключая LLM и VLM к базе знаний компании. Такой подход устраняет необходимость в традиционном обучении моделей ИИ, позволяя в результате простого разговорного взаимодействия с системой получать выводы ИИ, что значительно сокращает время разработки.
Advantech MIC-733-AO обладает высокой производительностью ИИ и множеством видеоинтерфейсов, таких как IP-камеры, промышленные камеры USB/gigE, камеры GMSL, LiDAR и другие, что позволяет работать с генеративными моделями ИИ на границе. Его исключительный тепловой дизайн предотвращает горячие сбои, даже когда NVIDIA® Jetson AGX Orin™ работает на полную мощность.
Генеративный ИИ на границе для приложений с высокой скоростью реагирования.
Генеративный ИИ революционизирует взаимодействие человека и компьютера, создавая новый контент из различных входных и выходных данных, таких как текст и изображения. Смещение спроса от облака к границе делает GenAI идеальным решением для сред с высокой скоростью отклика и низкой задержкой.
Генеративный искусственный интеллект на основе граничных технологий обладает рядом преимуществ по сравнению с облачными решениями:
Информационная безопасность
Данные остаются внутри граничной системы, что позволяет избежать рисков кибербезопасности, связанных с передачей данных в облако.
Стабильное подключение к сети
Работая без беспроводной сети, граничная система хранит данные локально до восстановления сети, в отличие от облачного ИИ, который перестает функционировать без сети.
Низкие затраты на передачу данных
Граничный ИИ не несет никаких затрат на передачу данных, поскольку связь с бэкэндом не требуется, а требуется только передача данных с низкой пропускной способностью, что более экономично, чем более высокая стоимость пропускной способности облачных выгрузок.
Граничные вычисления генеративного ИИ - будущее эры ИИ.
Система генеративного ИИ MIC-733-AO Edge, интегрированная с моделями генеративного ИИ NVIDIA из лаборатории Jetson AI, предлагает простое решение для разработчиков ИИ и уже доступна на рынке.