Исследование: искусственный интеллект ускоряет внедрение корпоративного Интернета вещей на периферии

COVID-19 дал толчок к развертыванию корпоративного Интернета вещей одновременно с развитием ИИ на подключенных периферийных устройствах. Предприятия стремятся использовать микросхемы интеллектуального искусственного интеллекта (AI) для переноса рабочих нагрузок аналитики данных на периферию сетей IoT.

По данным ABI Research, через четыре года размер рынка периферийных микросхем ИИ превысит аналогичный показатель для облачных архитектур, достигнув 12,2 миллиарда долларов против 11,1 миллиарда долларов для облака.

Во время пандемии COVID-19 развертывание корпоративного Интернета вещей ускорилось как средство преодоления конкретных операционных проблем, с которыми организации сталкивались во время кризиса. Этот повышенный спрос на корпоративный Интернет вещей возникает по мере расширения возможностей подключенных устройств на периферии.

Благодаря интеллектуальным технологиям, которые позволяют получать аналитические данные за счет меньшего количества обращений к облаку, количество потенциальных приложений увеличивается. Кроме того, снижается стоимость полосы пропускания, затрачиваемой на подключение к облаку. Это важно для бизнеса, потому что есть предел возможностей существующих сенсорных сетей, даже в тех секторах, где внедрение Интернета вещей было сильным, например, в промышленном секторе или в цепочке поставок.

Согласно исследованию Университета Брешии, типичное промышленное устройство IoT, использующее облегченные протоколы, отправляет сообщения в облако с задержкой в ​​оба конца в районе 300 миллисекунд при использовании облачных серверов со «свободным доступом».

Чтобы разблокировать приложения, которые действительно переопределяют Индустрию 4.0 (компьютерное зрение, робототехника или профилактическое обслуживание в реальном времени), в конечных точках IoT необходимы микросхемы, обогащенные искусственным интеллектом, чтобы катализировать данные по мере их поступления. По мере увеличения размера данных, поступающих с периферии, увеличивается нагрузка на сетевую инфраструктуру, что делает существующие магистрали данных в облако более уязвимыми.

Машинное обучение на периферии поможет смягчить это давление, но оно также должно обслуживать сильно распределенные инфраструктуры, содержащие сотни или, возможно, тысячи датчиков. Важно отметить, что во многих случаях ожидается, что ИИ в IoT будет распределять вычислительные ресурсы, переключаясь между подключенным пограничным сервером и общедоступными или частными облачными серверами по мере необходимости.

Разведка для всех

Интеллектуальные чипы Edge теперь покрывают все части спектра. Возможности варьируются от обобщенных ядер машинного обучения начального уровня от лидера рынка Arm до устройств цифровой обработки сигналов, созданных для интеллектуального аудио и видео, или специализированных нейронных сетей, которые соединяются с внешними микроконтроллерами.

Таким образом, поставщики доводят дизайн архитектуры до предела своих возможностей, чтобы найти проекты, которые не только обеспечивают немедленный вывод машинного обучения с ограниченным энергопотреблением, но и достаточные варианты настройки для конкретных требований каждого предприятия.

Существует целый ряд интегрированных вариантов искусственного интеллекта, дополняющих микропроцессоры IoT, нацеленных на «умные крошечные устройства» для аудио, голоса и мониторинга состояния здоровья, а также на промышленное машинное зрение, автономные дроны или интеллектуальные камеры наблюдения.

Интеллектуальная автоматизация в космосе

По словам Джема Дилмегани, ведущего консультанта консалтинговой компании AIMultiple, дальнейшее вдохновение для интеллектуальной революции IoT может быть найдено за пределами Земли.

Дилмегани говорит, что Qualcomm Technologies работает вместе с NASA Jet Propulsion Laps, чтобы предоставить автономную функциональность для марсианского вертолета Ingenuity, первом полете с двигателем, установленном на другой планете. Поскольку вертолету может потребоваться до 22 минут для приема беспроводных сигналов, управлять транспортным средством с помощью дистанционного управления в режиме реального времени невозможно. Вместо этого автономные каналы должны принимать решения внутри себя на основе задержанных сообщений. Это критически важный момент для ИИ в его наиболее точной уравновешенной форме, когда ошибочное независимое суждение может все разрушить.

Хотя бюджет НАСА может намного превосходить бюджет типичного предприятия, все же есть некоторые параллели. Например, микросхемы искусственного интеллекта, используемые в самолетах НАСА, нуждаются в огромных вычислительных ресурсах компьютера в компактном энергетическом профиле. В случае с вертолетом большая часть энергии, доступной для искусственного интеллекта, поступает от одного нагревателя компонентов.

«Полет беспилотника Ingenuity на Марсе был интересным событием, - сказал Дилмегани. «Если он работает в космосе, он должен хорошо работать и на Земле».

Система на чипе и TinyML Qualcomm также участвует в разработке системы на кристалле (SoC). В ее ассортимент входят SOC, ориентированные на подключенное здравоохранение, логистику, управление и складское хозяйство.

Применительно к Интернету вещей эти SoC служат усовершенствованными преемниками микроконтроллера для применения интеллектуальных функций периферийных устройств. SoC объединяют несколько периферийных устройств в рамках единой полупроводниковой архитектуры. Однако SoC создан для сложных приложений и требований, которые они предъявляют к внутренним периферийным устройствам. Инженеры могут попытаться реализовать такие подходы, как крошечное машинное обучение (TinyML), экосистема разработки, которая сокращает функции искусственного интеллекта до мегабайтного программного обеспечения во встроенных архитектурах.

«Микросхемы TinyML и периферийного ИИ полностью дополняют друг друга», - говорит Александр Харроуэлл, старший аналитик отдела передовых вычислений и ИИ, Omdia. «TinyML - это больше сообщество, чем конкретная часть программного обеспечения. «Можно даже сказать, что это атмосфера, но вся идея состоит в том, чтобы перенести высокоуровневые фреймворки, такие как TensorFlow, Caffé или PyTorch, которые использует подавляющее большинство разработчиков ИИ, в контекст гораздо меньших устройств.

Сам TensorFlow спроектирован таким образом, чтобы его можно было адаптировать к различным аппаратным архитектурам с помощью того, что он называет делегатами, например, подключаемого диска устройства.

Таким образом, разработчики приложений могут использовать одни и те же интерфейсы и абстракции после того, как кто-то сделает тяжелую работу по интеграции.

Стратегия ИИ-ускорителя

По данным Харроуэлла, выручка от аппаратного обеспечения на всем адресуемом рынке периферийных ИИ-чипов к 2026 году достигнет 54 миллиардов долларов по сравнению с нынешними 30 миллиардами долларов. «Это примерно поровну разделено между ПК/планшетами, мобильными устройствами и широким спектром встраиваемых и других устройств в вертикальных отраслях», - говорит он, устройства, которые большинство людей считают периферийными вычислениями, составляют около 15% от общего числа. Остальное - фотоаппараты, автомобили, умные динамики, роботы и дроны».

В Omdia значительно упали цены на устройства, содержащие микросхемы ускоренного машинного обучения, особенно в потребительских устройствах. Смартфоны стоимостью всего 130 долларов теперь оснащены ускорителями искусственного интеллекта для глубокого обучения прямо с внутренней материнской платы, как выяснила Omdia, что позволяет делать все, от ретуши фотографий до экономии заряда батареи при высоких скоростях обработки.

Примеры этого, безусловно, можно найти в Китае, например, смартфон UMDIGI A11, который содержит камеру с ИИ и цифровой инфракрасный термометр. «Это говорит о том, что они действительно будут появляться в очень дешевых устройствах, если вы думаете, что они представляют собой подмножество стоимости системы на кристалле, а сама SoC является подмножеством спецификации телефонных материалов (BoM), - отмечает Харроуэлл.

Для смартфонов BoM относится к нескольким сотням ключевых компонентов, которые вместе представляют собой общие затраты на компоненты для проектирования и создания продукта.

В IoT следует учитывать, где именно устанавливать периферийные ресурсы ИИ. Запуск ИИ с периферийных устройств означает эффективную обработку зашумленных данных.

Программное обеспечение должно эффективно игнорировать бессмысленную информацию, но обмениваться ключевой информацией с другими частями сети. Поскольку ИИ часто описывают как «повсеместную автономию», иногда возникает соблазн упустить из виду отдельные этапы вычислений, из которых он состоит.

На практике реализация автономии на периферии должна обрабатывать данные в несколько этапов, включая предварительную обработку, описание и классификацию. Некоторые варианты использования могут потребовать предварительной обработки большого количества информации в облаке, в то время как другие потребуют, чтобы данные были локальными для конечного устройства по причинам задержки и конфиденциальности. Облако всегда может быть доступно для поддержки периферийного ИИ, но частота доступа к нему может измениться.

По материалам: Iotworldtoday