Что такое NPU (нейропроцессор) и зачем он смартфону

NPU (Neural Processing Unit, нейропроцессор) - это часть чипа, созданная специально для задач искусственного интеллекта: распознавания лиц, обработки фото, перевода, работы ИИ-ассистентов прямо на устройстве.

NPU как группа «отличников», быстро выполняющих одинаковые вычисления для ИИ

Простыми словами

Обычный процессор - как ученик, который умеет всё: и сочинение написать, и задачи решить, и нарисовать. А NPU - как ученик, который знает только таблицу умножения, зато умножает в сотни раз быстрее остальных. Нейросети как раз состоят из миллионов одинаковых умножений. Поэтому для них узкий, но быстрый «отличник» подходит идеально.

Как это работает

Нейросеть - это большая таблица чисел, через которую прогоняют данные: фото, звук, текст.
Бо́льшая часть работы - умножение и сложение одних и тех же типов чисел.
У NPU сотни маленьких блоков, которые делают эти операции одновременно.
Поэтому он выполняет ИИ-задачи быстрее обычного процессора и тратит меньше батареи.
Результат - размытый фон на портрете, перевод разговора или ответ ассистента без интернета.

Что делает нейропроцессор в смартфоне: портрет, перевод, разблокировка лицом

Где ты это увидишь

NPU сидит внутри однокристальной системы (SoC) почти всех современных смартфонов, планшетов и новых ноутбуков. В характеристиках его мощность часто пишут в TOPS - триллионах операций в секунду. У Apple он называется Neural Engine, у Qualcomm - Hexagon NPU.

Важно ли это при выборе

Зависит от того, как ты пользуешься телефоном. Если хочешь ИИ-функции вроде живого перевода, итогов записей или генеративного редактирования фото без интернета - мощный NPU нужен. Для обычных задач разница почти незаметна. И ещё: цифры TOPS разных производителей не всегда можно сравнивать напрямую - они считают по-разному.

Мифы

Миф: NPU нужен только для чат-ботов. На самом деле: Нет. Он давно работает в камере, разблокировке лицом, шумоподавлении во время звонков.
Миф: Больше TOPS - всегда лучше. На самом деле: Не всегда. Важно ещё, умеют ли приложения этот NPU использовать.

Частые вопросы

Есть ли NPU в моём телефоне?

Почти наверняка да, если он вышел после 2020 года. Даже бюджетные чипы имеют хоть простой нейроблок.

Что такое TOPS?

Триллионы операций в секунду - условная мера того, сколько вычислений для ИИ успевает сделать NPU.

Работают ли ИИ-функции без NPU?

Часть работает через облако, то есть на серверах в интернете. Но тогда нужна связь, а данные уходят с телефона.

Связанные термины

Однокристальная система (SoC), TOPS, ИИ на устройстве, Нейронная сеть, Облачный ИИ