Edge AI на бюджетных устройствах в дипломе: инференс, метрики и обоснование стека
Google Pixel 10a вышел 29 марта 2026 года и почти не получил апгрейдов: корпус стал плоским, выступ камеры исчез, а внутри — тот же бюджетный сегмент с «ИИ-чипом» на борту. Для выпускника ИТ-направления эта новость интересна не дизайном. Плоский корпус — это высвобожденный объём под плату, аккумулятор и теплоотвод, а бюджетный чип с NPU — это жёсткие ограничения по теплу, питанию и памяти, в которые нужно уложить модель машинного обучения. Именно так выглядит реальная инженерная задача: не «обучить нейросеть на кластере», а заставить её работать за 30 миллисекунд на устройстве, которое стоит 400 долларов и не имеет активного охлаждения.
Три темы ВКР, которые вырастают из этой новости
Тема 1. Оптимизация инференса нейросети для бюджетной SoC
Актуальность. Производители бюджетных смартффонов заявляют поддержку ИИ, но реальная пропускная способность ограничена троттлингом и объёмом оперативной памяти. В статье прямо сказано: «компания не принесла тонну улучшений» — то есть прирост производительности придётся выжимать программно.
- Цель: снизить p95-задержку инференса не менее чем на 35% относительно базовой FP32-модели без падения точности более чем на 1,5 п.п.
- Задачи: обзор методов сжатия (INT8-квантование, дистилляция, pruning); сбор baseline-метрик; реализация пайплайна конвертации; замеры на реальном устройстве или эмуляторе с троттлингом.
- Структура: Глава 1 — анализ методов оптимизации и требований ISO/IEC 25010 к производительности; Глава 2 — архитектура пайплайна и выбор рантайма; Глава 3 — нагрузочное тестирование, профиль тепла и расчёт экономии ресурсов.
Тема 2. Система мониторинга качества инференса на устройстве
Актуальность. Без телеметрии невозможно доказать, что модель деградирует не из-за железа. Статья фиксирует тренд: ИИ-ускоритель есть, но он «бюджетный» — значит, метрики нужны непрерывные, а не единоразовые.
- Цель: спроектировать подсистему сбора метрик инференса с минимальным оверхедом (менее 3% CPU).
- Задачи: выбор протокола сбора (OpenTelemetry + OTLP/gRPC); проектирование схемы батчинга и офлайн-буферизации; реализация экспортёра; проверка на утечки памяти.
- Структура: Глава 1 — обзор стандартов наблюдаемости; Глава 2 — проектирование и диаграммы последовательностей (ГОСТ 19.701-90); Глава 3 — тестирование под нагрузкой и оценка накладных расходов.
Тема 3. Сравнительный анализ мобильных NPU-рантаймов и экономика внедрения
Актуальность. Отсутствие выступа камеры в Pixel 10a — это инженерный компромисс ради компоновки. Точно так же выбор рантайма — компромисс между поддержкой делегирования на NPU, зрелостью экосистемы и стоимостью поддержки.
- Цель: построить методику выбора рантайма с количественными критериями и расчётом совокупной стоимости владения (TCO) на горизонте 3 лет.
- Задачи: сформировать матрицу критериев; провести замеры на идентичных моделях; рассчитать трудозатраты на сопровождение; оформить рекомендации.
- Структура: Глава 1 — теория и стандарты; Глава 2 — методика и архитектура стенда; Глава 3 — результаты, TCO, внедрение через CI/CD-пайплайн.
Аналитическая глава: как обосновать стек, а не перечислить его
Слабое место большинства работ — фраза «выбрали TensorFlow Lite, потому что он популярный». Экзаменационная комиссия это видит сразу. Стройте обоснование от ограничений, которые диктует бюджетное устройство: площадь кристалла, тепловой пакет, отсутствие активного охлаждения, ограниченный бюджет памяти. В статье подчёркнуто, что устройство позиционируется как бюджетное, — значит, любое ваше решение должно выдерживать проверку вопросом «а влезет ли это в 4 ГБ RAM?».
| Критерий | TensorFlow Lite + NNAPI | ONNX Runtime Mobile | ExecuTorch |
|---|---|---|---|
| INT8-квантование «из коробки» | Да, post-training и QAT | Да, но часть операторов требует кастомных ядер | Да, через torch.export |
| Делегирование на NPU | Через NNAPI/вендорные делегаты | Ограничено, зависит от провайдера | Развивается, покрытие уже ниже |
| Зрелость и документация | Высокая | Средняя | Низкая, API меняется |
| Накладные расходы на инициализацию | Низкие | Средние | Низкие |
| Пригодность для ВКР | Оптимально: много готовых бенчмарков | Хорошо для сравнительного анализа | Только если тема про экосистему PyTorch |
Дополните таблицу ссылкой на ISO/IEC 25010 — раздел «производительность» и «эффективность использования ресурсов» даст вам формальные критерии, а не вкусовщину.
Проектная часть: от диаграммы до работающего пайплайна
Здесь важно не уйти в чистую теорию. Минимальный жизнеспособный результат — пайплайн «обученная модель → сконвертированная модель → замер на целевом устройстве». Фрагмент конвертации с квантованием выглядит так:
import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model("saved_model")
converter.optimizations = [tf.lite.Optimize.DEFAULT]
converter.target_spec.supported_ops = [
tf.lite.OpsSet.TFLITE_BUILTINS_INT8,
tf.lite.OpsSet.SELECT_TF_OPS,
]
converter.representative_dataset = representative_gen # ~200 реальных сэмплов
tflite_int8 = converter.convert()
open("model_int8.tflite", "wb").write(tflite_int8)
Обязательно приложите схему конвейера: сбор данных → обучение → валидация точности → квантование → регрессионный тест на устройстве. Диаграмму компонентов оформите по ГОСТ 19.701-90, а развёртывание артефактов — через CI/CD, чтобы версия модели была воспроизводима. Если серверная часть присутствует (агрегация метрик, переобучение), уместно показать её в Kubernetes и описать откат версии модели — это ваши будущие RTO/RPO для раздела надёжности.
Тестирование и метрики: чем измерять и что писать в выводах
Не ограничивайтесь одной цифрой «время работы». Комиссия любит, когда студент различает виды задержек.
| Метрика | Как измерять | Почему нужна в ВКР |
|---|---|---|
| p50 / p95 / p99 задержки инференса | Собственный харнесс, ≥1000 прогонов на прогретом устройстве | Среднее значение скрывает «хвосты», а именно они ломают UX |
| Пиковое потребление RAM | Android Studio Profiler / dumpsys meminfo | Бюджетные устройства убивают процессы при нехватке памяти |
| Температура и троттлинг | Термальные зоны, 15-минутный прогон | Подтверждает устойчивость решения во времени |
| Точность модели (Top-1, mAP) | Отложенная выборка, зафиксированный seed | Доказывает, что оптимизация не убила качество |
| Размер артефакта | Размер .tflite/.ort | Влияет на объём загрузки при обновлении |
Отдельно отметьте условия эксперимента: прошивка, режим энергосбережения, фоновые процессы. Без этого результаты невоспроизводимы, и защита превращается в спор о вкусах.
Чему вы научитесь на такой работе
- Обосновывать выбор технологии через ограничения предметной области, а не через популярность.
- Строить измеримый эксперимент: baseline, контрольные группы, статистика, повторяемость.
- Работать с инструментами наблюдаемости (OpenTelemetry) и профайлерами на мобильных платформах.
- Оформлять техническую документацию по ГОСТ 34.602-89 и ГОСТ 19.701-90 так, чтобы её не пришлось переписывать после первого замечания нормоконтроля.
Три ошибки, которые чаще всего срезают балл
- Замер на десктопе с экстраполяцией на смартфон. Как избежать: минимум один прогон на целевом классе устройств или на эмуляторе с ограничением частоты CPU.
- Отсутствие baseline. Как избежать: всегда сравнивайте квантованную модель с исходной FP32 и с моделью меньшей ёмкости.
- Подмена терминов. Как избежать: чётко разграничьте latency и throughput, а также inference и training — это разные разделы ISO/IEC 25010.
Частые вопросы студентов
Обязательно ли писать код для инженерной ВКР?
Для направления «Программная инженерия» — практически всегда да. Минимальный объём: скрипт конвертации модели, харнесс для замеров и скрипт обработки результатов. Даже 200 строк кода с воспроизводимыми метриками выглядят убедительнее, чем 40 страниц теории.
Где брать данные и метрики, если нет физического устройства?
Публичные датасеты (ImageNet-подобные подвыборки, открытые наборы текстов), синтетические данные с фиксированным seed, а для аппаратных метрик — эмулятор с ограничителем частоты и документированное допущение о погрешности. Главное — честно указать ограничения методики.
Как оформлять UML-диаграммы?
По ГОСТ 19.701-90 для схем алгоритмов и ГОСТ 34.201-89 для состава документации. Практичный путь — генерировать диаграммы в PlantUML или Mermaid, хранить исходники в репозитории и экспортировать в векторный формат для приложения.
Насколько тема сложна в реализации?
Уровень «средний»: базовая конвертация модели занимает день, а вот корректная методика замеров и анализ троттлинга — основная часть работы. Именно это отличает диплом от лабораторной.
Чек-лист перед сдачей
- Ссылка на источник и дата публикации указаны в списке литературы.
- Задачи из введения дословно совпадают с выводами по главам.
- Есть минимум одна схема архитектуры и одна схема алгоритма.
- Все метрики имеют указанные условия измерения и единицы.
- ТЗ и состав документации соответствуют ГОСТ 34.602-89.
- Приведён baseline и показана дельта по ключевой метрике.
Если тема уже выбрана, но непонятно, с чего начать эксперимент, — возьмите бесплатную 20-минутную консультацию: разберём вашу постановку задачи и подскажем, каких метрик не хватает. Помощь с дипломом у нас построена так, что вы получаете не просто текст, а рабочий план исследования на 120 часов.
Источник: The Pixel 10a doesn’t have a camera bump, and it’s great (опубликовано 2026-03-29)