Почему корпоративный AI переезжает с облачных серверов на локальные устройства Apple

Такой вывод содержится в отчёте Rethinking critical AI infrastructure, подготовленном Omdia по заказу Apple на основе 1 500 интервью с enterprise-техлидами и практиками.

Где ломается облако

Маржинальная стоимость каждого inference-запроса остаётся линейной функцией от нагрузки. OPEX растёт пропорционально объёму экспериментов, согласование A/B-тестов превращается в bottleneck для data-команд. Бюджетный потолок по облаку прибит гвоздями к вендору, и снять его нельзя без миграции.

On-device переворачивает модель: после начальной закупки оборудования маржинальная стоимость обработки падает практически до нуля — формулировка отчёта. Эксперименты больше не требуют заявок на OPEX, лимиты снимаются, потолок расходов становится предсказуемым CAPEX.

Масштаб Apple Silicon

Платформа проектировалась под локальный AI явно: чип, энергопотребление, ОС — единый контур. Unified Memory Architecture масштабируется линейно по размеру LLM:

• iPad — модели до 14 млрд параметров
• Mac Studio — до 480 млрд параметров
• кластер из четырёх Mac Studio через стандартные кабели — до 1,6 трлн параметров

Omdia зафиксировала: 57% моделей, которые использует enterprise, укладываются в 10 млрд параметров. Этот порог закрывают iPhone и iPad, не требуя Mac Studio. Перевод: большая часть корпоративных AI-задач физически запускается на мобильном железе.

Организации, разрабатывающие AI-решения in-house, переходят на Mac для AI-workload-ов почти вдвое чаще тех, кто покупает коммерческие решения — прямая цифра из отчёта. Vendor lock-in на облачные inference-провайдеры ослабевает именно в среде internal-разработки.

Контекст рынка

Тренд неоднородный. Oracle отчиталась о превышении ожиданий по выручке благодаря AI-спросу на облачные сервисы. Alset AI продлила контракт Lyken.AI Cloud Compute с мультинациональным технологическим и телеком-вендором. Quanta Services усилила совет директоров экспертизой в AI и cloud. Hyperscaler-ы растут — но доля on-device workload-ов в корпоративном сегменте увеличивается быстрее, особенно у команд, делающих AI внутри.

Принцип локального исполнения применим и в потребительском софте: визуальные новеллы на телефон показывают, что перенос вычислений на устройство снижает зависимость от серверной части и улучшает отклик.

Чек-лист архитектора

• Провести аудит реестра моделей по числу параметров. Порог 10 млрд — кандидаты на iPad/Mac.
• Пересчитать TCO: разница CAPEX на парк Mac против OPEX на cloud inference за горизонт 24–36 месяцев.
• Проверить headroom Unified Memory под планируемый рост модели и размер контекстного окна.
• Смоделировать сценарий деградации спроса на AI — то же железо должно окупаться в обычных рабочих нагрузках.
• Пересмотреть SLA: on-device даёт детерминированные задержки без зависимости от канала и региона.