Intel: Copilot будет работать локально на ПК — для этого нужен модуль NPU мощностью 40 TOPS
Некоторое время назад крупные информационные издания опубликовали «слитые» данные о том, что новый сервис на базе искусственного интеллекта под названием Copilot от компании Microsoft в ближайшем будущем будет работать локально на компьютере без необходимости подключаться к облачным серверам. Тогда же возникли первые слухи о том, что Microsoft будет предъявлять определённые системные требования к производительности нейропроцессора в составе компьютеров нового поколения, а теперь в рамках саммита Intel, посвящённого искусственному интеллекту, руководство «синей компании» официально подтвердили инсайды ведущих поставщиков секретной информации.
Например, журналистам Tom's Hardware удалось выяснить, что новый ИИ Copilot действительно в ближайшем будущем будет работать локально на ПК — вероятно, так как речь идёт не только о ноутбуках, то и на десктопных системах такая функция тоже будет реализована. Кроме того, представители компании сообщили о требовании в 40 TOPS для модуля NPU в системах следующего поколения для работы с искусственным интеллектом. Интересно, что Microsoft в этом плане оказалась достаточно сдержанной — компания хранила молчание о своих планах в отношении ПК с искусственным интеллектом, предоставив компании Intel возможность раскрыть все детали.
Также в рамках саммита представители компании Intel сообщили, что системы, которые отвечают данным требованиям, уже сейчас поставляются в продажу, но стоит понимать, что это лишь первая волна «инициативы» по созданию компьютеров с искусственным интеллектом. Примечательно, что процессоры Intel поколения Meteor Lake поставляются с модулем NPU с мощностью до 10 TOPS. У конкурирующей платформы Ryzen Hawk Point от AMD модуль NPU демонстрирует 16 TOPS, но это тоже не соответствует требованию в 40 TOPS. А вот у Qualcomm есть процессор Snapdragon X Elite с модулем на 45 TOPS — первые ноутбуки на базе этого чипа появятся в продаже до конца текущего года.
Соответственно, в будущем, когда появится следующее поколение компьютеров с более мощными модулями NPU, можно будет запускать больше элементов ИИ локально на компьютере. При этом в Intel заявили, что не все элементы Copilot будут выполняться исключительно локально, но многие ключевые возможности будут реализованы на базе NPU. Вероятно, в будущем, когда эти модули станут мощнее, больше вещей можно будет делать без подключения к интернету. На текущий момент все вычисления в рамках Copilot производятся в облаке, что приводит к вполне ожидаемым недостаткам. Возможность запустить ИИ локально предоставит возможность выполнять рабочие нагрузки без подключения к удалённому серверу — это снизит задержи, повысит производительность и при этом улучшит конфиденциальность данных.