ИИ DeepSeek очень быстро покорил мир мобильных устройств, а теперь расширяется на Windows — с полной поддержкой Microsoft. Гигант ПО добавил модель DeepSeek R1 в свою Azure AI Foundry, чтобы разработчики могли тестировать и создавать облачные приложения и сервисы с ее помощью. Microsoft уже объявила, что добавляет усовершенствованные версии R1 на ПК Copilot+.
Усовершенствованные модели будут доступны для устройств на базе чипов Snapdragon X, процессоров Intel Core Ultra 200V, а затем и для ПК на базе AMD Ryzen AI 9.
Первой моделью станет DeepSeek-R1-Distill-Qwen-1.5B (т.е. модель с 1,5 миллиардами параметров), а со временем появятся более мощные и эффективные модели 7B и 14B. Они будут доступны для загрузки из набора инструментов AI от Microsoft.
В Microsoft настроили эти модели, чтобы оптимизировать их для работы на устройствах с NPU. Операции, которые зависят от доступа к памяти, выполняются на CPU, в то время как вычислительно-интенсивные операции, такие как блок transformer, выполняются на NPU. Благодаря оптимизации Microsoft удалось добиться быстрого времени до первого токена (130 мс) и пропускной способности 16 токенов в секунду для коротких подсказок (менее 64 токенов).
Microsoft активно поддерживает OpenAI и инвестирует в эту технологию (создатели ChatGPT и GPT-4o), но не ограничивается только ней. В Azure Playground доступны не только модели GPT от OpenAI, но и Llama от Meta, Mistral (разработчик ИИ-моделей), а теперь и DeepSeek.
Источник: gsmarena
В случае возникновения дополнительных вопросов, пожалуйста, обращайтесь на электронный адрес sales@softico.ua или по телефону +380 (44) 383 4410.