ШІ DeepSeek дуже швидко підкорив світ мобільних пристроїв, а тепер розширюється на Windows – з повною підтримкою Microsoft. Гігант ПЗ додав модель DeepSeek R1 до своєї Azure AI Foundry, щоб розробники могли тестувати і створювати хмарні додатки та сервіси з її допомогою. Microsoft уже оголосила, що додає вдосконалені версії R1 на ПК Copilot+.
Вдосконалені моделі будуть доступні для пристроїв на базі чіпів Snapdragon X, процесорів Intel Core Ultra 200V, а потім і для ПК на базі AMD Ryzen AI 9.
Першою моделлю стане DeepSeek-R1-Distill-Qwen-1.5B (тобто модель із 1,5 мільярдами параметрів), а згодом з’являться потужніші та ефективніші моделі 7B і 14B. Вони будуть доступні для завантаження з набору інструментів AI від Microsoft.
У Microsoft налаштували ці моделі для оптимізації їх роботи на пристроях з NPU. Операції, які залежать від доступу до пам’яті, виконуються на CPU, тоді як обчислювально-інтенсивні операції, такі як блок transformer, виконуються на NPU. Завдяки оптимізації Microsoft, система швидко реагує на запити, генеруючи перший результат за 130 мілісекунд, а також здатна обробляти до 16 частин тексту (токенів) на секунду для коротких запитів (менше 64 токенів).
Microsoft активно підтримує OpenAI та інвестує в цю технологію (розробники ChatGPT і GPT-4o), але не обмежується лише нею. В Azure Playground доступні не тільки моделі GPT від OpenAI, а й Llama від Meta, Mistral (розробник АІ-моделей), а тепер і DeepSeek.
Джерело: gsmarena
У разі виникнення додаткових запитань, будь ласка, звертайтеся на електронну адресу sales@softico.ua або за телефоном +380 (44) 383 4410.