Microsoft на вчерашниот Windows и Surface настан најави дека Windows го гради како „дом на хибридната интелигенција“. Тоа е пристап каде моделите на вештачка интелигенција што работат на компјутерот и оние во „облакот“ работат заедно.
Ова е пристапот по кој се познати Apple, па со оглед и на технологијата, очекувано беше дека останатите ќе почнат да одат во истиот правец.
Според објавата на Паван Давулури, извршен потпретседател за Windows и уредите, моделите стануваат сè поголеми, а потребите на корисниците ги надминуваат нивните буџети за јазичните модели од „облакот“. Хибридниот пристап треба да ги растегне тие буџети, а корисниците да го задржат пристапот до интелигенцијата што им е потребна.
Microsoft на уредите го носи и својот модел за програмирање MAI Code 1.1 Flash, кој има 137 милијарди параметри, од кои 6,8 милијарди се активни. Со 3-битна прецизност моделот е помал за речиси 80%, а според Microsoft, квалитетот на кодот се задржува.
На компјутерите со Nvidia RTX Spark локално работи и DeepSeek V4 Flash, модел со 284 милијарди параметри. Дополнително, Windows ML добива поддршка за llama.cpp, што значи полесен пристап до модели со отворен код.
GitHub HydraFusion, кој секоја задача ја праќа до соодветниот модел во „облакот“, ќе може да користи и локални модели. Ова стигнува во GitHub Copilot апликацијата, GitHub Copilot CLI и Visual Studio Code како експериментален преглед подоцна во октомври.
Безбедноста на агентите Microsoft ја зајакнува со Microsoft Execution Containers (MXC), кои од вчера се достапни на Windows 11. Со нив компаниите одредуваат до кои датотеки и мрежи може да пристапат агентите. Поддршка веќе имаат Codex од OpenAI, GitHub Copilot, OpenClaw и Replit, а меѓу оние што ќе ја додадат е и Claude Code од Anthropic.
За обичните корисници, Copilot на Copilot+ компјутерите со дозвола ќе ги разбира датотеките и активноста на компјутерот, ќе извршува активности низ Windows и ќе користи локални модели. Според Microsoft, овие функции се очекува да почнат да стигнуваат во наредните месеци, а достапноста може да се разликува според уредот, пазарот и чипот.
Microsoft тврди дека компјутерите со RTX Spark се до 2,1 пати побрзи до првиот „токен“, до 4,3 пати побрзи во генерирање слики и до 6,2 пати во генерирање видео од MacBook Pro од 16 инчи со M5 Pro и 64GB меморија. Тестот за „токени“ го нарачал Microsoft, а тестовите за слики и видео ги направиле од Nvidia, во септември и на уреди пред серијското производство.
Јасно е дека Microsoft сака Windows да го претвори во платформа за локална вештачка интелигенција. Сепак, изгледа дека за поголемите модели ќе треба хардвер како Surface Laptop Ultra, кој почнува од 2.599 долари.
