Phi-Silica: Microsoft porta l’intelligenza artificiale nativa sui computer Copilot+

Microsoft ha annunciato un piccolo modello linguistico (SLM) chiamato Phi-Silica alla conferenza Build Developer a Seattle. IL Lo ha riferito VentureBeat. Phi-Silica sarà integrato in tutti i PC Copilot+ quando arriveranno sul mercato nel giugno 2024.

I modelli linguistici locali offrono il vantaggio che i dati da elaborare rimangono sul dispositivo. Ciò mira a dissipare le preoccupazioni relative alla protezione dei dati e a consentire l’uso offline.

Secondo Microsoft, Phi-Silica offre un’elevata velocità di risposta consumando solo 1,5 watt di potenza. Questo design garantisce che il modello non sovraccarichi le risorse del computer, consentendo alla CPU e alla GPU di concentrarsi su altri calcoli. Inoltre, la generazione di token del modello sfrutta la cache NPU e viene eseguita sulla CPU, generando circa 27 token al secondo.

Un passo importante nell’implementazione dell’intelligenza artificiale locale

Un portavoce di Microsoft ha confermato: “Ciò che rende speciale Phi-Silica è che è il primo modello linguistico distribuito in modo nativo per Windows. Ottimizzato per essere eseguito su NPU PC Copilot+, fornisce un’inferenza nativa estremamente veloce al tuo dispositivo.”

Phi-Silica si unisce ai ranghi delle varianti del modello Phi-3 di Microsoft, che includono Phi-3-Mini (3,8 miliardi di parametri), Phi-3-Small (7 miliardi di parametri), Phi-3-Medium (14 miliardi di parametri) e Phi – 3-Visibilità (4,2 miliardi di parametri). Grazie alle sue dimensioni ridotte e alle prestazioni ottimali, si dice che Phi-Silica sia in grado di migliorare significativamente le capacità dei computer Copilot+.