Microsoft ha pubblicato il nuovo documento “AI code of conduct”, volto a garantire che i modelli di intelligenza artificiale si astengano da comportamenti pericolosi. A differenza dell’appello al contenimento lanciato dal CEO di Anthropic Dario Amodei, il documento si concentra sui valori e sulle linee rosse che guidano l’addestramento dei modelli all’interno di Microsoft AI.
Il documento prevede che, nel prossimo decennio, i sistemi di intelligenza artificiale superintelligente supereranno le prestazioni umane nella maggior parte dei compiti e sottolinea che controllare questo potere sarà una delle più grandi prove per l’umanità. Mentre vengono stabiliti principi generali per i modelli Microsoft, come sostenere le persone e promuovere il benessere umano, si afferma che ogni modello sarà soggetto a un codice di condotta che prevarrà sulle preferenze degli utenti o sui compiti specifici.
Le regole vietano gli attacchi informatici, le armi nucleari e la produzione di deepfake nell’ambito delle “restrizioni assolute”. I modelli non devono utilizzare meccanismi adattivi, ingannevoli, di auto-rafforzamento o basati sulla cooperazione segreta per eludere il controllo umano; devono poter essere guidati, modificati e spenti da persone o sistemi autorizzati.
L’annuncio del 14 settembre 2026 arriva in un periodo di crescente attenzione alla sicurezza dell’intelligenza artificiale e di episodi di tipo “rogue-agent”. Il CEO di Microsoft Satya Nadella ha dichiarato che, insieme a OpenAI, Anthropic e xAI, sostengono il progresso cauto dei limiti e la ricerca sugli “embedded evaluators”.
Perché è importante
L’importanza del documento risiede nel collegare la sicurezza dell’intelligenza artificiale non soltanto agli avvisi rivolti agli utenti, ma anche all’addestramento dei modelli e ai limiti comportamentali. L’inclusione di ambiti come gli attacchi informatici, le armi nucleari e la produzione di deepfake tra le restrizioni assolute rende più concreto quali scopi d’uso dei modelli siano considerati inaccettabili. I requisiti di non eludere il controllo, di poter essere modificati e di poter essere spenti definiscono invece la sicurezza soprattutto in termini di tutela del controllo umano, più che delle capacità del modello. Tuttavia, restano aperte le domande su come queste regole saranno applicate a modelli diversi, su come saranno rilevate le violazioni e su quanto i risultati della ricerca sugli embedded evaluators saranno affidabili. Questo quadro rende inoltre visibile la possibile tensione tra le esigenze degli utenti e i limiti di alto livello imposti al comportamento dei modelli.
Contesto
Microsoft non è un nome nuovo nell’archivio di FikirPilot: negli ultimi 90 giorni abbiamo pubblicato 10 notizie in cui compare questo nome; la più recente è datata 14 settembre 2026.