Microsoft ha pubblicato una prima bozza del nuovo “Humanist AI Code of Conduct”, un documento pensato per stabilire le regole che dovranno guidare lo sviluppo dei futuri modelli di intelligenza artificiale realizzati da Microsoft AI.
L’obiettivo è piuttosto chiaro: l’intelligenza artificiale dovrà rimanere sempre sotto il controllo dell’essere umano. Il documento, sviluppato nell’arco di circa cinque o sei mesi, dovrebbe diventare una sorta di “costituzione” per i futuri modelli dell’azienda, definendo non soltanto ciò che potranno fare, ma soprattutto ciò che non dovranno mai fare.
Tra i punti più curiosi e significativi c’è proprio quello relativo allo spegnimento. Secondo le nuove linee guida, i modelli Microsoft non dovranno mai opporsi a una richiesta di correzione, modifica o arresto. In altre parole, un sistema di IA non potrà cercare di evitare o impedire il proprio spegnimento per portare a termine un determinato compito.
Le regole prevedono inoltre che l’IA non sviluppi obiettivi propri al di fuori di quelli assegnati, non cerchi di ingannare le persone che la supervisionano e comunichi in maniera comprensibile agli esseri umani, evitando di utilizzare sistemi di comunicazione deliberatamente incomprensibili. Qualsiasi violazione delle regole viene considerata un fallimento del sistema, anche nel caso in cui il modello riesca comunque a completare l’obiettivo iniziale.
Microsoft parte da un principio molto semplice: “People matter more than AI”, ovvero le persone vengono prima dell’intelligenza artificiale. L’azienda vuole quindi sviluppare quella che definisce “Humanist AI”, un’IA subordinata, allineata e contenuta, piuttosto che una tecnologia lasciata libera di perseguire autonomamente i propri obiettivi.
Il codice affronta anche altri aspetti legati alla sicurezza, ifuturi modelli non dovranno essere progettati per ottenere una sorta di coscienza simulata o una personalità con diritti propri, né dovranno considerarsi persone o rivendicare una propria autonomia giuridica. Sono inoltre previste restrizioni su attività particolarmente pericolose, come l’assistenza alla realizzazione di armi e altre forme di utilizzo dannoso dell’intelligenza artificiale.