NIST Pubblica Bozze su Intelligenza Artificiale: Linee Guida Cruciali per Gestione dei Rischi e Sicurezza

Il 29 aprile 2024, il Dipartimento del Commercio degli Stati Uniti (DoC) ha annunciato che il National Institute of Standards and Technology (NIST) ha pubblicato quattro documenti sull'intelligenza artificiale (IA) 180 giorni dopo il Decreto del Presidente sull'IA sicura, sicura e affidabile. In particolare, il NIST ha evidenziato che le bozze pubblicate servono come risorse complementari al Quadro di Gestione del Rischio dell'IA (AI RMF) e al Quadro di Sviluppo Software Sicuro (SSDF) del NIST.

I quattro documenti includono:

NIST AI 600-1 - Quadro di Gestione del Rischio dell'Intelligenza Artificiale: Profilo dell'Intelligenza Artificiale Generativa (il Profilo dell'IA Generativa); Pubblicazione Speciale (SP) 800-218A del NIST - Pratiche di Sviluppo Software Sicuro per l'IA Generativa e Modelli di Fondazione a Doppio Uso (NIST SP 800-218A); NIST AI 100-4 - Riduzione dei Rischi Posti dal Contenuto Sintetico (il Profilo del Contenuto Sintetico); NIST AI 100-5 - Un Piano per il Coinvolgimento Globale sulle Norme sull'IA (il Profilo delle Norme sull'IA). IA Generativa Il Profilo dell'IA Generativa mira ad aiutare le organizzazioni a identificare i rischi posti dall'IA generativa sotto forma di 13 rischi che sono nuovi o esacerbati dall'uso di IA generativa. Questi rischi includono informazioni CBRN (chimiche, biologiche, radiologiche o nucleari) - abbassamento delle barriere all'ingresso o facilitazione dell'accesso a informazioni materialmente nefaste relative a armi CBRN; confabulazione - la produzione di contenuti errati o falsi; e sicurezza delle informazioni - divulgazione non autorizzata di dati sensibili.

SSDF e IA generativa Il documento NIST SP 800-218A fornisce raccomandazioni specifiche sull'IA durante il ciclo di vita dello sviluppo del software, concentrandosi su produttori di modelli AI, produttori di sistemi AI e acquisitori di sistemi AI.

Contenuto sintetico Il Profilo del Contenuto Sintetico delinea metodi per rilevare, autenticare e etichettare contenuti sintetici, come watermarking digitale e registrazione di metadati.

Norme sull'IA globale Il Profilo delle Norme sull'IA richiede feedback su aree e argomenti che richiedono standardizzazione, come meccanismi per migliorare la consapevolezza dell'origine dei contenuti digitali e pratiche condivise per test, valutazioni e verifiche di sistemi AI.

Inoltre, il Dipartimento del Commercio degli Stati Uniti ha annunciato oggi diverse nuove iniziative legate al Decreto del Presidente sull'IA. Il Dipartimento ha rilasciato quattro bozze di pubblicazioni destinate a migliorare la sicurezza, la sicurezza e la affidabilità dei sistemi di intelligenza artificiale. Il NIST ha anche lanciato una serie di sfide che sosterranno lo sviluppo di metodi per distinguere tra contenuti prodotti da esseri umani e contenuti prodotti da IA. Il Dipartimento ha anche aperto un nuovo programma di misurazione per il commento pubblico.

Le pubblicazioni del NIST coprono vari aspetti della tecnologia IA, con l'obiettivo di migliorare la sicurezza e la fiducia nei sistemi di IA. Tutti e quattro i documenti del NIST sono bozze pubbliche iniziali e il NIST sta chiedendo commenti dal pubblico su ciascuno entro il 2 giugno 2024.

Glossario: CBRN : Acronimo per Chimico, Biologico, Radiologico, Nucleare, si riferisce a armi o sostanze appartenenti a queste categorie. AI : Acronimo per Intelligenza Artificiale, si riferisce alla capacità di un sistema o di una macchina di emulare l'intelligenza umana. SSDF : Acronimo per Quadro di Sviluppo Software Sicuro, si riferisce a linee guida e pratiche per sviluppare software sicuro. IA Generativa : Si riferisce a sistemi di intelligenza artificiale che possono generare autonomamente contenuti come testi, immagini o video. Standardizzazione : Processo di creazione di norme o standard per garantire la coerenza e la compatibilità tra sistemi o prodotti. Rischi : Possibilità di perdita, danni o conseguenze negative associate a un'attività o a un sistema. Contenuto Sintetico : Contenuto prodotto o alterato da intelligenza artificiale anziché da esseri umani. Tecnologia : Applicazione di conoscenze scientifiche e tecniche per scopi pratici, inclusi strumenti e processi. Pubblicazioni : Documenti o materiale stampato o digitale reso disponibile al pubblico. Dipartimento del Commercio : Organizzazione governativa statunitense che si occupa di politiche economiche, commerciali e tecnologiche. Norme Globali : Standard o linee guida accettate a livello internazionale. Fonti:

Dipartimento del Commercio degli Stati Uniti National Institute of Standards and Technology (NIST)

Accessibility Adjustments

Color Adjustments