OpenAI ha classificato il suo nuovo ChatGPT Agent come modello ad “alto rischio biologico”. È la prima volta che un suo prodotto riceve una simile valutazione. Lo strumento consente agli utenti di raccogliere dati, gestire file, prenotare viaggi o creare presentazioni. Ma può anche aiutare a costruire armi chimiche o biologiche. Secondo il framework interno sulla sicurezza, questo tipo di intelligenza artificiale potrebbe aumentare la probabilità di attacchi da parte di attori non statali. “Nel 2024 poteva sembrare solo un rischio teorico. Oggi non lo è più”, ha scritto su X Boaz Barak, membro del team tecnico di OpenAI. “Non possiamo dire con certezza che questo modello permetta a un principiante di causare gravi danni biologici, ma sarebbe stato profondamente irresponsabile rilasciarlo senza tutele rigorose come quelle adottate”.
Finanziamo agevolati
Contributi per le imprese
OpenAI sottolinea che la classificazione ad alto rischio è una misura precauzionale. L’azienda non ha prove definitive che il modello possa davvero aiutare un principiante a realizzare un’arma. Tuttavia, ha attivato barriere e sistemi di controllo per intercettare richieste pericolose, segnalare eventuali abusi e intervenire in caso di necessità. Uno dei problemi principali è che le stesse capacità usate per scopi dannosi potrebbero aprire anche a importanti scoperte mediche. È proprio questo doppio uso a rendere il tema così delicato. Per questo, OpenAI ha rafforzato i test di sicurezza. Senza protezioni, modelli avanzati come questo potrebbero colmare il divario di competenze tra esperti e non addetti ai lavori.
“A differenza delle minacce nucleari o radiologiche, per quelle biologiche l’ostacolo non sono i materiali ma la conoscenza. È qui che l’intelligenza artificiale può fare la differenza”, ha detto ancora Barak. “Un ChatGPT Agent senza filtri potrebbe fornire indicazioni simili a quelle di un esperto”.
Che cos’è ChatGPT Agent
Il nuovo assistente AI di OpenAI funziona come un collaboratore digitale. Prenota ristoranti, fa acquisti, naviga sul web, interagisce con file, fogli di calcolo e presentazioni. A differenza delle versioni precedenti, può agire direttamente all’interno di un ambiente virtuale e compiere operazioni in autonomia.
Lo strumento nasce dall’unione di due progetti interni: Operator, il primo agente AI sviluppato da OpenAI, e Deep Research, pensato per compiti di ricerca online complessi.
Microcredito
per le aziende
La corsa agli agenti AI è ormai aperta: anche Google e Anthropic stanno lanciando strumenti simili. Le grandi aziende tech vedono in questi strumenti un’opportunità per integrare l’AI nei flussi di lavoro e automatizzare molte attività.
OpenAI è consapevole che un maggiore livello di autonomia comporta anche più rischi. Per questo, il controllo dell’utente resta centrale. L’agente chiede autorizzazione prima di eseguire azioni rilevanti e può essere fermato in qualsiasi momento.
L’articolo originale è stato pubblicato su Fortune.com
FOTO: GETTY IMAGES
***** l’articolo pubblicato è ritenuto affidabile e di qualità*****
Visita il sito e gli articoli pubblicati cliccando sul seguente link
Opportunità uniche acquisto in asta
ribassi fino al 70%
