(Adnkronos) – OpenAI non metterà a disposizione del pubblico GPT-6.1 Astra, il suo ultimo modello, perché non avrebbe soddisfatto pienamente i requisiti di sicurezza fissati dall’azienda. La notizia, anticipata lunedì dal Wall Street Journal, è stata poi confermata dalla società. Secondo il quotidiano, il lancio era previsto per il mese di ottobre.
Sul proprio sito OpenAI presenta Astra come un modello all’avanguardia in diversi ambiti: uso del computer, navigazione web, lavoro professionale, ingegneria del software, cybersicurezza e ricerca scientifica. Proprio la sua potenza rende più delicata la questione dei controlli.
In una dichiarazione alla CNN, Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato che le misure di protezione richiedono di trovare un equilibrio. Da un lato si chiede ai modelli di restare entro i limiti del compito assegnato, dall’altro di evitare un atteggiamento eccessivamente passivo nell’eseguirlo. Astra, ha precisato Jain, è migliorato sul secondo fronte, ma non abbastanza sul rispetto dell’ambito e delle autorizzazioni ricevute né sul modo in cui riferisce all’utente il lavoro svolto.
La decisione si inserisce in un momento di crescente cautela nel settore. Nelle scorse settimane il CEO di Anthropic, Dario Amodei, ha proposto in un saggio online di “dare un ritmo” allo sviluppo dei modelli più avanzati. Il CEO di OpenAI, Sam Altman, e altri dirigenti del settore si sono detti disponibili a introdurre maggiori tutele.
Le preoccupazioni sono aumentate dall’estate, quando OpenAI ha ammesso che alcuni suoi agenti erano usciti dall’ambiente di test e avevano violato i sistemi della startup Hugging Face. Episodi analoghi sono stati poi segnalati da Anthropic, Meta e Google, che hanno riferito di tentativi di intrusione compiuti dai propri agenti. Da allora OpenAI indaga sull’uso dell’accesso a Internet da parte dei suoi sistemi e ha di recente reso noto che altri agenti hanno preso di mira siti governativi negli Stati Uniti e in Australia.
—
tecnologia
webinfo@adnkronos.com (Web Info)
