OpenAI ha creato un nuovo comitato per la sicurezza e ha iniziato a lavorare alla formazione del suo prossimo modello di IA, come annunciato in un post, una rara visione dell’atteso successore di Gpt-4, la tecnologia che alimenta il suo ChatGpt. Tutto questo mentre le aziende tecnologiche corrono per produrre strumenti di IA sempre più efficaci.
Aspetti principali
- OpenAI ha dichiarato di aver iniziato l’addestramento del suo “modello di prossima frontiera”, che prevede di fornire agli utenti il “prossimo livello di capacità” per costruire l’intelligenza artificiale generale (Agi), una forma di IA in grado di svolgere un’ampia gamma di compiti come gli esseri umani.
- Il nuovo chatbot sostituirà il modello fondamentale di OpenAI, Gpt-4, e alimenterà strumenti di IA generativa come generatori di immagini, assistenti virtuali, motori di ricerca e il chatbot di punta, ChatGpt.
- OpenAI ha dichiarato di aver creato un nuovo comitato per valutare gli eventuali rischi posti dalla nuova tecnologia, che sarà guidato congiuntamente dall’ad e cofondatore Sam Altman, oltre che da tre membri del consiglio di amministrazione dell’azienda: il presidente Bret Taylor, Adam D’Angelo e Nicole Seligman.
- Sei esperti tecnici e politici di OpenAI – Aleksander Madry (responsabile della preparazione), Lilian Weng (responsabile dei sistemi di sicurezza), John Schulman (responsabile della scienza dell’allineamento), Matt Knight (responsabile della sicurezza) e Jakub Pachocki (scienziato capo) – faranno parte del comitato e l’azienda ha dichiarato che “manterrà e consulterà altri esperti di sicurezza e tecnici” per sostenere il lavoro.
- Il primo compito del comitato sarà quello di rivedere e sviluppare i processi e le misure di salvaguardia dell’azienda nei prossimi 90 giorni, dopodiché condividerà le raccomandazioni con l’intero consiglio di amministrazione.
La concorrenza dei rivali
L’azienda non ha dichiarato esplicitamente il nome del modello che sta addestrando. Finora, OpenAI ha seguito una chiara sequenza di nomi per i suoi modelli fondamentali, sotto forma di variazioni numericamente crescenti di Gpt.
Il suo ultimo chatbot è GPT-4, quindi il suo prossimo modello dovrebbe avere la denominazione ‘GPT-5’. Si prevede che l’azienda rilascerà nei prossimi mesi un aggiornamento sotto forma di GPT-5, soprattutto di fronte alla concorrenza sempre più intensa di modelli rivali come Llama 3 di Meta, Gemini di Google e Claude 3 di Anthropic.
Citazioni importanti
Sebbene sia “orgogliosa di costruire e rilasciare modelli che sono leader del settore sia in termini di capacità che di sicurezza”, OpenAI ha dichiarato di accogliere “un importante dibattito in questo momento cruciale”.
A cosa guardare
OpenAI non ha indicato quando il modello sarà rilasciato. L’addestramento dei sistemi di intelligenza artificiale può richiedere mesi o addirittura anni. L’azienda ha rilasciato un aggiornamento del GPT-4, GPT-4o, per alimentare il suo ChatGPT di punta e introdurre nuove funzionalità come la modalità vocale, che gli consentirà di agire come un assistente digitale come Alexa di Amazon o Siri di Apple.
L’azienda è già finita sotto tiro per aver utilizzato una voce simile a quella dell’attrice Scarlett Johansson per uno dei suoi assistenti virtuali.
Cosa non sappiamo
Pur sembrando trasparente a prima vista, c’è molta ambiguità riguardo alla volontà di OpenAI di condividere ciò che dice il suo nuovo comitato. L’azienda ha dichiarato che “condividerà pubblicamente un aggiornamento sulle raccomandazioni adottate in modo coerente con la sicurezza” una volta che il comitato avrà riferito al consiglio di amministrazione, ma non ha fornito una tempistica su quando lo farà dopo il periodo iniziale di 90 giorni.
La formulazione dell’azienda si limita inoltre a condividere le raccomandazioni che decide di adottare e non è chiaro se verrà condiviso l’intero rapporto o le raccomandazioni della commissione, in particolare se queste ultime sono in contrasto con ciò che decide di attuare o meno.
È probabile che l’azienda e il comitato siano sottoposti a un intenso esame da parte della comunità della sicurezza dell’IA, soprattutto in considerazione dell’impegno dichiarato di OpenAI su questo fronte, delle divisioni tra i direttori sul suo approccio e delle recenti critiche che mettono in discussione l’impegno da parte di ex membri del personale, nonché della partenza di diversi leader chiave della sicurezza dell’azienda.
Le stime di Forbes
Altman ha un patrimonio netto stimato di 1 miliardo di dollari. Non ha partecipazioni in OpenAI, quindi non deve la sua fortuna al successo dell’azienda. L’imprenditore è un prolifico investitore e la sua ricchezza deriva da una serie di investimenti, tra cui partecipazioni nella fintech Stripe, in Reddit e nell’azienda di fusione nucleare Helion.
Prima di fondare OpenAI, Altman ha creato la società di social mapping Loopt ed è stato partner e presidente del famoso acceleratore di startup Y Combinator.
Per altri contenuti iscriviti alla newsletter di Forbes.it CLICCANDO QUI .
Forbes.it è anche su WhatsApp: puoi iscriverti al canale CLICCANDO QUI .
