[ad_1]
OpenAI annuncia un nuovo programma di sovvenzioni per aiutare le aziende che stanno lavorando per rendere sicuri i sistemi superintelligenti, poiché la società ritiene che la superintelligenza potrebbe essere raggiunta entro il prossimo decennio.
Secondo l’azienda, questi sistemi avanzati “saranno capaci di comportamenti complessi e creativi che gli esseri umani non possono comprendere appieno”.
L’attuale tecnica per garantire che i sistemi di intelligenza artificiale siano sicuri – un processo chiamato allineamento – utilizza l’apprendimento per rinforzo dal feedback umano (RLHF). Ciò si basa sulla supervisione umana, quindi potrebbe non essere altrettanto efficace quando si affrontano i casi d’uso avanzati che l’intelligenza artificiale superintelligente faciliterà. Ad esempio, se un’intelligenza artificiale generasse milioni di righe di codice complesso, non sarebbe possibile per gli esseri umani valutarlo tutto.
“Ciò porta alla sfida fondamentale: come possono gli esseri umani guidare e fidarsi di sistemi di intelligenza artificiale molto più intelligenti di loro? Questo è uno dei problemi tecnici irrisolti più importanti al mondo. Ma pensiamo che sia risolvibile con uno sforzo concertato. Ci sono molti approcci promettenti e direzioni entusiasmanti, con molti frutti a portata di mano. Riteniamo che oggi ci sia un’enorme opportunità per la comunità di ricerca ML e i singoli ricercatori di compiere importanti progressi su questo problema”, ha scritto OpenAI in un post sul blog.
Per aiutare a supportare i ricercatori che stanno risolvendo la sfida del “Superallineamento”, OpenAI sta creando un programma di sovvenzione con 10 milioni di dollari dentro.
Dedicherà dai 100.000 ai 2 milioni di dollari a laboratori accademici, organizzazioni no-profit e singoli ricercatori. OpenAI sta inoltre lanciando borse di studio annuali da 150.000 dollari per studenti laureati (metà andrà a finanziamenti per la ricerca e l’altra metà sarà uno stipendio).
Secondo OpenAI, non è richiesta un’esperienza precedente sull’allineamento e sono pronti a supportare i ricercatori che non hanno ancora svolto alcun lavoro in merito.
Applicazioni rimarrà aperto fino al 18 febbraio e i candidati verranno ricontattati entro quattro settimane dalla scadenza della domanda.
Questo fa parte del più ampio progetto Superalignment di OpenAI, che it annunciato nel mese di luglio. OpenAI ha formato un nuovo team all’interno dell’azienda e ha affermato che dedicherà il 20% del proprio calcolo nei prossimi quattro anni per affrontare la sfida. L’obiettivo del progetto è quello di sviluppare un “ricercatore di allineamento automatizzato più o meno a livello umano”.
[ad_2]
Source link
