Il co-fondatore di Ethereum sottolinea i rischi dell'intelligenza artificiale "superintelligente".
21 May, 2024 ● Popolo delle Crypto Valute
Il cofondatore di Ethereum, Vitalik Buterin, ha espresso preoccupazione per l'intelligenza artificiale "superintelligente", definendola "rischiosa", in seguito ai recenti cambiamenti di leadership in OpenAI.
Il 19 maggio il Cointelegraph ha riferito che l'ex responsabile dell'allineamento di OpenAI, Jan Leike, ha rassegnato le dimissioni a causa di un "punto di rottura" raggiunto con la dirigenza riguardo all'orientamento dell'azienda.
Leike sosteneva che OpenAI aveva dato priorità ai "prodotti luccicanti" rispetto alla "cultura e ai processi di sicurezza", con un'enfasi particolare sullo sviluppo dell'intelligenza artificiale generale (AGI). L'AGI, che si prevede possa eguagliare o superare le capacità cognitive umane, ha già iniziato a suscitare allarme tra gli esperti del settore, che ritengono che il mondo sia impreparato a gestire sistemi di IA così avanzati.
Queste preoccupazioni sembrano risuonare con il punto di vista di Buterin. In un recente post su X, Buterin ha ammonito a non avanzare frettolosamente in questo campo e ha criticato le reazioni di coloro che sono cauti.
Buterin si è espresso a favore di modelli aperti che operano su hardware di consumo come misura protettiva contro un potenziale futuro dominato da poche grandi aziende che controllano e interpretano la maggior parte dei pensieri umani.
"Tali modelli sono anche molto più bassi in termini di rischio di sventura rispetto sia alla megalomania aziendale che ai militari"."
Questa osservazione segna la sua seconda nell'ultima settimana riguardo all'evoluzione dell'IA e delle sue capacità.
Il 16 maggio, Buterin ha suggerito che il modello GPT-4 di OpenAI ha raggiunto il test di Turing, sulla base di nuovi studi che dimostrano che la maggior parte delle persone non è in grado di discernere che sta interagendo con una macchina.
Buterin non è solo nella sua apprensione. Anche il governo britannico ha assunto una posizione critica nei confronti della crescente influenza delle Big Tech nell'IA, sottolineando le preoccupazioni per il dominio del mercato e la concorrenza.
In mezzo a questi sviluppi, gruppi come 6079 stanno emergendo online, spingendo per un approccio decentralizzato all'IA per mantenere un controllo più democratico, lontano dalle morse delle Big Tech.
Questo commento segue un'altra uscita significativa dalla leadership di OpenAI, con le dimissioni del cofondatore e scienziato capo Ilya Sutskever il 14 maggio.
Sebbene Sutskever non abbia espresso preoccupazioni specifiche sull'IA nelle sue dimissioni, in un post su X è rimasto ottimista sul futuro di OpenAI, ritenendo che svilupperà un'IA "sicura e vantaggiosa"."
Fonti:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
