Soustanovitelj ethereja poudarja tveganja "superinteligentne" umetne inteligence
21 May, 2024 ● Ljudje kriptosveta
Soustanovitelj ethereuma Vitalik Buterin je izrazil zaskrbljenost glede "superinteligentne" umetne inteligence in jo ob nedavnih spremembah v vodstvu podjetja OpenAI označil za "tvegano".
Cointelegraph je 19. maja poročal, da je nekdanji vodja usklajevanja podjetja OpenAI Jan Leike odstopil zaradi "točke preloma", ki jo je dosegel z vodstvom glede usmeritve podjetja.
Leike je trdil, da je podjetje OpenAI dalo prednost "bleščečim izdelkom" pred "varnostno kulturo in procesi", s posebnim poudarkom na razvoju umetne splošne inteligence (AGI). AGI, za katero se pričakuje, da bo dosegla ali celo presegla človekove kognitivne sposobnosti, je že začela vzbujati zaskrbljenost med industrijskimi strokovnjaki, ki menijo, da svet ni pripravljen na obvladovanje tako naprednih sistemov umetne inteligence.
Ti pomisleki se očitno ujemajo z Buterinovim stališčem. V nedavni objavi na portalu X je posvaril pred prehitrim napredovanjem na tem področju in kritiziral pritisk na tiste, ki so previdni.
Buterin se je zavzel za odprte modele, ki delujejo na potrošniški strojni opremi, kot zaščitni ukrep pred morebitno prihodnostjo, v kateri bo nekaj velikih korporacij obvladovalo in interpretiralo večino človeških misli.
"Takšni modeli so tudi z vidika tveganja obsodbe veliko manjši od megalomanije korporacij in vojskovanja."
Ta pripomba je njegova druga v zadnjem tednu v zvezi z razvojem umetne inteligence in njenih zmožnosti.
16. maja je Buterin predlagal, da je model GPT-4 podjetja OpenAI opravil Turingov test, ki temelji na novih študijah, ki kažejo, da večina ljudi ne prepozna, da komunicirajo s strojem.
Buterin v svoji zaskrbljenosti ni edini. Tudi vlada Združenega kraljestva je zavzela kritično stališče do vse večjega vpliva velikih tehnoloških podjetij na področju umetne inteligence in poudarila zaskrbljenost zaradi prevlade na trgu in konkurence.
Ob teh dogodkih se na spletu pojavljajo skupine, kot je 6079, ki se zavzemajo za decentraliziran pristop k umetni inteligenci, da bi ohranili bolj demokratičen nadzor, stran od primeža velikih tehnoloških podjetij.
Ti komentar sledi še enemu pomembnemu odhodu iz vodstva OpenAI, saj je 14. maja odstopil soustanovitelj in glavni znanstvenik Ilja Sutskever.
Čeprav Sutskever v svojem odstopu ni izrazil posebnih skrbi glede AGI, je v objavi na portalu X ostal optimističen glede prihodnosti OpenAI, saj verjame, da bo razvil AGI, ki bo "varna in koristna."
Vire:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
