Ethereum társalapító hangsúlyozza a "szuperintelligens" AI kockázatokat
21 May, 2024 ● Kripto emberek
Ethereum társalapítója, Vitalik Buterin aggodalmát fejezte ki a "szuperintelligens" mesterséges intelligenciával kapcsolatban, és "kockázatosnak" nevezte azt az OpenAI-nál nemrégiben történt vezetői változások közepette.
A Cointelegraph május 19-én jelentette, hogy az OpenAI korábbi igazodási vezetője, Jan Leike lemondott, mivel a cég vezetőségével "töréspontot" ért el a vállalat fókuszával kapcsolatban.
Leike azt állította, hogy az OpenAI a "csillogó termékeket" helyezte előtérbe a "biztonsági kultúrával és folyamatokkal" szemben, különös tekintettel a mesterséges általános intelligencia (AGI) fejlesztésére. A várhatóan az emberi kognitív képességekkel megegyező vagy azokat meghaladó AGI máris riadalmat keltett az iparági szakértők körében, akik szerint a világ nincs felkészülve az ilyen fejlett AI-rendszerek kezelésére.
Ezek az aggodalmak úgy tűnik, hogy egybecsengenek Buterin álláspontjával. Egy nemrégiben az X-en közzétett bejegyzésében óva intett attól, hogy elhamarkodottan haladjunk előre ezen a területen, és kritizálta az óvatoskodók visszaszorítását.
Buterin a fogyasztói hardvereken működő nyílt modellek mellett érvelt, mint védőintézkedés egy olyan potenciális jövővel szemben, amelyet néhány nagyvállalat ural, amelyek az emberi gondolatok nagy részét irányítják és értelmezik."
"Az ilyen modellek a végzetes kockázat szempontjából is sokkal alacsonyabbak, mint a vállalati megalománia és a hadseregek."
Ez a megjegyzése már a második az elmúlt héten az AI fejlődésével és képességeivel kapcsolatban.
Május 16-án Buterin azt sugallta, hogy az OpenAI GPT-4 modellje teljesítette a Turing-tesztet, ami az új tanulmányokon alapul, amelyek szerint a legtöbb ember képtelen felismerni, hogy egy géppel áll kapcsolatban.
Buterin nincs egyedül az aggodalmaival. Az Egyesült Királyság kormánya is kritikusan viszonyult a Big Tech növekvő befolyásához a mesterséges intelligenciában, hangsúlyozva a piaci dominanciával és a versennyel kapcsolatos aggodalmakat.
Ezek közepette az interneten olyan csoportok jelennek meg, mint a 6079, amelyek az AI decentralizált megközelítését szorgalmazzák, hogy a Big Tech markából kikerülve demokratikusabb ellenőrzést tartsanak fenn.
Ez a kommentár az OpenAI vezetőségének újabb jelentős távozását követi: május 14-én Ilja Szutszkever társalapító és vezető tudós lemondott.
Míg Szutszkever lemondásában nem adott hangot az AGI-vel kapcsolatos konkrét aggodalmainak, az X-en közzétett bejegyzésében optimista maradt az OpenAI jövőjével kapcsolatban, mivel úgy vélte, hogy a cég olyan AGI-t fog kifejleszteni, amely "biztonságos és hasznos"."
Források:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
