Spoluzakladateľ spoločnosti Ethereum zdôrazňuje riziká "superinteligentnej" umelej inteligencie
21 May, 2024 ● Krypto ľudia
Spoluzakladateľ spoločnosti Ethereum Vitalik Buterin vyjadril obavy zo "superinteligentnej" umelej inteligencie a v súvislosti s nedávnymi zmenami vo vedení spoločnosti OpenAI ju označil za "riskantnú".
Cointelegraph 19. mája informoval, že bývalý šéf OpenAI Jan Leike odstúpil z dôvodu "bodu zlomu", ktorý dosiahol s vedením spoločnosti v súvislosti s jej zameraním.
Leike tvrdil, že spoločnosť OpenAI uprednostnila "lesklé produkty" pred "kultúrou bezpečnosti a procesmi", pričom osobitný dôraz kládla na vývoj umelej všeobecnej inteligencie (AGI). AGI, od ktorej sa očakáva, že sa vyrovná ľudským kognitívnym schopnostiam alebo ich prekoná, už začala vyvolávať znepokojenie medzi odborníkmi z odvetvia, ktorí sa domnievajú, že svet nie je pripravený na zvládnutie takýchto pokročilých systémov umelej inteligencie.
Tieto obavy zrejme rezonujú s Buterinovým názorom. V nedávnom príspevku na X varoval pred unáhleným napredovaním v tejto oblasti a kritizoval odsúvanie tých, ktorí sú opatrní.
Buterin sa vyslovil za otvorené modely fungujúce na spotrebiteľskom hardvéri ako ochranné opatrenie pred potenciálnou budúcnosťou, v ktorej bude dominovať niekoľko veľkých korporácií kontrolujúcich a interpretujúcich väčšinu ľudských myšlienok.
"Takéto modely sú tiež oveľa menej rizikové z hľadiska osudovosti ako korporátna megalománia aj milície."
Táto poznámka je jeho druhou za posledný týždeň, ktorá sa týka vývoja umelej inteligencie a jej schopností.
16. mája Buterin naznačil, že model GPT-4 spoločnosti OpenAI dosiahol Turingov test na základe nových štúdií, ktoré ukazujú, že väčšina ľudí nie je schopná rozoznať, že komunikujú so strojom.
Buterin nie je vo svojich obavách sám. Aj vláda Spojeného kráľovstva zaujala kritický postoj k rastúcemu vplyvu Big Tech v oblasti umelej inteligencie, pričom zdôraznila obavy z dominantného postavenia na trhu a z konkurencie.
Na pozadí tohto vývoja sa na internete objavujú skupiny ako 6079, ktoré presadzujú decentralizovaný prístup k umelej inteligencii s cieľom zachovať demokratickejšiu kontrolu, mimo dosahu Big Tech.
Tento komentár nasleduje po ďalšom významnom odchode z vedenia OpenAI, keďže spoluzakladateľ a hlavný vedecký pracovník Ilja Sutskever 14. mája odstúpil.
Aj keď Sutskever vo svojej rezignácii nevyjadril konkrétne obavy týkajúce sa AGI, v príspevku na X zostal optimistický, pokiaľ ide o budúcnosť OpenAI, a verí, že vyvinie AGI, ktorá bude "bezpečná a prospešná."
Zdroje:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
