Współzałożyciel Ethereum podkreśla ryzyko związane z "superinteligentną" sztuczną inteligencją
21 May, 2024 ● Kryptoznawcy
Współzałożyciel Ethereum, Vitalik Buterin, wyraził obawy dotyczące "superinteligentnej" sztucznej inteligencji, opisując ją jako "ryzykowną" w związku z niedawnymi zmianami w kierownictwie OpenAI.
Cointelegraph poinformował 19 maja, że były szef dostosowania OpenAI, Jan Leike, zrezygnował z powodu "punktu krytycznego" osiągniętego z kierownictwem w związku z ukierunkowaniem firmy.
Leike twierdził, że OpenAI przedkładało "błyszczące produkty" nad "kulturę i procesy bezpieczeństwa", ze szczególnym naciskiem na rozwój sztucznej inteligencji ogólnej (AGI). Oczekuje się, że AGI dorówna lub przewyższy ludzkie zdolności poznawcze, co już zaczęło budzić niepokój wśród ekspertów branżowych, którzy uważają, że świat nie jest przygotowany do obsługi tak zaawansowanych systemów AI.
Obawy te wydają się rezonować z punktem widzenia Buterina. W niedawnym poście na X ostrzegł przed pochopnym postępem w tej dziedzinie i skrytykował odpieranie tych, którzy są ostrożni.
Buterin opowiedział się za otwartymi modelami działającymi na sprzęcie konsumenckim jako środkiem ochronnym przed potencjalną przyszłością zdominowaną przez kilka dużych korporacji kontrolujących i interpretujących większość ludzkich myśli.
"Takie modele są również znacznie niższe pod względem ryzyka zagłady niż zarówno korporacyjna megalomania, jak i militaria."
Ta uwaga jest jego drugą w ciągu ostatniego tygodnia dotyczącą ewolucji sztucznej inteligencji i jej możliwości.
16 maja Buterin zasugerował, że model GPT-4 OpenAI osiągnął test Turinga, oparty na nowych badaniach wykazujących, że większość ludzi nie jest w stanie dostrzec, że wchodzą w interakcję z maszyną.
Buterin nie jest osamotniony w swoich obawach. Rząd Wielkiej Brytanii również zajął krytyczne stanowisko w sprawie rosnącego wpływu Big Tech na sztuczną inteligencję, podkreślając obawy o dominację na rynku i konkurencję.
Wśród tych wydarzeń, grupy takie jak 6079 pojawiają się w Internecie, naciskając na zdecentralizowane podejście do sztucznej inteligencji, aby utrzymać bardziej demokratyczną kontrolę, z dala od uścisku Big Tech.
Komentarz ten następuje po kolejnym znaczącym odejściu z kierownictwa OpenAI, ponieważ współzałożyciel i główny naukowiec Ilya Sutskever złożył rezygnację 14 maja.
Chociaż Sutskever nie wyraził konkretnych obaw dotyczących AGI w swojej rezygnacji, pozostał optymistą w poście na X na temat przyszłości OpenAI, wierząc, że opracuje AGI, która jest "bezpieczna i korzystna"."
Źródła:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
