Spoluzakladatel společnosti Ethereum zdůrazňuje rizika "superinteligentní" umělé inteligence
21 May, 2024 ● Lidé zabývající se kryptoměnami
Spoluzakladatel společnosti Ethereum Vitalik Buterin vyjádřil obavy ze "superinteligentní" umělé inteligence a v souvislosti s nedávnými změnami ve vedení společnosti OpenAI ji označil za "riskantní".
Cointelegraph 19. května informoval, že bývalý šéf společnosti OpenAI Jan Leike rezignoval kvůli "bodu zlomu", kterého bylo dosaženo ve vztahu k vedení společnosti ohledně jejího zaměření.
Leike tvrdil, že společnost OpenAI upřednostňovala "nablýskané produkty" před "kulturou bezpečnosti a procesy", přičemž zvláštní důraz kladla na vývoj umělé obecné inteligence (AGI). AGI, od níž se očekává, že se vyrovná lidským kognitivním schopnostem nebo je dokonce předčí, již začala vyvolávat obavy mezi odborníky v oboru, kteří se domnívají, že svět není na zvládnutí takto pokročilých systémů umělé inteligence připraven.
Tyto obavy zřejmě rezonují s Buterinovým názorem. V nedávném příspěvku na X varoval před ukvapeným postupem v této oblasti a kritizoval zatlačování na ty, kteří jsou opatrní.
Buterin se vyslovil pro otevřené modely fungující na spotřebitelském hardwaru jako ochranné opatření proti potenciální budoucnosti ovládané několika velkými korporacemi kontrolujícími a interpretujícími většinu lidských myšlenek.
"Takové modely jsou také z hlediska rizika zkázy mnohem méně rizikové než korporátní megalomanie i vojenství."
Tato poznámka je již druhá za poslední týden, která se týká vývoje umělé inteligence a jejích schopností.
16. května Buterin naznačil, že model GPT-4 společnosti OpenAI dosáhl Turingova testu, a to na základě nových studií, které ukazují, že většina lidí není schopna rozpoznat, že komunikuje se strojem.
Buterin není ve svých obavách sám. Také britská vláda zaujala kritický postoj k rostoucímu vlivu velkých technologií v oblasti umělé inteligence a zdůraznila obavy z dominantního postavení na trhu a konkurence.
Uprostřed tohoto vývoje se na internetu objevují skupiny, jako je 6079, které prosazují decentralizovaný přístup k umělé inteligenci, aby byla zachována demokratičtější kontrola mimo dosah velkých technologií.
Tento komentář následuje po dalším významném odchodu z vedení OpenAI, když 14. května rezignoval spoluzakladatel a hlavní vědecký pracovník Ilja Sutskever.
Ačkoli Sutskever ve své rezignaci nevyjádřil konkrétní obavy ohledně AGI, v příspěvku na X zůstal optimistický ohledně budoucnosti OpenAI a věřil, že vyvine AGI, která bude "bezpečná a prospěšná."
Zdroje:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
