O cofundador do Ethereum salienta os riscos da IA "superinteligente
21 May, 2024 ● Pessoas cripto
O cofundador do Ethereum, Vitalik Buterin, expressou preocupações sobre a inteligência artificial "superinteligente", descrevendo-a como "arriscada" em meio a recentes mudanças de liderança na OpenAI.
Cointelegraph relatou em 19 de maio que o ex-chefe de alinhamento da OpenAI, Jan Leike, renunciou devido a um "ponto de rutura" alcançado com a administração sobre o foco da empresa.
Leike afirmou que a OpenAI priorizou "produtos brilhantes" em vez de "cultura e processos de segurança", com ênfase particular no desenvolvimento de inteligência geral artificial (AGI). Espera-se que a AGI iguale ou exceda as habilidades cognitivas humanas, já começou a levantar alarmes entre os especialistas do setor que acreditam que o mundo não está preparado para lidar com esses sistemas avançados de IA.
Essas preocupações parecem ressoar com o ponto de vista de Buterin. Em um post recente no X, ele alertou contra o avanço precipitado neste campo e criticou o recuo contra aqueles que são cautelosos.
Buterin defendeu modelos abertos operando em hardware de consumo como uma medida de proteção contra um futuro potencial dominado por algumas grandes corporações que controlam e interpretam a maioria dos pensamentos humanos.
"Esses modelos também são muito mais baixos em termos de risco de destruição do que a megalomania corporativa e os militares."
Esta observação marca sua segunda na semana passada sobre a evolução da IA e suas capacidades.
Em 16 de maio, Buterin sugeriu que o modelo GPT-4 da OpenAI havia alcançado o teste de Turing, com base em novos estudos que mostram que a maioria das pessoas não consegue discernir que está interagindo com uma máquina.
Buterin não está sozinho em sua apreensão. O governo do Reino Unido também assumiu uma posição crítica sobre a crescente influência da Big Tech na IA, enfatizando as preocupações com o domínio do mercado e a concorrência.
No meio desses desenvolvimentos, grupos como 6079 estão surgindo online, pressionando por uma abordagem descentralizada da IA para manter um controle mais democrático, longe das garras da Big Tech.
Este comentário segue outra saída significativa da liderança da OpenAI, já que o cofundador e cientista-chefe Ilya Sutskever renunciou em 14 de maio.
Embora Sutskever não tenha expressado preocupações específicas sobre a AGI em sua renúncia, ele permaneceu otimista em um post no X sobre o futuro da OpenAI, acreditando que desenvolveria uma AGI que é "segura e benéfica"."
Fontes:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
