El cofundador de Ethereum subraya los riesgos de la IA "superinteligente
21 May, 2024 ● Gente cripto
El cofundador de Ethereum, Vitalik Buterin, ha expresado su preocupación por la inteligencia artificial "superinteligente", describiéndola como "arriesgada" en medio de los recientes cambios de liderazgo en OpenAI.
Cointelegraph informó el 19 de mayo de que el anterior jefe de alineación de OpenAI, Jan Leike, dimitió debido a un "punto de ruptura" alcanzado con la dirección sobre el enfoque de la empresa.
Leike afirmaba que OpenAI había dado prioridad a los "productos brillantes" frente a la "cultura y los procesos de seguridad", con especial énfasis en el desarrollo de la inteligencia general artificial (AGI). La AGI, que se espera que iguale o supere las capacidades cognitivas humanas, ya ha empezado a hacer saltar las alarmas entre los expertos del sector, que creen que el mundo no está preparado para manejar sistemas de IA tan avanzados.
Estas preocupaciones parecen coincidir con el punto de vista de Buterin. En un reciente post en X, advertía contra los avances apresurados en este campo y criticaba que se empujara hacia atrás a aquellos que se muestran cautelosos.
Buterin abogó por modelos abiertos que operen en hardware de consumo como medida de protección contra un futuro potencial dominado por unas pocas grandes corporaciones que controlen e interpreten la mayoría de los pensamientos humanos.
"Tales modelos son también mucho más bajos en términos de riesgo de fatalidad que tanto la megalomanía corporativa como los ejércitos."
Este comentario es el segundo que hace en la última semana en relación con la evolución de la IA y sus capacidades.
El 16 de mayo, Buterin sugirió que el modelo GPT-4 de OpenAI había superado la prueba de Turing, basándose en nuevos estudios que demuestran que la mayoría de las personas son incapaces de discernir que están interactuando con una máquina.
Buterin no es el único en su aprensión. El gobierno del Reino Unido también ha adoptado una postura crítica ante la creciente influencia de las grandes tecnológicas en la IA, haciendo hincapié en la preocupación por el dominio del mercado y la competencia.
En medio de estos acontecimientos, grupos como 6079 están surgiendo en línea, presionando por un enfoque descentralizado de la IA para mantener un control más democrático, lejos de las garras de las grandes tecnológicas.
Este comentario sigue a otra salida significativa de la dirección de OpenAI, ya que el cofundador y científico jefe Ilya Sutskever dimitió el 14 de mayo.
Aunque Sutskever no expresó preocupaciones específicas sobre la AGI en su dimisión, se mantuvo optimista en un post en X sobre el futuro de OpenAI, creyendo que desarrollaría una AGI que fuera "segura y beneficiosa"."
Fuentes:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
