Le cofondateur d'Ethereum souligne les risques de l'IA "superintelligente
21 May, 2024 ● Les gens du crypto
Le cofondateur d'Ethereum, Vitalik Buterin, a exprimé ses inquiétudes concernant l'intelligence artificielle "superintelligente", la décrivant comme "risquée" dans le cadre des récents changements de direction chez OpenAI.
Cointelegraph a rapporté le 19 mai que l'ancien responsable de l'alignement d'OpenAI, Jan Leike, avait démissionné en raison d'un "point de rupture" atteint avec la direction concernant l'orientation de l'entreprise.
Leike a affirmé qu'OpenAI avait donné la priorité aux "produits brillants" plutôt qu'à la "culture et aux processus de sécurité", en mettant particulièrement l'accent sur le développement de l'intelligence artificielle générale (AGI). L'AGI, qui devrait égaler ou dépasser les capacités cognitives humaines, a déjà commencé à alarmer les experts de l'industrie qui pensent que le monde n'est pas prêt à gérer des systèmes d'IA aussi avancés.
Ces préoccupations semblent résonner avec le point de vue de Buterin. Dans un récent billet sur X, il a mis en garde contre les avancées hâtives dans ce domaine et a critiqué le fait de s'opposer à ceux qui sont prudents.
Buterin plaide pour des modèles ouverts fonctionnant sur du matériel grand public comme mesure de protection contre un avenir potentiel dominé par quelques grandes entreprises contrôlant et interprétant la plupart des pensées humaines.
"De tels modèles sont également beaucoup moins dangereux en termes de risque de catastrophe que la mégalomanie des entreprises et les armées."Le 16 mai, Buterin a suggéré que le modèle GPT-4 d'OpenAI avait réussi le test de Turing, sur la base de nouvelles études montrant que la plupart des gens sont incapables de discerner qu'ils interagissent avec une machine.
Buterin n'est pas le seul à éprouver de l'appréhension. Le gouvernement britannique a également adopté une position critique à l'égard de l'influence croissante des Big Tech dans le domaine de l'IA, soulignant les inquiétudes concernant la domination du marché et la concurrence.
Au milieu de ces développements, des groupes comme 6079 font surface en ligne, poussant à une approche décentralisée de l'IA afin de maintenir un contrôle plus démocratique, loin des griffes des Big Tech.
Ce commentaire fait suite à une autre sortie importante de la direction d'OpenAI, puisque le cofondateur et scientifique en chef Ilya Sutskever a démissionné le 14 mai.
Alors que Sutskever n'a pas exprimé d'inquiétudes spécifiques au sujet de l'AGI dans sa démission, il est resté optimiste dans un post sur X au sujet de l'avenir d'OpenAI, croyant qu'il développerait une AGI qui est "sûre et bénéfique"."
Sources:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
