Ethereum Kurucu Ortağı "Süper Zeki" Yapay Zeka Risklerini Vurguluyor
21 May, 2024 ● Kripto insanlar
Ethereum kurucu ortağı Vitalik Buterin, OpenAI'deki son liderlik değişikliklerinin ortasında "riskli" olarak nitelendirdiği "süper akıllı" yapay zeka hakkındaki endişelerini dile getirdi.
Cointelegraph, 19 Mayıs'ta OpenAI'nin eski uyum başkanı Jan Leike'nin, şirketin odak noktası konusunda yönetimle varılan "kırılma noktası" nedeniyle istifa ettiğini bildirdi.
Leike, OpenAI'nin "güvenlik kültürü ve süreçleri" yerine "parlak ürünlere" öncelik verdiğini ve özellikle yapay genel zekanın (AGI) geliştirilmesine vurgu yaptığını iddia etti. İnsanların bilişsel yetenekleriyle eşleşmesi veya onları aşması beklenen AGI, dünyanın bu tür gelişmiş yapay zeka sistemleriyle başa çıkmak için hazırlıksız olduğuna inanan endüstri uzmanları arasında şimdiden alarm vermeye başladı.
Bu endişeler Buterin'in bakış açısıyla yankılanıyor gibi görünüyor. X'te yakın zamanda yayınlanan bir yazıda, bu alanda aceleyle ilerlemeye karşı uyarıda bulundu ve temkinli olanlara karşı geri adım atılmasını eleştirdi.
Buterin, insan düşüncelerinin çoğunu kontrol eden ve yorumlayan birkaç büyük şirketin hakim olduğu potansiyel bir geleceğe karşı koruyucu bir önlem olarak tüketici donanımı üzerinde çalışan açık modelleri savundu.
"Bu tür modeller, kıyamet riski açısından hem kurumsal megalomaniden hem de ordulardan çok daha düşüktür."
Buterin'in bu sözleri, geçtiğimiz hafta içinde yapay zekanın evrimi ve yetenekleriyle ilgili olarak yaptığı ikinci açıklama oldu.
16 Mayıs'ta Buterin, OpenAI'nin GPT-4 modelinin, çoğu insanın bir makineyle etkileşime girdiğini fark edemediğini gösteren yeni araştırmalara dayanarak Turing testini başardığını öne sürdü.
Buterin endişesinde yalnız değil. Birleşik Krallık hükümeti de Big Tech'in YZ'deki artan etkisine karşı eleştirel bir duruş sergileyerek pazar hakimiyeti ve rekabet konusundaki endişelerini vurguladı.
Bu gelişmelerin ortasında, 6079 gibi gruplar çevrimiçi olarak ortaya çıkıyor ve Big Tech'in pençelerinden uzakta daha demokratik bir kontrol sağlamak için YZ'ye merkezi olmayan bir yaklaşım için baskı yapıyor.
Bu yorum, kurucu ortak ve baş bilim insanı Ilya Sutskever'in 14 Mayıs'ta istifa etmesiyle OpenAI'nin liderliğinden önemli bir çıkışın ardından geldi.
Sutskever istifasında AGI ile ilgili belirli endişelerini dile getirmese de, X'teki bir gönderide OpenAI'nin geleceği hakkında iyimserliğini korudu ve "güvenli ve faydalı" bir AGI geliştireceğine inandı."
Kaynaklar:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
