Ο συν-ιδρυτής του Ethereum τονίζει τους κινδύνους της "υπερ-ευφυούς" τεχνητής νοημοσύνης
21 May, 2024 ● Πρόσωπα του crypto κόσμου
Ο συνιδρυτής του Ethereum, Vitalik Buterin, εξέφρασε ανησυχίες σχετικά με την "υπερ-ευφυή" τεχνητή νοημοσύνη, χαρακτηρίζοντάς την "επικίνδυνη" εν μέσω των πρόσφατων αλλαγών στην ηγεσία της OpenAI.
Η Cointelegraph ανέφερε στις 19 Μαΐου ότι ο πρώην επικεφαλής της ευθυγράμμισης της OpenAI, Jan Leike, παραιτήθηκε λόγω του "σημείου ρήξης" που επιτεύχθηκε με τη διοίκηση σχετικά με την εστίαση της εταιρείας.
Ο Leike ισχυρίστηκε ότι η OpenAI είχε δώσει προτεραιότητα στα "λαμπερά προϊόντα" έναντι της "κουλτούρας ασφάλειας και των διαδικασιών", με ιδιαίτερη έμφαση στην ανάπτυξη της τεχνητής γενικής νοημοσύνης (AGI). Η AGI, που αναμένεται να φτάσει ή να ξεπεράσει τις ανθρώπινες γνωστικές ικανότητες, έχει ήδη αρχίσει να προκαλεί συναγερμό στους ειδικούς του κλάδου, οι οποίοι πιστεύουν ότι ο κόσμος δεν είναι προετοιμασμένος να χειριστεί τόσο προηγμένα συστήματα τεχνητής νοημοσύνης.
Αυτές οι ανησυχίες φαίνεται να βρίσκουν ανταπόκριση στην άποψη του Buterin. Σε πρόσφατη ανάρτησή του στο X, προειδοποίησε να μην προχωρήσουμε βιαστικά σε αυτόν τον τομέα και επέκρινε την απώθηση όσων είναι επιφυλακτικοί.
Ο Μπουτέριν τάχθηκε υπέρ των ανοικτών μοντέλων που λειτουργούν σε καταναλωτικό υλικό ως μέτρο προστασίας από ένα πιθανό μέλλον στο οποίο θα κυριαρχούν μερικές μεγάλες εταιρείες που θα ελέγχουν και θα ερμηνεύουν τις περισσότερες ανθρώπινες σκέψεις.
"Τέτοια μοντέλα είναι επίσης πολύ χαμηλότερα από άποψη κινδύνου καταστροφής από ό,τι τόσο η εταιρική μεγαλομανία όσο και οι στρατοί."
Αυτή η παρατήρηση σηματοδοτεί το δεύτερο σχόλιό του την τελευταία εβδομάδα σχετικά με την εξέλιξη της τεχνητής νοημοσύνης και τις δυνατότητές της.
Στις 16 Μαΐου, ο Buterin πρότεινε ότι το μοντέλο GPT-4 της OpenAI είχε επιτύχει το τεστ Turing, με βάση νέες μελέτες που δείχνουν ότι οι περισσότεροι άνθρωποι δεν είναι σε θέση να διακρίνουν ότι αλληλεπιδρούν με μια μηχανή.
Ο Buterin δεν είναι ο μόνος που ανησυχεί. Η κυβέρνηση του Ηνωμένου Βασιλείου έχει επίσης λάβει επικριτική στάση απέναντι στην αυξανόμενη επιρροή της Μεγάλης Τεχνολογίας στην τεχνητή νοημοσύνη, τονίζοντας τις ανησυχίες για την κυριαρχία στην αγορά και τον ανταγωνισμό.
Μέσα σε αυτές τις εξελίξεις, ομάδες όπως η 6079 εμφανίζονται στο διαδίκτυο, πιέζοντας για μια αποκεντρωμένη προσέγγιση της τεχνητής νοημοσύνης, ώστε να διατηρηθεί ένας πιο δημοκρατικός έλεγχος, μακριά από τις δαγκάνες της Μεγάλης Τεχνολογίας.
Αυτό το σχόλιο ακολουθεί μια άλλη σημαντική αποχώρηση από την ηγεσία του OpenAI, καθώς ο συνιδρυτής και επικεφαλής επιστήμονας Ilya Sutskever παραιτήθηκε στις 14 Μαΐου.
Ενώ ο Sutskever δεν εξέφρασε συγκεκριμένες ανησυχίες για την AGI στην παραίτησή του, παρέμεινε αισιόδοξος σε μια ανάρτηση στο X για το μέλλον του OpenAI, πιστεύοντας ότι θα αναπτύξει μια AGI που θα είναι "ασφαλής και ωφέλιμη."
Πηγές:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
