Ethereum-Mitbegründer betont "superintelligente" KI-Risiken
21 May, 2024 ● Krypto-Leute
Ethereum-Mitbegründer Vitalik Buterin hat sich besorgt über "superintelligente" künstliche Intelligenz geäußert und sie inmitten der jüngsten Führungswechsel bei OpenAI als "riskant" bezeichnet.
Cointelegraph berichtete am 19. Mai, dass der ehemalige Leiter der Ausrichtung von OpenAI, Jan Leike, aufgrund eines "Bruchpunkts" mit dem Management über den Fokus des Unternehmens zurückgetreten ist.
Leike behauptete, OpenAI habe "glänzenden Produkten" Vorrang vor "Sicherheitskultur und -prozessen" eingeräumt, mit besonderem Schwerpunkt auf der Entwicklung der allgemeinen künstlichen Intelligenz (AGI). AGI, von der erwartet wird, dass sie die kognitiven Fähigkeiten des Menschen erreicht oder sogar übertrifft, hat bei Branchenexperten bereits Alarm ausgelöst, die glauben, dass die Welt nicht darauf vorbereitet ist, mit solch fortschrittlichen KI-Systemen umzugehen.
Diese Bedenken scheinen sich mit Buterins Standpunkt zu decken. In einem kürzlich veröffentlichten Beitrag auf X warnte er vor übereilten Fortschritten in diesem Bereich und kritisierte, dass er sich gegen diejenigen wendet, die vorsichtig sind.
Buterin plädierte für offene Modelle, die auf Consumer-Hardware arbeiten, als Schutzmaßnahme gegen eine mögliche Zukunft, die von einigen wenigen großen Konzernen dominiert wird, die die meisten menschlichen Gedanken kontrollieren und interpretieren.
"Solche Modelle sind auch in Bezug auf das Untergangsrisiko viel geringer als der Größenwahn von Konzernen und Militärs."
Diese Bemerkung ist bereits die zweite in der vergangenen Woche, die sich auf die Entwicklung der KI und ihre Fähigkeiten bezieht.
Am 16. Mai hatte Buterin behauptet, dass das GPT-4-Modell von OpenAI den Turing-Test bestanden habe, und sich dabei auf neue Studien gestützt, die zeigen, dass die meisten Menschen nicht in der Lage sind, zu erkennen, dass sie mit einer Maschine interagieren.
Buterin ist mit seiner Befürchtung nicht allein. Auch die britische Regierung hat eine kritische Haltung gegenüber dem wachsenden Einfluss von Big Tech im Bereich der KI eingenommen und Bedenken hinsichtlich der Marktdominanz und des Wettbewerbs geäußert.
Inmitten dieser Entwicklungen tauchen im Internet Gruppen wie 6079 auf, die sich für einen dezentralen Ansatz bei der KI einsetzen, um eine demokratischere Kontrolle zu gewährleisten und sich dem Zugriff von Big Tech zu entziehen.
Dieser Kommentar folgt auf einen weiteren bedeutenden Abgang in der Führung von OpenAI, als der Mitbegründer und leitende Wissenschaftler Ilya Sutskever am 14. Mai zurücktrat.
Während Sutskever bei seinem Rücktritt keine spezifischen Sorgen über AGI äußerte, blieb er in einem Beitrag auf X optimistisch, was die Zukunft von OpenAI angeht, und glaubte, dass es eine AGI entwickeln würde, die "sicher und nützlich" ist."
Quellen:
https://cointelegraph.com/news/vitalik-buterin-warns-superintelligent-ai-risks-openai-turmoil
