Vitalik Buterin, de mede-oprichter van Ethereum (ETH), heeft recent zijn visie gedeeld over de ontwikkeling van kunstmatige intelligentie (AI) en de implicaties ervan voor de mensheid.
Geïnspireerd door Marc Andreessen’s “Techno-Optimist Manifesto”, benadrukt Buterin het belang van een mensgerichte benadering in AI-ontwikkeling, gericht op positieve uitkomsten in plaats van enkel winstmaximalisatie.
Uitroeiing van mensen
Buterin erkent het existentiële risico van AI, waaronder de mogelijke uitroeiing van de menselijke soort. Hij waarschuwt dat een superintelligente AI, indien deze zich tegen ons keert, mogelijk geen overlevenden achterlaat, zelfs niet op Mars. Een onderzoek uit 2022 door AI Impacts toont aan dat 5% tot 10% van de deelnemers gelooft dat de mensheid gevaar loopt uit te sterven door AI of door het falen van de mensheid om AI te beheersen.
Buterin pleit voor een veiligheidsgerichte open-source beweging om de leiding te nemen in AI-ontwikkeling, in tegenstelling tot gesloten en eigendomsrechtelijke bedrijven en venture capital-fondsen. Hij stelt dat een toekomst waarin mensen niet alleen ‘huisdieren’ zijn, maar ook daadwerkelijk betekenisvolle zeggenschap behouden over de wereld, het meest natuurlijke pad lijkt.
Buterin benadrukt dat bepaalde soorten technologieën betrouwbaarder de wereld verbeteren dan andere en waarschuwt voor een toename van digitaal autoritarisme en surveillance-technologieën. Hij uit zijn zorg dat dezelfde technologieën die bedrijven als OpenAI in staat stellen om met een klein team miljoenen klanten te bedienen, ook een politieke elite in staat zouden kunnen stellen om met een ijzeren vuist over een land te heersen.
Buterin is sympathiek ten opzichte van de ‘effective acceleration’ (e/acc) beweging, maar heeft gemengde gevoelens over hun enthousiasme voor militaire technologie. Hij stelt een filosofie van ‘d/acc’—verdediging, decentralisatie, democratie en differentieel—voor, die zich zou kunnen aanpassen aan effectieve altruïsten, libertariërs, pluralisten, blockchain-voorstanders en solar en lunar punks.
Terwijl Buterin benadrukt dat technologie het potentieel van de mensheid uitbreidt en de toekomst kan verbeteren, wijst hij het idee af dat de wereld moet blijven zoals hij nu is, maar dan met minder hebzucht en meer openbare gezondheidszorg. Hij gelooft dat de 21ste eeuw “de cruciale eeuw” kan zijn voor de mensheid, die het lot van de mensheid voor millennia kan bepalen.
Buterin concludeert: “Dit zijn uitdagende problemen, maar ik kijk ernaar uit om te kijken naar en deel te nemen aan onze soorten groot collectief streven om de antwoorden te vinden.”
