Em breve, estaremos vivendo na era da inteligência. O que você fizer com essa informação determinará seu lugar na história.
A chegada iminente da Inteligência Artificial Geral levou muitos a tentar tomar as alavancas do poder o mais rápido possível, investindo em projetos que, se bem-sucedidos, automatizarão completamente todo o trabalho. Há uma corrida armamentista de trilhões de dólares para ver quem consegue alcançar tal capacidade primeiro, com trilhões a mais em ganhos a serem conquistados.
Sim, isso significa que você perderá seu emprego. Mas vai além: isso eliminará a necessidade de pessoas comuns em nossa economia. Atores poderosos - como Estados e empresas - não têm mais incentivo para se importar com pessoas comuns. Chamamos isso de a maldição da inteligência.
Se não fizermos nada, a maldição da inteligência funcionará assim:
IAs poderosas impulsionarão a automação nas organizações existentes, começando de baixo para cima.
A IA tornará obsoletos até mesmo os talentos humanos mais excepcionais. A mobilidade social cessará, encerrando o dinamismo social e o progresso que ela impulsiona.
Fatores não humanos de produção, como capital, recursos e controle sobre a IA se tornarão esmagadoramente mais importantes que os humanos.
Isso gerará incentivos para atores poderosos em todo o mundo que estejam dispostos a romper com o contrato social moderno.
Isso poderá resultar no desempoderamento gradual - ou repentino - da vasta maioria da humanidade.
Mas essa profecia ainda não se cumpriu; rejeitamos a visão de que esse caminho seja inevitável. Vemos um futuro diferente no horizonte, porém isso exigirá um esforço deliberado e coordenado para que seja alcançado.
Nosso objetivo é mudar os incentivos que impulsionam a maldição da inteligência, mantendo a relevância econômica humana e fortalecendo nossas instituições democráticas para resistir ao que provavelmente será a maior ruptura social da história.
Para quebrar a maldição da inteligência, devemos traçar um caminho diferente na árvore tecnológica, construindo tecnologias que nos permitam:
Evitar catástrofes provindas da IA, protegendo o mundo contra elas, tanto porque isso é bom em si mesmo, quanto porque remove ameaças à segurança que impulsionam os apelos por centralização.
Difundir a IA, para colocá-la nas mãos de pessoas comuns. No curto prazo, desenvolver IAs que ampliem as capacidades humanas. No longo prazo, alinhar a IA diretamente aos usuários individuais e dar a todos o controle da economia da IA.
Democratizar as instituições, tornando-as mais ancoradas nas necessidades humanas, mesmo que sejam afetadas pelas mudanças no cenário de incentivos e pelos eventos rápidos da transição da IAG.
Nesta série de ensaios, examinamos a crise iminente da irrelevâcia humana e fornecemos um mapa para um futuro em que as pessoas continuam sendo donas de seu destino.
Em breve, estaremos vivendo na era da inteligência. O que você fizer com essa informação determinará seu lugar na história.
Uma IA cada vez mais poderosa irá desencadear a substituição da pirâmide: um esvaziamento sistemático das estruturas corporativas que começa com o congelamento das contratações de nível básico e avança para cima por meio de ondas de demissões.
A IA tornará os fatores de produção não humanos mais importantes que os humanos. O resultado pode ser um futuro em que as estruturas de poder atuais se tornarão permanentes e engessadas, sem caminhos restantes para mobilidade social ou progresso.
Com a IAG, atores poderosos perderão o incentivo para investir em pessoas comuns - assim como os Estados ricos em recursos hoje negligenciam seus cidadãos porque sua riqueza provém de recursos naturais em vez da tributação do trabalho humano. Essa é a maldição da inteligência.
A maldição da inteligência quebrará as bases do contrato social. Embora isso sugira um futuro sombrio, entender como os incentivos econômicos remodelam as sociedades aponta para uma solução: podemos desenvolver deliberadamente tecnologias que mantenham os humanos relevantes.
Evitar catástrofes de IA com tecnologia para segurança e fortalecimento sem que se exija controle centralizado. Difundir uma IA que aprimore os humanos de forma diferenciada, em vez de automatizá-los, e descentralizar o poder. Democratizar instituições, aproximando-as das pessoas comuns à medida que a IA se torna mais poderosa.
Você tem um roteiro para quebrar a maldição da inteligência. O que fará com ele?
Agradecemos a David Duvenaud, Tom Everitt, Nitarshan Rajkumar, Anton Leicht, Herbie Bradley, Bilal Chughtai, Liam Patell, Henry Sleight, Max Kaufmann, Nathan Darmon, Lara Thurnherr, Stephen Clare, Edward Kembery, Connor A. Stewart Hunter, Dhruv Sumathi, Oscar Moxon, Tom Reed, Alejandro Ortega, Cristian Trout, Clay Wren, Aviel Parrack, Lysander Mawby, Jacob Pfau, James Campbell, Joseph Miller, Shannon Yang, Jasmin Kaur, Sam Cherry, Luca Gandrud, Riya Kataria, Li-Lian Ang, e Nicholas Osakam pela revisão dos primeiros rascunhos dos ensaios desta série.
Agradecemos a Duncan McClements, Deric Cheng, Sam Manning, Josh Priest, e Caleb Peppiatt pela revisão de partes do trabalho sobre economia e economia política.
Agradecemos a Brendan McCord, Richard Ngo, Iason Gabriel, e Joe Pollard pelas conversas que embasaram as seções de teoria política, contrato social e instituições.
Agradecemos a Séb Krier e Jamie Bernardi pelas convsersas que embasaram as seções de soluções tecnológicas.
Agradecemos a Mahmoud Ghanem e Jack Miller pelas conversas que embasaram nossas reflexões sobre cibersegurança.
Agradecemos a Andrew Synder-Beattie pelas conversas que informaram nossa agenda de biossegurança.
Agradecimentos especiais à Nomads & Vagabonds pela arte personalizada usada neste site.
Este texto é uma tradução livre, e possui algumas alterações por parte do tradutor para fins de melhor entendimento em razão do contexto local.
O texto original pode ser encontrado aqui: