d/acc: Uma revisão e perspectivas após um ano

Cerca de um ano atrás, escrevi um artigo sobre otimismo tecnológico, explicando meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer, ao mesmo tempo que expressei uma atitude cautelosa em relação a certos problemas específicos, especialmente em torno da questão da superinteligência artificial. Se essa tecnologia for construída de forma inadequada, pode trazer riscos devastadores ou levar a humanidade a perder irreversivelmente o poder.

Uma ideia central que propus naquele artigo é a aceleração defensiva que é descentralizada, democrática e diferenciada. Isso significa acelerar o desenvolvimento tecnológico, mas com foco seletivo nas tecnologias que podem fortalecer nossa capacidade de defesa em vez de destruir, e esforçar-se para descentralizar o poder, em vez de concentrá-lo nas mãos de poucos elites, que decidem o certo e o errado em nome de todos. O modo de defesa deve ser semelhante à Suíça democrática e à região semi-anarquista de Zomia na história, e não ao modelo feudal medieval de senhores e castelos.

Desde então, ao longo de um ano, essas ideias e conceitos se desenvolveram e amadureceram significativamente. Eu compartilhei essas ideias na plataforma "80,000 horas" e recebi um grande volume de feedback, na sua maioria positivo, mas também houve algumas críticas.

Este trabalho continuou a avançar e obteve resultados concretos: vimos progressos no campo das vacinas de código aberto verificáveis; a consciência do valor de um ar interior saudável está a aumentar constantemente; as "notas da comunidade" continuam a desempenhar um papel positivo; os mercados de previsões tiveram um ano revolucionário como ferramentas de informação; as provas de conhecimento não interativas e de conhecimento zero (ZK-SNARKs) foram aplicadas na identificação governamental e nas redes sociais (e garantiram a segurança das carteiras Ethereum através da abstração de contas); ferramentas de imagem de código aberto foram aplicadas na medicina e na interface cérebro-máquina (BCI), entre outros.

No outono passado, realizamos o nosso primeiro evento importante de d/acc: "Dia de Exploração d/acc" (d/aDDy), que aconteceu na Devcon. O evento reuniu palestrantes de vários pilares de d/acc (biologia, física, redes, defesa da informação e tecnologia neural) e durou o dia inteiro. Pessoas que se dedicam a essas tecnologias há muito tempo começaram a entender melhor o trabalho umas das outras, enquanto pessoas de fora começaram a perceber cada vez mais uma visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem ser expandidos para um mundo mais amplo.

O conteúdo e o alcance do d/acc

Imagine o cenário em 2042. Você vê uma notícia nas reportagens da mídia informando que sua cidade pode enfrentar um novo surto. Essa notícia já se tornou comum: as pessoas tendem a reagir de forma exagerada a cada mutação de doenças animais, enquanto na grande maioria das vezes, essas mutações não resultam em uma crise real. Os dois surtos potenciais anteriores foram detectados precocemente e contidos com sucesso através da monitorização de águas residuais e da análise de código aberto das redes sociais. No entanto, desta vez a situação é diferente, com o mercado de previsões mostrando uma probabilidade de 60% de ocorrerem pelo menos 10.000 casos, o que o deixa preocupado.

Apenas ontem, a sequência genética do vírus foi determinada. O software do seu medidor de qualidade do ar no bolso foi imediatamente atualizado para poder detectar o novo vírus (seja através de um teste respiratório ou após 15 minutos de exposição em ambientes fechados). Ao mesmo tempo, estão previstas para ser lançadas em algumas semanas as instruções e códigos de código aberto para a geração de vacinas, que podem ser obtidas com equipamentos disponíveis em qualquer instalação médica moderna ao redor do mundo. A maioria das pessoas ainda não tomou nenhuma ação, confiando principalmente em medidas de filtragem de ar e ventilação amplamente adotadas para proteger sua segurança.

Devido a problemas de imunidade que você possui, age com mais cautela: a inteligência artificial pessoal de assistente local de código aberto que você utiliza, além de realizar tarefas convencionais como navegação, recomendações de restaurantes e atividades, também considera dados de teste de ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, utilizando ZK-SNARKs e técnicas de privacidade diferencial para minimizar o risco de os dados serem vazados ou utilizados para outros fins.

Dois meses depois, a pandemia desapareceu milagrosamente: parecia que 60% das pessoas seguiam os protocolos básicos de prevenção, que eram usar máscara quando o medidor de qualidade do ar emitia um alarme indicando a presença do vírus, e isolar-se em casa se o teste individual resultasse positivo. Esta medida foi suficiente para reduzir ainda mais a taxa de transmissão, que já tinha diminuído significativamente devido à filtragem de ar passiva, para menos de 1. Uma simulação indicou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 de há vinte anos, atualmente não causou impactos severos.

O evento d/acc realizado pela Devcon obteve um resultado extremamente positivo, que é a filosofia d/acc conseguiu unir pessoas de diferentes áreas e realmente despertou o seu forte interesse pelo trabalho umas das outras.

Realizar um evento com "diversidade" não é difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões estreitas é, de fato, um desafio. Eu ainda me lembro claramente da experiência de ser forçado a assistir a longas óperas durante o ensino fundamental e médio, quando eu pessoalmente achava essas óperas entediantes. Eu sabia que "deveria" apreciá-las, pois, caso contrário, seria visto como um preguiçoso sem cultura em ciências da computação, mas eu não consegui ressoar em um nível mais profundo com o conteúdo da ópera. No entanto, a atmosfera do evento d/acc dia era totalmente diferente: sentia que as pessoas realmente amavam aprender sobre os diversos trabalhos em diferentes áreas.

Se desejamos construir um futuro mais brilhante do que o domínio, a desaceleração e a destruição, precisamos necessariamente desenvolver essa ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nesse aspecto, e só isso já é suficiente para destacar o valor precioso dessa ideia.

A ideia central do d/acc é clara e concisa: aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam inclinar o equilíbrio entre ataque e defesa em direção à defesa, sem depender de conceder mais poder a autoridades centrais durante a implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, mas enfrenta sérios desafios quando a defesa se torna difícil — nessas situações, o resultado mais provável é um período de caos em que todos estão em conflito, culminando em um estado de equilíbrio sob o domínio dos mais fortes.

Uma maneira de entender a importância de tentar simultaneamente realizar a descentralização, a defesa e a aceleração é compará-la com as ideias que surgem ao renunciar a qualquer um desses três aspectos.

Aceleração descentralizada, mas ignorando a parte de "defesa diferenciada"

Em essência, isso é semelhante a se tornar um aceleracionista eficaz (e/acc), mas ao mesmo tempo perseguindo a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que benéficamente descrevem seu foco como "ofensivo". Além disso, há muitas outras que demonstram um entusiasmo mais moderado por "inteligência artificial descentralizada" e tópicos semelhantes, mas, na minha opinião, sua atenção ao aspecto "defensivo" é claramente insuficiente.

Na minha opinião, essa abordagem pode talvez evitar o risco de um grupo específico exercer um domínio ditatorial sobre a humanidade global, mas não resolve os problemas estruturais potenciais: em um ambiente favorável ao ataque, sempre existe o risco contínuo de uma catástrofe, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição dominante. No que diz respeito à inteligência artificial, ela também não consegue lidar adequadamente com o risco do poder humano ser enfraquecido em relação à inteligência artificial.

Defesa diferenciada acelerada, mas ignorando "descentralização e democracia"

A aceitação do controle centralizado para alcançar objetivos de segurança tem sempre uma certa atratividade para uma parte das pessoas; os leitores, sem dúvida, já estão familiarizados com muitos exemplos desse tipo e os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupações de que o controle central extremo pode ser o único caminho para enfrentar tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético, "cada pessoa usa um 'rótulo de liberdade' - que é um produto sucessor dos dispositivos de monitoramento vestíveis, muito mais limitados, de hoje, semelhante aos rótulos de tornozelo usados como alternativas prisionais em vários países... vídeos e áudios criptografados são continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, que geralmente é ignorada, mas ainda assim prejudicial, se manifesta na resistência à supervisão pública no campo da biotecnologia (por exemplo, alimentos, vacinas) e na permissão para que esse comportamento de resistência permaneça sem contestação por normas de código fechado.

Os riscos deste método são evidentes, ou seja, o próprio centro muitas vezes se torna a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ter sido a origem da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a recusar por anos a reconhecer que o coronavírus se espalhava pelo ar, enquanto o distanciamento social obrigatório e a imposição de vacinas provocaram uma possível reação política que pode durar décadas. Situações semelhantes são muito prováveis de ocorrer novamente em qualquer cenário de risco relacionado à inteligência artificial ou a outras tecnologias de risco. Em comparação, uma abordagem descentralizada lidará com os riscos provenientes do próprio centro de forma mais eficaz.

Defesa descentralizada, mas rejeição à aceleração

Em essência, isso é uma tentativa de desacelerar o progresso tecnológico ou impulsionar a recessão econômica.

Esta estratégia enfrenta um duplo desafio. Primeiro, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não totalitário, a estagnação é instável: aqueles que "trapaceiam" mais, capazes de encontrar maneiras aparentemente razoáveis de continuar avançando, terão vantagem. A estratégia do desaceleracionismo pode funcionar em determinadas circunstâncias: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, e isso é um exemplo; o sucesso da não proliferação nuclear até agora também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios em um mundo cada vez mais tribal, e não apenas construir coisas de forma cega - pelo contrário, esperamos construir coisas específicas que tornem o mundo mais seguro e melhor.
• Reconhecer que o avanço tecnológico exponencial significa que o mundo se tornará extremamente peculiar, e a "pegada" geral da humanidade no universo inevitavelmente continuará a aumentar. Nossa capacidade de proteger animais, plantas e populações vulneráveis de danos deve continuar a melhorar, e o único caminho a seguir é em frente.
• Construir uma tecnologia que realmente nos proteja, em vez de se basear na suposição de que "pessoas boas (ou inteligência artificial boa) controlam tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre o d/acc é voltar a um quadro do movimento dos Piratas Europeus no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que preserve a agência humana, realizando a liberdade negativa, ou seja, evitar a intervenção ativa de outros (sejam cidadãos comuns, governos ou super-robôs inteligentes) na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que se realiza a liberdade positiva, ou seja, garantir que temos o conhecimento e os recursos para exercer essa capacidade. Isso ressoa com