*Encaminhamento do título original ‘“Só apoio se for open source” deveria ser uma perspetiva mais frequente’

Uma preocupação recorrente em torno de determinadas tecnologias radicais é a potencial ampliação das desigualdades de poder, dado que, inevitavelmente, só estarão acessíveis aos mais ricos e poderosos.

Eis uma citação de alguém inquieto com as consequências do prolongamento da vida:

“Vamos deixar algumas pessoas para trás? Iremos tornar a sociedade ainda mais desigual do que já é?” Perguntou. Tuljapurkar antevê que o aumento da longevidade ficará restrito aos países desenvolvidos, onde os cidadãos podem suportar os custos das tecnologias antienvelhecimento e os governos investem em investigação científica. Esta disparidade agrava o debate atual sobre o acesso à saúde, já que os ricos se distanciam cada vez mais dos pobres, não só na qualidade como na duração de vida.

“As grandes farmacêuticas têm um historial bem conhecido de dificultar o acesso dos menos favorecidos,” acrescentou.

Se as tecnologias antienvelhecimento forem distribuídas num mercado livre e sem supervisão, “é muito provável que se criem classes inferiores globais permanentes, países presos às atuais condições de mortalidade”, afirmou Tuljapurkar… “Se isso acontecer, instala-se um ciclo vicioso. Países excluídos permanecerão nessa condição.”

Veja-se também estas considerações incisivas num artigo sobre as consequências do melhoramento genético humano:

No início do mês, cientistas anunciaram que editaram genes num embrião humano para eliminar uma mutação causadora de doença. O resultado foi notável e realizado em resposta aos desejos de muitos pais. Quem não gostaria de evitar sofrimentos desnecessários aos filhos?

No entanto, não ficaria por aí. Muitos procurariam proporcionar aos seus filhos as maiores vantagens através do melhoramento genético. Os que dispõem de recursos poderiam aceder a essas soluções. Esta capacidade levanta questões éticas que vão além dos riscos inerentes às técnicas. Os custos elevados destas intervenções provocarão escassez e agravarão a desigualdade de rendimento, que continua a crescer.

Há visões semelhantes noutros setores tecnológicos:

• Tecnologia digital em geral: https://www.amnestyusa.org/issues/technology/technology-and-inequality/
• Exploração espacial: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html

• Geoengenharia solar: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

  Este tema surge em várias críticas a novas tecnologias. Um tópico parcialmente relacionado, mas distinto, é o dos produtos tecnológicos servirem para recolha de dados, dependência do fornecedor, efeitos secundários ocultados (por exemplo, algumas vacinas modernas têm sido criticadas nesse sentido) e outras formas de abuso. As tecnologias recentes tendem a criar mais oportunidades para disponibilizar um produto sem garantir os direitos totais sobre ele ou todo o conhecimento relevante, pelo que, também por este prisma, as tecnologias mais antigas aparentam ser mais seguras. Trata-se igualmente de reforço do poder de alguns através da tecnologia, mas aqui está em causa o poder do fabricante sobre o utilizador, enquanto nos exemplos anteriores se discutia a assimetria de acesso.

  Pessoalmente, sou profundamente favorável à tecnologia e, perante uma escolha binária entre “avançar” e “manter como está”, optaria sem hesitação pelo avanço, salvo raríssimas exceções (por exemplo, investigação de ganho de função, armamento e IA superinteligente), mesmo face aos riscos. Isto porque, de forma geral, os benefícios – vidas muito mais longas e saudáveis, sociedades mais prósperas, a preservação da utilidade humana numa era de IA acelerada, continuidade cultural graças à sobrevivência das gerações mais velhas – superam amplamente os perigos potenciais (que são frequentemente sobrestimados).

  No entanto, colocando-me na posição de quem é menos otimista quanto aos benefícios ou receia que os poderosos recorram à tecnologia para perpetuar a sua influência económica e controlar, ou até ambas as preocupações, identifico riscos concretos. Por exemplo, já tenho reservas sérias face à tecnologia “smart home”: o privilégio de “falar” com a lâmpada não compensa a possibilidade de a minha vida privada ser transmitida para empresas como Google ou Apple. Com uma perspetiva mais pessimista, consigo reconhecer o mesmo tipo de receios em relação a algumas tecnologias dos media: se elas permitem que pessoas ou entidades poderosas disseminem mensagens mais eficazmente do que os demais, acabam por exercer controlo e neutralizar outras vozes e, em muitos casos, os ganhos informativos ou recreativos não compensam a redistribuição de poder.

Open source como terceira via

Há uma posição que considero subestimada nestas circunstâncias: só apoiar o desenvolvimento tecnológico se este for open source.

Argumenta-se que o open source acelera o progresso ao facilitar que se construa sobre o trabalho inovador dos outros. Porém, também é legítimo sustentar que a exigência de open source abranda o progresso, pois restringe o uso de estratégias relevantes para a rentabilização de projetos. Contudo, os efeitos mais relevantes do open source situam-se fora do eixo “progresso mais rápido ou mais lento”:

• O open source promove a igualdade de acesso: numa solução open source, qualquer pessoa, em qualquer país, pode beneficiar dela. Em bens e serviços físicos, há sempre custos marginais (por unidade), mas em muitos casos o preço dos produtos exclusivos é alto devido aos custos de engenharia não recorrentes (NRE), enquanto o custo marginal acaba por ser baixo (como acontece claramente no setor farmacêutico).
• O open source permite igualdade de acesso como produtor. Uma crítica à oferta gratuita de produtos finais (mesmo quando essenciais, como na saúde) é que não incentiva a aquisição de competências, experiência e acesso à prosperidade sustentável, que é o único garante real de uma vida de qualidade (ver, por exemplo, a posição de Magatte Wade sobre a ajuda a África). O open source é diferente: capacita qualquer pessoa, em qualquer parte do mundo, a ser produtora em todas as fases da cadeia de valor, não apenas consumidora.
• O open source aumenta a capacidade de verificação: um serviço ou produto open source (incluindo, idealmente, não só o resultado mas também o processo, parâmetros, etc.) é muito mais fácil de auditar e validar, permitindo também investigações independentes sobre potenciais riscos ocultos.

• O open source elimina o risco de dependência do fornecedor. Se um produto for open source, o fabricante não conseguirá torná-lo inutilizável remotamente, nem simplesmente ao declarar insolvência (veja-se o receio de paragem de veículos altamente digitalizados/conectados caso o fabricante encerre). O direito à reparação está sempre assegurado, seja pelo utilizador, seja por terceiros.

  Podemos observar este raciocínio nas tecnologias radicais já referidas:

• Se o prolongamento da vida humana for exclusivo, só multimilionários e dirigentes políticos poderiam tirar proveito disso (pessoalmente prevejo que os custos baixem rapidamente, mas compreendo o cepticismo contrário). Com open source, qualquer pessoa pode aceder-lhe e torná-lo disponível a preços acessíveis.

• Se o melhoramento genético humano for exclusivo, restringirá o acesso a multimilionários e líderes políticos, criando uma elite à parte. (Pessoalmente creio que esta tecnologia acabará por se difundir, mas haverá sempre uma diferença entre o topo e a média.) Em open source, a diferença entre aquilo a que os mais ligados e influentes acedem e o resto da população será bastante menor.
• No caso da biotecnologia em geral, um ecossistema de testes de segurança baseado em ciência aberta poderá ser mais transparente e eficaz do que uma empresa a garantir a segurança dos seus próprios produtos perante um regulador permissivo.
• Se apenas uma minoria conseguir chegar ao espaço, dependendo do contexto político, há o risco de alguém reivindicar para si um planeta ou satélite inteiro. A disseminação da tecnologia reduz essa possibilidade.

• Se o seu carro inteligente for open source, pode certificar-se de que o fabricante não o espia, nem depende dele para continuar a utilizar o automóvel.

  Podemos sintetizar este argumento num gráfico:

Note que a opção “só construir se for open source” é representada com uma área maior, ilustrando a maior incerteza sobre o impacto do open source e o grau de mitigação do risco de concentração de poder. Contudo, na generalidade dos cenários, é uma solução vantajosa.

Open source e risco de má utilização

Um dos principais contra-argumentos à abertura total de tecnologias poderosas prende-se com o risco de comportamentos de soma nula e formas descentralizadas de abuso. Se todos tivessem acesso a armas nucleares, tal eliminaria, de facto, a desigualdade existente nesta matéria (um problema real, já que vários Estados poderosos utilizam a assimetria nuclear para exercer pressão), mas quase certamente provocaria milhões de mortes. Para ilustrar consequências sociais negativas não intencionais, disponibilizar cirurgia plástica a todos poderia criar um ciclo competitivo de soma nula, em que se gastariam muitos recursos e se correriam riscos de saúde a fim de alcançar padrões de beleza cada vez mais altos, sem benefício real para a sociedade. Algumas biotecnologias poderão gerar efeitos semelhantes numa escala ainda maior. Muitas tecnologias (inclusive várias no campo da biotecnologia) situam-se entre estes dois extremos.

Este argumento leva a uma perspetiva oposta: “Só apoio se for cuidadosamente controlado por entidades de controlo credíveis”. Essas entidades poderiam permitir aplicações positivas excluindo ou limitando os riscos. Podiam até receber um mandato público para garantir o acesso não discriminatório a todos os que respeitem determinadas normas. Porém, sou profundamente cético quanto a esta abordagem. A principal razão é a dúvida de que, em especial no mundo contemporâneo, tais entidades de confiança realmente existam. Muitos dos usos mais perigosos e de soma nula são de natureza militar, e as forças armadas têm um histórico fraco de auto-contenção.

O programa soviético de armas biológicas é exemplo disso:

Apesar da contenção demonstrada em relação à SDI e às armas nucleares, as decisões de Gorbachev sobre o programa clandestino soviético de armas biológicas são enigmáticas, comentou Hoffman.

Ao chegar ao poder em 1985, a União Soviética mantinha um vasto programa biológico militar iniciado por Brejnev, embora tivesse subscrito a Convenção de Armas Biológicas. A par do antraz, investigavam-se também a varíola, a peste e a tularemia, cujos objetivos e alvos não são claros.

“Os documentos de Kateyev mostram várias resoluções do Comité Central sobre o programa biológico emitidas entre meados e finais dos anos 80. É difícil acreditar que todas fossem assinadas sem o conhecimento de Gorbachev”, declarou Hoffman.

“Há até um memorando de maio de 1990 dirigido a Gorbachev sobre o programa de armas biológicas – um documento que, ainda assim, ocultava muita informação. Os soviéticos enganaram o mundo e também os próprios líderes.”

Veja-se ainda esta análise, que sugere que este programa possa ter sido disponibilizado a outros países após a queda da União Soviética (!!).

Outros países também possuem graves episódios por explicar. Não carece detalhar todo o conhecimento recentemente revelado sobre a participação de vários Estados em investigação de ganho de função e os riscos daí trazidos (este livro é particularmente informativo). No domínio do software digital (por exemplo, financeiro), a história da interdependência instrumentalizada mostra como medidas de prevenção de abuso rapidamente se tornam instrumentos de poder unilateral pelo operador.

Esta é outra limitação das entidades de controlo: na maioria dos casos, serão controladas por governos nacionais e os seus sistemas políticos podem garantir maior igualdade de acesso internamente, mas não há uma entidade com mandato para promover igualdade entre países.

Para clarificar, isto não significa dizer “as entidades de controlo são más, logo vale tudo” (pelo menos, não nas questões de investigação de ganho de função). O que quero salientar são dois pontos:

• Se algo apresenta riscos significativos de “abuso generalizado”, ao ponto de só considerar aceitável a sua implementação com entidades de controlo centralizadas, talvez a solução seja simplesmente não o implementar (investindo noutras tecnologias com melhor perfil de risco).
• Se algo comporta riscos de “relações de poder” tão graves que recusa a sua concretização, então talvez a solução seja permitir, mas em open source, para que todos possam aceder, compreender e participar de forma justa.

Importa ainda sublinhar que “open source” não significa liberalização total. Por exemplo, defendo um modelo open source e ciência aberta para a geoengenharia. Mas isto não quer dizer que qualquer pessoa possa desviar rios ou introduzir o que quiser na atmosfera – a legislação e a diplomacia internacional existem e a execução destas ações é facilmente identificável, facilitando a aplicação dos acordos. O valor da abertura reside em: (i) promover a democratização (possibilitando o acesso a muitos países, e não apenas um) e (ii) aumentar a transparência, permitindo que todos possam formar opiniões informadas sobre a eficácia e segurança das ações em causa.

Considero, em última análise, que o open source constitui o ponto focal mais robusto para desenvolvimento tecnológico com menor risco de concentração assimétrica de riqueza, poder e informação. Pode-se tentar criar instituições mais refinadas para separar bons e maus usos da tecnologia, mas, no contexto atual, a solução mais resiliente é garantir processos abertos, auditáveis e participados por todos.

Em muitos casos, estas considerações são menos relevantes do que o valor extremo da aceleração tecnológica (ou, noutros casos, a necessidade de abrandar até que se desenvolvam alternativas ou salvaguardas). No entanto, como via intermédia, ao privilegiar não o ritmo mas o modelo de progresso — utilizando open source como instrumento de transparência —, esta abordagem revela-se particularmente promissora.

Aviso Legal:

1. Este artigo foi republicado a partir de [vitalik]. Todos os direitos pertencem ao autor original [vitalik]. Em caso de objeção a esta republicação, contacte a equipa Gate Learn, que tratará do assunto com celeridade.
2. Exoneração de Responsabilidade: As opiniões expressas neste artigo pertencem exclusivamente ao autor e não constituem aconselhamento de investimento.
3. As traduções são realizadas pela equipa Gate Learn. Salvo indicação expressa, é proibida a cópia, distribuição ou plágio das versões traduzidas.