Ciência e Tecnologia

A inteligência artificial é o sonho de todo governo totalitário


A inteligência artificial é o sonho de todo governo totalitárioAs sociedades ocidentais individualistas são construídas sobre a ideia de que ninguém conhece nossos pensamentos, desejos ou alegrias melhor do que nós. E assim colocamos a nós mesmos, ao invés do governo, no comando de nossas vidas. Temos a tendência de concordar com a afirmação do filósofo Immanuel Kant de que ninguém tem o direito de nos impor sua ideia de uma vida boa.

A inteligência artificial (IA) vai mudar isso. Ela nos conhecerá melhor do que nós mesmos. Um governo armado com I.A. poderia alegar saber o que seu povo realmente deseja e o que realmente o fará feliz. Na melhor das hipóteses, ele usará isso para justificar o paternalismo; na pior, o totalitarismo.

Todo inferno começa com uma promessa do céu. O totalitarismo liderado pela IA não será diferente. A liberdade se tornará obediência ao estado. Somente o irracional, maldoso ou subversivo poderia desejar escolher seu próprio caminho.

Para evitar essa distopia, não devemos permitir que outras pessoas saibam mais sobre nós do que nós. Não podemos permitir uma lacuna de autoconhecimento.

A I.A. que tudo vê

Em 2019, o investidor bilionário Peter Thiel afirmou que a I.A. era “literalmente comunista”. Ele destacou que a I.A. permite que um poder centralizador monitore os cidadãos e saiba mais sobre eles do que eles próprios. A China, observou Thiel e abraçou avidamente a I.A.

Já conhecemos o potencial da I.A. para apoiar o totalitarismo, fornecendo um sistema orwelliano de vigilância e controle. Mas a I.A. também dá aos totalitários uma arma filosófica. Enquanto nos conhecêssemos melhor do que o governo, o liberalismo poderia manter os aspirantes a totalitários afastados.

Mas a I.A. mudou o jogo. Grandes empresas de tecnologia coletam grandes quantidades de dados sobre nosso comportamento. Os algoritmos de aprendizado de máquina usam esses dados para calcular não apenas o que faremos, mas quem somos.

Hoje, a I.A. pode prever de quais filmes gostaremos, quais notícias gostaríamos de ler e de quem gostaríamos de ser amigos no Facebook. Pode prever se os casais ficarão juntos e se tentaremos suicídio. A partir de nossas curtidas no Facebook, a I.A. pode prever nossas visões religiosas e políticas, personalidade, inteligência, uso de drogas e felicidade.

A precisão das previsões da I.A. só vai melhorar. Em um futuro não muito distante, como sugeriu o escritor Yuval Noah Harari, a I.A. pode nos dizer quem somos antes de sabermos.

Esses desenvolvimentos têm implicações políticas sísmicas. Se os governos podem nos conhecer melhor do que nós, uma nova justificativa se abre para intervir em nossas vidas. Eles usarão a tirania em nome do nosso próprio bem.

Liberdade através da tirania

O filósofo Isaiah Berlin previu isso em 1958. Ele identificou dois tipos de liberdade. Um tipo, ele advertiu, levaria à tirania.

Liberdade negativa é “liberdade de”. É liberdade da interferência de outras pessoas ou do governo em seus assuntos. Liberdade negativa é ninguém mais ser capaz de restringi-lo, desde que você não esteja violando os direitos de outra pessoa.

Em contraste, liberdade positiva é “liberdade para”. É a liberdade de ser senhor de si mesmo, liberdade para realizar seus verdadeiros desejos, liberdade para viver uma vida racional. Quem não iria querer isso?

Mas e se outra pessoa disser que você não está agindo no seu "verdadeiro interesse", embora eles saibam como você poderia. Se você não ouvir, eles podem forçá-lo a ser livre - coagindo-o para o seu “próprio bem”. Esta é uma das idéias mais perigosas já concebidas. Matou dezenas de milhões de pessoas na União Soviética de Stalin e na China de Mao.

O líder comunista russo, Lenin, teria dito que os capitalistas lhe venderiam a corda com a qual ele os enforcaria. Peter Thiel argumentou que, em I.A., empresas de tecnologia capitalistas do Vale do Silício venderam ao comunismo uma ferramenta que ameaça minar a sociedade capitalista democrática. I.A. é a corda de Lenin.

Lutando por nós mesmos

Só podemos prevenir essa distopia se ninguém tiver permissão para nos conhecer melhor do que nós mesmos. Nunca devemos sentimentalizar alguém que busca tal poder sobre nós como bem-intencionado. Historicamente, isso só terminou em calamidade.

Uma maneira de evitar uma lacuna de autoconhecimento é aumentar nossos escudos de privacidade. Thiel, que rotulou a I.A. de comunista, argumentou que “a criptografia é libertária”. As criptomoedas podem “habilitar a privacidade”. A privacidade reduz a capacidade de terceiros de nos conhecer e usar esse conhecimento para nos manipular em seu próprio benefício.

No entanto, conhecer-nos melhor por meio da I.A. oferece benefícios poderosos. Podemos usá-la para entender melhor o que nos fará felizes, saudáveis e ricos. Pode ajudar a orientar nossas escolhas de carreira. De forma mais geral, a I.A. promete criar o crescimento econômico que nos mantém longe da garganta uns dos outros.

O problema não é a I.A. melhorando nosso autoconhecimento. O problema é uma disparidade de poder no que se sabe sobre nós. O conhecimento sobre nós exclusivamente nas mãos de outra pessoa é o poder sobre nós. Mas o conhecimento sobre nós em nossas próprias mãos é poder para nós.

Qualquer pessoa que processe nossos dados para criar conhecimento sobre nós deve ser legalmente obrigado a nos devolver esse conhecimento. Precisamos atualizar a ideia de “nada sobre nós sem nós” para a era da I.A.

O que a I.A. nos diz sobre nós mesmos é para considerarmos o uso, não para que outros lucrem com o abuso. Deve haver apenas uma mão no leme de nossa alma. E deve ser nosso.

 

Fonte: The Conversation
Tradução: Édson de Oliveira

Para conquistar um mundo de covardes e pessoas que não gostam de pensar, basta remover a resistência.

Sobre  |  Siga no Facebook  |   Contato
© Atividade Oculta

Pesquisar