TECNOLOGIA

A singularidade pode redefinir o que significa ser humano e máquina

A singularidade pode redefinir o que significa ser humano e máquina


Desde que os computadores tomaram forma - primeiro enchendo salas, depois escrivaninhas e bolsos -, eles foram projetados por mentes humanas. Ao longo dos anos, muitas pessoas perguntaram: O que aconteceria se os computadores se projetassem?

Algum dia em breve, um computador inteligente pode criar uma máquina muito mais poderosa do que ele mesmo. Esse novo computador provavelmente tornaria outro ainda mais poderoso e assim por diante. A inteligência da máquina cavalgaria uma curva ascendente exponencial, atingindo alturas de cognição inconcebíveis para os humanos. Isso, em termos gerais, é a singularidade.

O termo data de mais de 50 anos, quando os cientistas estavam apenas começando a mexer no código binário e nos circuitos que tornavam a computação básica possível. Mesmo assim, a singularidade era uma proposição formidável. Os computadores superinteligentes podem saltar da nanotecnologia para a realidade virtual imersiva e para a viagem espacial superluminal.

Em vez de serem deixados para trás com nossos cérebros insignificantes baseados em células, os humanos podem se fundir com a IA, aumentando nossos cérebros com circuitos ou até mesmo carregando digitalmente nossas mentes para sobreviverem a nossos corpos. O resultado seria uma humanidade sobrecarregada, capaz de pensar na velocidade da luz e livre de preocupações biológicas.

O filósofo Nick Bostrom acredita que este mundo tranquilo poderia trazer uma nova era. “Pode ser que, neste mundo, sejamos todos mais como crianças em uma Disneylândia gigante - mantida não por humanos, mas por essas máquinas que criamos”, diz Bostrom, diretor do Instituto do Futuro da Humanidade da Universidade de Oxford e o autor de Superinteligência: caminhos, perigos, estratégias.

 

 

Dependendo de onde você está, isso pode soar como uma fantasia utópica ou um pesadelo distópico. Bostrom está bem ciente disso. Ele tem pensado sobre o surgimento da IA ​​superinteligente por décadas e está intimamente familiarizado com os riscos que tais criações envolvem. Existe o pesadelo clássico da ficção científica de uma revolução de robôs, é claro, onde as máquinas decidem que preferem estar no controle da Terra. Mas talvez o mais provável seja a possibilidade de que o código moral de uma IA superinteligente - seja ele qual for - simplesmente não se alinha com o nosso. Uma IA responsável por frotas de carros autônomos ou pela distribuição de suprimentos médicos pode causar estragos se deixar de valorizar a vida humana da mesma forma que nós.

O problema de alinhamento de IA, como é chamado, ganhou uma nova urgência nos últimos anos, devido em parte ao trabalho de futuristas como Bostrom. Se não podemos controlar uma IA superinteligente, nosso destino pode depender de se as futuras inteligências da máquina pensam como nós. Nesse sentido, Bostrom nos lembra que há esforços em andamento para “projetar a IA de forma que ela de fato escolha coisas que são benéficas para os humanos e escolha nos pedir esclarecimentos quando não houver certeza do que pretendemos. ”

Existem maneiras de ensinar a moralidade humana a uma superinteligência nascente. Algoritmos de aprendizado de máquina poderiam ser ensinados a reconhecer sistemas de valores humanos, da mesma forma que são treinados em bancos de dados de imagens e textos hoje. Ou, IA's diferentes podem debater entre si, supervisionados por um moderador humano, para construir melhores modelos de preferências humanas.

Mas a moralidade corta os dois lados.

Em breve poderá chegar o dia, diz Bostrom, em que precisaremos considerar não apenas como uma IA se sente a nosso respeito, mas simplesmente como ela se sente. “Se temos inteligências de máquina que se tornam mentes digitais artificiais”, continua ele, “então também se torna uma questão ética [de] como os afetamos”.

Nesta era de máquinas conscientes, os humanos podem ter apenas uma nova obrigação moral de tratar os seres digitais com respeito. Chame-a de Regra de Ouro do século 21.

 

Referência: Discover Magazine

LEIA TAMBÉM

PUBLICIDADE

Para conquistar um mundo de covardes e pessoas que não gostam de pensar, basta remover a resistência.

Siga no Facebook  |   Contato
© Atividade Oculta

Pesquisar