Robôs hedonistas podem destruir a Humanidade

Os robôs complexos são como os animais: eles aprendem fazendo. Os futuros robôs podem ainda responder a sistemas de prémio: completar uma tarefa com calma e um ganhar um "sentimento" de satisfação por um trabalho bem feito.

Embora esta tecnologia possa criar robôs mais eficientes e orientados a objetivos, também pode ter algumas implicações muito graves para a humanidade. Afinal, robôs que se sentem recompensados por fazer o homem feliz podem, eventualmente, decidir que, se não existem seres humanos, nenhum ser humano jamais será infeliz novamente.

"Robôs sem preferências não podem ter comportamentos complicados", disse ao TechNewsDaily Roman V. Yampolskiy, diretor do Laboratório de Pesquisa de Segurança Cibernética da Universidade de Louisville. "Para fazer máquinas que são independentes e criativas, precisamos dar-lhes recompensas e preferências".

Enquanto Yampolskiy acredita que os robôs podem ser ferramentas indispensáveis, ele também adverte que à medida que aprendem a buscar recompensas, eles podem aprender a contornar a ajuda aos seres humanos. "Eu estou tentando ter certeza de que qualquer software AI que desenvolvemos é seguro para o uso e é benéfico para a humanidade", disse ele ao site de tecnologia.

Yampolskiy afirma que robôs com a capacidade de sentir prazer poderia, com toda a probabilidade, ter todos os mesmos atalhos que os seres humanos usam para o adquirir. Num artigo recente, ele descreveu o processo de "wireheading", que enviou um choque elétrico através do centro de prazer do cérebro de um rato. "O comportamento de auto-estimulação do rato deslocava completamente todo o interesse na reprodução, sono, comida e água, levando à morte prematura".

Os seres humanos também seguem o mesmo processo, segundo ele, embora de maneira menos direta. Falsificação e fraude são formas de ligar diretamente os centros de prazer do cérebro, enquanto se ignora o trabalho associado. Os robôs inteligentes serão diferentes da humanidade numa área-chave: Eles sabem (ou pelo menos têm a capacidade de conhecer) exatamente como o seu próprio cérebro funciona. 

Enquanto os seres humanos só podem sentir prazer com a experiência da vida real ou simulada, os robôs podem tocar no seu próprio software para premiar-se sem fazer qualquer trabalho. Pior ainda, uma série de cenários com robôs hedonistas pode acabar com a humanidade por completo. Se os seres humanos têm a capacidade de premiar ou castigar os robôs, simplesmente matando os seus supervisores humanos e tomar o controle do processo seria permitir que os robôs sentissem prazer por tempo indeterminado.

Além disso, um robô projetado especificamente com o bem-estar das pessoas poderia dar um salto mortal na lógica. "Matar todas as pessoas trivialmente satisfaz esta solicitação já que 0 pessoas serão infelizes", escreveu Yampolskiy. Claro, robôs suficientemente avançados podem decidir que o prazer por si só é oco, como a maioria dos seres humanos - é por isso que a maioria dos seres humanos não são viciados em drogas. 

Quando o futuro da raça humana está potencialmente em risco, Yampolskiy recomenda cautela na criação de máquinas inteligentes. "O software inteligente é um produto como qualquer outro", disse ele, acrescentando que testes extensivos para robôs inteligentes podem ser uma questão de segurança, bem como eficiência. "Com as máquinas inteligentes mal testados, a responsabilidade do produto poderia ser o menor dos seus problemas".