No início de julho, um robô matou um funcionário de uma fábrica da Volkswagen na Alemanha. A vítima, um homem de 22 anos, estava instalando uma máquina quando ela se aproximou e o esmagou contra uma placa de metal.

Sendo esta a primeira morte relacionada a robôs em ambiente de trabalho na Alemanha, o incidente levantou questões jurídicas novas sobre este tipo de tecnologia. Os promotores precisam decidir quem será processado, se é que alguém será.

Kate Darling, pesquisadora do Laboratório de Mídia do Instituto de Tecnologia de Massachusetts (MIT), acredita que este tipo de problema se tornará cada vez mais recorrente à medida que nossa dependência da tecnologia aumentar. Darling e um grupo de outros pesquisadores do MIT estudam as implicações jurídicas e sociais das interações entre humanos e robôs.

Em um workshop realizado em Genebra, Suíça, dois anos atrás, ela observou, juntamente com sua equipe, como as pessoas tratam os robôs Pleo, máquinas sofisticadas que reagem a estímulos externos e têm a forma de bebês-dinossauros. Primeiro, pediram aos participantes que dessem nomes aos robôs e brincassem com eles. Assim que terminaram, pediu que as pessoas torturassem e matassem as máquinas. A maioria hesitou.

Leia também:
'Fronteira entre espaços online e offline foi eliminada', diz especialista em infoética
Mais visão, menos memória: tecnologia vai condicionar cérebro do futuro, diz pesquisador
'Banco de sonhos' online criado por pesquisadores nos EUA reúne mais de 22 mil registros oníricos

Já que o experimento não foi conduzido em um ambiente controlado, Darling não foi capaz de tirar nenhuma conclusão definitiva sobre ele. Mas as observações iniciais a inspiraram a criar experimentos semelhantes em um ambiente controlado, a fim de descobrir o papel desempenhado pela empatia em nossas interações com robôs.

Nos experimentos mais recentes de Darling, os participantes trabalharam com hexbugs, pequenos robôs em forma de barata que podem se movimentar autonomamente. Primeiro, as pessoas observavam os robôs-inseto por certo período de tempo e, em seguida, tinham de pisar neles. Um histórico que atribuía qualidades semelhantes a dos seres vivos aos robôs era apresentado a alguns dos participantes.

Darling descobriu que as pessoas às quais este histórico era apresentado hesitaram por mais tempo antes de esmagar os robôs do que as demais. Ela disse que há uma tendência natural nas pessoas “de sentir empatia para com coisas que percebem como sendo semelhante a seres vivos”. Isto, diz ela, pode ser um problema e pode levar a situações perigosas, até mesmo letais.

Confira trechos da entrevista com Darling a seguir.

Qual a relação entre a empatia e robôs com características semelhantes às de seres humanos?

Kate Darling: O que aconteceu em nosso experimento foi que as pessoas com tendências altamente empáticas responderam intensamente à contextualização. Portanto, não se importaram muito com o objeto quando era tratado apenas como um objeto. Mas quando o robô se chamava Frank e tinha um histórico, isto exercia um papel enorme sobre pessoas altamente empáticas. As pessoas menos empáticas não se importaram.

É uma relação interessante. As pessoas empáticas responderam muito fortemente à contextualização.

Então mesmo as pessoas mais empáticas não hesitaram muito em destruir o robô-inseto quando ele não tinha nome ou um histórico pessoal? Isto significa que a aparência física de um robô não importa tanto quanto a contextualização?

Temos outros estudos programados que avaliarão a questão da aparência física. É difícil dizer, já que estávamos usando robôs que se pareciam com baratas. Dependendo de o que as pessoas pensam sobre as baratas, isto pode influenciar no resultado. Nós sabemos que a maioria das pessoas não gosta delas ou as detesta.

É preciso trabalhar com outros designs robóticos e ver as reações das pessoas. Mas algo que podemos definitivamente dizer é que a contextualização teve um impacto no experimento com os hexbugs.

Você poderia dar um exemplo dos efeitos da antropomorfização?

Há uma espécie de caixa em alguns hospitais que apenas entrega remédios, e foi descoberto que enfermeiras, médicos e funcionários são muito mais receptivos a ela quando ela tem um nome. Colocar uma placa em uma das máquinas onde esteja escrito “Emily”, por exemplo, fará com que as pessoas interajam com elas e perdoem seus erros mais facilmente.

Você poderia falar sobre sua pesquisa sobre a empatia? Você extraiu alguma conclusão de seus experimentos?

Nós conseguimos basicamente definir se os participantes tinham tendências baixas ou altas à empatia, com base em suas interações com robôs, o que é bem legal.

Eu gostaria de descobrir se é possível mudar os hábitos empáticos das pessoas usando robôs, da mesma maneira como a terapia com animais é usada com crianças ou em asilos de idosos. Se pudéssemos usar robôs como animais e tivéssemos uma influência positiva sobre as respostas empáticas das pessoas aos demais, isto seria incrível.

Por outro lado, eu também estou interessada em saber se as pessoas deixam de se sensibilizar ou se tornam ou menos empáticas por causa dos robôs. O que significa uma pessoa destruir brutalmente um robô com características de um ser vivo?

Você poderia dar exemplos de como poderíamos nos beneficiar da percepção de robôs como animais?

O melhor exemplo no qual consigo pensar é o seguinte: a maior parte dos estados nos EUA têm leis sobre maus tratos a animais que automaticamente geram uma investigação sobre o abuso infantil em residências com um histórico de maus tratos a animais onde há crianças.

Se este comportamento realmente se traduz da forma como pensamos neste contexto, isto pode significar um elo entre ausência de empatia com robôs, animais e crianças. Estamos percebendo que as pessoas reagem aos robôs como se fossem animais. Portanto, se as pessoas são violentas com robôs em casa, pode ser que tenhamos de investigar se não são violentas com animais e crianças também.

Reprodução YouTube

Frame do vídeo de apresentação de Spot; peça mostrou funcionários da empresa que o fabrica chutando o robô para testar sua estabilidade e parte do público entendeu como 'maus tratos'

Você também fala sobre a “falácia do androide” em suas pesquisas, isto é, a ideia de que não deveríamos considerar os robôs como meras ferramentas. Você pode desenvolver esta ideia?

Estamos vendo que as pessoas respondem aos robôs como se eles fossem um ser vivo, algo entre um objeto e um animal. Há a perspectiva de que isso seja algo fascinante, de que podemos unir pessoas e robôs em diversas atividades que vão da educação aos cuidados com a saúde.

Há outra perspectiva que afirma que isso é uma coisa ruim, que devemos evitar que as pessoas percebam os robôs desta forma. Os pesquisadores norte-americanos Neil Richards e Bill Smart são duas pessoas atuantes no debate de leis sobre robôs que argumentam que isto é ruim. Eles dizem que se tratarmos os robôs como algo mais do que meras ferramentas, isso terá implicações sobre a regulamentação jurídica.

Eu acredito que isto dependa de outros fatores. Nós temos muitas categorias para diferentes tipos de robôs. Em alguns casos, pode fazer sentido incentivar a antropomorfização dos robôs e talvez a lei deva refletir isso. Nós poderíamos criar estruturas legais que lidassem com o fato de que as pessoas estão interagindo com estes robôs como algo mais importante do que uma simples ferramenta.

Por outro lado, há momentos em que deveríamos usar os robôs estritamente como ferramentas e desencorajar a antropomorfização, como no contexto dos robôs militares. Neste caso, seria ineficiente e perigoso antropomorfizá-los.

Quando você fala sobre o uso militar, você está se referindo aos robôs removedores de minas terrestres? Você poderia falar mais sobre como sua antropomorfização pode ser perigosa?

Uma pesquisadora chamada Julie Carpenter escreveu sua tese de pós-doutorado sobre este assunto. Ela estudou estes robôs removedores de minas terrestres usados pelas forças militares. Sua conclusão é de que os soldados realmente estabelecem um vínculo com eles e os tratam como animais de estimação.

O livro de P.W. Singer “Wired for War” [“Programado para a Guerra”, em tradução livre] inclui algumas histórias de pessoas que arriscaram suas vidas para salvar os robôs, o que é realmente preocupante. Estes robôs não deveriam despertar emoções nas pessoas. Eles deveriam ser ferramentas para a inutilização de explosivos. Eles detonam minas terrestres. Você não quer que as pessoas hesitem por sequer um segundo ao usá-los da forma como devem ser usados.

Há algum meio de criar robôs que não tenham uma forma reconhecível? Isto seria uma solução?

Eu acho que isso ajudaria. Um problema, contudo, é o fato de que os robôs são muito semelhantes aos animais. Os animais evoluíram ao longo dos milênios para interagir de maneira perfeita com o mundo e a natureza, de modo que sua estrutura corporal é um modelo para os robôs. Seria lamentável tornar os robôs menos eficientes por precisarmos projetá-los de modo que não evoquem nenhuma emoção em nós.

No que diz respeito às forças militares, nossa pesquisa mostra que seria útil se houvesse uma política que exigisse que os robôs fossem descritos apenas por termos que não lhes conferissem nenhum tipo de personalidade, e se os soldados fossem treinados para não atribuir personalidade a eles. Isto faria com que os soldados sentissem menos empatia para com os robôs.

Por outro lado, eu acho que o principal fator que mobiliza nossas respostas emocionais nesta área é a capacidade de movimentação dos robôs. Eu não tenho certeza de até que ponto estes efeitos poderiam ser mitigados, sinceramente. Eu acho que o primeiro passo é reconhecer a existência deles. Estamos lentamente chegando lá.

As pessoas costumavam achar que eu era completamente louca, e agora minha pesquisa está ganhando um pouco mais de atenção e começando a ser levada a sério. Eu acho que os militares estão cientes destes problemas. Há um vídeo da empresa Boston Dynamics chamado “Introducing Spot” [“Apresentando Spot”, vídeo sobre o robô de mesmo nome produzido pela empresa], em que apresentam um novo robô parecido com um cachorro. No vídeo, alguém chuta o robô e isso gerou indignação em muita gente que achava que Spot estava sendo maltratado.

A organização PETA [sigla em inglês para Pessoas pelo Tratamento Ético a Animais, em tradução livre] chegou até mesmo a publicar uma declaração sobre o ocorrido, não?

Sim, isso atraiu certa atenção da mídia e do público. As pessoas estão percebendo que elas têm sentimentos pelos robôs, e estão se perguntando o que ocorrerá quando eles estiverem por toda parte. As pessoas ainda estão se acostumando com a ideia, mas eu acho que deveriam começar a pensar seriamente sobre isso.

O que você espera ver no futuro quanto à tecnologia robótica e ao seu próprio trabalho?

Eu espero que as pessoas comecem a falar seriamente sobre este assunto, de modo que possamos colocar fundamentos para saber como lidaremos com estas questões em sociedade. Deveríamos resolver os problemas logo, para que não tenhamos de regulamentar as coisas depois que elas já tiverem acontecido.

O que mais gostaria que as pessoas entendessem é que isso não é ficção científica. É algo que está acontecendo neste exato momento, mesmo com a tecnologia ainda primitiva que temos. Os problemas não desaparecerão.

Vamos ter cada vez mais deste tipo de tecnologia e as pessoas deveriam se empolgar com isto, porque é realmente muito legal. Mas elas também deveriam levar isto a sério.

Tradução: Henrique Mendes

Entrevista original publicada no site da revista norte-americana YES Magazine.