Seriam os robôs capazes de distinguir o certo do errado? Questões de moralidade são relevantes quando vislumbramos um mundo onde eles auxiliam a humanidade nas mais diversas tarefas; afinal, se um robô não souber distinguir certo de errado ele pode confundir um afogamento com um banho na piscina ou não “entender” que pode ajudar uma pessoa com alguma dificuldade ou em perigo, o sonho de um mundo robotizado pode facilmente se tornar um pesadelo.
Por conta disso, criar robôs capazes de racionalização moral (ou seja, capazes de tomar decisões quanto ao como agir em situações aleatórias) é o foco de uma iniciativa multidisciplinar entre a Rensselaer Polytechnic Institute, Tufts University, Brown University e a Marinha americana.
Os obstáculos
Tal realização possui desafios que até pouco tempo seriam consideradas intransponíveis. Primeiro, que moralidade não é algo que possa ser quantificado via fórmula matemática nem mecanizada; é preciso toda uma série de complexas relações para garantir que um robô saiba desviar de um humano ao invés de passar por cima dele e esmagá-lo.
Segundo, tomar decisões básicas (desviar de um obstáculo ou parar quando um objeto é inserido no seu caminho) é diferente de decidir qual a ação mais correta a se fazer numa situação mais complexa e nebulosa. Imagine, durante um conflito, um robô programado para carregar soldados do campo de batalha até o hospital mais próximo. No caminho, ele encontra outro soldado ferido. Qual a melhor decisão a tomar? Parar e auxiliar também o outro soldado, perdendo precioso tempo que pode contar contra a sobrevivência do primeiro soldado, ou seguir em frente para tentar garantir que ao menos um soldado sobreviva?
Terceiro, para quem um robô seja capaz de tomar decisões morais nessa escala, ele precisa de um nível de autonomia impressionante – e, talvez, de algum nível de autoconsciência.
Um vislumbre de autoconsciência?
Recentemente, em resposta a um desafio proposto pelo Filósofo Luciano Floridi, a equipe do RAIR (Rensselaer AI and Reasoning Lab) desenvolveu um teste cujos resultados, se continuarem sendo confirmados, são impressionantes e podem dar nova luz (ou criar diversas novas perguntas) sobre a origem da autoconsciência.
O teste envolveu 3 robôs do tipo “NAO” (aqueles robôs bonitinhos que vocês já devem ter visto por aí em matérias diversas). Dois deles receberam “pílulas de emburrecimento” (o que os impossibilita de falar), e um deles foi dado Placebo. É claro que as “pílulas” são simplesmente um botão que ativa/desativa o recurso da vocalização em cada um deles.
Quando foi perguntado aos 3 quem não era capaz de falar, o único que de fato era capaz de fazê-lo respondeu: “Eu não sei”, ao que, logo que vocalizou a resposta, percebeu que era o robô capaz de falar. Uma demonstração desse teste em ação foi demonstrado em vídeo:
Apesar de impressionante, acredito que ainda é preciso um pouco de cautela para falar sobre se os robôs exibiram ou não autoconsciência. De qualquer maneira, é um resultado curioso e, corrijam-me se eu estiver errado, inédito. Os resultados serão apresentados na conferência RO-MAN, evento de robótica realizado no Japão entre agosto e setembro desse ano, e acredito que vale a pena continuar de olho no trabalho que esta equipe multidisciplinar está realizando.
Fontes:
RAIR site (Rensselaer AI and Reasoning Lab)
RAIR Lab (youtube)
Rensselaer Polytechnic Institute
Imagens
7 comentários
Passar directamente para o formulário dos comentários,
Quanto a este aspecto:
… o sonho de um mundo robotizado pode facilmente se tornar um pesadelo…
Tenho estas sugestões:
The Robotification of Society is Coming
http://www.wired.com/2015/01/robotification-society-coming/
70% dos gestores admitem trocar pessoas por robôs no trabalho
http://economico.sapo.pt/noticias/70-dos-gestores-admitem-trocar-pessoas-por-robos-no-trabalho_224552.html
https://en.wikipedia.org/wiki/Service_robot
https://en.wikipedia.org/wiki/The_Stepford_Wives / https://pt.wikipedia.org/wiki/The_Stepford_Wives
The term “Stepford wife” entered common use in the English language after the publication of Levin’s book and is generally used as a term of satire.
The label “Stepford wife” is usually applied to a woman who seems to conform blindly to an old-fashioned subservient role in relationship to her husband, compared to other, presumably more independent women.
It can also be used to criticise any person, male or female, who submits meekly to authority and/or abuse; or even to describe someone who lives in a robotic, conformist manner without giving offense to anyone.
Por que o robô que tomou a pílula de placebo foi o único a se mover? A pílula do silêncio impedia movimentos também?
“Dois deles receberam “pílulas de emburrecimento” (o que os impossibilita de falar), e um deles foi dado Placebo. É claro que as “pílulas” são simplesmente um botão que ativa/desativa o recurso da vocalização em cada um deles.”
Sim, eu li. Eu perguntei sobre o movimento do robô e não sobre a fala.
Provavelmente será falar e andar… ou seja, o botão desativa as suas ações, sejam elas quais forem.
Tenho minhas dúvidas quanto a “consciência” deste gesto robótico. A resposta “não sei” e depois a “descoberta” podem ser implementadas por rotinas pouco complexas em linguagens de programação. Infelizmente para nós o conceito de inteligência artificial e/ou ‘eu consciente” permeia campos nebulosos como psicologia e filosofia. O problema é que podemos ter dispositivos mega-eficientes em alguns processos e com isso solucionar problemas difíceis, Ou a programação de jogos que atribui valores as nossas jogadas e calcula jogadas com valores superiores. Mas tudo isto está longe do “eu consciente” . Saber da própria existência é ser inteligente? Um dispositivo que aprende com o seu meio e, a partir deste aprendizado, poder gerar novos conceitos, novos aprendizados e assim por diante. O robozinho ” eu falo, logo existo” não parece enquadrar essa idéia. O teste de alan Turing é um bom indicativo para ser utilizado neste caso.
Author
Também acho que é preciso proceder com cautela ao dizer que o teste exibiu algum nível de autoconsciência. Mas eu também não colocaria o teste de Turing como um procedimento seguro para determinar isso.