Máquinas autônomas e nossas culpas humanas!

O fabricante de automóveis TESLA, confirmou a morte de um motorista em um carro autônomo no último dia 23 de março, na Califórnia, informando que o “pseudo” motorista não estava no controle do veículo no momento da colisão e, portanto, não tomou nenhuma atitude para evitar o acidente. É a primeira vez que morre uma pessoa dentro de um carro com “Autopilot”, e ocorreu logo depois que esteve em todos os jornais o registro de um outro acidente na madrugada de 19 de março, no Texas, no qual um veículo UBER autônomo, atropelou e matou uma ciclista. Um veículo autônomo, significa que ele pode não estar sob o comando de um motorista humano dentro do veículo. Nestes casos, existiam pessoas nos carros, mas elas não estavam no comando e nem o tomaram para si quando os acidentes aconteceram. A pergunta que fica na minha cabeça é: quem estava no comando então? Ou seria melhor perguntar: o que estava no comando?

Situações como essas envolvem mudanças, ou interpretações diferenciadas, sobre ética, códigos de conduta, legislações e até formas de julgamentos dos envolvidos, por serem fora dos padrões conhecidos até então. Se um carro totalmente autônomo atropela uma pessoa, de quem é a culpa? É da máquina? Ou de quem fez a programação da máquina? Quem não pensou na possibilidade que deu origem ao acidente, tem a culpa final sobre ele? Por outro lado, essas situações nos trazem alguns alentos, pois como as máquinas modernas “aprendem” com seus próprios erros, a partir de então, os tipos de acidente que acontecerem com esses carros autônomos, provavelmente não deverão mais acontecer, uma vez que imediatamente, já serão mapeadas e todas as possibilidades ao seu redor, serão eliminadas. Mas como saber se já mapeamos todas as possibilidades? Talvez nunca, mas se fosse um humano que estivesse dirigindo, a possibilidade de um acidente igual acontecer com ele, ou com outra pessoa, seria muito grande.

O fato é que as novas tecnologias podem nos proporcionar grandes ganhos e, também, grandes riscos, como, por exemplo, em uma cirurgia utilizando um médico-robô pode surgir uma situação não prevista e antes que o operador da máquina possa atuar, pode levar o paciente a óbito. Também poderia acontecer com sistema do Bitcoin não prever uma situação em uma transação financeira e levar um investidor a falência. E tantas outras situações com máquinas que poderiam acontecer a partir do momento que elas forem ficando mais presentes em nossas vidas. Todos esses casos envolvem culpabilidades que ficam cada vez mais difíceis de serem aferidas.

Vejamos o caso do Facebook que, recentemente, teve que pedir desculpa por uma falha que permitiu que dados fossem manipulados e interferissem nas eleições dos Estados Unidos. Falha de quem? Do sistema? De quem manipulou os dados? Nós, humanos, em algum momento, certamente vamos tentar nos eximir de nossas culpas nos erros cometidos pelos nossos sistemas e máquinas, mas a justiça vai ter que estar preparada para julgar essa culpa.

A partir deste ponto, passo a pensar em nosso sistema jurídico, ainda tão arcaico; ainda tão dependente de julgamentos pessoais, baseados em fatos nem sempre totalmente comprovados; presos a processos volumosos de papel; ainda com tantos juristas que mal sabem utilizar o básico de um computador e agora com uma gama de novas tecnologias que apresentam questões jurídicas inéditas a serem pensadas, modificadas e aplicadas a partir do momento que a mesma se torna concreta e rotineira em nossas vidas.  

Passamos a semana acompanhando o desenrolar de uma situação jurídica na nossa mais alta corte, ouvindo horas e horas de discursos jurídicos e justificativas de votos, sobre um caso com jurisprudência firmada, com situações semelhantes já muitas vezes julgadas e mesmo assim, aquelas 11 pessoas divergiram tanto para chegarem a um placar de praticamente empate sobre dois pontos de vistas contrários. Imagina nossas cortes julgando os casos acima citados? Nas poucas vezes que tentaram julgar o uso de novas tecnologias de comunicação, o que vimos foram juízes pedindo para tirar redes sociais do ar, sem chegar a nenhum resultado concreto com isso, mostrando despreparo para a situação, e olha que nem envolvia julgar a responsabilidade de homens e máquinas nos processos complexos como carro autônomo e Inteligência Artificial. Por outro lado, nossa dificuldade em assumir nossas próprias culpas é tão grande, que imagino já ter gente pensando em criar uma corte de robôs-juízes para julgar os erros que envolvem as máquinas e, finalmente, podermos ter em quem jogar todas as nossas culpas e talvez até enviar algumas máquinas para a cadeia, em nosso lugar.