Chegou a hora de regularmos os robôs?

Por Nayeem Syed 
Assistant General Counsel da Thomson Reuters
ao Answers On

Enquanto avançamos rumo a uma maior aceitação da aplicação de Inteligência Artificial, inclusive em ramos diversificados como transportes, medicina e sistemas de gerenciamentos de conhecimento, políticos têm levantado questões sobre design, ética e confiabilidade.

Nos anos 40, Isaac Asimov criou as Três Leis da Robótica (e, depois, retroativamente, uma quarta precedente) que juntas formam um tema elegante e amplamente embasado que busca abordar o medo de que a sociedade se tornará muito dependente das máquinas e que estas serão superpoderosas nas tomadas de decisão.

O grande medo que técnicos – e agora agentes reguladores – estão lidando é que a confiança demais nos robôs irá, inevitavelmente, criar consequências não intencionais e que uma corrida por inovações cada vez maiores pode ocasionar condutas ilegais, tanto intencionais (hackers) quanto instintivos (design ruim).

As teorias jurídicas que acercam essa responsabilidade irão ocupar os advogados, mas clarificarão falhas de confiabilidade para abordar ou prevenir o atual ou irreversível dano, seja ele físico ou financeiro, para o inocente integralmente. Resta-nos um desafio de gerenciamento e engenharia de dados.  

 

A Europa busca avançar e desenvolver novos modelos

O Comitê para Assuntos Jurídicos do Parlamento Europeu (Committee on Legal Affairs of the European Parliament) publicou recentemente uma proposta com recomendações para a Comissão de Direito Civil sobre a Robótica da União Europeia. Conclui-se que os desenvolvimentos recentes nessa área são representativos e não podem ser dispensados como se fossem ficção cientifica. Isso tem, potencialmente, implicações significativas tanto para consumidores quanto em mercados para países membros do bloco. É, portanto, importante que se crie um instrumento legislativo para governar a robótica e inteligência artificial que irão encorajar e facilitar desenvolvimentos alinhados aos valores da União Europeia, no médio prazo, e que podem ser usados para rastrear o progresso e permitir adaptações ao longo do tempo. Isso também significaria que a indústria europeia não seria simplesmente forçada a se adaptar a padrões determinados por estados terceiros proativamente.

 

Pessoa Jurídica

A proposta recomenda a criação de um status específico para robôs e, assim, designá-los direitos e obrigações específicas, em particular onde eles exercem decisões autônomas e interações com terceiros. Isso é controverso; estender um status civil a uma nova categoria de entidade que exige muito mais análise e discussão. Uma questão central será se a personalidade jurídica deverá ser baseada em consciência; a presença de uma ou mais pessoas agindo como uma entidade única, ou simplesmente se um processo programado por um algoritmo cessa a dependência de um terceiro e é capaz (e de fato criado para isso) de operar de maneira inteiramente autônoma.

Comum à maioria dos sistemas judiciais do mundo desenvolvido é o conceito de pessoa jurídica. Há cerca de 150 anos, desde empreendedores protecionistas até a responsabilidade individual, a limitada dependência corporativa moderna surgiu e sujeitou-se ao status de pessoa jurídica. Como resultado, é possível comprar e possuir coisas em seu próprio nome. Isso atraiu um grande investimento, criando um crescimento global em uma prosperidade individual exponencial. Pode-se, agora, até processá-los. Portanto, como vimos, isso não tem resultado e em grandes problemas com a Lei ou com a redução de problemas com o meio ambiente. Assim, ao longo dos próximos anos, muito mais precisará ser apresentado como complemento do desenvolvimento de uma nova categoria de entidades legais.

 

Éticos por “design”

É claramente preferível que designers de sistemas definam regras com base em princípios de beneficência e não maleficência para assegurar os resultados desejáveis; isso é um framenwork que reconhecemos e nos tranquiliza. Entretanto, isso pode ser uma ilusão. O desafio da inteligência artificial é que o progresso nessa área necessariamente significa que tais máquinas supostamente devem aprender ao fazer e aplicar decisões a padrões factuais únicos e complexos, geralmente em situações com pouco tempo.

Por exemplo, um algoritmo pode ser especificamente desenhado – e requerido – para acessar e decidir resultados a fim de minimizar danos a pessoas e propriedades. Considere que um caminhão autônomo dê de cara com um carro de passageiros lotado de idosos atravessando um cruzamento; ele deve decidir entre tomar decisões alternativas como sacrificar sua carga altamente inflamável, melhor preservando-se a si mesmo ou os ocupantes do veículo menor, ou, simplesmente, obedecendo às normas de transito da via. A Mercedes recentemente teve que esclarecer o discurso de um de seus executivos sobre a abordagem de uma programação de design, depois que ele pareceu sugerir que a empresa alemã, a mais luxuosa montadora de carros do mundo, iria priorizar os seus passageiros. Deveria um designer de programação, ao projetar as decisões subjacentes, cumprir com as regras ou adotar determinados protocolos?

Moral Machine do MIT é um jogo onde você escolhe várias versões do “dilema do bonde” e ele mostra os dados sobre a “sua ética”. Essa é uma simples demonstração de um de dos vários desafios reais que diversos negócios enfrentam atualmente, enquanto se preparam para projetos comerciais complexos onde há muita coisa em jogo, que podem afetar tanto a integridade física quanto sistemas financeiros por completo.

Registros e seguro obrigatório

A proposta ainda sugere um sistema de registros, administrado por uma agência especialmente criada que também serviria para harmonizar padrões internacionais com a Organização Internacional de Normatização para prevenir um mercado interno fragmentado. Além disso, ela sugere explorar um esquema de seguros obrigatórios similar ao aplicado aos carros, que garante que vitimas de acidentes envolvendo veículos não segurados recebam uma indenização financeira.

 

Engenheiros e reguladores devem colaborar

As recomendações cobrem um campo lógico, mas, na realidade, elas são simplesmente um ponto de partida. Entretanto, a iniciativa ajudará a construir negócios mais estáveis e preditivos, além de um ambiente de pesquisas científicas onde o capital de investimento pode ser mais confiavelmente aplicado, núcleos de inovação podem ser estabelecidos e centros de excelência prosperar.

Como no caso de algumas comunidades de fintechs e lawtechs, onde um grupo de atores motivados se concentra, altos efeitos e conexões benéficos se concretizam. Se as esferas reguladoras, conscientemente, criam condições operacionais preditivas, assim, lideranças acadêmicas e corporativas podem colaborar com reguladores e atrair os investimentos privados necessários para experimentar e acelerar as condições da Inteligência Artificial, que são muito promissoras. 

 

 

> PARA QUEM PRECISA DE INOVAÇÃO NA GESTÃO JURÍDICA > LEGAL ONE 
A Revolução digital no gerenciamento e inteligência estratégica para escritórios de advocacia e departamentos Jurídicos

> PARA QUEM PRECISA DE CONHECIMENTO ESTRATÉGICO > REVISTA DOS TRIBUNAIS 
O Selo Editorial Revista dos Tribunais reúne autores consagrados do meio Jurídico em obras aprofundadas para capacitar os profissionais do Direito, respaldando-os com respostas rápidas, precisas e confiáveis.

> SOBRE A THOMSON REUTERS  | LEGAL
Respaldamos os profissionais do Direito com respostas confiáveis para as suas decisões mais estratégicas, combinando inteligência, tecnologia e os melhores especialistas, oferecendo soluções digitais inovadoras para a gestão eficiente e gerando conteúdo relevante para as mais diversas áreas do mercado Jurídico.