Por Ronaldo Assunção Sousa do Lago – Sábado, 8 de julho de 2023
Inicialmente, convém ponderar a grande relevância em estudar a aplicação da inteligência artificial (IA) na atualidade, sendo ainda ínfima a preocupação com a questão ética envolvida, a teor da literatura disponível.
Vislumbra-se que a preocupação ética consiste em desafios e riscos que a aplicação das tecnologias atinentes à IA acarretam, atrelado a questões técnicas, econômicas, sociais, jurídicas e políticas, como veremos adiante.
O precursor da ideia de IA foi o matemático britânico Alan Mathison Turing (1912-1954), que em 1950 lançou o seu conceito ao descrever o “jogo da imitação” em um famoso artigo, cujo principal questionamento pode ser assim descrito: “pode um homem, conectado por um teleprinter, ao que ele não sabe ser uma máquina em uma sala vizinha, ser enganado e manipulado pela máquina com uma eficiência comparável à de um ser humano?” Para Turing, a IA era a mais completa farsa da psicologia humana.
Segundo Luciano Floridi (2020, p. 140) as próximas tendências relacionadas aos possíveis desenvolvimentos da IA, consiste em (1) mudança de dados históricos para dados sintéticos; e (2) tradução de tarefas difíceis em tarefas complexas, em termos de computação.
Essa tendência também dependerá da capacidade de negociar os graves problemas éticos, legais e sociais (Elsi), desde novas formas de privacidade até estímulos de comportamentos e autodeterminação. A própria ideia de que estamos cada vez mais moldando nossos ambientes para torná-los compatíveis com a IA deve pautar essa reflexão.
Assim, infere-se que o desafio em relação à IA não será tão relacionado tão somente à inovação digital em si, mas a governança das tecnologias, em que se inclui a inteligência artificial.
Tenha-se presente que com o surgimento da internet, muito se falou da ideia de revelarmos nossos pensamentos mais íntimos online, tornando-os digitais.
Porém, treinar os sistemas de IA para operar de forma equitativa pode ter um efeito reverso. Ao manifestar valores e opiniões das pessoas, talvez a tecnologia digital não revele quem as pessoas realmente são, mas sim, que fazemos com que a tecnologia aja mais como nós agimos.
Danaher (2019, p. 135-136) adiciona mais um argumento, que pretende ter um amplo significado no nível da civilização, mas envolver especulações menos fantasiosas sobre a provável inteligência futura das máquinas, à crescente onda de pânico sobre robôs e IA: a ascensão dos robôs criará uma crise de paciência moral, sendo reduzida a capacidade e a disposição dos humanos de agirem moral e responsavelmente no mundo, reduzindo-nos, assim, a pacientes morais.
Iniciativas regulatórias europeias
As iniciativas de regulação europeia sobre o tema apontam para a instituição da figura jurídica da personalidade dos robôs. A Resolução do Parlamento Europeu nº 2015/2103, aponta para a tendência de personalização dos robôs a longo prazo, devido a ampliação das atividades autônomas e desenvolvidas de forma inteligente (via aprendizado de máquina), também, o debate acerca da responsabilidade civil, atualmente restrito no âmbito dos engenheiros, evolui para a responsabilização das personalidades eletrônicas — por meio de fundos específicos.
A regulação jurídica no Brasil
No Congresso, tramitam alguns projetos de lei, dos quais destaco: um de iniciativa da Câmara dos Deputados — o PL nº 21/2020, que conforme seu histórico de tramitação, foi apresentado em fevereiro de 2020 propondo, na ementa: “estabelece princípios, direitos e deveres para o uso de IA no Brasil”; e dois de iniciativa do Senado — desde 2019, o PL nº 5.051 que “estabelece os princípios para o uso da IA no Brasil” e o PL nº 5.691 que “institui a Política Nacional de Inteligência Artificial”.
Na Câmara dos Deputados, a apresentação do projeto de lei define os seguintes conceitos:
(1) “sistema de inteligência artificial” — sistema desenvolvido por humanos que é capaz de prever, recomendar ou tomar decisões;
(2) “ciclo de vida do sistema de inteligência artificial” — o tempo de operação do sistema determinado por sua programação;
(3) “conhecimento em inteligência artificial” — as habilidades e recursos adquiridos e utilizados no ciclo de cada sistema;
(4) “agentes de inteligência artificial” — pessoa física ou jurídica, podem ser o agente de desenvolvimento do sistema ou de operação;
(5) “partes interessadas” — todos os afetados pelo funcionamento do sistema;
(6) “relatório de impacto de inteligência artificial” — contém a descrição do funcionamento do sistema e os mecanismos de gestão de risco.
Com relação aos projetos em trâmite no Senado, o PL nº 5.051/2019 busca estabelecer os princípios para o uso da IA no Brasil, tendo em vista o reconhecimento do bem-estar humano, no artigo 2º do texto inicial: (1) o respeito à dignidade humana, à liberdade, à democracia e à igualdade, (2) o respeito aos direitos humanos, à pluralidade e à diversidade; (3) a garantia da proteção da privacidade e dos dados pessoais; (4) transparência, a confiabilidade e a possibilidade de auditoria dos sistemas; (5) a supervisão humana. E, ainda, a disciplina do uso tendo por objetivo a promoção e a harmonização da valorização do trabalho humano e o desenvolvimento econômico (artigo 3º).
Também define a responsabilidade civil por danos decorrentes do uso de IA na figura do seu supervisor (artigo 4, § 2º), tendo em vista que a lei define a tomada de decisões por uma IA como auxiliar da decisão humana (artigo 4º), ou seja, é necessária e fundamental a supervisão humana desses instrumentos, reconhecendo suas implicações.
Ressalta-se nesse projeto, a formação de diretrizes para a atuação da administração pública: (1) promover educação sobre a IA; (2) políticas de proteção e qualificação do trabalho humano; (3) a garantia da adoção gradual da IA; (4) a ação proativa na regulação das aplicações de IA.
No Senado, o PL nº 5.691/2019, em seu texto inicial, da mesma maneira que o outro PL da Casa, restringe-se aos princípios e diretrizes da pretendida Política Nacional de Inteligência Artificial. Essa política busca o desenvolvimento tecnológico aliado à transparência democrática das decisões baseadas em IA, até mesmo às autônomas.
Também, integra um processo de transição para os mecanismos de automação, mitigando prejuízos ao emprego (artigo 3, XI). É uma política que se relaciona diretamente com a responsabilidade humana e das organizações que desenvolvem e operam IA, obrigando-as a estabelecer relações abertas, inteligíveis e debatidas sobre o seu uso, sustentando formas de decisões rastreáveis e princípios de governança ligados à proteção dos riscos ligados à IA e a proteção de dados pessoais — tendo em vista o cumprimento da LGPD.
A tendência à autorregulação consiste em um sistema de corregulação, ou regulação regulada pelas empresas que estão presentes, já no ordenamento jurídico brasileiro, na Lei Geral de Proteção de Dados (LGPD) — Lei nº 13.709/2018 — como “boas práticas e da governança” (artigo 50) na qual os controladores e operadores de dados pessoais podem e devem formular práticas de governança que apreciem os princípios norteadores dessa lei, sendo a LGPD um marco para o fomento de uma cultura corporativa de proteção dos dados pessoais
No contexto de um possível marco normativo das inteligências artificiais, os agentes desenvolvedores e operadores se inserem nesse mesmo contexto de ente regulador, ao nível interno, tanto no ato de criação dos sistemas como de suas atividades, consagra a realidade de regulação by design, ou seja, que os próprios desenvolvedores também são responsáveis pela preservação de princípios de ordem pública — o que Magrani (2019, p. 261) denomina de direito como metatecnologia, uma regulação ao nível do desenvolvimento.
No Poder Executivo Federal, a Estratégia Brasileira de Inteligência Artificial tem como objetivos: contribuir para a elaboração de princípios éticos para o desenvolvimento e uso de IA responsáveis; promover investimentos sustentados em pesquisa e desenvolvimento em IA; remover barreiras à inovação em IA; capacitar e formar profissionais para o ecossistema da IA; estimular a inovação e o desenvolvimento da IA brasileira em ambiente internacional; e promover ambiente de cooperação entre os entes públicos e privados, a indústria e os centros de pesquisas para o desenvolvimento da inteligência artificial.
A estratégia abrange: regulação e uso ético da IA; governança; força de trabalho e capacitação; entre outros. A íntegra da Estratégia Brasileira de Inteligência Artificial, está disponível aqui.
No Poder Judiciário, o CNJ (Conselho Nacional de Justiça) tem investido cada vez mais no desenvolvimento e aperfeiçoamento de soluções tecnológicas, a fim de potencializar seus instrumentos e canais de atendimento à sociedade.
Ressalta-se que o CNJ editou a Resolução nº 332, de 21 de agosto de 2020, a qual dispõe sobre a ética, a transparência e a governança na produção e no uso de inteligência artificial no Poder Judiciário.
Com efeito, importa destacar o disposto no artigo 7o daResolução nº 332, de 21 de agosto de 2020, o qual preceitua:
“As decisões judiciais apoiadas em ferramentas de Inteligência Artificial devem preservar a igualdade, a não discriminação, a pluralidade e a solidariedade, auxiliando no julgamento justo, com criação de condições que visem eliminar ou minimizar a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos.”
O viés na adoção de soluções de inteligência artificial
Cumpre destacar, inicialmente, que segundo Aurélio, viés é uma direção oblíqua ou uma tira de pano cortada no sentido diagonal da peça. Olhar de viés equivale a olhar de esguelha.
Para Houaiss viés é o meio furtivo, esconso, de obter ou fazer concluir algo.
Nesse sentido, o viés pode ser compreendido como mecanismos do cérebro para realizar rapidamente associações, com base em experiências e cenários vivenciados que pode levar a tomada de decisões.
Assim, podemos dizer que os vieses são processos do nosso cérebro utilizados para pegar “atalhos” na tomada de decisão.
Um primeiro questionamento a ser feito é se os vieses são sempre ruins? E a resposta é negativa, sob o fundamento de que o problema dos vieses é o risco que estas associações “automáticas” trazem para a perpetuação de processos discriminatórios os quais impactam nas desigualdades entre os indivíduos.
Há que se destacar, ademais, que a discussão sobre vieses está permeada de debates sobre questões morais e éticas.
Falar sobre vieses implica em falar sobre discriminação e desigualdade de idade, gênero, raça, orientação afetiva e sexual, linguagem, cultura, deficiência, condição social e econômica, entre outros.
A professora Fernanda Carrera no artigo intitulado “Racismo e Sexismo em bancos de imagens digitais, no livro Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos“, defende que “Ignorar os processos produtivos e tecnológicos destes mecanismos pode levar a uma atribuição de objetividade e racionalidade a resultados que podem estar carregados de subjetividade e vieses discriminatórios“.
Considerações finais
Quando os sistemas de inteligência artificial são alimentados com dados que não refletem a imparcialidade, a IA pode aprender a reforçar padrões discriminatórios ou se tornar enviesada.
Sem mecanismos de regulamentação, responsabilização e transparência, estes processos podem levar a perdas financeiras e a questões jurídicas, além de levantar questões morais e éticas.
Notável que existe a preocupação mundial com o tema ora exposto, bem como no Brasil, em que tramitam projetos de Lei no Congresso, valendo a pena citar: o Projeto de Lei n. 21/2020; e dois de iniciativa do Senado, o PL nº 5051 e o PL nº 5691; e ainda a regulamentação por parte do CNJ consubstanciada na Resolução nº 332, de 21 de agosto de 2020; e no âmbito do Poder Executivo a instituição da Estratégia Brasileira de Inteligência Artificial.
No âmbito do Poder Judiciário, o CNJ tem investido no desenvolvimento e aperfeiçoamento de soluções tecnológicas, a fim de potencializar seus instrumentos e canais de atendimento à sociedade.
Nesse contexto, conclui-se que, embora incipiente a literatura sobre o tema ora em questão é notável a preocupação e regulação da matéria no âmbito nacional e internacional, reputando-se importante ressaltar que a IA deve obedecer a preceitos éticos de forma a evitar os vieses, conformando o ser e o dever ser.
Fonte: Conjur
REFERÊNCIAS
DANAHER, John. The rise of the robots and the crisis of moral patience. AI & Society, n.
34, p. 129–136, 2019. DOI: https://doi.org/10.1007/s00146-017-0773-9.
FORNASIER, Mateus de Oliveira e KNEBEL, Norberto. Inteligência Artificial: Desafios e Riscos Ético-Jurídicos. Revista Jurídica Direito & Paz. São Paulo, SP – Lorena, n. 43. p. 207-228. 2020.
FLORIDI, Luciano. What the near future of Artificial Intelligence Could Be In: BURR, Christopher; MILANO, Silvia (eds.). The 2019 Yearbook of the Digital Ethics Lab. Cham: Springer, 2020, p. 127-142.
Algoritmos de Inteligência Artificial (IA) e Vieses: uma reflexão sobre ética e justiça. https://www.programaria.org/algoritmos-de-inteligencia-artificial-e-vieses-uma-reflexao-sobre-etica-e-justica/
Inteligências Artificiais, preconceitos reais. https://medium.com/tecs-usp/intelig%C3%AAncias-artificiais-preconceitos-reais-f30c018cb2dd
Viés de género na IA: construindo algoritmos mais justos. https://unbabel.com/blog/pt/vies-de-genero-na-ia-construindo-algoritmos-mais-justos/
Vieses inconscientes, equidade de gênero e o mundo corporativo. http://www.onumulheres.org.br/wp-content/uploads/2016/04/Vieses_inconscientes_16_digital.pdf
Inteligência Artificial – O que pessoas desenvolvedoras REALMENTE pensam sobre IA? https://bitbar.com/blog/artificial-intelligence-what-do-developers-really-think-about-ai/
Pesquisa da Stack Overflow. https://bitbar.com/blog/artificial-intelligence-what-do-developers-really-think-about-ai/
Racismo Institucional – Teste de Imagem – Campanha Governo do Paraná. https://www.youtube.com/watch?v=JtLaI_jcoDQ
CARRERA, Fernanda. Artigo Racismo e Sexismo em bancos de imagens digitais, no livro Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos.
Dicionário eletrônico Aurélio.
Dicionário eletrônico Houaiss.
BRASIL.CONSELHO NACIONAL DE JUSTIÇA. Portaria CNJ nº 271/2020.
BRASIL.CONSELHO NACIONAL DE JUSTIÇA. Resolução CNJ nº 332/2020.
BRASIL. Câmara dos deputados. Projeto de Lei 21/2020. Disponível em:
https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2236340.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados (LGPD).
Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm.
BRASIL. Senado Federal. Projeto de Lei 5091/2019. Disponível em:
https://www25.senado.leg.br/web/atividade/materias/-/materia/138790.
BRASIL. Senado Federal. Projeto de Lei 5691/2019. Disponível em:
https://www25.senado.leg.br/web/atividade/materias/-/materia/139586.
UNIÃO EUROPEIA. Parlamento Europeu. Resolução do Parlamento Europeu (2015/2103), de 16 de fevereiro de 2017. Disposições de Direito Civil sobre Robótica. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-8-2017-051_PT.pdf.
https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial
