Giselle Beiguelman explica que a opacidade dos datasets utilizados pela IA no mundo artístico pode ajudar na reprodução e perpetuação de preconceitos
A inteligência artificial (IA) representa mais um passo tecnológico nos processos criativos da humanidade, assim como tantas outras tecnologias. Já atuante na arte e no design mundial, a IA muda alguns conceitos dos processos de produção de uma obra artística e amplia as suas possibilidades de resultados. Mas qualquer avanço tecnológico necessita de uma análise processual, para usufruir das diferentes alternativas que ele traz aos processos de criação, e de uma regulação, a fim de não ferir os conflitos éticos que ele possa vir a ter.
De acordo com Giselle Beiguelman, professora da Faculdade de Arquitetura e Urbanismo (FAU) da Universidade de São Paulo, o processo de criação de uma arte através da inteligência artificial é, muitas vezes, equivocadamente entendido como algo que não necessita de habilidade alguma para ser feito e que qualquer medida que for feita no computador se tornará uma obra de arte, uma peça de design gráfico ou uma composição musical, mas não é bem assim. A especialista explica que, acima de tudo, é muito importante ter a ideia do projeto, essencial para a finalização da arte, além de uma boa compreensão do uso tecnológico.
“O processo de criação envolve um corpo a corpo com os processos de aprendizado de máquina. Ele envolve uma compreensão de como o sistema está entendendo aquilo que você está requisitando. O sistema parte de padrões, não existe inteligência artificial sem padrão, todo o processo de machine learning, de aprendizado de máquina, pode ser resumido a essa equação de se chegar a padrões que possam, a partir do modelo, criar coisas para as quais ele não foi treinado”, complementa.
- Mais
Uso e avanços da inteligência artificial têm sido alvos de discussões sobre limite ético
Principais problemas
Ainda sobre o treinamento da IA, a docente comenta que a prática é uma relação de mão dupla, já que ensina a máquina ao mesmo tempo em que a utiliza. Apesar desse processo poder acarretar problemas relacionados a direitos autorais, já que as empresas usam datasets — conjuntos de dados organizados, recolhidos do que está disponibilizado publicamente na internet, que podem ser criações autorais —, ela entende que esse não é o maior empecilho para o seu uso, já que, como um sistema não é um programa de busca ele vai, a partir das características das quais aprendeu, devolver algo semelhante ao que for encontrado na internet e não igual.
Giselle Beiguelman – Foto: Marcos Santos/USP Imagens
Para Giselle, o maior problema da inteligência artificial está relacionado à falta de transparência dos datasets: “Com certeza há uma questão ética que precisa ser resolvida, que é a transparência dos datasets. Ela está diretamente relacionada a problemas que aparecem de racismo, de machismo, porque é o perfil dos dados que determinaram aquilo que será criado. Eu vejo um problema muito sério na opacidade dos sistemas, naquilo que nós não temos acesso, e a partir de que dados uma inteligência artificial foi criada, desenvolvida, como é que ela aprendeu a fazer aquilo que ela está fazendo, quais são os parâmetros e quais são os conjuntos de dados que foram utilizados”.
Somado a isso, a docente comenta que um dos problemas da IA também está relacionado ao mercado de tecnologias em rede e à forma como ele se consolidou sem nenhum contraponto ou dispositivo ético transnacional que crie parâmetros de programação, uso e distribuição. “É algo que se percebe já desde a popularização dos computadores e, especialmente, da popularização e da disseminação das redes, que permitiram uma desierarquização do conhecimento, uma pluralização dos canais de emissão, mas implicaram também um conjunto de novas hierarquias determinadas pelos algoritmos opacos das redes sociais”, conclui.
Desenvolvimento do processo criativo
Não é somente agora que os processos criativos são mediados por uma tecnologia. A professora comenta que isso é anterior às inteligências artificiais — que se tornaram apenas mais uma possibilidade de criar de outras formas —, e mesmo à fotografia, sendo uma tendência apresentada nas relações humanas desde a escrita, resultado de uma mediação entre o pensamento, a oralidade, a criação, os materiais disponíveis e determinadas técnicas de produção que resultaram no que nós conhecemos como texto. Isso indica que a mediação tecnológica está envolvida em qualquer externalização de um processo criativo, impactando a própria concepção de uma obra.
Apesar disso, ela explica que nem todas as produções criativas problematizam, necessariamente, as tecnologias com as quais elas são feitas. “Você tem artes que são muito marcadas pela problematização dos seus meios, como o cinema e a fotografia, e você tem todo um conjunto de artes que não necessariamente precisa problematizar as tecnologias com as quais opera no seu campo estético”, afirma.
Ainda assim, Giselle Beiguelman declara que há muito medo, por parte da sociedade, da inserção das inteligências artificiais no mercado de trabalho artístico — que supostamente poderia substituir os trabalhadores nas suas funções, de maneira mais barata e imediata — e entende que ele é gerado parte pela falta de transparência da tecnologia e parte pelo conjunto de relações já desiguais que o capitalismo produz, sendo necessário a preparação de críticas desses processos e contraposição de soluções. Contudo, ela também interpreta que uma nova tecnologia abre possibilidades de criação que não estavam pautadas anteriormente, e finaliza: “Muito mais interessante do que a capacidade da inteligência artificial em imitar padrões é o seu aspecto generativo, a sua capacidade de criar novos dados a partir de outros dados, chegando a resultados para os quais ela não foi treinada. Nesse sentido, ela se encontra com toda a aspiração da criação artística, que diz respeito não só à problematização crítica do seu tempo, mas essa problematização com o olhar a partir do presente, então é impossível ignorar a inteligência artificial nesse processo”.
*Sob supervisão de Paulo Capuzzo e Cinderela Caldeira
Fonte: Jornal da USP / O processo de criação envolve um corpo a corpo com os processos de aprendizado de máquina – Foto gerada por inteligência artificial: vecstock/Freepik
