Pesquisa demonstra os perigos de jovens confiarem saúde mental à inteligência artificial, ferramenta desregulamentada

Uma pesquisa, feita com jovens norte-americanos mas que pode oferecer pistas para o Brasil, buscou descobrir o quanto eles confiam nos chats de inteligência artificial para serem seus conselheiros. Segundo seus resultados, 72% dos adolescentes buscaram os chatbots como companheiros e cerca de 12,5% procuraram apoio emocional pela ferramenta. 

Fora o perigo de que buscar esse tipo de interação com máquinas fragilize os laços desses jovens com pessoas reais, surgem outros problemas – mas também benefícios. As ferramentas de IA, como ChatGPT, Gemini, Copilot e MetaAI não são cobrados para que sigam padrões de um atendimento minimamente seguro de saúde mental. E, embora os chatbots já sejam treinados para identificar situações de risco à vida dos adolescentes, como pedidos de ajuda para automutilação, especialistas enxergam muitas falhas no sistema.

“Os chatbots de IA precisam de um marco regulatório – semelhante aos aplicados a dispositivos médicos — estabelecendo proteções claras para uso com jovens”, afirmou um pesquisador estadunidense em artigo de opinião para o NY Times no qual apresentou os dados acima. Segundo ele, o Estado precisa exigir padrões de segurança, proteções rígidas de privacidade e medidas que responsabilizem as empresas quando ocorrem danos.

Em outro artigo do NY Times, um exemplo do risco da desregulação dessas plataformas que utilizam inteligência artificial em chats. Um adolescente norte-americano de 16 anos se suicidou, e seus pais descobriram que ele conversava com o ChatGPT por meses sobre transtornos mentais e ideações suicidas antes de tirar sua própria vida. Ele buscava apoio emocional e ajuda com técnicas de violência contra si próprio – e os pais acreditam que a tecnologia falhou em fazer os alertas de que aquele jovem estava em risco. Eles abriram um processo contra a OpenAI, empresa dona do chatbot, e a culpam pela perda de seu filho. 

“A OpenAI lançou seu modelo mais recente (GPT-4o) com recursos intencionalmente projetados para fomentar dependência psicológica”, argumentam. A empresa responde que está “trabalhando para tornar o ChatGPT mais solidário em momentos de crise, facilitando o acesso a serviços de emergência, ajudando as pessoas a se conectarem com contatos confiáveis e fortalecendo proteções para adolescentes”.

Fonte: Outra Saúde / Foto: Reprodução

The post ChatGPT pode oferecer conselhos a adolescentes? first appeared on .

A utilização da inteligência artificial na elaboração de materiais didáticos, como pretende fazer o governo do estado de São Paulo, demanda cuidados e não pode deslocar os professores do papel central na educação. A avaliação é de Ana Altenfelder, presidente do Conselho de Administração do Centro de Estudos e Pesquisas em Educação, Cultura e Ação Comunitária (Cenpec), organização da sociedade civil que promove a equidade e qualidade na educação pública brasileira.

“A inteligência artificial pode ajudar a planejar, a fazer a gestão da aprendizagem. Isso eu acredito que potencialmente pode acontecer. Mas é alguma coisa muito nova que precisa ser investigada, ser pesquisada. E o que nós não podemos esquecer, de jeito nenhum, é o papel central do professor”, destaca a pesquisadora.

A Secretaria de Educação do estado anunciou nesta semana que planeja implementar um projeto-piloto para incluir a inteligência artificial como uma das etapas do processo de “atualização e aprimoramento de aulas” digitais do terceiro bimestre dos anos finais do ensino fundamental e do ensino médio.

“Acho que muitas vezes comete-se um equívoco, imaginando que o professor é um simples aplicador de material didático. Nesse sentido, a decisão da Secretaria Estadual de Educação causa preocupação pelo histórico. Nós temos visto várias decisões, projetos, propostas da Secretaria de Educação de São Paulo que não consideram o papel fundamental do professor”, ressalta Altenfelder.

Ela cita a decisão da secretaria, tomada no ano passado e criticada pelos professores, de substituir os livros didáticos físicos do Programa Nacional de Livros Didáticos (PNLD), oferecido pelo Ministério da Educação, por materiais digitais, como a exibição de slides aos alunos. Após o protesto dos docentes e a repercussão negativa da medida, a secretaria recuou e manteve os livros físicos nas salas de aula. 

“Eram materiais que foram feitos sem nenhuma qualidade, em detrimento dos livros didáticos que estão aí há muitos anos, que é um programa nacional, que tem um trabalho contínuo, elaborado e analisado por especialistas, professores, e que são de qualidade”, disse a pesquisadora.

Uso gradativo

Altenfelder chamou a atenção ainda para os cuidados que devem ser tomados no processo de implantação da inteligência artificial no ensino. Segundo ela, o correto seria passar a utilizar a tecnologia, como o ChatGPT, gradativamente. 

“Quando houve esse movimento dos slides, foi na rede inteira de ensino e foi de uma vez só, sem um período de teste, sem um período de experimentação. Nós sabemos que toda estratégia, toda política pública precisa de um tempo para ser aplicada, observada, e os rumos serem corrigidos”.

Papel do professor

Em nota, a secretaria de Educação disse que os professores não serão substituídos pela inteligência artificial e que a pasta planeja implementar um projeto-piloto para inclusão da tecnologia.

“As aulas que já foram produzidas por um professor curriculista e já estão em uso na rede são aprimoradas pela IA [inteligência artificial] com a inserção de novas propostas de atividades, exemplos de aplicação prática do conhecimento e informações adicionais que enriqueçam as explicações de conceitos-chave de cada aula”.

Segundo a secretaria, o conteúdo produzido será avaliado e editado por professores curriculistas em duas etapas diferentes, além de passar por revisão de direitos autorais e “intervenções de design”. “

Se essa aula estiver de acordo com os padrões pedagógicos, será disponibilizada como versão atualizada das aulas feitas em 2023”.  

Professores estaduais criticaram o projeto de uso do ChatGPT na produção de conteúdo digital. A segunda presidenta do Sindicato dos Professores do Ensino Oficial do Estado de São Paulo (Apeoesp) e deputada estadual, Professora Bebel (PT), argumenta “que as tecnologias e informação e comunicação (TICs) são ferramentas auxiliares no processo educativo e jamais podem substituir o trabalho do professor”.

Em nota, a parlamentar informou ter protocolado uma representação no Ministério Público Estadual contra a iniciativa. 

*Colaborou Dimas Soldi, da TV Brasil.

Edição: Carolina Pimentel

Fonte: Agência Brasil / Foto: © Rawpick/Freepick

The post Uso de ChatGPT no ensino exige cuidado, alerta especialista first appeared on .

Pacete – Terça, 20 de fevereiro de 2024

Desde a última quinta-feira, 15, as redes estão sendo inundadas de vídeos desenvolvidos pela Sora, nova ferramenta de IA da dona do ChatGPT que cria vídeos a partir de comandos em texto.

A repercussão se dá, também, pelo esforço que Sam Altman, CEO da OpenAI, vem fazendo para divulgar o serviço que ainda está em fase de testes.  “Queremos mostrar o que a Sora é capaz de fazer. Por isso, convido vocês a enviarem sugestões e não pegarem leve em testar do que essa ferramentas será capaz”, disse Sam, em suas redes.

Apesar de garantir a segurança da Sora, que será um serviço pago, a OpenAI pode ter desafios em cumprir essa promessa.

Nos últimos meses, várias entidades, da Unesco ao FMI passando pela ONU, lançaram iniciativas para conscientizar e combater fake news que podem ser potencializadas a partir de ferramentas de IA. A preocupação ocorre, principalmente, com a aproximação das eleições americanas.

Além da Sora, que foca em vídeo, a OpenAI também possui o Dall-E, um dos mais tradicionais no uso de IA para criação de imagens.

Fonte: Forbes / Foto: Papa Francisco com uma jaqueta puffer branca criada por um aplicativo de inteligência artificial.

The post Além da Sora: 4 apps de IA que, nas mãos erradas, podem potencializar fake news first appeared on .

Por Filipe Capela* – Segunda,5 de fevereiro de 2024

A inteligência artificial, mais conhecida como IA, já é uma realidade. O que um dia era encontrado apenas nos livros de ficção científica se tornou parte do nosso cotidiano. De assistentes virtuais à IA utilizada na indústria, a inteligência artificial se torna cada vez mais presente em setores inimagináveis há alguns anos. Dentre eles, o Direito, em que a junção entre homem e máquina está sendo tão discutida que já possui até nome: Direito Instantâneo. 

Muitas vezes criticado pela demora no andamento dos processos, o Direito Instantâneo seria a solução de muitos desses problemas. Com a IA generativa, ou seja, inteligência artificial que a partir de um banco de dados seria capaz de criar novas imagens, textos e documentos, um novo paradigma para o setor é possível, diminuindo o tempo entre o pedido e o documento pronto. Todavia, apesar da expectativa de alguns profissionais da área, essa perspectiva positiva no uso de IA no Direito não é um consenso. 

Segundo a professora da Faculdade de Direito de Ribeirão Preto (FDRP) da USP, Cristina Godoy, há muitas questões éticas relacionadas ao uso da IA. “Quando um advogado usa IA como o ChatGPT, ele deve colocar dados sensíveis de clientes, empresas e informações pessoais. Nós não sabemos para onde vão essas informações.”

Trabalho ainda é necessário 

Para além de questões éticas, Cristina destaca que, mesmo que o uso da IA seja seguro, ainda é necessário a revisão humana. “Você pode usar esse recurso, mas ele ainda comete muitos erros, nós sabemos que as IAs generativas são passíveis de alucinação, então tudo isso ainda exige que o advogado revise os documentos e textos feitos por essas ferramentas.”

Todavia, Cristina reconhece que a IA pode ser uma boa aliada. “Eu vejo benefícios, ela pode fazer resumos, traçar linhas do tempo dos casos, ajudar a identificar determinados documentos, mas sempre nessa perspectiva de ajuda, de facilitar.”

Empregos não estão em xeque

Cristina argumenta que, devido aos problemas relacionados ao uso ético e prático dessas ferramentas de IA, o Direito Instantâneo está longe de ser um fato. “Eu não vejo essa possibilidade do Direito Instantâneo. Nós temos muitas questões éticas relacionadas, não sabemos para onde esses dados vão e muito menos como eles são computados e, para além disso, temos questões práticas.”

Cristina completa afirmando que, por conta disso, ela não vê a IA tomando os postos de trabalho dos profissionais da área. “Eu não vejo os profissionais perdendo os seus empregos para as IAs em um futuro próximo. O que pode acontecer é alguns profissionais perderem seus empregos por não se manterem atualizados, mas para as IAs eu acho difícil.”

*Estagiário sob supervisão de Ferraz Junior

Fonte: Jornal USP

The post Uso de IA no Direito deve ser feito com cautela first appeared on .

Será que, algum dia, conseguiremos criar um robô com as mesmas capacidades do ser humano?

O surpreendente surgimento do ChatGPT e de outros programas de inteligência artificial faz com que esta pergunta se torne cada vez mais relevante. E, mais do que isso, a imaginação dos engenheiros tentando criar um robô que pense e aja como ser humano fica ainda mais aguçada.

Já conseguimos imitar os complexos sistemas de raciocínio e até de criatividade do nosso cérebro, especialmente com a inteligência artificial.

Mas os robôs ainda não conseguem amarrar um sapato.

A robótica e a inteligência artificial podem fazer com que o pensamento racional exija menos processos de computação, enquanto atos aparentemente mais simples e que são facilmente executados pelo ser humano, como amarrar os sapatos ou pegar uma bolsa que caiu no chão, exigem enorme esforço computacional.

Este fenômeno é conhecido como o paradoxo de Moravec. E, para muitos especialistas, é o motivo por que ainda não foi possível construir um robô completamente inteligente.

“O ser humano levou centenas de milhares de anos de evolução para fazer coisas simples como, por exemplo, manter o equilíbrio”, explica o pesquisador em robótica Gonzalo Zabala, da Universidade Aberta Interamericana, na Argentina. “Por isso, reproduzir todos esses processos em nível computacional, no momento, é quase impossível.”

Zabala destaca, em entrevista à BBC News Mundo (serviço em espanhol da BBC), que o contrário também acontece com os processos que são frutos de raciocínio.

“Há quanto tempo podemos falar em homem inteligente, da razão?”, pergunta ele. “Em comparação com outros processos evolutivos, o tempo é muitíssimo menor e, por isso, podemos codificá-los e reproduzi-los com mais sucesso.”

Hans Moravec e Alan Turing

Um dos precursores da inteligência artificial foi o cientista britânico Alan Turing (1912-1954).

Um dos diversos estudos publicados por Turing na sua curta, mas prodigiosa carreira relaciona uma série de perguntas que serviriam para distinguir, em um caso teórico, um robô de um ser humano.

Este método vem orientando os engenheiros e teóricos para o desenvolvimento da inteligência artificial desde que foi formulado, na década de 1950.

Como destacou o professor de robótica Rodney Brooks, do Instituto Tecnológico de Massachusetts (MIT, na sigla em inglês), o que ocorreu foi que os engenheiros se concentraram em criar programas ou aparelhos que conseguissem “enganar” seus interlocutores, respondendo adequadamente às perguntas do teste de Turing para que pudessem se passar por seres humanos.

Mas, no final dos anos 1970, este enfoque começou a apresentar um problema. As respostas lógicas não desenvolviam nada de original e o caminho indicado por Turing começava a não deixar muitas saídas.

“O próprio financiamento das pesquisas foi suspenso, pois não era claro o caminho a ser seguido e não se observavam progressos”, segundo Brooks.

Por isso, os cientistas saíram em busca de alternativas para fazer avançar o desenvolvimento da inteligência artificial.

“O caminho escolhido foi criar circuitos similares aos do cérebro humano”, explica Zabala. “Não um robô que respondesse com a lógica, mas um circuito que conseguisse pensar.”

Foi então que surgiu a contradição, ainda não resolvida: enquanto processos de inteligência artificial eram criados com relativa facilidade, as funções básicas do ser humano eram praticamente impossíveis de serem recriadas em um robô.

Este fato foi amplamente observado até o final da década de 1980 pelos especialistas em robótica, como o próprio Rodney Brooks, o austríaco Hans Moravec e o norte-americano Marvin Minsky. Mas foi Moravec, professor da Universidade Carnegie Mellon em Pittsburgh (Estados Unidos), o responsável por apresentar a melhor exposição sobre o tema em 1988, a partir do trabalho dos três colegas.

Segundo Moravec, “é comparativamente fácil fazer com que os computadores mostrem rendimento de nível adulto em testes de inteligência ou jogando xadrez, mas é difícil ou impossível fornecer a eles as capacidades de um menino de um ano, em relação à percepção e à mobilidade.”

Ou seja, os robôs podem ser tão inteligentes quanto incapazes.

“O que o paradoxo de Moravec fez foi dar sentido ao que estava sendo observado”, afirma Zabala. “E, quando se dá um nome a um problema, indicam-se as possíveis soluções.”

“Quando se chega a este ponto, começa algo muito interessante, que é nos conhecermos melhor para podermos nos reproduzir nos robôs: saber como mantemos o equilíbrio, como aprendemos a dirigir e assim por diante”, acrescenta ele.

Robôs sensíveis

Os três pesquisadores – Moravec, Brooks e Minsky – desenvolveram projetos destinados a esclarecer o paradoxo.

Brooks, por exemplo, trabalhou com a empresa norte-americana Boston Dynamics e com outra fundada por ele mesmo, chamada iRobots.

O princípio, segundo ele, resume-se em uma premissa direta: “se quisermos construir um robô com inteligência humana, é preciso primeiro construir um robô com anatomia humana”. E, a partir daí, foram desenvolvidos projetos de robôs que apresentassem um aspecto mais próximo do nosso.

Uma equipe de cientistas europeus, por exemplo, desenvolveu um protótipo conhecido como ECCERobot, dotado de um esqueleto termoplástico completo, com vértebras, falanges e caixa torácica.

O ECCERobot tem os mesmos graus de movimento do tronco humano e, o mais importante, todas as suas partes são repletas de sensores.

Mas os próprios cientistas que desenvolveram o robô destacaram que o principal inconveniente não foi superado. A complexidade do ECCERobot é tão grande que ele mal consegue segurar um copo. Por isso, não se pode esperar que ele tenha comportamento inteligente.

“Construir um robô humanoide inteligente, que possa interagir sem problemas com seres humanos e ambientes humanos de forma natural, exigirá avanços da informática e de eficiência de bateria, sem falar no salto quântico do equipamento sensorial”, afirma Rolf Pfeifer, coordenador do projeto do ECCERobot.

“Um desenvolvimento realmente fundamental será a pele”, segundo ele. “A pele é extremamente importante no desenvolvimento da inteligência porque fornece padrões sensoriais muito ricos: tato, temperatura, dor, tudo de uma vez.”

Mas os especialistas destacam que, apesar dos problemas apresentados pelo paradoxo de Moravec, a construção de um robô inteligente como o ser humano é uma possibilidade, ainda que distante.

“O que o paradoxo de Moravec fez foi colocar um problema em evidência, para que os pesquisadores procurassem soluções”, explica Zabala. “Uma delas, sem dúvida, é a que estamos observando com a revolução da inteligência artificial, onde demos um passo rumo à criação, não só às respostas lógicas.”

Para o especialista, esta revolução claramente não é uma ameaça para a extinção da espécie humana.

“Não acredito que ela signifique o fim, como afirmaram diversos analistas. É uma ferramenta que irá facilitar muitos processos no futuro”, conclui Zabala.

Fonte: BBC Brasil

The post Inteligência artificial: o paradoxo que explica por que robôs acham fácil o que é difícil e difícil o que é fácil first appeared on .

Cientistas já estão usando o ChatGPT, nova ferramenta de Inteligência Artificial (IA) desenvolvida no final de 2022. A tecnologia é um chatbot – programa com capacidade de entender e redigir textos, simulando um diálogo humano – que vem chamando a atenção devido à capacidade impressionante de compreensão e articulação de suas respostas. O ChatGPT é a melhora da linguagem conhecida como GPT-3, IAs classificadas como Large Language Models (LLM) e foi desenvolvido pela OpenAI, empresa norte-americana sem fins lucrativos que conduz pesquisas envolvendo inteligência artificial. 

Em dezembro, apenas um mês após seu lançamento, a ferramenta já começou a ser testada por cientistas e pesquisadores. Entrevistados pela revista Nature, os biólogos computacionais Casey Greene e Milton Pividori, da Universidade da Pensilvânia, na Filadélfia, testaram o novo chatbot como assistente. Os resultados foram impressionantes: sugestões de revisão precisas para documentos foram feitas em segundos – foi encontrado, em questão de minutos, um erro de referência em uma importante equação. 

A produção de textos fluentes e convincentes, seja para produzir prosa, poesia, códigos de computador ou – como no caso dos cientistas – para editar artigos de pesquisa, já é uma atividade realizada pela IA. “Isso nos ajudará a aumentar a produtividade enquanto pesquisadores”, afirmou Pividori, à Nature. Outros cientistas entrevistados pela revista, como Hafsteinn Einarsson, da Universidade da Islândia, afirmaram que a ferramenta está sendo utilizada também para “debater ideias”. Einarsson afirmou que usa o ChatGPT para escrever slides de apresentação e provas para alunos, além de converter teses em trabalhos. “Muitas pessoas já estão usando [o ChatGPT] como secretária ou assistente digital”, disse. O Núcleo Interinstitucional de Linguística Computacional (Nilc) da USP afirmou que o ChatGPT é “a mais nova evidência de inovações com potencial disruptivo que a inteligência artificial pode trazer no futuro, com potencial de alterar drasticamente a maneira pela qual interagimos com as máquinas”. 

Há poucos meses de seu lançamento, a OpenAI já trabalha na monetização do recurso: a empresa do Vale do Silício anunciou um serviço que, por 20 dólares por mês, garante tempos de resposta mais rápidos e acesso prioritário a novos recursos do ChatGPT – que, além das funções já descritas, também pode conversar com chatbots de outras empresas para negociar preços de produtos, por exemplo. Apesar da OpenAI ser uma organização sem fins lucrativos, ela recebe investimentos de grandes corporações – entre elas a Microsoft, que já anunciou um novo repasse estimado em cerca de 10 bilhões de dólares. Outras Big Techs, como a Google, investem na construção de suas próprias LLMs – em setembro a DeepMind, subsidiária da empresa, publicou um artigo sobre o “agente de diálogo” Sparrow, que deverá ser lançada ainda neste ano de forma privada e que incluiria a capacidade de citar fontes em seus textos.

Apesar do potencial da ferramenta, outros especialistas levantam preocupações sobre seu desenvolvimento e utilização. A primeira delas, debatida por entidades como a Estratégia Latino-Americana de Inteligência Artificial (ELA-IA), é quem está produzindo essa tecnologia – e com que finalidade, visto que expectativas de lucro podem ir na contramão de necessidades sociais reais. “Se você acredita que essa tecnologia tem potencial para ser transformadora, acho que deveria ficar preocupado”, declarou Casey Greene, da Escola de Medicina da Universidade do Colorado. Ela, assim como outros pesquisadores, acredita que tudo dependerá de como futuras diretrizes irão restringir o uso dos chatbots  – e que essa IA pode ser promissora, desde que seja supervisionada por humanos. Outros especialistas ouvidos pela Nature afirmam que os LLMs não são confiáveis para responder perguntas e que respostas equivocadas já foram identificadas. O fim do limite entre o que foi redigido pelo cérebro humano e por uma máquina também está no centro das preocupações dos cientistas.

A falta de confiabilidade está diretamente relacionada com a própria construção do ChatGPT e seus similares, que trabalham aprendendo e memorizando padrões estatísticos da linguagem em enormes bancos de dados de texto online – podendo incluir, inclusive, inverdades e preconceitos. Quando os LLMs recebem instruções de seus utilizadores,  cospem, por assim dizer, palavra por palavra para montar uma conversa estilisticamente plausível. O resultado é que os LLMs facilmente produzem erros e informações enganosas, principalmente para tópicos técnicos sobre os quais eles podem ter poucos dados para treinar – mas escritas de forma persuasiva. Outro dado preocupante é que essas ferramentas não podem mostrar as origens de suas informações. “Não se pode confiar na ferramenta para obter fatos corretos ou produzir referências confiáveis”, decretou um editorial de janeiro do ChatGPT na revista Nature Machine Intelligence. Existe o perigo, por exemplo, que os chatbots repliquem ideias sobre o mundo de acordo com os dados utilizados para o seu treinamento, como a superioridade de determinadas culturas e sistemas. Shobita Parthasarathy, especialista em tecnologia e políticas públicas na Universidade de Michigan, relembra que as empresas responsáveis pelo desenvolvimento dessas IAs estão em países ricos, principais exportadores de determinada cultura e estilo de vida, e portanto podem não se esforçar o necessário para superar preconceitos sistêmicos. 

Outra questão impossível de ignorar é como o ChatGPT se relaciona com o mundo do trabalho. Para além do receio de desemprego a longo-prazo, devido à substituição de atividades humanas por máquinas, algumas situações trabalhistas já estão ocorrendo no próprio desenvolvimento da IA. Para regular o ChatGPT, a OpenAI precisou contratar moderadores humanos incumbidos de rotular discursos tóxicos ou preconceituosos. Mas as notícias são de que esses trabalhadores foram mal remunerados. A exploração também foi apontada dentro de empresas de mídia social que contrataram pessoas para treinar bots automatizados. 

Alguns pesquisadores defendem que os acadêmicos devem se recusar a apoiar LLMs comerciais desenvolvidos por grandes empresas tecnológicas. Além de problemas como preconceito, preocupações com a segurança e trabalhadores explorados, esses algoritmos também exigem uma grande quantidade de energia para treinar – o que vem levantando questionamentos: estariam as Big Techs levando em conta o impacto ecológico? Muito provavelmente, não. Definir limites para essas ferramentas através da lei, para esses especialistas, será crucial.

Fonte: Outra Saúde

The post ChatGPT na ciência: as maravilhas e as ameaças first appeared on .