Meta – dona de Facebook e Instagram – começa a testar uso de bots em grupos. Apresentam-se como humanos, são introduzidos a pretexto de oferecer orientações sobre Saúde e podem ser um passo a mais rumo à invasão de privacidade e captura de dados

Por Casey Fiesler, no The Conversation | Tradução: Gabriela Leite

Um pai fez uma pergunta em um grupo privado do Facebook em abril de 2024: Alguém com um filho superdotado e deficiente tem alguma experiência com escolas públicas da cidade de Nova York? O pai recebeu uma resposta aparentemente útil que expôs algumas características de uma escola específica, começando com o contexto de que “tenho um filho que também é 2E”, ou seja, com dupla excepcionalidade.

Em um grupo do Facebook para troca de itens indesejados perto de Boston, um usuário que procurava itens específicos recebeu uma oferta de uma câmera Canon “usada, em bom estado” e um “aparelho de ar condicionado portátil quase novo que acabei nunca usando”.

Ambas as respostas eram mentiras. Essa criança não existe e nem a câmera ou o ar condicionado. As respostas vieram de um chatbot de inteligência artificial.

De acordo com uma página de ajuda da empresa, a Meta AI responderá a uma postagem em um grupo se alguém a acionar explicitamente ou se um usuário “fizer uma pergunta em uma postagem e ninguém responder em uma hora”. O recurso ainda não está disponível em todas as regiões ou para todos os grupos, de acordo com a página. Para grupos nos quais está disponível, “os administradores podem desligá-lo e ligá-lo novamente a qualquer momento”.

O Meta AI também foi integrado aos recursos de pesquisa no Facebook e Instagram, e os usuários não podem desligá-lo.

Como pesquisadora que estuda comunidades online e ética da IA, acho a ideia de chatbots não convidados respondendo perguntas em grupos do Facebook distópica por uma série de razões, começando pelo fato de que comunidades online são para pessoas.

Conexões humanas

Em 1993, Howard Rheingold publicou o livro The Virtual Community: Homesteading on the Electronic Frontier [“A comunidade virtual: colonizando a fronteira eletrônica”, em tradução direta] sobre o WELL, uma comunidade online pioneira e culturalmente significativa. O primeiro capítulo abre com uma pergunta de um pai: o que fazer com uma “coisa cheia de sangue sugando o couro cabeludo do nosso bebê?”.

Rheingold recebeu uma resposta de alguém com conhecimento prático sobre como lidar com carrapatos e resolveu o problema antes de receber um retorno do consultório do pediatra. Sobre essa experiência, ele escreveu: “O que me surpreendeu não foi apenas a rapidez com que obtivemos exatamente a informação de que precisávamos, bem quando precisávamos saber. Foi também a imensa sensação de segurança que vem com a descoberta de que pessoas reais – a maioria delas pais, algumas enfermeiras, médicos e parteiras – estão disponíveis, a qualquer hora, se você precisar delas”.

Esse aspecto de “pessoas reais” nas comunidades online continua sendo crucial hoje. Qual o motivo para fazer uma pergunta em um grupo do Facebook em vez de em um mecanismo de busca? Porque você quer uma resposta de alguém com experiência de vida real ou por querer a resposta humana que sua pergunta pode suscitar – simpatia, indignação, solidariedade. Ou ambos.

Décadas de pesquisa sugerem que o componente humano das comunidades online é o que as torna tão valiosas tanto para a busca de informações quanto para o apoio social. Por exemplo, pais que poderiam se sentir desconfortáveis ​​pedindo conselhos sobre criação de filhos encontram um refúgio em espaços online privados apenas para pais. Jovens LGBT+ muitas vezes se juntam a comunidades virtuais para encontrar recursos essenciais para sua segurança, ao mesmo tempo em que reduzem a sensação de isolamento. Os fóruns de apoio à saúde mental oferecem aos jovens pertencimento e validação, além de conselhos e apoio social.

Essas informações vão ao encontro de descobertas semelhantes, em meu próprio laboratório, relacionadas a participantes LGBT+ em comunidades online. Também se assemelham à experiência do chamado “Black Twitter”, uma subcultura da rede social composta majoritariamente por usuários negros para discussão de questões sociais. Dois estudos mais recentes, ainda não revisados por pares, enfatizaram a importância dos aspectos humanos na busca de informações em comunidades virtuais.

Um deles, liderado pela estudante de doutorado Blakeley Payne, foca nas experiências de pessoas gordas online. Muitos dos participantes encontraram uma tábua de salvação no acesso a um público e uma comunidade com experiências semelhantes, enquanto buscavam e compartilhavam informações sobre assuntos como o acesso a sistemas de saúde hostis, a busca por roupas e a maneira como lidar com preconceitos e estereótipos culturais.

Outro, liderado pela estudante de doutorado Faye Kollig, descobriu que pessoas que compartilham conteúdo online sobre suas doenças crônicas são motivadas pelo senso de comunidade que vem com experiências compartilhadas, bem como pelos aspectos humanizadores de se conectar com outros para buscar e oferecer apoio e informações.

Pessoas falsas

Os benefícios mais importantes desses espaços online, conforme descrito pelos participantes dos estudos, poderiam ser drasticamente prejudicados por respostas vindas de chatbots em vez de pessoas.

Como diabética tipo 1, participo de vários grupos no Facebook que são frequentados por muitos pais que estão começando a enfrentar os desafios de cuidar de uma criança pequena com diabetes. As perguntas frequentes: “O que isso significa?” “Como devo lidar com isso?” “Quais são suas experiências com isso?” As respostas vêm de experiências pessoais, mas também com compaixão: “É difícil.” “Você está fazendo melhor que pode.” E, claro: “Todos nós já passamos por isso.”

Uma resposta de um chatbot alegando falar a partir da experiência vivida de cuidar de uma criança diabética, oferecendo empatia, não seria apenas inadequada, mas também quase cruel.

No entanto, faz sentido que esses sejam os tipos de respostas que um chatbot ofereceria. Grandes modelos de linguagem funcionam, de forma simplista, mais como um preenchimento automático do que como um mecanismo de busca. Para um modelo treinado em milhões e milhões de postagens e comentários em grupos de Facebook, a resposta “automática” para uma pergunta em uma comunidade de apoio é, sem dúvida, uma que invoca experiência pessoal e oferece empatia – assim como a resposta “automática” em um grupo de doação pode ser oferecer a alguém uma câmera usada em bom estado.

Manter os chatbots em seus limites

Isso não quer dizer que os chatbots não sejam úteis para nada – eles podem ser bastante úteis em algumas comunidades virtuais, em determinados contextos. O problema é que, no meio da atual corrida pela IA generativa, há uma tendência a pensar que os chatbots podem e devem fazer tudo.

Existem muitas desvantagens em usar grandes modelos de linguagem para recuperar informações importantes dentro de grandes volumes de dados, especialmente no que diz respeito a contextos inadequados para seu uso. Em determinados ambientes, informações incorretas podem ser perigosas: uma linha de ajuda para transtornos alimentares ou aconselhamento jurídico para pequenas empresas, por exemplo.

Pesquisas estão apontando considerações importantes sobre como e quando projetar e implementar chatbots. Por exemplo, um artigo recentemente publicado em uma grande conferência de interação humano-computador descobriu que, embora indivíduos LGBT+ sem apoio social às vezes recorram a chatbots para ajuda com problemas de saúde mental, esses chatbots muitas vezes não conseguem compreender as nuances dos desafios específicos dessa comunidade.

Outro estudo descobriu que, embora um grupo de participantes autistas encontrasse valor em interagir com um chatbot para aconselhamento em comunicação social, esse chatbot também fornecia conselhos questionáveis. E outro estudo averiguou que, embora um chatbot fosse útil como ferramenta de pré-consulta no contexto de saúde, os pacientes às vezes achavam as expressões de empatia insinceras ou ofensivas.

O desenvolvimento e a implementação responsável de IA significam não apenas auditar questões como viés e desinformação, mas também dedicar tempo para entender em quais contextos a IA é apropriada e desejável para os humanos que vão interagir com ela. Atualmente, muitas empresas estão utilizando a IA generativa como um martelo e, como resultado, tudo parece um prego.

Em muitos contextos, como comunidades de suporte online, é melhor deixar com os humanos.

Fonte: Outra Saúde / Créditos: Atlassian

The post Um robô intruso em sua rede social first appeared on .

Por Redação

O atacante português Rafael Leão, principal jogador do Milan, utilizou suas redes sociais nesta terça-feira para expor um ataque racista que recebeu de um usuário do Instagram.O jogador compartilhou a mensagem de ódio que recebeu, na qual o autor expressava sua intolerância e desejo pela saída de Leão do clube, utilizando linguagem racista.

Em resposta ao ataque, Rafael Leão publicou uma mensagem própria, destacando a persistência de indivíduos de mentalidade estreita que perpetuam o racismo

“Infelizmente, estas pessoas de mente pequena continuam a governar o mundo. Pessoas mesquinhas”, repudiou Leão.

O Milan, clube de Rafael Leão, também se pronunciou sobre o episódio, expressando solidariedade ao jogador e repudiando veementemente qualquer forma de racismo. Através de suas redes sociais, o clube afirmou

“Rafa estamos com você. Não há espaço para o racismo nos nossos torcedores e no futebol. Na nossa torcida e no futebol não há espaço para racismo, emitiu o Milan em nota oficial

Fonte: Bahia Notícias / Foto: Reprodução / Instagram

The post Atacante Rafael Leão, do Milan, denuncia ataque racista em rede social first appeared on .

Por Pedro S. Teixeira | Folhapress

O Twitter notificou a Meta de forma extrajudicial com alegações de quebra de segredos comerciais no desenvolvimento do Threads, nova rede social do Instagram. O documento, obtido pelo site Semaphor, inclui uma ameaça de processo civil, com medida cautelar, para prevenir danos.

 O advogado que assina a carta, Alex Spiro, afirma que a Meta contratou dezenas ex-funcionários do Twitter com acesso a documentos e aparelhos eletrônicos da rede social para desenvolver uma cópia: o Threads. O texto não menciona nomes.
 

Uma pessoa vinculada à Meta disse ao Semafor que as acusações do Twitter não têm fundamento. Ninguém no time de engenharia por trás do Threads teria vindo da rede social de Elon Musk, segundo esse interlocutor.
 

Procurada pela Folha de S.Paulo, a Meta não se pronunciou até a publicação desta reportagem. O Twitter respondeu ao pedido de informação da reportagem com um emoji de fezes -a resposta automática é enviada desde março para solicitações relacionadas a reportagens.
 

Segundo a notificação do Twitter, os ex-funcionários tiveram e continuam com acesso a segredos comerciais da rede social. Também mantinham compromissos em curso com a empresa.

 O Twitter demitiu cerca de 4.000 funcionários desde que Musk comprou a plataforma em outubro.
 

O advogado do Twitter, Spiro, alega que a Meta tinha ciência da situação e contratou essas pessoas de forma intencional para desenvolver uma rede social similar ao Twitter. Essa atitude violaria leis federais e estaduais dos EUA, diz o representante.
 

O documento enviado à Meta também pede que a holding de Mark Zuckerberg não baixe informações de usuários e páginas do Twitter sem autorização.
 

Em menos de 24 horas no ar, o Threads já reúne mais de 30 milhões de usuários, conforme publicação de Mark Zuckerberg na própria rede social. As inscrições são impulsionadas por uma integração com o Instagram, que reúne mais de 2 bilhões de contas ativas.
 

Cerca de 300 milhões de pessoas estão no Twitter, segundo estimativas. É impossível checar esse número desde que Musk comprou a plataforma e a tirou da Bolsa de Valores.
 

A rede social Bluesky, desenvolvida pelo fundador do Twitter, Jack Dorsey, tem 50 mil usuários, mas aceita inscrições apenas mediante convite. O Mastodon, 13 milhões.
 

O documento foi interpretado pela imprensa internacional como uma tentativa de Musk de retardar o avanço do Threads.
 

A nova rede social do Instagram veio ao ar, com o Twitter em crise, após a compra por Elon Musk em outubro do ano passado. As primeiras notícias do Threads apareceram na newsletter especializada Platformer em março.
 

As críticas ao Twitter se acentuaram após Elon Musk ter anunciado um limite diário de visualizações de publicações.
 

A rede social limitou, no sábado (1º), a visualização diária de tweets a apenas 600 por usuário. No domingo (2), aumentou o limite para mil. A medida visa limitar o acesso de empresas de inteligência artificial ao conteúdo do Twitter.

The post Twitter ameaça processar Meta por plágio no desenvolvimento de Threads, diz site first appeared on .