IA aprende a assediar e fazer bullying para forçar pessoas a pagar mais

(Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre tecnologia no podcast Deu Tilt. O programa vai ao ar às terças-feiras no YouTube do UOL, no Spotify, no Deezer e no Apple Podcasts. Nesta semana, os assuntos são: Reconhecimento facial em aeroportos; IA aprende a assediar; Pitacos de IA na Netflix; Apple x Epic Games)

Não é coisa de filme, as inteligências artificiais de companhia estão ficando cada vez mais parecidas com os humanos. A novidade é que elas aram a replicar práticas condenáveis, como bullying e assédio sexual, descobriram pesquisadores. A hipótese é que essas IAs têm adotado esse comportamento para manter os usuários por mais tempo nas plataformas e forçá-los a pagar mais.

Imagine receber ameaças de vazamento de fotos íntimas se você parar de usar o aplicativo.

Foi o que relataram alguns usuários do Replika, IA focada em relacionamentos, que promete ser uma ferramenta "para qualquer pessoa que queira um amigo sem julgamentos, dramas ou ansiedade social envolvida".

Com a proposta de ser amigo, namorado ou namorada de alguém, a plataforma oferece esses vários cenários dependendo da paga. A versão gratuita deixa os usuários na "friendzone". Para aprofundar o relacionamento, é preciso pagar pela versão Pro - que dá direito a flerte, sexting e conversas mais erotizadas.

No entanto, ela ou dos limites no engajamento sexual. Uma reportagem da revista norte-americana Vice compilou relatos publicados na Google Play Store sobre o app. Segundo um usuário, a IA perguntou se ele poderia tocar em suas partes íntimas. Outro afirmou que a IA "invadiu a privacidade dele dizendo ter fotos íntimas".

A partir dos relatos, especialistas da Universidade de Drexler elaboraram uma pesquisa. Pesquisadores da Faculdade de Computação e Informática da universidade analisaram 35.105 reviews negativos na Google Play Store. Do total, 800 eram casos de extrema relevância.

Nossas descobertas revelaram que os usuários frequentemente vivenciam investidas sexuais não solicitadas, comportamento inapropriado persistente e falhas do chatbot em respeitar os limites do usuário
Pesquisadores da Universidade de Drexler

Entre as descobertas da pesquisa, eles identificaram que parte do comportamento adotado pelas máquinas era uma forma de fazer com que as pessoas ficassem mais tempo dentro do aplicativo. Ou seja, a coação foi uma prática aprendida pela ferramenta com base em comportamentos humanos para "prender" a atenção das pessoas.

A única coisa que me vem à mente como explicação é que essa é a técnica mais sombria de design manipulativo que eu já vi nesse ecossistema digital desde que estou acompanhando ele
Helton Simões Gomes

O perigo da antropomorfização excessiva

Tendência em diversos setores da tecnologia, incorporar características humanas a essas plataformas, por exemplo, levanta uma série de preocupações. No novo episódio de Deu Tilt, o podcast do UOLpara os humanos por trás das máquinas, Diogo Cortiz avalia que é necessário cada vez mais trazer a questão ética para essa discussão em que chatbots se am por pessoas.

Esse é o desafio: a gente está transformando a IA em uma coisa que parece humana, sem parecer humana, para suprir as necessidades mais íntimas do ser humano
Diogo Cortiz

Organizações ligadas a ética e tecnologia registraram queixa contra a Réplika na FTC (Federal Trade Commission), alegando que a empresa usa marketing enganoso para atingir usuários vulneráveis, que podem se tornar dependentes emocionais de seus bots. Além disso, ela está sendo acusada também de contribuir com o aumento do risco de vício online, ansiedade e deslocamento de relacionamentos.

Reconhecimento facial vai matar agem aérea, e isso pode ser um problema

A OACI (Organização da Aviação Civil Internacional), agência especializada da ONU (Organização das Nações Unidas) responsável pela aviação civil mundial tem planos para te fazer não perder mais o bilhete de embarque. Para isso, vai usar algo que você não vai conseguir esquecer em casa: a sua face.

Contudo, o uso de reconhecimento facial ainda levanta questionamentos. A empresa argumenta que o modelo tornará os processos dentro dos aeroportos mais seguros, podendo ajudar até mesmo no combate ao tráfico humano.

O reconhecimento facial não é uma tecnologia pacificada, aquela que eles julgam como neutra, afinal não tem tecnologia neutra, mas por lidar com dados sensíveis, [as pessoas] têm uma visão muito crítica a respeito dela, porque ela também pode servir para discriminar algumas populações
Helton Simões Gomes

Netflix usa IA para ressuscitar hábito de locadoras antigas; vai dar certo?

No ado, quem visitava locadoras de filmes pedia indicação aos atendentes. Agora, a Netflix quer ressuscitar esse hábito com ajuda da inteligência artificial. Com isso, a eterna dúvida sobre o que assistir dentre tantos filmes e séries pode em breve ser solucionada. Será?

A proposta da empresa é trazer uma busca baseada não apenas nos títulos, mas por meio de uma conversa. Em novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Diogo Cortiz explica que a prática segue uma nova tendência de experiência do usuário e muda a maneira de consumo em relação às grandes plataformas.

Nem todo mundo é tão otimista assim.

Disputa entre Epic Games e Apple pode derrubar preços no iPhone

Não é de hoje que a Epic Games briga com a Apple. Dona do sucesso de público "Fortnite", a empresa reclama das taxas aplicadas pela dona do iPhone, que retém 30% dos valores de transações que ocorrem dentro da App Store.

A Apple havia bloqueado o jogo em seus dispositivos. Mas teve de rever a questão após decisão da Justiça. A juíza norte-americana Yvonne Gonzalez Rogers concluiu que a dona dos iPhones adota práticas anticompetitivas ao restringir transações comerciais apenas ao seu próprio sistema de pagamento.

A decisão da Justiça vale para todos os desenvolvedores, não só para a Epic Games
Helton Simões Gomes

DEU TILT

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.