Meta corrige IA após ferramenta sugerir perguntas invasivas sobre crianças

Resumo

• Meta anunciou mudanças em seu assistente de IA após uma usuária relatar que a ferramenta sugeria perguntas invasivas sobre suas filhas.
• A IA cruzou dados de parentes e exibiu uma foto que havia sido apagada, reunindo dados sobre suas filhas, incluindo nomes, datas de aniversário e vídeos.
• A empresa admitiu que “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”.

Que as redes sociais expõem muito sobre alguém, todo mundo já sabe. Mas a IA parece estar facilitando o processo: a Meta anunciou mudanças no assistente integrado às suas plataformas depois que uma mulher descobriu que a ferramenta cruzava informações para sugerir perguntas invasivas sobre sua filha.

Segundo Kalie Robins, a Meta AI perguntou “Quem é a criança?” em um vídeo que mostrava ela e a própria filha cantando dentro de um carro. A publicação foi compartilhada no Instagram e no Facebook. Ao clicar na sugestão, Robins afirma ter encontrado um “portfólio completo” de informações não apenas sobre a filha que aparecia no vídeo, mas também sobre sua outra filha, que não estava na cena.

De acordo com o Futurism, isso teria acontecido porque a IA cruzou informações publicadas por outros integrantes da família, incluindo dados que não haviam sido compartilhados pela própria Robins.

A porta-voz da Meta Dina El-Kassaby admitiu que a companhia “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”. Segundo ela, a equipe já corrigiu o problema que permitia a geração de sugestões relacionadas a assuntos pessoais.

No entanto, vale notar que a correção é para as sugestões. Isso não significa, necessariamente, que a plataforma impedirá o chatbot de fornecer essas informações caso um usuário faça uma pergunta diretamente.

IA traz dados de publicações antigas

Em outro vídeo publicado no Instagram, Robins relata que, ao selecionar a sugestão, o assistente reuniu informações sobre cada uma das filhas a partir de publicações antigas no perfil e até posts feitos por parentes. “Ele começou a trazer informações […], os nomes, datas de aniversário e vídeos sobre elas”, além de fotos publicadas pela mãe, afirma.

A ferramenta passou, então, a sugerir novas perguntas sobre a idade das crianças e o lugar onde a família vive. Em prints apresentados durante o vídeo, Robins mostra a IA tentando destrinchar a localização com base em informações antigas do perfil, incluindo antigos endereços.

Robins também afirma que a Meta AI exibiu fotos de suas filhas encontradas nas plataformas da empresa, incluindo uma imagem que, segundo ela, havia sido apagada anos antes.

Segundo El-Kassaby, as sugestões automáticas foram criadas para ajudar o usuário a obter mais informações sobre assuntos em uma publicação. Quando um dos atalhos é selecionado, a resposta usa informações às quais aquele perfil já dá autorização de acesso.

As informações sobre as filhas de Robins, inclusive, teriam sido obtidas a partir de vídeos anteriores, nos quais ela mesma citava os nomes.

A Meta AI é a ferramenta de inteligência artificial da Meta integrada a praticamente todos os seus serviços, incluindo Facebook, Instagram, WhatsApp e Messenger.

A mudança nas sugestões de comandos é mais um recuo recente da Meta envolvendo recursos de inteligência artificial integrados às suas redes sociais.

Em julho, a empresa desativou uma ferramenta que permitia criar imagens no estilo deepfake usando a aparência de outros usuários do Instagram. A funcionalidade também gerou repercussão negativa e questionamentos relacionados à privacidade.

What did you think of this news? Leave a comment below and/or share it on your social media. This way, we can inform more people about the hottest things in technology, science, innovation, and gaming!

This news was originally published in:
Original source