Meta, empresa controladora do Instagram, anunciou nesta quinta-feira (11) que o aplicativo testará novos recursos visando proteger adolescentes. Entre as medidas, está a implementação de ferramentas que desfocam mensagens contendo nudez, buscando prevenir possíveis exposições indesejadas e proteger os usuários contra potenciais golpes.
A Meta está enfrentando acusações nos Estados Unidos e na Europa de tornar seus aplicativos viciantes, o que tem levado a problemas de saúde mental entre os jovens.
Em resposta a essas preocupações, a empresa anunciou que o recurso de proteção para mensagens diretas do Instagram utilizará aprendizado de máquina para analisar se uma imagem enviada contém nudez.
Esse recurso será ativado automaticamente para usuários com menos de 18 anos, e a empresa notificará os adultos para incentivá-los a ativá-lo.
“A análise das imagens ocorrerá no próprio dispositivo, garantindo que a proteção contra nudez funcione mesmo em bate-papos criptografados de ponta a ponta, onde a Meta não terá acesso a essas imagens, a menos que alguém decida denunciá-las para nós”, afirmou a empresa.
Ao contrário dos aplicativos Messenger e WhatsApp, as mensagens diretas no Instagram ainda não são criptografadas. No entanto, a Meta revelou planos para implementar a criptografia neste serviço.
Além disso, a empresa está desenvolvendo tecnologias para identificar contas potencialmente envolvidas em golpes de extorsão. Ela também está testando novas mensagens direcionadas a usuários que podem ter interagido com tais contas.
Em outubro, procuradores de 33 estados dos EUA entraram com um processo contra a empresa, alegando que ela enganou repetidamente o público sobre os riscos associados às suas plataformas.
Na Europa, a Comissão Europeia está investigando como a Meta protege as crianças do conteúdo ilegal e prejudicial.
