Pesquisar

Canais

Serviços

Publicidade
Publicidade
Publicidade
170 fotos

Fotos de crianças brasileiras são usadas por inteligência artificial de forma indevida

Agência Brasil e TV Brasil
12 jun 2024 às 17:59
- Rawpixel.com no Freepik
siga o Bonde no Google News!
Publicidade
Publicidade

Um levantamento da organização internacional Human Rights Watch identificou uso de fotos pessoais de crianças e adolescentes brasileiros por ferramentas de IA (inteligência artificial). De acordo com a entidade, as imagens foram retiradas de sites e mídias sociais sem consentimento.


A entidade encontrou 170 fotos de crianças de pelo menos 10 estados, que retratam momentos de nascimento de bebês, festas de aniversário e apresentações em escolas.

Cadastre-se em nossa newsletter

Publicidade
Publicidade


As imagens estão em um banco de dados chamado LAION-5B, utilizado para o treinamento das ferramentas de IA. Segundo a organização, o percentual é baixo diante da dimensão do acervo do banco, que passa de 5 bilhões de imagens, porém acende um alerta.

Leia mais:

Imagem de destaque
Relatório Anual

Brasil aumenta vacinação infantil em 2023, mas mundo ainda tem 2,7 milhões crianças não imunizadas

Imagem de destaque
Dinheiro preso

Atraso em sistema paralisa saques do Fundo PIS/Pasep

Imagem de destaque
Porte ilegal

Menina de 9 anos morre com tiro acidental de arma do pai em SP, segundo a polícia

Imagem de destaque
Familia

Mais pais e mães buscam reconhecimento legal de laços com enteados


“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas anos ou até mesmo uma década”, diz nota da Human Righs Watch.

Publicidade


Deepfakes


A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, explica que a inteligência artificial permite a criação de imagens e cenas realistas em questão de segundos, gratuitamente e de forma fácil. Com isso, muitas das fotos são base para o desenvolvimento de deepfakes não consensuais e nocivas, que circulam na internet.

Publicidade


A deepfake permite a adulteração de vídeos e fotos por meio de inteligência artificial. Um exemplo, é trocar rostos das pessoas em um vídeo ou mudar a fala.


Segundo a Human Rights Watch, as fotos das crianças brasileiras não estão disponíveis por meio de pesquisa on line e foram postadas há anos, até mesmo antes da criação do banco de imagens. O acesso a elas pelas ferramentas de IA revela que houve falha por parte de grandes empresas e mídias sociais em proteger a privacidade dos usuários.  

Publicidade


A organização informou que a instituição alemã responsável pelo LAION-5B “confirmou que o conjunto de dados continha as fotos pessoais das crianças encontradas pela Human Rights Watch e se comprometeu a removê-las. Ela contestou que os modelos de IA treinados no LAION-5B pudessem reproduzir dados pessoais literalmente. A LAION também disse que as crianças e seus pais são responsáveis por remover suas fotos pessoais da Internet, argumentando ser a proteção mais eficaz contra o uso indevido”.


A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, defende a aplicação da legislação no mundo virtual para proteção dos usuários.


“É importante e bem-vinda a inclusão de novos direitos a partir dos desafios colocados em relação ao ambiente digital, incluindo da inteligência artificial. A gente precisa garantir o dever de cuidado com crianças e adolescentes, quando são os públicos mais afetados”, disse a pesquisadora em entrevista à TV Brasil.


LEIA TAMBÉM:


Imagem
Insônia pode ser sintoma de depressão, diz estudo
Um estudo feito por pesquisadores do Instituto do Sono de São Paulo revelou que a insônia não é apenas um sintoma secundário da depressão, mas parte integrante da doença mental.
Publicidade

Últimas notícias

Publicidade