O Google disse que irá pausar temporariamente a geração de imagens através de seu chatbot de inteligência artificial Gemini. Isso porque a ferramenta começou a criar imagens historicamente imprecisas.
“Já estamos trabalhando para resolver problemas recentes com o recurso de geração de imagens do Gemini. Enquanto fazemos isso, pausaremos a geração de imagens de pessoas e relançaremos uma versão melhorada em breve.”
- Google.
Como reportou o The Verge, quando o chatbot foi solicitado a criar uma imagem sobre os “Pais Fundadores dos Estados Unidos” e “soldados alemães da era nazistas”, a ferramenta tentou subverter os esteriótipos de gênero e raciais desses períodos.
No caso dos fundadores dos EUA, a ferramenta apresentou ilustrações desconexas com a realidade, incluindo mulheres e negros, como publicou o engenheiro de software Mike Wacker no X:
O mesmo acontece nas imagens para as solicitações "soldado alemão de 1943" e "senadores norte-americanos de 1800":
Usuários também relataram problemas ao tentar criar imagens com pessoas brancas. Nas tentativas do site Fox Business, o Gemini disse que não poderia atender o pedido “porque reforça estereótipos prejudiciais e generalizações sobre as pessoas com base em sua raça”.
Quando a ferramenta atendeu à solicitação de criar “um papa” os resultados também fugiram dos líderes da igreja católica do mundo real.
A capacidade de gerar imagens foi introduzida ao Bard (agora Gemini) no início de fevereiro. Entretanto, a ferramenta foi lançada com suporte apenas para o idioma inglês.
SAIBA MAIS!
