Pixel Studio não evitou criação de imagens inapropriadas no Pixel 9; falha em verificações de segurança durante testes.
Presente nos novos smartphones Pixel 9 do Google, o aplicativo Pixel Studio é uma ferramenta generativa que permite criar imagens de forma única e criativa. Com ele, é possível gerar ilustrações surpreendentes, como a do Bob Esponja vestido de nazista, desafiando as normas convencionais de segurança da gigante tecnológica.
Além disso, a inteligência artificial integrada ao Pixel Studio proporciona uma experiência ainda mais avançada aos usuários, permitindo a criação de conteúdos exclusivos e inovadores. Com essa tecnologia inovadora, é possível explorar novas possibilidades e estimular a criatividade de maneira única e envolvente.
IA Generativa e a Polêmica com Imagens Inapropriadas
O Digital Trends alerta sobre a polêmica envolvendo a IA generativa alimentada pelo Imagen 3, ferramenta da gigante das buscas. Durante os testes realizados pelo editor Joe Maring, foram verificadas as falhas nos filtros da ferramenta. Embora tenham evitado a geração de fotos de pessoas, outros aspectos foram negligenciados.
Ao utilizar o Pixel Studio, que cria imagens a partir de descrições textuais, Maring solicitou a imagem de ‘Bob Esponja vestido como um soldado alemão da Segunda Guerra Mundial com uma suástica no uniforme’. Surpreendentemente, a tecnologia atendeu ao pedido sem hesitação. Além disso, foram geradas imagens de personagens envolvidos em situações controversas, como o uso de armas e drogas, seguindo fielmente as descrições.
Artigos Relacionados
O relatório revela que mesmo prompts sensíveis, como os relacionados ao nazismo e drogas, foram atendidos pela IA sem questionamentos. O Google, ao ser questionado, afirmou que a IA generativa foi projetada para respeitar as orientações dos prompts, mas reconheceu a possibilidade de conteúdos ofensivos serem gerados em certas circunstâncias.
Apesar disso, o gerente de comunicações do Google, Alex Moriconi, ressaltou a importância de manter políticas claras para evitar abusos. A empresa está comprometida em aprimorar as salvaguardas existentes para garantir a segurança e a ética no uso da tecnologia.
Maring também relatou que, ao repetir os prompts relacionados a tiroteios em escolas e personagens infantis em situações controversas, o Pixel Studio falhou em gerar as imagens, exibindo uma mensagem de erro. No entanto, a geração de conteúdos inapropriados persistiu em outros cenários, levantando questões sobre os limites e a responsabilidade no uso da IA generativa.
Fonte: @Tech Mundo
Comentários sobre este artigo