ouça este conteúdo
IA da OpenAI, baseada no GPT-4, aprendeu com treinadores a gerar respostas e apontamentos, reforçando seu aprendizado com feedbacks.
A OpenAI desenvolveu um novo modelo, o CriticGPT, derivado do GPT-4, com o objetivo de identificar falhas em respostas produzidas pelo ChatGPT. Segundo a organização, ao contar com a assistência do CriticGPT para analisar os textos gerados pelo ChatGPT, os usuários conseguem resolver eventuais questões sem necessidade de suporte extra em 60% das situações. A linha de modelos GPT-4 que alimenta o ChatGPT passa por correção por meio do que é conhecido como ‘aprendizado de reforço a partir do feedback humano’ (RLHF, em inglês), o que implica que a plataforma aprimora seu desempenho à medida que os usuários, também denominados treinadores de inteligência artificial, avaliam as respostas fornecidas pelo ChatGPT e apontam possíveis equívocos.
O CriticGPT se destaca como uma valiosa ferramenta para aprimorar a qualidade das interações mediadas pelo ChatGPT. A capacidade de detecção de erros do CriticGPT proporciona um valioso auxílio aos usuários, permitindo uma revisão mais eficaz dos conteúdos gerados. A integração do CriticGPT no processo de revisão dos textos produzidos pelo ChatGPT representa um avanço significativo na busca pela excelência na geração de conteúdo por meio de inteligência artificial.
CriticGPT: Ferramenta de Correção e Auxílio na Revisão de IA
O avanço da tecnologia traz consigo desafios e oportunidades, especialmente no campo da inteligência artificial. Com o ChatGPT se tornando mais refinado, a detecção de erros torna-se uma tarefa mais sutil e especializada, o que pode dificultar o trabalho dos treinadores de IA. É aqui que entra o CriticGPT, uma ferramenta inovadora que promete auxiliar nesse processo.
A empresa responsável planeja integrar modelos semelhantes ao CriticGPT no processo de RLHF, visando enriquecer os feedbacks humanos com insights provenientes da IA. Embora as sugestões do CriticGPT não sejam infalíveis, elas podem ser valiosas na identificação de problemas que poderiam passar despercebidos.
Assim como o GPT-4, o CriticGPT também evolui à medida que mais usuários utilizam a ferramenta e fornecem feedbacks. Um exemplo prático disso é quando o CriticGPT aponta potenciais erros no ChatGPT, conforme divulgado pela OpenAI.
De acordo com a OpenAI, os testes comparativos entre os dois modelos revelaram que as correções feitas pelo CriticGPT superaram as do ChatGPT em 63% das situações. Além disso, a nova ferramenta demonstrou uma redução significativa nas alucinações, momentos em que a IA gera informações falsas.
Apesar de seus benefícios, o CriticGPT ainda apresenta limitações e não pode resolver problemas extremamente complexos. Em situações de alta especialização, mesmo a combinação de especialistas humanos e modelos de IA pode não ser suficiente para uma avaliação precisa.
O CriticGPT representa um avanço promissor no campo da revisão e correção de IA, oferecendo suporte aos treinadores e contribuindo para a melhoria contínua dos modelos. Com seu papel de destaque na detecção de falhas e na geração de feedbacks, essa ferramenta se mostra como um aliado valioso para a evolução da inteligência artificial.
Fonte: © CNN Brasil
Comentários sobre este artigo