Uma em cada quatro respostas de chatbot de inteligência artificial pode induzir a riscos graves de saúde, incluindo morte, devido à baixa precisão e legibilidade das informações, exigindo nível educacional necessário para evitar dano.
A Inteligência Artificial está cada vez mais presente em nossas vidas, e sua aplicação na saúde mental é um tema que gera muita curiosidade. Alguns especialistas acreditam que a IA pode ser uma ferramenta valiosa para ajudar a diagnosticar e tratar problemas de saúde mental, enquanto outros são mais céticos sobre suas capacidades.
No entanto, estudos recentes mostram que a Inteligência Artificial pode ser uma ferramenta útil para ajudar a responder perguntas frequentes sobre medicamentos. Pesquisadores alemães e belgas testaram 10 perguntas frequentes sobre os 50 medicamentos mais prescritos nos Estados Unidos, gerando 500 respostas diferentes no Copilot, um chatbot que utiliza tecnologia de IA para fornecer respostas precisas. A tecnologia está avançando rapidamente, e é provável que vejamos mais aplicações da IA na saúde mental nos próximos anos.
Inteligência Artificial: Riscos e Desafios na Área da Saúde
Um estudo recente realizado por pesquisadores da Alemanha e da Bélgica avaliou a eficácia e segurança do uso de ferramentas de Inteligência Artificial (IA) na área da saúde. O estudo foi realizado com o chatbot de IA Microsoft Copilot, que foi testado com perguntas sobre remédios. Os resultados mostraram que quase uma em cada quatro respostas da IA podem causar riscos de saúde aos usuários.
Os pesquisadores analisaram 500 feedbacks do Copilot e identificaram que 54% das respostas estavam alinhadas ao consenso científico, enquanto 39% contradiziam o conhecimento médico. Além disso, 36% das respostas foram consideradas inofensivas à saúde, enquanto 42% poderiam induzir a danos moderados ou leves à saúde e 22% poderiam induzir a danos graves ou morte.
Artigos Relacionados
Legibilidade e Precisão das Informações
Os pesquisadores também avaliaram a legibilidade e precisão das informações fornecidas pelo Copilot. Os resultados mostraram que a média dos feedbacks do Copilot exigia um nível de leitura compatível à formação de ensino médio ou graduação. Isso pode ser um problema, pois as informações fornecidas pela IA devem ser claras e precisas para evitar riscos à saúde.
A pesquisa também indicou que a IA pode ser uma ferramenta útil na área da saúde, mas é fundamental haver atenção redobrada para garantir a ética e a eficácia dessas ferramentas em qualquer tipo de tratamento envolvendo seres vivos. Além disso, é importante lembrar que chatbots de IA são geralmente treinados com grandes bases de dados disponíveis na internet, que podem conter conteúdos falsos, imprecisos e genéricos.
Uso de IA na Área da Saúde: Desafios e Oportunidades
O uso de IA na área da saúde é promissor, mas exige cuidados. Ferramentas que utilizam aprendizado de máquina específico e especializado na área da saúde podem ser úteis na detecção de doenças e no auxílio de pacientes. No entanto, é fundamental garantir que essas ferramentas sejam treinadas com dados precisos e atualizados, e que sejam utilizadas de forma ética e responsável.
Em resumo, o estudo realizado com o Copilot aponta para a necessidade de cuidado e atenção ao usar ferramentas de IA na área da saúde. Embora a IA possa ser uma ferramenta útil, é fundamental garantir que as informações fornecidas sejam precisas e claras, e que as ferramentas sejam utilizadas de forma ética e responsável.
Fonte: @Tech Tudo
Comentários sobre este artigo