Você pode contar com a IA para responder perguntas sobre o câncer?

IA responde perguntas sobre câncer?

A inteligência artificial pode nem sempre ser a sua fonte mais precisa de informações de saúde, especialmente quando se trata de cuidados com o câncer, revela uma nova pesquisa.

Dois novos estudos avaliaram a qualidade das respostas oferecidas pelos chatbots de IA a uma variedade de perguntas sobre cuidados com o câncer.

Um deles, publicado em 24 de agosto no JAMA Oncology, concentrou-se no serviço de IA conversacional em frases completas conhecido como ChatGPT, que foi lançado com grande entusiasmo em novembro passado.

O lado positivo: cerca de dois terços das informações sobre câncer oferecidas pelo ChatGPT correspondiam com precisão às diretrizes atuais da Rede Nacional Abrangente de Câncer dos Estados Unidos.

O lado negativo: o restante não correspondia.

“Algumas recomendações estavam claramente completamente incorretas”, disse a autora do estudo, Dra. Danielle Bitterman, professora assistente de oncologia por radiação no Brigham and Women’s Hospital/Dana-Farber Cancer Institute e na Harvard Medical School em Boston. “Por exemplo, casos em que o tratamento curativo foi recomendado para um diagnóstico incurável.”

Outras vezes, as recomendações incorretas eram mais sutis – por exemplo, incluindo algumas, mas não todas, as partes de um regime de tratamento, como recomendar apenas cirurgia, quando o tratamento padrão também inclui radioterapia e/ou quimioterapia, disse Bitterman.

Isso é preocupante, segundo ela, dado o grau em que “informações incorretas estavam misturadas com informações corretas, o que tornou especialmente difícil detectar erros, mesmo para especialistas.”

Um segundo estudo na mesma edição do periódico ofereceu uma avaliação muito mais positiva da precisão da IA.

Neste caso, os pesquisadores analisaram as respostas de quatro serviços de chatbot diferentes – ChatGPT, Perplexity, Chatsonic e Bing da Microsoft. Cada um foi solicitado a discutir câncer de pele, pulmão, mama, próstata e/ou cólon.

Os pesquisadores consideraram a qualidade e a precisão das respostas como “boas”.

No entanto, eles disseram que isso não significa necessariamente que os pacientes considerarão a experiência de IA útil. Isso ocorre porque grande parte das informações fornecidas é muito complexa para a maioria das pessoas sem conhecimento médico.

Ao mesmo tempo, todas as respostas estavam ligadas a um aviso geral de que os pacientes não devem tomar decisões de cuidados de saúde com base nos dados fornecidos sem consultar primeiro um médico.

A principal conclusão: muitos usuários de IA provavelmente acharão que as informações médicas geradas por chatbots são incompreensíveis, impraticáveis ou ambos.

“Os resultados foram encorajadores no sentido de que havia muito poucas informações erradas, porque essa era a nossa maior preocupação”, disse o autor do estudo, Dr. Abdo Kabarriti, chefe de urologia do South Brooklyn Health, na cidade de Nova York.

“Mas muitas informações, embora precisas, não estavam em termos leigos”, acrescentou.

Basicamente, os chatbots forneceram informações em um nível de leitura universitário, enquanto o consumidor médio lê em um nível aproximado da sexta série, disse Kabarriti.

As informações de IA recebidas pela equipe de Kabarriti estavam, segundo ele, “muito além disso”.

Outro fator que provavelmente frustrará muitos pacientes é que a IA não dirá o que fazer em relação aos sintomas de câncer que ela descreve, disse Kabarriti.

“Ela apenas dirá ‘consulte seu médico'”, disse ele. “Talvez haja uma questão de responsabilidade. Mas o ponto é que os chats de IA não substituem a interação que os pacientes precisarão ter com seus médicos.”

O Dr. Atul Butte, cientista-chefe de dados do Sistema de Saúde da Universidade da Califórnia, escreveu um editorial acompanhante.

Apesar das preocupações levantadas por ambos os estudos, ele considera a IA “uma enorme vantagem” para os pacientes e para a comunidade médica como um todo.

“Acredito que o copo já está mais que meio cheio”, disse Butte, observando que, ao longo do tempo, as informações fornecidas pelos chatbots inevitavelmente se tornarão cada vez mais precisas e acessíveis.

Segundo Butte, alguns estudos já mostraram que a IA tem o potencial de oferecer melhores conselhos e até mais empatia do que os profissionais médicos.

Sua opinião: com o tempo, os chatbots de IA desempenharão um papel cada vez mais crítico na entrega de informações e cuidados médicos. Para muitos pacientes, o benefício será tangível, previu Butte.

Poucos pacientes têm os recursos ou privilégios para ir aos melhores centros médicos do mundo, observou ele.

“Mas imagine se pudéssemos treinar a inteligência artificial com os dados e práticas desses melhores lugares e, em seguida, fornecer esse conhecimento por meio de ferramentas digitais em todo o mundo”, seja para pacientes por meio de aplicativos ou para médicos por meio de sistemas eletrônicos de prontuário eletrônico, disse Butte.

“É por isso que estou começando a chamar a inteligência artificial de ‘privilégio escalável'”, acrescentou. “[É] a melhor forma de expandir esse cuidado médico privilegiado, que apenas alguns podem obter, para todos.”

APRESENTAÇÃO DE SLIDES

Mais informações

O Instituto Nacional de Imagens Biomédicas e Bioengenharia dos Estados Unidos tem uma visão geral de IA.

FONTES: Danielle Bitterman, MD, professora assistente, radioterapia, Brigham and Women’s Hospital/Dana-Farber Cancer Institute e Harvard Medical School, Boston; Abdo Kabarriti, MD, chefe de urologia, South Brooklyn Health, cidade de Nova York; Atul Butte, MD, PhD, cientista-chefe de dados, Sistema de Saúde da Universidade da Califórnia, e professor e diretor inaugural, Bakar Computational Health Sciences Institute, UC San Francisco; JAMA Oncology, 24 de agosto de 2023