No dia 29 de março de 2023, médicos do departamento de neurocirurgia em três hospitais dos Estados Unidos publicaram estudo atestando que o ChatGPT-3 e o ChatGPT-4 são capazes de passar na prova de residência médica em cirurgia neurológica.
Um mês antes, o ChatGPT-3 acertou 60% das questões do exame nacional de licenciamento médico nos Estados Unidos (USMLE, na sigla em inglês). Em ambos os estudos a ideia era verificar o potencial da Inteligência Artificial para auxiliar na educação médica e na tomada de decisões clínicas. Mas quais são as implicações dessa novidade para a profissão médica?
Para entender melhor o funcionamento dessa ferramenta, fiz um teste pessoal. Digitei: “meu pai de 70 anos está com náuseas e vômitos. O lado direito de seu corpo está começando a parecer fraco e ele tem dificuldade crescente para falar e compreender a linguagem. Os sintomas começaram com apenas fala arrastada leve, antes de progredir por vários minutos para dificuldade severa para falar e paralisia do braço direito. O que provavelmente está causando seus sintomas?”. A resposta foi certeira: um possível acidente vascular cerebral (AVC), também conhecido como derrame. A IA também sugeriu que procurássemos ajuda médica o quanto antes.
O ChatGPT é uma tecnologia ainda em evolução, mas que traz algumas perspectivas interessantes para o futuro. O que não podemos é ter expectativas em excesso.
O ChatGPT demonstra uma interessante aplicação no apoio à triagem de pacientes com base em seus sintomas, histórico médico e outros fatores. Isso pode ajudar a identificar problemas de saúde mais cedo e encaminhar tempestivamente pacientes para tratamento médico adequado. Esse seria, sem dúvida, um avanço significativo frente ao uso atual do Google e de verificadores de sintomas online e triagem de pacientes, o que pode ser especialmente proveitoso em regiões remotas ou com pouco acesso a serviços de saúde.
Além disso, o auxílio de ferramentas como o ChatGPT pode ser, em certa medida, bem-vinda para a própria atividade médica, no campo do diagnóstico, prognóstico e propostas de tratamento. Nesse sentido, importante levar em conta a impossibilidade de um médico se manter atualizado com os inúmeros estudos e descobertas científicas divulgados diariamente.
Contudo, é essencial ter um olhar crítico para as bases de dados utilizadas por essas tecnologias. Em pesquisa recente, realizada na Universidade de Cambridge, na Inglaterra, constatou-se que a grande maioria dos algoritmos de IA utilizados no setor da saúde é treinada em amostras de dados pequenas e de origem única, com diversidade populacional limitada. O resultado é um algoritmo altamente preciso em um estudo, mas que não funciona no mesmo nível quando exposto às variáveis do mundo real, com diferentes tipos de pacientes e em diversas localidades. No caso do ChatGPT, embora a base de dados seja gigantesca, a IA pode refletir a linguagem e o comportamento humanos, possivelmente reproduzindo preconceitos e estereótipos existentes na área da saúde, como a discriminação racial ou de gênero, ou a perpetuação de crenças equivocadas sobre certas condições de saúde.
Os deveres de conduta médica devem ser ressignificados periodicamente, a partir da nova realidade posta à prática médica com o arcabouço tecnológico.
Em evento acadêmico realizado no dia 20 de março, pela Faculdade de Medicina da USP, grandes especialistas debateram sobre os benefícios, riscos e desafios do ChatGPT aplicado no sistema de saúde brasileiro. Para o professor Chao Lung Wen, há oito reflexões a serem ponderadas neste cenário: i) a base de dados utilizada (geral ou dados indexados); ii) a periodicidade de atualizações (o modelo atual – ChatGPT-4 – lançado em março de 2023 foi programado em dados coletados até setembro de 2022); iii) critérios de inclusão e exclusão de dados; iv) avaliação periódica de resultados (auditoria); v) checagem de nível de precisão; vi) saber como fazer as perguntas; vii) definição das responsabilidades nas tomadas de decisões; viii) definição das finalidades: profissionais ou gerais (população).
Um ponto que merece especial atenção é a validação das informações: o ChatGPT sofre “alucinação”, ou seja, às vezes reproduz fatos e informações que não existem, como citações acadêmicas. Então, vamos pensar o seguinte: Se um médico discordar do resultado da IA, como isso afetará as interações entre pacientes e médicos? Quais os problemas jurídicos advindos da discordância homem-máquina? Apesar dessas incertezas, parece que o futuro do diagnóstico assistido pela IA é uma tendência, e os sistemas de saúde e profissionais da medicina precisarão refletir sobre como enfrentar esses desafios.
Deve-se promover um futuro no qual a IA tenha a função primordial de auxiliar, ao invés de substituir médicos e enfermeiros, havendo sempre um lugar para que especialistas verifiquem a precisão das recomendações algorítmicas e avaliem o quão bem elas funcionam no mundo real. O julgamento profissional e o diagnóstico clínico final não podem ser automatizados, pois haverá situações nas quais o médico, por razões sólidas/científicas não deverá seguir a recomendação do algoritmo. Nesse sentido, destaca-se a proteção da autonomia humana como um dos principais princípios éticos da IA na Medicina, tal como consignado nas diretrizes de 2021 da Organização Mundial da Saúde. Inclusive, a Associação Médica Mundial utiliza o termo “Inteligência Aumentada” como substituição à conceituação “Inteligência Artificial”, a fim de ressaltar o papel assistivo da tecnologias, ou seja, ela aprimora a inteligência dos profissionais da saúde, ao invés de substituí-la.
Fonte: Gazeta do Povo 13.04.2023
