A Food and Drug Administration (FDA), agência reguladora de saúde dos Estados Unidos, tem mantido discussões com a OpenAI para explorar o uso de inteligência artificial (IA) em suas operações. As reuniões parecem estar alinhadas a um esforço mais amplo da FDA para empregar essa tecnologia com o objetivo declarado de acelerar o demorado processo de aprovação de medicamentos, segundo reportagem do portal WIRED.
"Por que leva mais de 10 anos para um novo medicamento chegar ao mercado?", questionou o comissário da FDA, Marty Makary, em uma postagem na plataforma X (anteriormente Twitter). Ele acrescentou: "Por que não estamos modernizados com IA e outras coisas? Acabamos de concluir nossa primeira revisão científica assistida por IA para um produto e isso é apenas o começo".
As declarações de Makary seguiram-se a uma reunião anual da American Hospital Association, onde ele abordou o potencial da IA para auxiliar na aprovação de novos tratamentos para diabetes e certos tipos de câncer.
Embora Makary não tenha especificado a participação da OpenAI nessa iniciativa publicamente, fontes próximas ao projeto indicam que uma pequena equipe da OpenAI se reuniu várias vezes nas últimas semanas com representantes da FDA e dois associados do chamado "Departamento de Eficiência Governamental" de Elon Musk. O grupo teria discutido projetos internos denominados cderGPT – que provavelmente se refere ao Centro de Avaliação de Medicamentos (Center for Drug Evaluation and Research), responsável pela regulação de medicamentos nos EUA – e Research GPT. Jeremy Walsh, recém-nomeado primeiro oficial de IA da FDA, liderou essas discussões. No entanto, até o momento, nenhum contrato foi assinado entre as partes. A OpenAI recusou-se a comentar sobre o assunto.
Walsh também se reuniu com Peter Bowman-Davis, estudante de graduação de Yale atualmente diretor interino de IA no Departamento de Saúde e Serviços Humanos (HHS), para discutir as ambições da FDA em IA. Bowman-Davis faz parte da equipe de dinamismo americano da Andreessen Horowitz.
Robert Califf, que atuou como comissário da FDA em dois períodos (2016-2017 e em janeiro de 2022), indicou que as equipes de revisão da agência já utilizam IA há vários anos. Em resposta por e-mail, Califf expressou interesse em "ouvir os detalhes de quais partes da revisão foram 'assistidas por IA' e o que isso significa", acrescentando que "sempre houve uma busca para encurtar os tempos de revisão e um amplo consenso de que a IA poderia ajudar". Antes de deixar a agência, Califf mencionou que a FDA considerava diversas maneiras de usar a IA em operações internas, ressaltando que as revisões finais para aprovação são apenas uma pequena parte de uma oportunidade maior.
De fato, embora o uso de IA para auxiliar nas revisões finais de medicamentos possa potencialmente comprimir uma seção do notoriamente longo cronograma de desenvolvimento de medicamentos, essa é apenas uma pequena parte do processo. A vasta maioria dos medicamentos em desenvolvimento falha antes mesmo de chegar à fase de revisão pela FDA. Atualmente, o processo de revisão da FDA leva cerca de um ano, mas a agência já possui mecanismos para agilizar esse prazo para medicamentos promissores, como a designação fast track para condições graves e não atendidas e a designação de terapia inovadora (breakthrough therapy), criada em 2012, que permite revisão prioritária para candidatos que ofereçam benefício substancial aos pacientes.
Especialistas da área destacam os desafios e a necessidade de cautela na implementação da IA. Rafael Rosengarten, CEO da Genialis (empresa de oncologia de precisão) e cofundador da Alliance for AI in Healthcare, apoia a automação de certas tarefas no processo de revisão, mas enfatiza a necessidade de orientação política clara sobre o tipo de dados usados para treinar modelos de IA e o desempenho aceitável esperado.
"Essas máquinas são incrivelmente hábeis em aprender informações, mas precisam ser treinadas de forma que aprendam o que queremos que aprendam", afirmou.
Rosengarten sugere que a IA poderia ser aplicada mais imediatamente para lidar com tarefas mais simples, ou "frutos mais fáceis", como verificar a integridade dos documentos de aplicação. Algo "tão trivial quanto isso poderia agilizar o retorno de feedback aos remetentes com base em coisas que precisam ser abordadas para tornar a aplicação completa", disse ele. Usos mais sofisticados, por outro lado, precisariam ser desenvolvidos, testados e comprovados.
Uma preocupação significativa foi levantada por um ex-funcionário da FDA que testou o ChatGPT como ferramenta clínica. Ele apontou que a propensão dos modelos de IA a fabricar informações convincentes ("alucinações") levanta questões sobre a confiabilidade desses chatbots. "Quem sabe quão robusta será a plataforma para as tarefas desses revisores", ponderou o ex-funcionário.
O grupo industrial PhRMA, por meio de seu porta-voz Andrew Powaleny, reforçou que "garantir que os medicamentos possam ser revisados quanto à segurança e eficácia em tempo hábil para atender às necessidades dos pacientes é fundamental". Powaleny acrescentou que, embora a IA ainda esteja em desenvolvimento, aproveitá-la requer uma abordagem cuidadosa e baseada em risco, com os pacientes no centro.
A própria FDA já está conduzindo pesquisas internas sobre o uso potencial da IA. Em dezembro de 2023, a agência concedeu uma bolsa de estudo para um pesquisador desenvolver grandes modelos de linguagem (LLMs) para uso interno. A descrição da bolsa indica que o bolsista se envolverá em atividades relacionadas à aplicação de LLMs em medicina de precisão, desenvolvimento de medicamentos e ciência regulatória.
Do lado da OpenAI, a empresa tem se preparado para engajar com entidades governamentais. Em janeiro, anunciou o ChatGPT Gov, uma versão auto-hospedada de seu chatbot projetada para cumprir regulamentações governamentais. A startup também declarou estar trabalhando para obter credenciais FedRAMP (Federal Risk and Authorization Management Program) moderadas e altas para o ChatGPT Enterprise. O FedRAMP é um programa de conformidade federal usado para avaliar produtos em nuvem; sem essa autorização, um serviço não pode conter dados federais confidenciais, o que seria crucial para lidar com informações de processos de revisão de medicamentos.
A busca pela modernização e eficiência na FDA, especialmente na aprovação de medicamentos, parece estar abrindo portas para a exploração de novas tecnologias como a IA, mas os diálogos iniciais e as visões de especialistas e ex-funcionários indicam que a implementação enfrentará desafios técnicos e regulatórios significativos, exigindo diretrizes claras e testes rigorosos.
