Em uma manhã de maio, a ferramenta sinalizou um paciente pulmonar de 74 anos com uma pontuação de 0,81 - muito além da pontuação de 0,65, quando os médicos começam a se preocupar. Ele não parecia estar sentindo dor, mas segurou a mão de sua filha quando Milekic começou a trabalhar. Ela circulou a cama dele e logo identificou o problema: Um tubo torácico dobrado estava retendo fluido dos pulmões, fazendo com que os níveis de oxigênio no sangue despencassem.

Depois de reposicionar o tubo, sua respiração se estabilizou - uma “intervenção simples”, diz Milekic, que talvez não tivesse acontecido sem a ajuda do programa de computador.

A manhã de Milekic poderia ser uma propaganda do potencial da IA para transformar a assistência médica. O Mount Sinai faz parte de um grupo de hospitais de elite que está investindo centenas de milhões de dólares em software e educação de IA, transformando suas instituições em laboratórios para essa tecnologia. Eles são estimulados por um crescente corpo de literatura científica, como um estudo recente que descobriu que as leituras de mamografias feitas por IA detectaram 20% mais casos de câncer de mama do que os radiologistas - juntamente com a convicção de que a IA é o futuro da medicina.

Os pesquisadores também estão trabalhando para traduzir a IA generativa, que apoia ferramentas capazes de criar palavras, sons e textos, em um ambiente hospitalar. O Mount Sinai implantou um grupo de especialistas em IA para desenvolver ferramentas médicas internamente, que os médicos e enfermeiros estão testando no atendimento clínico. O software de transcrição preenche a papelada de faturamento; os chatbots ajudam a elaborar resumos de pacientes.

Mas os avanços estão provocando tensão entre os funcionários da linha de frente, muitos dos quais temem que a tecnologia tenha um alto custo para os seres humanos. Eles se preocupam com o fato de a tecnologia fazer diagnósticos errados, revelar dados confidenciais dos pacientes e se tornar uma desculpa para os administradores de seguros e hospitais cortarem pessoal em nome da inovação e da eficiência.

Acima de tudo, eles dizem que o software não pode fazer o trabalho de um médico ou enfermeiro humano.

“Se acreditamos que em nossos momentos mais vulneráveis queremos alguém que preste atenção em nós”, Disse Michelle Mahon, diretora assistente de prática de enfermagem do sindicato National Nurses United, “então precisamos ser muito cuidadosos neste momento”.

Os hospitais têm se envolvido com IA há décadas. Na década de 1970, pesquisadores da Universidade de Stanford criaram um sistema rudimentar de IA que fazia perguntas aos médicos sobre os sintomas de um paciente e fornecia um diagnóstico com base em um banco de dados de infecções conhecidas.

Na década de 1990 e no início dos anos 2000, os algoritmos de IA começaram a decifrar padrões complexos em radiografias, tomografias computadorizadas e imagens de ressonância magnética para detectar anormalidades que o olho humano poderia não perceber.

Vários anos depois, robôs alimentados com visão de IA começaram a operar ao lado de cirurgiões. Com o advento dos registros médicos eletrônicos, as empresas incorporaram algoritmos que escaneavam grandes quantidades de dados de pacientes para identificar tendências e pontos em comum em pacientes com determinadas doenças e recomendar tratamentos personalizados.

À medida que o aumento da capacidade de computação turbinou a IA, os algoritmos passaram da identificação de tendências para a previsão de se um paciente específico sofrerá de uma doença. O surgimento da IA generativa criou ferramentas que imitam mais de perto o atendimento ao paciente.

Vijay Pande, sócio geral da empresa de capital de risco Andreessen Horowitz, disse que o setor de saúde está em um momento decisivo. “Há muito entusiasmo com relação à IA neste momento”, disse ele. “A tecnologia deixou de ser bonitinha e interessante e passou a ser vista como algo que está sendo implementado.”

Em março, o sistema de saúde da Universidade do Kansas começou a usar chatbots médicos para automatizar anotações clínicas e conversas médicas. A Mayo Clinic, em Minnesota, está usando um chatbot do Google treinado em questões de exames de licenciamento médico, chamado Med-Palm 2, para gerar respostas a questões de saúde, resumir documentos clínicos e organizar dados, de acordo com uma reportagem de julho do Wall Street Journal.

Alguns desses produtos já chamaram a atenção de autoridades eleitas. Na terça-feira, o senador Mark R. Warner (D-Va.) pediu cautela no lançamento do Med-Palm 2, citando repetidas imprecisões em uma carta ao Google.

“Embora a inteligência artificial (IA), sem dúvida, tenha um enorme potencial para melhorar o atendimento ao paciente e os resultados de saúde, eu me preocupo que a implantação prematura de tecnologia não comprovada possa levar à erosão da confiança em nossos profissionais e instituições médicas”, disse ele em um comunicado.

Thomas J. Fuchs, reitor de IA da Icahn School of Medicine do Mount Sinai, disse que é imperativo que os hospitais de pesquisa, que contam com médicos e pesquisadores pioneiros, atuem como laboratórios para testar essa tecnologia.

O Mount Sinai levou a premissa ao pé da letra, arrecadando mais de US$ 100 milhões por meio de filantropia privada e construindo centros de pesquisa e instalações de computação no local. Isso permite que os programadores criem internamente ferramentas de IA que podem ser refinadas com base nas informações dos médicos, usadas em seus hospitais e também enviadas para locais que não têm dinheiro para fazer pesquisas semelhantes.

“Não é possível transplantar pessoas”, disse Fuchs. “Mas é possível transplantar conhecimento e experiência até certo ponto com esses modelos que podem ajudar os médicos da comunidade.”

Mas Fuchs acrescentou que “há uma enorme quantidade de propaganda” sobre IA na medicina no momento e “mais empresas iniciantes do que você pode contar que gostam de evangelizar em graus às vezes absurdos” sobre os poderes revolucionários que a tecnologia pode ter na medicina. Ele teme que elas possam criar produtos que façam diagnósticos tendenciosos ou coloquem em risco os dados dos pacientes. Uma forte regulamentação federal, juntamente com a supervisão médica, é fundamental, disse ele.

David L. Reich, presidente do hospital The Mount Sinai e do Mount Sinai Queens, disse que seu hospital vem querendo usar a IA de forma mais ampla há alguns anos, mas a pandemia atrasou sua implementação.

Embora os chatbots generativos estejam se tornando populares, a equipe de Reich está se concentrando principalmente no uso de algoritmos. Os médicos de cuidados intensivos estão testando um software preditivo para identificar pacientes com risco de problemas como sepse ou queda - o tipo de software usado por Milekic. Os radiologistas usam IA para detectar com mais precisão o câncer de mama. Os nutricionistas usam a IA para sinalizar os pacientes que provavelmente estão desnutridos.

Reich disse que o objetivo final não é substituir os profissionais de saúde, mas algo mais simples: levar o médico certo ao paciente certo no momento certo.

No entanto, alguns profissionais da área médica não se sentem tão confortáveis com a nova tecnologia.

Mahon, da National Nurses United, disse que há muito pouca evidência empírica que demonstre que a IA está realmente melhorando o atendimento ao paciente.

“Fazemos experimentos neste país, usamos o ensaio clínico, mas, por algum motivo, essas tecnologias estão sendo aprovadas”, disse ela. “Elas estão sendo comercializadas como superiores, como sempre presentes, e outros tipos de coisas que simplesmente não se confirmam em sua utilização.”

Embora a IA possa analisar uma grande quantidade de dados e prever o grau de doença de um paciente, Mahon descobriu com frequência que esses algoritmos podem estar errados. Segundo ela, os enfermeiros veem além dos sinais vitais do paciente. Eles veem a aparência do paciente, sentem odores não naturais em seu corpo e podem usar esses pontos de dados biológicos como indicadores de que algo pode estar errado. “A IA não pode fazer isso”, disse ela.

Alguns médicos entrevistados pela Duke University em uma pesquisa realizada em maio expressaram suas reservas quanto à possibilidade de os modelos de IA exacerbarem os problemas existentes no atendimento, inclusive a parcialidade. “Acho que não temos nem mesmo um bom entendimento de como medir o desempenho de um algoritmo, muito menos seu desempenho em diferentes raças e grupos étnicos”, disse um entrevistado aos pesquisadores no estudo de profissionais de saúde em hospitais como a Mayo Clinic, Kaiser Permanente e a Universidade da Califórnia em São Francisco.

Em um momento de grave escassez de enfermeiros, Mahon disse que o entusiasmo dos administradores de hospitais em incorporar a tecnologia tem menos a ver com os resultados dos pacientes e mais com a necessidade de tapar buracos e economizar custos.

“O setor (de saúde) está realmente ajudando as pessoas a acreditarem em todo o hype”, disse ela, “para que possam reduzir sua mão de obra sem qualquer dúvida”.

Robbie Freeman, vice-presidente de experiência digital do Mount Sinai, disse que as partes mais difíceis de levar a IA para os hospitais são os próprios médicos e enfermeiros. “Você pode ter vindo trabalhar por 20 anos e ter feito isso de uma maneira”, disse ele, “e agora estamos chegando e pedindo que você faça de outra maneira”.

“As pessoas podem achar que é a moda do mês”, acrescentou. “Elas podem não estar totalmente convencidas da ideia de adotar algum tipo de nova prática ou ferramenta.”

E a IA nem sempre é um método infalível para economizar tempo. Quando Rebecca Brown, uma paciente cardíaca de 45 anos de Corning, N.Y., foi apontada como uma das pacientes mais doentes na ala de cuidados intensivos do Mount Sinai em uma manhã de maio, Milekic foi ao quarto dela para fazer um exame.

Milekic logo percebeu que não havia nada fora do comum e deixou Brown continuar comendo seu sanduíche de manteiga de amendoim e geleia.

Quando lhe perguntaram se ela gostaria que a IA cuidasse dela em vez de um médico, a resposta de Brown foi simples: “Há algo que a tecnologia nunca poderá fazer, que é ser humana”, disse ela. “Espero que o toque humano não desapareça.”