O que a inteligência artificial não deve fazer na sua clínica

A conversa sobre inteligência artificial em clínica costuma girar em torno do que dá para automatizar. É a pergunta errada para começar.

A primeira decisão de um projeto sério é a oposta: o que a ferramenta não vai fazer, em nenhuma hipótese, mesmo sendo tecnicamente capaz.

Avaliação clínica não se automatiza

Nenhuma ferramenta deve indicar procedimento, sugerir tratamento, interpretar sintoma ou opinar sobre a adequação de uma conduta ao caso de um paciente.

Isso não é conservadorismo. É que essa é a atividade que define a profissão, é regulada, e a responsabilidade por ela é pessoal e intransferível de quem tem registro.

Uma clínica que deixa isso escorregar não está sendo inovadora. Está assumindo um risco que não é dela para assumir.

Expectativa de resultado também não

“Esse procedimento resolve o seu caso.” “Você vai poder voltar ao trabalho em três dias.” “O resultado dura tanto tempo.”

Frases assim ditas por uma ferramenta automática são um problema em três camadas. Elas criam expectativa que a clínica pode não conseguir cumprir, elas se aproximam de promessa de resultado, e elas foram ditas sem que ninguém avaliasse aquele paciente.

O tratamento certo é a ferramenta reconhecer o tema e levar a conversa para uma pessoa, sem tentar responder e sem soar evasiva.

Triagem por urgência é uma linha delicada

Existe uma diferença entre organizar a agenda e decidir quem precisa ser visto antes.

Organizar por tipo de procedimento, por profissional, por tempo de sala, isso é logística e se automatiza bem.

Decidir prioridade a partir do que o paciente descreve sentindo é outra coisa. Ali a ferramenta estaria fazendo julgamento clínico com informação incompleta, e o custo do erro não é uma agenda desorganizada.

Uma pessoa em sofrimento precisa de uma pessoa

Mensagem de paciente assustado, com dor, com medo de resultado, ou em situação delicada, não é um caso de atendimento eficiente.

Uma ferramenta bem desenhada reconhece esse tipo de mensagem e a encaminha imediatamente, com prioridade, sem tentar acalmar, sem oferecer menu e sem pedir para aguardar.

Isso precisa ser desenhado. Não acontece sozinho.

Dado de paciente tem regra própria

Prontuário, exame, imagem e histórico não circulam por ferramenta que não tenha sido pensada para isso. Dado de saúde tem proteção reforçada na legislação brasileira, e o fato de uma tecnologia ser capaz de processar não significa que ela deva.

Boa parte do que uma clínica quer automatizar não precisa tocar em dado clínico nenhum. Confirmação de horário, retorno de manutenção, acompanhamento de orçamento, rotina administrativa. Manter a ferramenta longe do dado sensível quando ela não precisa dele é decisão de projeto, e é a mais barata de tomar no começo.

Onde a ferramenta para

Uma clínica de alto padrão vive de confiança. O paciente que paga mais está comprando, entre outras coisas, a sensação de estar em boas mãos.

Uma ferramenta que atravessa a fronteira uma vez pode custar mais do que anos de tecnologia bem aplicada devolveram. E o dano não aparece num relatório. Aparece numa conversa que o paciente teve com alguém.

Por isso a primeira reunião de um projeto não deveria ser sobre o que a ferramenta vai fazer. Deveria ser sobre onde ela para.