O Conselho de Psicologia desconfia da IA na sua terapia. E está certo, pelo motivo que quase ninguém entendeu.

Imagine que existe um remédio novo. Ainda em teste, promissor, talvez revolucionário. A pergunta que decide se ele é ético não é "ele funciona". É outra, mais incômoda: em quem ele vai ser testado primeiro. Se a resposta for "nos que têm plano de saúde e advogado", chamamos de ensaio clínico, com consentimento, comitê de ética e gente vigiando. Se a resposta for "nos que não têm nada, porque para eles qualquer coisa é melhor que o vazio", já não é ciência. É outra coisa, com nome feio, que a história da medicina conhece bem e da qual passou décadas tentando se livrar. Esta semana, o Conselho Federal de Psicologia voltou a fazer exatamente essa pergunta sobre inteligência artificial em saúde mental no SUS. E a reação automática de quase todo mundo foi acusar o Conselho de atraso. Eu acho o contrário. Acho que ele entendeu a única coisa que importava.

O alerta é simples de descrever e fácil de distorcer. O Conselho afirmou que projetos de IA com finalidade diagnóstica ou assistencial em saúde mental precisam de aprovação prévia da Agência Nacional de Vigilância Sanitária, conforme a RDC 657 de 2022, e que o país ainda não tem um marco regulatório específico para esse terreno. O Conselho fez questão de dizer que não é contra tecnologia. Tanto não é que, no mesmo período, publicou material orientando sobre o uso ético e responsável de IA na própria psicologia, em vez de apenas proibir. O ponto é outro: colocar tecnologia para cuidar de gente sem passar pelos fundamentos éticos, científicos e jurídicos que valem para qualquer outra ferramenta clínica é pular uma etapa que não dá para pular. Traduzindo do juridiquês: ninguém libera um aparelho de ressonância sem teste. Por que liberaríamos um software que opina sobre a sua dor sem o mesmo cuidado.

A trama oculta aqui é que o debate foi sequestrado por uma falsa oposição. De um lado, pintam os tecnófilos, modernos, que querem salvar milhões com IA barata. Do outro, os burocratas atrasados, que só estariam protegendo reserva de mercado de psicólogo. É uma caricatura conveniente, e é falsa nos dois lados. Falsa também porque ignora o caso mais provável de todos, que não é nem o herói nem o vilão: o da empresa de boa intenção, com tecnologia que de fato ajuda parte das pessoas, e que mesmo assim precisa ser testada antes de virar política pública. O ponto do Conselho nunca foi a máquina. Foi a sequência. Quem vai ser o primeiro a receber um cuidado que ainda não foi validado. E a resposta, quando se automatiza saúde mental no sistema público antes de no privado, é sempre a mesma: o primeiro a receber o cuidado não testado é quem tem menos margem para sobreviver a um erro dele.

A regulação que o Conselho invoca não nasceu de medo de robô. A RDC 657 trata software como aquilo que ele às vezes é de fato, um dispositivo médico. Um aplicativo que mede o seu nível de estresse e, a partir de uma certa pontuação, decide te dizer que você precisa de ajuda médica, está tomando uma decisão clínica. Decisão clínica errada tem corpo do outro lado. A norma exige que sistemas com finalidade diagnóstica ou terapêutica sejam avaliados quanto a segurança, rastreabilidade e desempenho antes de tocar em paciente. Não é excesso de zelo. É o mesmo princípio que impede que qualquer um venda um teste de glicemia no fundo de quintal. A novidade é que agora o quintal virou loja de aplicativo, e a glicemia virou a sua mente. A diferença é que o resultado errado de glicemia você confere com outro aparelho. O resultado errado sobre a sua cabeça, muitas vezes, só se confirma tarde demais.

E há um detalhe técnico que torna tudo mais delicado, não menos. A própria RDC 657 foi pensada sobretudo para software que se comporta de forma estável depois de aprovado. Mas os modelos de IA que hoje conversam sobre sofrimento não são estáticos. Eles aprendem, mudam, se reconfiguram com dados do mundo real. A Agência, sabendo disso, já está revisando a norma justamente para criar categorias de software adaptável e específico, voltado a populações determinadas, com mecanismos para controlar a mudança ao longo do tempo. Quer dizer: nem o regulador, que estuda o problema em tempo integral, ainda fechou a forma de vigiar uma ferramenta que muda sozinha depois de liberada. Soltar essa ferramenta primeiro na população mais vulnerável, antes de saber como fiscalizá-la, não é ousadia. É terceirizar o risco para quem não foi consultado.

Aqui a neurociência entra por uma porta que o discurso da eficiência costuma ignorar. O vínculo terapêutico não é decoração afetiva em cima do tratamento real. Há evidência consistente de que ele é parte do mecanismo. A confiança em quem cuida modula a fisiologia da ameaça e recruta circuitos de regulação que fazem uma dor compartilhada doer menos. Quando a relação de cuidado é mediada por um sistema que não responde por nada, não erra com responsabilidade e não pode ser chamado a prestar contas, alguma coisa estrutural fica em risco, mesmo quando as palavras na tela parecem perfeitas. Não é nostalgia do humano, e não é dizer que tecnologia nenhuma tem lugar no cuidado. É reconhecer que o cérebro que sofre foi esculpido para se regular na presença de outro cérebro que se importa, e que ainda não temos prova robusta de que um espelho sem dono entrega o mesmo. Liberar em escala, como serviço de saúde, uma hipótese ainda em aberto sobre o vínculo humano é, no mínimo, apressado.

Existe ainda a questão que mais me tira o sono, que é a do viés. Modelos aprendem com os dados que recebem, e os dados de saúde no mundo refletem desigualdades que já existem. Um sistema treinado majoritariamente com uma população tende a ler pior o sofrimento de quem está fora dela. Isso não é especulação militante, é padrão já documentado na medicina algorítmica: há estudo clássico mostrando um algoritmo de gestão de saúde que, sem nenhuma intenção racista no código, subestimava sistematicamente a necessidade de cuidado de pacientes negros. Agora junte as duas pontas. A ferramenta com mais chance de ler errado a dor do mais marginalizado é exatamente a que seria implantada primeiro no serviço que atende, em maioria, os mais marginalizados. O viés não distribui o erro de forma neutra. Ele concentra o erro em quem já carrega o resto. E quem carrega o resto, no Brasil, tem cor e tem CEP.

Por isso o que parece freio, no alerta do Conselho, é na verdade a única forma séria de acelerar. Inovação sem validação não é inovação, é experimento social sem consentimento. A regulação não existe para impedir que a IA chegue à saúde mental pública. Existe para garantir que, quando chegar, ela chegue testada, fiscalizável e responsabilizável, e não como uma aposta cujo prejuízo, se houver, será pago em silêncio por quem nunca teve voz no projeto. Defender a tecnologia e defender a regulação ao mesmo tempo não é contradição. É a única posição coerente de quem realmente quer que a coisa dê certo, e não apenas que ela exista para alguém poder dizer que existe.

A pergunta que fica, então, não é se a inteligência artificial tem lugar no cuidado da nossa mente. Tem, e provavelmente terá cada vez mais. A pergunta é a do remédio do começo, a única que importa de verdade: quando algo ainda não foi suficientemente testado, quem você acha justo que seja o primeiro a errar com ele. Se a sua resposta honesta for "qualquer um, menos quem eu amo", então você já entendeu o Conselho. Ele só está pedindo que estendamos esse mesmo cuidado, o cuidado que reservamos a quem amamos, a quem o sistema sempre tratou como se não tivesse ninguém para amar.

Dicas de Leitura

Algoritmos de destruição em massa, de Cathy O'Neil (Editora Rua do Sabão). A matemática que mostra como modelos e algoritmos, vendidos como neutros, acabam reproduzindo e ampliando desigualdades, com efeito mais duro justamente sobre quem tem menos poder. Leitura obrigatória para entender por que viés algorítmico em saúde não é detalhe técnico, é questão de justiça. A era do capitalismo de vigilância, de Shoshana Zuboff (Editora Intrínseca). Um mapa de como dados sobre comportamento humano viraram matéria-prima de mercado. Ajuda a enxergar o que está em jogo quando o dado mais íntimo de todos, o do sofrimento psíquico, entra na esteira. Hello World, de Hannah Fry (no original, "Hello World: How to Be Human in the Age of the Machine"). Um passeio honesto, sem tecnofobia nem deslumbramento, sobre onde os algoritmos ajudam e onde eles falham, inclusive na medicina. A dose certa de ceticismo informado para participar deste debate sem cair em nenhum dos dois extremos.

Referências (O Fundamento)

Agência Nacional de Vigilância Sanitária. (2022). Resolução da Diretoria Colegiada RDC nº 657, de 24 de março de 2022: Dispõe sobre a regularização de software como dispositivo médico (Software as a Medical Device, SaMD). Brasília: ANVISA.

Conselho Federal de Psicologia. (2025). CFP alerta para riscos de proposta de uso de inteligência artificial em saúde mental no SUS (posicionamento). Brasília: CFP. Disponível em: https://site.cfp.org.br/cfp-alerta-para-riscos-de-proposta-de-uso-de-inteligencia-artificial-em-saude-mental-no-sus/

Conselho Federal de Psicologia. (2025). Inteligência Artificial na Psicologia: guia para uma prática ética e responsável. Brasília: CFP. Disponível em: https://site.cfp.org.br/wp-content/uploads/2025/12/Cartilha_IA_A5-1.pdf

Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453. DOI: 10.1126/science.aax2342

Coan, J. A., Schaefer, H. S., & Davidson, R. J. (2006). Lending a hand: Social regulation of the neural response to threat. Psychological Science, 17(12), 1032-1039. DOI: 10.1111/j.1467-9280.2006.01832.x

Topol, E. J. (2019). High-performance medicine: The convergence of human and artificial intelligence. Nature Medicine, 25(1), 44-56. DOI: 10.1038/s41591-018-0300-7

Gérson Neto. A Trama Oculta.