A ética de construir ferramentas para a medicina sem ser médico

Não sou médico. Fiz três anos de Biomedicina e saí. Meu pai exerceu a medicina por mais de quarenta anos e eu o encontrei uma vez. Passei a carreira construindo e auditando software, e agora parte desse software aponta para o campo cardiovascular. Penso na ética disso o tempo todo, não como questão abstrata, mas como um conjunto de regras concretas que me recuso a quebrar.

A ferramenta não decide

A primeira regra é que a ferramenta nunca toma a decisão. Ela pode buscar, estruturar, destacar, comparar, calcular, sinalizar. Não pode concluir em nome da pessoa responsável. Isso não é modéstia. É uma restrição de design com consequências: toda saída precisa ser formulada como entrada para um julgamento humano, e a interface precisa tornar esse julgamento explícito. Quem olhou isto, quando, e o que decidiu.

Software que esconde a etapa humana não é mais eficiente. Está transferindo responsabilidade de uma pessoa para um sistema que não consegue carregá-la.

Saiba exatamente o que você não sabe

Eu sei como dados quebram no caminho. Sei como timestamps mentem, como identificadores colidem, como um nulo esconde um processo. Não sei o que uma medida limítrofe significa para um paciente específico, e não devo fingir que ler artigos me faz saber. O movimento ético é ser preciso sobre a fronteira. Meu trabalho para no ponto em que o dado vira julgamento clínico ou científico, e nesse ponto um médico ou um cientista assume, com visibilidade total do que o sistema fez e não fez.

Por isso construo com médicos e cientistas, não para eles. Não como consultores que revisam o produto pronto, mas como as pessoas que definem o que é correto antes de eu escrever uma linha.

Incerteza não é problema de UX

Times de produto são treinados para reduzir atrito e esconder complexidade. Na medicina e na ciência, esse treinamento é perigoso. Um intervalo de confiança não é poluição visual. Um aviso de dado faltante não é distração. Se o sistema não tem certeza, quem o usa precisa ver que ele não tem certeza, de um jeito que não se dispensa com um clique. Prefiro entregar uma interface que parece cautelosa a uma que parece confiante e está errada.

Velocidade não compra rigor

Tudo na minha área recompensa velocidade. Entregue, meça, itere. Isso é ótimo quando um erro é um rollback. Na ciência, um resultado plausível mas não validado pode se propagar por anos. Então a regra é que qualquer avanço precisa passar por validação científica antes de ser tratado como avanço, mesmo quando a validação é lenta e a demonstração foi impressionante. Este é o único lugar em que aceito ser a pessoa lenta da sala.

Por que faço mesmo assim

Se os riscos são reais, por que construir essas ferramentas? Porque a alternativa não é ninguém construí-las. É que sejam construídas por gente que nunca auditou uma falha de produção às três da manhã e que acha que um dashboard verde significa um sistema funcionando. Já vi o que acontece quando software sem disciplina encontra um domínio sem tolerância a erro. Prefiro estar na sala, trazendo a disciplina, do que fora dela reclamando.

Minha fé me ensina que uma vida não é um ponto de dado, e minha carreira me ensinou que pontos de dado se perdem o tempo todo. Construir para a medicina como engenheiro é segurar as duas coisas ao mesmo tempo. Os pacientes que meu pai atendeu de graça nunca viram um dashboard. As ferramentas que construo precisam ser dignas de gente como eles.