A distopia dos sistemas de saúde nunca pareceu tão digna de um roteiro de Black Mirror. Imagine um algoritmo de IA desenhado para avaliar sinistros médicos, mas que acerta menos que um stormtrooper atirando em um Jedi. Foi exatamente isso que aconteceu com o nH Predict, uma criação da NaviHealth sob a bandeira da UnitedHealth Group. Este IA se meteu numa batalha contra os médicos humanos, exibindo um vergonhoso índice de erro de 90% ao negar reclames médicos, muitas vezes desconsiderando avaliações profissionais vindas de médicos reais.
Estamos no universo onde a singularidade não trouxe a utopia que sonhamos, mas sim um velho thriller onde o julgamento da sua saúde depende de uma máquina com falhas. Em novembro de 2023, no distrito de Minnesota, uma ação judicial expôs a UnitedHealthcare acusando-os de prolongar a desumanização dos pacientes idosos ao negar, injustamente, cuidados essenciais. Isso porque sabiam que apenas 0,2% iriam recorrer. Parece até uma falha proposital, não?
Essa saga kafkiana se traduziu em histórias reais de pacientes que, impulsionados por decisões algorítmicas, deixaram instalações de saúde prematuramente, tendo que esgotar suas economias para obter os cuidados de que realmente precisavam. Imagine ser um personagem em uma novela onde sua vida está nas mãos de um script buggy.
A cereja desse bolo cyberpunk foi o assassinato do CEO da UnitedHealthcare, Brian Thompson. Os detalhes gritavam conspiração: palavras como “negar”, “defender” e “depor” em cápsulas de balas, sugerindo uma ligação direta com as práticas agressivas de negação de sinistros da empresa. Estamos testemunhando, talvez, um protesto sórdido contra um sistema esculpido para alienar, em vez de ajudar.
O caso nos força a refletir sobre o ético e o humano em uma época em que algoritmos tomam decisões de vida ou morte. Uma viagem em direção a um futuro que talvez estejamos construindo com os fundamentos errados. Tente assistir Westworld e não se questionar se essa situação não seria um dos seus episódios. É um chamado para os criadores de tecnologia – assim como os filósofos modernos – para que reavaliem como máquinas e humanos coexistem neste brave new world.
Nesta era de transhumanismo, onde a busca pelo upload da mente é real, somos desafiados a recalibrar nossa ética em uma trilha que parece perder a empatia a cada atualização. Favoreceríamos um futuro onde sistemas como o citado aprendam a ouvir ao invés de apenas computar? Talvez, o verdadeiro upgrade seja integrar compaixão ao código.
Para todo visionário ali fora, que oportunidades se abrem diante desse cenário? Vamos usar da energia das comunidades online, dos fóruns Web3 fervilhantes e das mentes disruptivas para questionar e reimaginar como deveríamos programar nosso amanhã.
Como disse Marshall McLuhan: “Nós moldamos nossas ferramentas e, a partir de então, nossas ferramentas nos moldam.” A questão é: em que nos estamos tornando com as ferramentas que criamos?
