20 / Maio / 2020

5 limites da inteligência artificial na Saúde Digital

Inteligência artificial

Uso da tecnologia otimiza resultados assistenciais e de negócio obtidos a partir de dados, mas especialista alerta: gestores devem ficar atentos a aspectos éticos e à segurança das informações

 

A Saúde será um dos setores da economia mais impactados pelo uso de inteligência artificial em 2020 e nos próximos anos, conforme estudo global da empresa de mobilidade DMI. As aplicações dessa tecnologia no contexto da Saúde Digital vão desde a inteligência de negócios até o apoio ao diagnóstico e tratamento. Mas não dá para deixar de lado a reflexão sobre os limites éticos relacionados a ela.

Arthur Igreja, professor da Fundação Getúlio Vargas (FGV) e especialista em tecnologia e inovação, explica que há tanta expectativa no uso da IA na Saúde Digital, primeiramente, porque ela é capaz de otimizar ambientes complexos. “Organizações de Saúde lidam com muitas variáveis, o que torna desafiador o processamento das informações apenas por humanos. A inteligência artificial proporciona um passo muito além da mera estatística e correlação de variáveis, permitindo que um enorme volume de dados gere insights valiosos”, explica.

O especialista acredita que também estão entre as potencialidades que chamam a atenção da Saúde para a IA o desenvolvimento acelerado de novos medicamentos, além da capacidade inédita de coletar um grande volume de dados diretamente do paciente, por meio, principalmente, de wearables devices. “Essa inovação traz uma capacidade melhor de entender o indivíduo em sua totalidade, muito mais do que exames realizados a cada seis meses. Estamos falando da análise do paciente em tempo real”, explica Igreja. Combinada a outras ferramentas da transformação digital na Saúde, o modelo possibilita trabalhar com predição e cuidado integrado e individualizado ao paciente. Mas requer, também, atenção e responsabilidade por parte dos gestores da Saúde Digital.

Igreja destaca os limites éticos para aplicação da IA em cinco aspectos:

1) Relações entre a cadeia de Saúde

Aqui o limite está relacionado diretamente ao conflito de interesses. O especialista cita como exemplo o fornecimento de um aplicativo que monitora corridas e caminhadas por uma fabricante de tênis ou, ainda, o uso de uma IA para coletar sinais vitais que esteja diretamente conectada a uma indústria farmacêutica sem que o usuário saiba - podendo gerar informações para o desenvolvimento de novas drogas sem o consentimento individual do portador dos dados.

A recomendação de Igreja é que a prescrição do uso de tecnologias dotadas de IA a um paciente seja sempre cuidadosamente avaliada pelo médico. É esse profissional quem deve ter a palavra final na decisão sobre o diagnóstico e melhor tratamento, observando conflitos de interesse e levando em consideração o que é melhor para cada indivíduo.

2) Orientações de Saúde

O uso de chatbots dotados de inteligência artificial está em crescimento na Saúde, mas também implica na necessidade de impor limites. Afinal, até que ponto a tecnologia pode ir com as orientações sem entrar em aspectos que levam a um diagnóstico ou à proposição de um tratamento? Para o especialista, esses limites são bastante tênues.

Igreja ainda pondera que essas ferramentas coletam dados sensíveis do paciente, o que implica em preocupações relacionadas à privacidade e segurança da informação - mesmo diante do adiamento da entrada em vigor da Lei Geral de Proteção de Dados (LGPD), antes prevista para agosto de 2020 e, agora, para janeiro de 2021. “Se não é a preocupação número um, tem de estar entre as top 3. Além das multas que comprometem as finanças da instituição, estamos falando de uma exposição pública que pode acabar com uma marca”, alerta.

3) Diagnóstico

Aqui a questão do sigilo de dados sensíveis também está presente, mas o especialista vai além. Dependendo da população da qual se obteve os dados para alimentar a IA, a ferramenta pode incorrer em casos de preconceito, levando a diagnósticos enviesados e incorretos.

A tecnologia, portanto, deve ser vista como um apoio, mas a avaliação de todas as variáveis e a decisão final é sempre do médico. Assim, evitam-se dilemas éticos e, principalmente, ocorrências que podem prejudicar a segurança do paciente.

4) Tomada de decisão

Quando uma organização começa a monitorar pacientes em tempo real, coletando diversos dados sobre eles, a tomada de decisão sobre como será a assistência pode incorrer em dilemas éticos. As informações obtidas vão além da saúde, passando por questões como hábitos alimentares, de exercícios físicos, nível socioeconômico e educacional. Com isso, é possível saber, por exemplo, que tipos de medicamentos ou tratamentos um determinado grupo populacional pode pagar, priorizando aqueles com alto retorno, mas uso restrito.

A tomada de decisão pode receber, sim, o auxílio da tecnologia na análise dos dados, mas há faculdades exclusivamente humanas, como a capacidade de prever riscos menos óbvios, que devem ser levadas em consideração na conduta final adotada tanto na assistência quanto para os negócios.

5) Relação médico-paciente

A Saúde não pode abrir mão da humanização, do olho no olho. O risco ético aqui, segundo Igreja, é a hiperdigitalização, que impede o contato pessoal do médico com o paciente. Algo semelhante já aconteceu com a transformação digital de outros setores, por exemplo, o sistema bancário. O especialista acredita que o mesmo acontecerá, em alguma medida, na Saúde Digital, em busca de escala e redução de custos. Mas é fundamental que se mantenha essa relação o mais próxima quanto possível, fazendo uso de tecnologias para apoiá-la. Isso porque ela traz diferenciais que as máquinas não são capazes de alcançar, como a empatia.

De forma geral, ao se optar pela adoção de uma inteligência artificial na Saúde Digital, não se deve achar que ela funciona como uma caixa na qual se inserem dados e se obtêm respostas prontas. “No caso de erros que comprometem vidas, não dá para colocar a culpa em um sistema autônomo, inteligente. Se há essa escolha pelo uso da IA, é uma decisão humana. Ter essa consciência é fundamental. Meu conselho para os gestores é mergulhar a fundo para entender quais são as implicações, limites e potenciais erros que podem advir do uso da tecnologia e como minimizá-los ao máximo”, indica Igreja.

eBook: Saúde Digital: a importância da TI estratégica

eBook: Saúde Digital: a importância da TI estratégica

Baixar