Humanidades

Padrões de IA essenciais para proteger as relações médico-paciente e os direitos humanos
Padrões e orientações éticas claras devem estar em vigor para proteger a relação de confiança entre médicos e pacientes e salvaguardar os direitos humanos, de acordo com um relatório do Conselho da Europa hoje,...
Por Oxford - 12/06/2022


Já existem sistemas robóticos sendo usados ​​em cirurgias e o relatório baseia-se na ideia de que a automação está avançando em ambientes clínicos – criando a necessidade de padrões claros. Crédito: Shutterstock

O Dr. Mittelstadt é Diretor de Pesquisa do Oxford Internet Institute e um dos principais especialistas em ética de dados. Ele diz: 'Espero que o relatório faça as pessoas pensarem sobre como a IA pode atrapalhar as principais práticas envolvidas na saúde.'

Mas ele está preocupado que a IA possa ser usada como uma maneira de reduzir orçamentos ou economizar custos, em vez de melhorar o atendimento ao paciente e diz: 'Se você vai introduzir novas tecnologias no espaço clínico, precisa pensar em como isso será feito. Muitas vezes, é visto apenas como um exercício de economia de custos ou eficiência, e não um que pode transformar radicalmente a própria saúde.'

"Com muita frequência, a IA é vista apenas como um exercício de economia de custos ou eficiência, e não um que pode transformar radicalmente a própria saúde"


Dr. Brent Mittelstadt

O Dr. Mittelstadt foi contratado para escrever o relatório do Comitê Diretor de Direitos Humanos do Conselho da Europa nas áreas de Biomedicina e Saúde para investigar o impacto potencial da IA ​​na relação médico-paciente. O relatório aconselha que o uso de IA permanece 'não comprovado' e pode minar a 'relação de cura'.

O eticista aponta que a IA já está sendo usada em ambientes clínicos – não médicos robôs, que 'não existem'. Ele diz: 'Sistemas que usam IA são muito antigos... eles podem identificar tumores em exames ou recomendar diagnósticos.' Mas, diz o Dr. Mittelstadt, 'Eles não estão tomando decisões de forma autônoma sobre o atendimento ao paciente'.

Seu relatório afirma: 'Uma reconfiguração radical da relação médico-paciente do tipo imaginado por alguns comentaristas, na qual sistemas artificiais diagnosticam e tratam pacientes diretamente com o mínimo de interferência de médicos humanos, continua a parecer distante.'

No entanto, diz Mittelstadt, já existem sistemas robóticos sendo usados ​​em cirurgias e seu relatório se baseia na ideia de que a automação está avançando em ambientes clínicos – criando a necessidade de padrões claros.

"Já existem sistemas robóticos sendo usados ​​em cirurgia e seu relatório se baseia na ideia de que a automação está avançando em ambientes clínicos"


O relatório adverte: 'A relação médico-paciente é a base da 'boa' prática médica e, no entanto, aparentemente está sendo transformada em uma relação médico-paciente-IA. O desafio enfrentado pelos provedores, reguladores e formuladores de políticas de IA é estabelecer padrões e relacionamentos robustos para que esse novo relacionamento clínico garanta que os interesses dos pacientes e a integridade moral da medicina como profissão não sejam fundamentalmente prejudicados pela introdução da IA.'

Ele explica que a IA pode mudar a saúde como um terceiro ator no relacionamento – trazendo novas informações e novas dinâmicas. Por sua vez, isso pode mudar a forma como os cuidados são prestados.

De acordo com o relatório, com a introdução da IA, pode ocorrer uma mudança no relacionamento, mas não no paciente, 'A vulnerabilidade do paciente não [é] alterada pela introdução da IA... o que muda são os meios de cuidado entrega, como pode ser fornecida e por quem. A mudança de especialização e responsabilidades de cuidado para sistemas de IA pode ser disruptiva de várias maneiras.'

O relatório também alerta que a IA pode introduzir viés em uma situação, mas detectar vieses não é simples. Ele escreve: 'Os sistemas de IA são amplamente reconhecidos como sofrendo de preconceito... Tomada de decisão tendenciosa e injusta muitas vezes... reflete preconceitos e desigualdades sociais subjacentes. Por exemplo, amostras em ensaios clínicos e estudos de saúde têm sido historicamente tendenciosas para sujeitos brancos do sexo masculino, o que significa que os resultados são menos propensos a se aplicar a mulheres e pessoas de cor.'

"Os sistemas de IA são amplamente reconhecidos como sofrendo de preconceito... historicamente tendenciosos para sujeitos brancos do sexo masculino, o que significa que os resultados são menos propensos a se aplicarem a mulheres e pessoas de cor"


E sublinha os desafios e problemas potenciais na relação entre médicos e pacientes, inclusive em termos de segurança e proteção dos pacientes, 'Se a IA for usada para aumentar ou substituir a experiência clínica humana, seu impacto na relação de cuidado é mais difícil prever... O impacto da IA ​​na relação médico-paciente, no entanto, permanece altamente incerto'. E, ressalta, 'IA apresenta vários desafios únicos para o direito humano à privacidade.'

A necessidade de padrões vinculativos sobre como a IA é implantada e governada é clara, acrescenta o relatório: 'As recomendações devem se concentrar em um padrão de atendimento positivo mais alto no que diz respeito à relação médico-paciente para garantir que não seja indevidamente interrompida pela introdução da IA em ambientes de cuidados.'

 

.
.

Leia mais a seguir