As ferramentas de IA que têm sido desenvolvidas requerem, invariavelmente, bastantes correções e não são produtos prontos a usar, segundo Zafar Chaudry, diretor digital e diretor de IA e informação da Seattle Children’s. Por isso, contratos entre hospitais e desenvolvedores de IA para criar ferramentas adequadas devem incluir a partilha de risco. Assim, os hospitais não ficarão serão os únicos responsáveis por pagar ferramentas que não entregam resultados, avança o portal Medcity News.
Zafar Chaudry remete para o diálogo global que tem existido em torno da governação e regulamentação da IA na área da saúde no último ano. “Não se trata apenas de tecnologia. As pessoas e os processos são um grande problema em tudo isto”, alerta.
O diretor de IA e informação da Seattle Children’s assinalou os pontos mais importantes da discussão no setor de saúde: ética, segurança e transparência da IA. Organizações como a Coalition for Health AI Coverage (CHAI) e a VALID AI têm dedicado os seus esforços ao desenvolvimento de quadros padronizados de governança da IA.
As ferramentas de IA raramente funcionam como soluções prontas a usar, afirma Chaudry, explicando: “Não vi muitos casos de utilização reais e tangíveis que [as empresas de IA] estejam realmente a resolver. Existem alguns, mas muitos são muito do tipo “Se nos disser qual é o problema, nós construímos a solução para si”.
Por isso, Zafar Chaudry defende que os hospitais assinem contratos com os programadores de IA para criar ferramentas adequadas, incluindo a partilha do risco por ambas. No entanto, não será um objetivo fácil de concretizar, uma vez que a maioria dos programadores de IA quer ser compensada pelo seu tempo e material.
“O problema com o contrato do tipo tempo e materiais é que, se eu tiver uma grande ideia e concordar em construí-la para mim, quem não adoraria construí-la durante um longo período de tempo, uma vez que a conta vai sempre aumentar? É muito difícil controlar os custos disto”, explicou Chaudry, concluindo que o ideal seria que o hospital e a empresa de IA elaborassem um contrato em que o hospital pagasse por metas atingidas e apenas se o produto tivesse um bom desempenho.
Atualmente, os contratos dos hospitais com os empresas de tecnologia não garantem que o produto em que estão a investir irá fornecer o resultado pretendido. “Se quiser um carro azul e lhe entregarem um carro vermelho, simplesmente aceitaria o carro vermelho? Diria: “Ei, há algo de errado aqui”. Mas com a IA na área da saúde, parece ser: “Bem, vamos dar-lhe mais ou menos o que quer e pronto”, afirmou Chaudry.
