Los legisladores y reguladores de Washington están empezando a pensar en cómo regular la inteligencia artificial en la sanidad, y el sector de la IA cree que es muy probable que metan la pata.
«Es un problema de enormes proporciones», afirma Bob Wachter, director del Departamento de Medicina de la Universidad de California-San Francisco. «Existe el riesgo de que entremos a saco y regulemos en exceso»
El impacto de la IA en la atención sanitaria ya es generalizado. La Administración de Alimentos y Medicamentos ha aprobado unos 692 productos de IA. Los algoritmos ayudan a programar pacientes, determinar la dotación de personal en urgencias e incluso transcribir y resumir visitas clínicas para ahorrar tiempo a los médicos. También están empezando a ayudar a los radiólogos a leer resonancias magnéticas y radiografías. Wachter afirma que a veces consulta informalmente una versión de GPT-4, un gran modelo lingüístico de la empresa OpenAI, para casos complejos.
El alcance del impacto de la IA -y el potencial de futuros cambios- significa que las administraciones públicas ya se están poniendo al día.
michael Yang, socio director de OMERS Ventures, una empresa de capital riesgo, afirma en un correo electrónico que «los responsables políticos están terriblemente atrasados». Los colegas de Yang han realizado grandes inversiones en el sector. Rock Health, una empresa de capital riesgo, afirma que los financieros han invertido casi 28.000 millones de dólares en empresas de salud digital especializadas en inteligencia artificial.
Según Wachter, uno de los problemas a los que se enfrentan los reguladores es que, a diferencia de los medicamentos, que dentro de cinco años tendrán la misma química que hoy, la IA cambia con el tiempo. Pero se está formando una gobernanza, con la Casa Blanca y múltiples agencias centradas en la salud elaborando normas para garantizar la transparencia y la privacidad. El Congreso también está mostrando interés. El Comité de Finanzas del Senado celebró una audiencia el 8 de febrero sobre la IA en la atención sanitaria.
Junto con la regulación y la legislación, aumentan los grupos de presión. CNBC cuenta un aumento del 185 en el número de organizaciones que revelan actividades de lobby sobre IA en 2023. El grupo comercial TechNet ha lanzado una iniciativa de 25 millones de dólares, que incluye la compra de anuncios de televisión, para educar a los espectadores sobre los beneficios de la inteligencia artificial.
«Es muy difícil saber cómo regular inteligentemente la IA, ya que estamos en una fase muy temprana de invención de la tecnología», dijo Bob Kocher, socio de la empresa de capital riesgo Venrock, que anteriormente trabajó en la administración Obama, en un correo electrónico.
Kocher ha hablado con senadores sobre la regulación de la IA. Destaca algunas de las dificultades a las que se enfrentará el sistema sanitario a la hora de adoptar los productos. Los médicos, que se enfrentan a riesgos de mala praxis, podrían mostrarse reticentes a utilizar tecnología que no entienden para tomar decisiones clínicas.
Un análisis de los datos de enero de la Oficina del Censo realizado por la consultora Capital Economics reveló que el 6,1% de las empresas sanitarias tenía previsto utilizar IA en los próximos seis meses, aproximadamente en la mitad de los 14 sectores encuestados.
Como cualquier producto médico, los sistemas de IA pueden plantear riesgos para los pacientes, a veces de forma novedosa. Un ejemplo: Pueden inventarse cosas.
Wachter recuerda que un colega, a modo de prueba, encargó a la GPT-3 de OpenAI que redactara una carta de autorización previa a una aseguradora para una prescripción deliberadamente «descabellada»: un anticoagulante para tratar el insomnio de un paciente.
Pero la IA «escribió una nota preciosa», dijo. El sistema citó «bibliografía reciente» de forma tan convincente que la colega de Wachter se preguntó brevemente si se había perdido una nueva línea de investigación. Resultó que el chatbot se lo había inventado.
Existe el riesgo de que la IA amplíe los prejuicios ya presentes en el sistema sanitario. Históricamente, las personas de color han recibido menos atención que los pacientes blancos. Los estudios demuestran, por ejemplo, que los pacientes negros con fracturas tienen menos probabilidades de recibir analgésicos que los blancos. Este sesgo podría quedar grabado en piedra cuando la inteligencia artificial se entrene con esos datos y actúe posteriormente.
Investigación sobre IA desplegada por grandes aseguradoras ha confirmado que eso ha ocurrido. Pero el problema está más extendido. Wachter explica que la UCSF ha probado un producto para predecir las ausencias en las citas clínicas. Los pacientes con pocas probabilidades de acudir a una visita tienen más probabilidades de que se les reserve una cita doble.
La prueba demostró que las personas de color tenían más probabilidades de no acudir. Independientemente de que el resultado sea exacto o no, «la respuesta ética es preguntarse a qué se debe y si hay algo que se pueda hacer», afirma Wachter.
Dejando a un lado las exageraciones, es probable que estos riesgos sigan acaparando la atención con el paso del tiempo. Los expertos en IA y los responsables de la FDA han insistido en la necesidad de algoritmos transparentes, supervisados a largo plazo por seres humanos: reguladores e investigadores externos. Los productos de IA se adaptan y cambian a medida que se incorporan nuevos datos. Y los científicos desarrollarán nuevos productos.
Los responsables políticos tendrán que invertir en nuevos sistemas para hacer un seguimiento de la IA a lo largo del tiempo, afirmó la rectora de la Universidad de Chicago, Katherine Baicker, que testificó en la audiencia del Comité de Finanzas. «El mayor avance es algo en lo que aún no hemos pensado», afirmó en una entrevista.
