Los legisladores y reguladores en Washington están comenzando a debatir cómo regular la inteligencia artificial en la atención médica, y la industria de la IA cree que hay muchas posibilidades de que lo arruinen.

“Éste es un problema increíblemente difícil”, afirmó el Dr. Robert Wachter, presidente del departamento de medicina de UC San Francisco. “Existe el riesgo de que introduzcamos armas y una regulación excesiva”.

El impacto de la IA en la atención sanitaria ya está generalizado. La Administración de Alimentos y Medicamentos ha aprobado 692 productos de IA. Los algoritmos están ayudando a programar pacientes, determinar los niveles de personal en las salas de emergencia e incluso transcribir y resumir las visitas clínicas para ahorrar tiempo a los médicos. Están empezando a ayudar a los radiólogos a leer resonancias magnéticas y radiografías. Wachter dijo que a veces consulta informalmente una versión de GPT-4, un modelo de lenguaje más grande de la empresa OpenAI, para casos complejos.

El alcance del impacto de la IA (y el potencial de cambio en el futuro) significa que los gobiernos ya están tratando de ponerse al día.

“Los formuladores de políticas están muy atrasados”, dijo en un correo electrónico Michael Yang, socio gerente senior de la firma de capital de riesgo OMERS Ventures. Los asociados de Yang han invertido mucho en esta área. La firma de capital riesgo Rock Health dice que los financieros han invertido alrededor de 28 mil millones de dólares en empresas de salud digital especializadas en inteligencia artificial.

Un problema al que se enfrentan los reguladores, dijo Wachter, es que, a diferencia de los medicamentos, cuya química dentro de cinco años será la misma que hoy, la IA cambia con el tiempo. Pero a medida que se forma la administración, la Casa Blanca y varias agencias centradas en la salud están desarrollando reglas para garantizar la transparencia y la privacidad. El Congreso también está mostrando interés; El Comité de Finanzas del Senado celebró la semana pasada una audiencia sobre la IA en la atención sanitaria.

Junto con la regulación y la legislación también viene un aumento del lobby. CNBC ha calculado un aumento del 185% en el número de organizaciones que divulgan actividades de lobby sobre IA en 2023. El grupo comercial TechNet ha lanzado una iniciativa de 25 millones de dólares que incluye la compra de anuncios de televisión para educar al público sobre los beneficios de la inteligencia artificial.

“Es muy difícil saber cómo regular la IA de manera inteligente porque estamos en una etapa muy temprana de la fase de invención de la tecnología”, dijo en un correo electrónico Bob Kochhar, socio de la firma de capital de riesgo Venrock que anteriormente trabajó en la administración Obama. “.

Kochhar ha hablado con senadores sobre la regulación de la IA. Destaca algunas de las dificultades que enfrentará el sistema de atención médica al adoptar los productos. Los médicos, que enfrentan riesgos de negligencia, pueden dudar en utilizar tecnología que no comprenden para tomar decisiones clínicas.

Un análisis de los datos de la Oficina del Censo de enero realizado por la consultora Capital Economics encontró que el 6,1% de las empresas de atención médica planeaban utilizar IA en los próximos seis meses, aproximadamente la mitad de los 14 sectores encuestados.

Como cualquier producto médico, los sistemas de IA pueden plantear riesgos para los pacientes, a veces de formas nuevas. Un ejemplo: pueden inventar cosas.

Wachter recuerda a un colega que, a modo de prueba, asignó al GPT-3 de OpenAI la tarea de escribir una carta de autorización previa a una aseguradora para una receta intencionadamente “extravagante”: tratar el insomnio de un paciente.

Pero AI “escribió una hermosa nota”, afirmó. El sistema citaba con tanta fuerza la “literatura reciente” que la colega de Wachter se preguntó durante un tiempo si se había perdido una nueva dirección de investigación. Resultó que el chatbot había inventado su afirmación.

El riesgo de que la IA aumente el sesgo ya existe en el sistema de atención médica. Históricamente, los negros han recibido menos atención que los pacientes blancos. Por ejemplo, los estudios muestran que los pacientes negros con fracturas tienen menos probabilidades de recibir analgésicos que los blancos. Este sesgo se puede eliminar si la inteligencia artificial se entrena con esos datos y luego actúa sobre ellos.

Las investigaciones sobre la IA implementada por las grandes aseguradoras han confirmado que esto ha sucedido. Pero el problema está más extendido. Wachter dijo que UCSF probó un producto para predecir las ausencias a las citas clínicas. Los pacientes que se considera poco probable que se presenten a una cita tienen más probabilidades de tener una cita doble.

Las pruebas mostraron que las personas de color tenían más probabilidades de no ser vistas. Ya sea que la conclusión sea exacta o no, “la respuesta ética es preguntar por qué es así y si hay algo que se pueda hacer”, dijo Wachter.

Dejando a un lado la publicidad, es probable que estos riesgos sigan atrayendo atención con el tiempo. Los expertos en inteligencia artificial y los funcionarios de la FDA han enfatizado la necesidad de algoritmos transparentes que sean monitoreados por humanos durante largos períodos de tiempo, incluidos reguladores e investigadores externos. Los productos de IA se adaptan y cambian a medida que se incorporan nuevos datos. Y los científicos desarrollarán nuevos productos.

La rectora de la Universidad de Chicago, Katherine Backer, que testificó en una audiencia del Comité de Finanzas del Senado, dijo que los formuladores de políticas necesitarán invertir en nuevos sistemas para rastrear la IA con el tiempo. “Los mayores avances son aquellos en los que aún no hemos pensado”, dijo en una entrevista.

noticias de salud kffLo que antes se conocía como Kaiser Health News es una sala de redacción nacional que produce periodismo en profundidad sobre temas de salud.



Source link

LEAVE A REPLY

Please enter your comment!
Please enter your name here