Expertos en IA debaten como integrar unha IA robusta na atención sanitaria, por que a colaboración interdisciplinar é fundamental e o potencial da IA xerativa na investigación.
Feifei Li e Lloyd Minor pronunciaron as súas palabras de apertura no Simposio inaugural de saúde RAISE na Facultade de Medicina da Universidade de Stanford o 14 de maio. Steve Fish
A maioría das persoas captadas pola intelixencia artificial tiveron algún tipo de momento de reflexión, abrindo as súas mentes a un mundo de posibilidades. No Simposio inaugural de saúde RAISE o 14 de maio, o doutor Lloyd Minor, decano da Facultade de Medicina da Universidade de Stanford e vicepresidente de asuntos médicos da Universidade de Stanford, compartiu a súa perspectiva.
Cando lle pediron a un adolescente curioso que resumise os seus descubrimentos sobre o oído interno, recorreu á intelixencia artificial xerativa. «Preguntei: 'Que é a síndrome da dehiscencia do canal superior?', explicou Minor a case 4.000 participantes no simposio. En cuestión de segundos, apareceron varios parágrafos.
«Son bos, moi bos», dixo. «Que esta información fose recompilada nunha descrición concisa, xeralmente precisa e claramente priorizada da enfermidade. Isto é bastante rechamante».
Moitos compartiron o entusiasmo de Minor polo evento de medio día, que foi froito da iniciativa RAISE Health, un proxecto posto en marcha pola Facultade de Medicina da Universidade de Stanford e o Instituto Stanford para a Intelixencia Artificial Centrada no Ser Humano (HAI) para orientar o uso responsable da intelixencia artificial na investigación biomédica, a educación e a atención ao paciente. Os relatores examinaron o que significa implementar a intelixencia artificial na medicina dun xeito que non só sexa útil para médicos e científicos, senón tamén transparente, xusto e equitativo para os pacientes.
«Cremos que esta é unha tecnoloxía que mellora as capacidades humanas», dixo Fei-Fei Li, profesora de informática na Escola de Enxeñaría de Stanford, directora do proxecto RAISE Health with Minor e codirectora de HAI. Xeración tras xeración, poden xurdir novas tecnoloxías: desde novas secuencias moleculares de antibióticos ata o mapeo da biodiversidade e a revelación de partes ocultas da bioloxía fundamental, a IA está a acelerar o descubrimento científico. Pero non todo isto é beneficioso. «Todas estas aplicacións poden ter consecuencias non desexadas e necesitamos informáticos que desenvolvan e implementen [a intelixencia artificial] de forma responsable, traballando cunha variedade de partes interesadas, desde médicos e especialistas en ética... ata expertos en seguridade e máis aló», di ela. «Iniciativas como RAISE Health demostran o noso compromiso con isto».
A consolidación de tres divisións de Stanford Medicine (a Facultade de Medicina, Stanford Health Care e a Facultade de Medicina de Saúde Infantil da Universidade de Stanford) e as súas conexións con outras partes da Universidade de Stanford situárona nunha posición na que os expertos están a loitar co desenvolvemento da intelixencia artificial, cuestións de xestión e integración no campo da atención sanitaria e a medicina. Medicina, dicía a canción.
«Estamos ben posicionados para ser pioneiros no desenvolvemento e a implementación responsable da intelixencia artificial, desde descubrimentos biolóxicos fundamentais ata a mellora do desenvolvemento de fármacos e a eficiencia dos procesos de ensaios clínicos, pasando pola prestación real de servizos sanitarios. A atención sanitaria. A forma en que está configurado o sistema sanitario», dixo.
Varios oradores fixeron fincapé nun concepto sinxelo: centrarse no usuario (neste caso, o paciente ou médico) e todo o demais virá despois. «Isto pon ao paciente no centro de todo o que facemos», dixo a doutora Lisa Lehmann, directora de bioética do Hospital Brigham and Women's. «Temos que ter en conta as súas necesidades e prioridades».
De esquerda a dereita: a presentadora de STAT News, Mohana Ravindranath; Jessica Peter Lee, de Microsoft Research; e Sylvia Plevritis, profesora de ciencia de datos biomédicos, fala sobre o papel da intelixencia artificial na investigación médica. Steve Fish
Os relatores do panel, que incluía a Lehmann, a bioética médica da Universidade de Stanford Mildred Cho, doutora en medicina, e o director clínico de Google Michael Howell, doutora en medicina, sinalaron a complexidade dos sistemas hospitalarios, facendo fincapé na necesidade de comprender o seu propósito antes de calquera intervención. Implementalo e garantir que todos os sistemas desenvolvidos sexan inclusivos e escoiten ás persoas ás que están deseñados para axudar.
Unha clave é a transparencia: deixa claro de onde proceden os datos empregados para adestrar o algoritmo, cal é o propósito orixinal do algoritmo e se os datos futuros dos pacientes seguirán axudando ao algoritmo a aprender, entre outros factores.
«Intentar predicir os problemas éticos antes de que se agraven [significa] atopar o punto óptimo perfecto onde se sabe o suficiente sobre a tecnoloxía como para ter certa confianza nela, pero non antes de que [o problema] se estenda máis e resolvelo canto antes», dixo Denton Char. Candidato a Ciencias Médicas, profesor asociado do Departamento de Anestesioloxía Pediátrica, Medicina Perioperatoria e Medicina da Dor. Un paso fundamental, afirma, é identificar todas as partes interesadas que poderían verse afectadas pola tecnoloxía e determinar como lles gustaría responder a esas preguntas.
Jesse Ehrenfeld, doutor en medicina e presidente da Asociación Médica Americana, analiza catro factores que impulsan a adopción de calquera ferramenta de saúde dixital, incluídas as que funcionan con intelixencia artificial. É eficaz? Funcionará na miña institución? Quen paga? Quen é o responsable?
Michael Pfeffer, doutor en medicina e director de informática de Stanford Health Care, citou un exemplo recente no que se puxeron a proba moitos dos problemas entre o persoal de enfermaría dos hospitais de Stanford. Os médicos contan co apoio de grandes modelos lingüísticos que proporcionan anotacións iniciais para as mensaxes entrantes dos pacientes. Aínda que o proxecto non é perfecto, os médicos que axudaron a desenvolver a tecnoloxía afirman que o modelo lles facilita a carga de traballo.
«Sempre nos centramos en tres cousas importantes: seguridade, eficiencia e inclusión. Somos médicos. Facemos o xuramento de "non facer dano", dixo Nina Vasan, MD, profesora clínica adxunta de psiquiatría e ciencias do comportamento, que se uniu a Char e Pfeffer ao grupo. «Esta debería ser a primeira forma de avaliar estas ferramentas».
Nigam Shah, doutor en medicina e ciencia de datos biomédicos, licenciado en administración e profesor de medicina e ciencia de datos biomédicos, comezou o debate cunha estatística impactante, malia o aviso que se lle dera ao público. «Fálome en termos xerais e con números, e ás veces tenden a ser moi directos», dixo.
Segundo Shah, o éxito da IA depende da nosa capacidade de escalala. «Realizar unha investigación científica axeitada sobre un modelo leva uns 10 anos, e se cada un dos 123 programas de bolsas e residencias quixese probar e despregar o modelo con ese nivel de rigor, sería moi difícil facer a ciencia correcta tal e como organizamos os nosos esforzos e [probamos] actualmente. Custaría 138.000 millóns de dólares asegurarnos de que todos os nosos sitios funcionan correctamente», dixo Shah. «Non podemos permitírnolo. Polo tanto, necesitamos atopar unha forma de expandirnos, e necesitamos expandirnos e facer boa ciencia. As habilidades de rigor están nun lugar e as habilidades de escala están noutro, polo que imos necesitar ese tipo de colaboración».
A decana asociada Yuan Ashley e Mildred Cho (recepción) asistiron ao taller de saúde de RAISE. Steve Fish
Algúns relatores do simposio dixeron que isto podería conseguirse mediante asociacións público-privadas, como a recente Orde Executiva da Casa Branca sobre o Desenvolvemento e Uso Seguros, Protexidos e Confiables da Intelixencia Artificial e o Consorcio para a Intelixencia Artificial na Atención Sanitaria (CHAI).
«A colaboración público-privada con maior potencial é a que se establece entre o ámbito académico, o sector privado e o sector público», afirmou Laura Adams, asesora principal da Academia Nacional de Medicina. Sinalou que o goberno pode garantir a confianza pública, que os centros médicos académicos poden proporcionar lexitimidade e que o sector privado pode proporcionar coñecementos técnicos e tempo de ordenador. «Todos somos mellores que calquera de nós e recoñecemos que... non podemos rezar para realizar o potencial da [intelixencia artificial] a menos que entendamos como interactuar uns cos outros».
Varios relatores dixeron que a IA tamén está a ter un impacto na investigación, xa sexa para explorar os dogmas biolóxicos, predicir novas secuencias e estruturas de moléculas sintéticas para apoiar novos tratamentos ou mesmo axudarlles a resumir ou escribir artigos científicos.
«Esta é unha oportunidade para ver o descoñecido», dixo Jessica Mega, doutora en medicina, cardióloga da Facultade de Medicina da Universidade de Stanford e cofundadora de Verily, de Alphabet. Mega mencionou a imaxe hiperespectral, que captura características da imaxe invisibles para o ollo humano. A idea é usar a intelixencia artificial para detectar patróns en láminas de patoloxía que os humanos non ven e que indican enfermidades. «Animo á xente a abrazar o descoñecido. Creo que todo o mundo aquí coñece a alguén con algún tipo de condición médica que necesita algo máis alá do que podemos proporcionar hoxe», dixo Mejía.
Os panelistas tamén coincidiron en que os sistemas de intelixencia artificial proporcionarán novas formas de identificar e combater a toma de decisións sesgadas, xa sexan tomadas por humanos ou por intelixencia artificial, coa capacidade de identificar a fonte do sesgo.
«A saúde é algo máis que atención médica», coincidiron varios panelistas. Os relatores salientaron que os investigadores a miúdo pasan por alto os determinantes sociais da saúde, como o nivel socioeconómico, o código postal, o nivel educativo e a raza e a etnia, á hora de recompilar datos inclusivos e recrutar participantes para estudos. «A IA só é tan eficaz como os datos nos que se adestra o modelo», dixo Michelle Williams, profesora de epidemioloxía na Universidade de Harvard e profesora asociada de epidemioloxía e saúde da poboación na Facultade de Medicina da Universidade de Stanford. «Se facemos o que nos esforzamos por facer, mellorar os resultados sanitarios e eliminar as desigualdades, debemos garantir que recompilamos datos de alta calidade sobre o comportamento humano e o medio ambiente social e natural».
Natalie Pageler, doutora en medicina e profesora clínica de pediatría e medicina, afirmou que os datos agregados sobre o cancro a miúdo exclúen os datos sobre as mulleres embarazadas, o que crea sesgos inevitables nos modelos e exacerba as disparidades existentes na atención sanitaria.
O doutor David Magnus, profesor de pediatría e medicina, afirmou que, como calquera tecnoloxía nova, a intelixencia artificial pode mellorar as cousas ou empeoralas de moitas maneiras. O risco, segundo Magnus, é que os sistemas de intelixencia artificial aprendan sobre resultados de saúde desiguais impulsados por determinantes sociais da saúde e reforcen eses resultados a través dos seus resultados. «A intelixencia artificial é un espello que reflicte a sociedade na que vivimos», dixo. «Espero que cada vez que teñamos a oportunidade de arroxar luz sobre un problema (de sosternos un espello) sirva de motivación para mellorar a situación».
Se non puideches asistir ao obradoiro de RAISE Health, podes atopar unha gravación da sesión aquí.
A Facultade de Medicina da Universidade de Stanford é un sistema integrado de atención sanitaria académica que consta da Facultade de Medicina da Universidade de Stanford e dos sistemas de prestación de atención sanitaria para adultos e nenos. Xuntos, aproveitan todo o potencial da biomedicina a través da investigación colaborativa, a educación e a atención clínica ao paciente. Para obter máis información, visite med.stanford.edu.
Un novo modelo de intelixencia artificial está a axudar aos médicos e ás enfermeiras do Hospital de Stanford a traballar xuntos para mellorar a atención aos pacientes.
Data de publicación: 19 de xullo de 2024