¿Cómo cambiará la inteligencia artificial la medicina? ¿Y qué se puede hacer para garantizar que el cambio sea para mejor?
Stanford Medicine recurrió a algunas de las guías de la Universidad de Stanford en cuestiones de inteligencia artificial y ética en busca de información.
Estos seis miembros de la facultad de Stanford son los líderes de una iniciativa lanzada en el verano de 2023 para abordar cuestiones éticas y de seguridad relacionadas con la innovación en IA. La iniciativa, RAISE-Health (IA responsable para una salud segura y equitativa), lanzada en junio, está patrocinada por Stanford Medicine y el Instituto Stanford para la Inteligencia Artificial Centrada en el Humano, o HAI.
Esto es lo que preguntamos: 2023 ha sido un punto de inflexión en la forma en que pensamos y hablamos sobre la inteligencia artificial, especialmente en medicina. De cara al año que viene, e incluso más allá, ¿Cuál es su pronóstico para el futuro de la IA? ¿Qué novedades le inspiran optimismo? ¿Qué cuestiones deberían recibir más atención?
Fei-Fei Li , PhD, Copatrocinador ejecutivo de RAISE-Health, profesor de informática y codirector de Stanford HAI
Me inspira ver el interés de los estudiantes e investigadores aquí en Stanford en aprender sobre los límites éticos, las implicaciones políticas y las implicaciones sociales de la IA. En HAI, estamos a la vanguardia en incorporar el diseño ético y el pensamiento centrado en el ser humano al desarrollo y uso de la IA: tenemos cientos de miembros de la comunidad que se benefician de nuestros diversos programas. Se está convirtiendo en un movimiento.
Un área que creo que necesita más énfasis es la inversión pública en IA. En este momento existe una enorme asimetría entre la inversión del sector público y del sector privado en IA. Esto no es saludable para nuestro país y no es saludable para el ecosistema de la IA. Necesitamos fuentes confiables para evaluar y evaluar esta tecnología: organizaciones que desempeñan un papel como el que desempeña la FDA en el ámbito de la medicina. Las inversiones del sector público son muy adecuadas para apoyar la investigación multidisciplinaria impulsada por la curiosidad, que son tan importantes para descubrir nuevos fármacos, nuevos tratamientos y comprender el mecanismo de las enfermedades. Sin invertir en el sector público estaremos perdiendo estas oportunidades.
Lloyd Minor, MD, Copatrocinador ejecutivo de RAISE-Health, decano de la Facultad de Medicina, vicepresidente de asuntos médicos, Universidad de Stanford
Sin lugar a dudas, las tecnologías de inteligencia artificial pronto estarán integradas en casi todas las facetas de la sociedad, y la biomedicina no será diferente. Lo que es diferente, por supuesto, son los riesgos involucrados. Los errores en la atención sanitaria y la investigación biomédica pueden tener consecuencias que alteran la vida. Entonces, a medida que aprovechamos el potencial, debemos hacer nuestra debida diligencia.
Como ocurre con cualquier herramienta nueva y poderosa, no sólo debemos desarrollar el conocimiento y las habilidades para emplearla de manera efectiva, sino también invertir en darle forma a su uso seguro y responsable. Lo que me da esperanza es que expertos de todos los campos se estén uniendo de manera proactiva para liderar este trabajo a través de iniciativas como RAISE-Health.
Al mirar hacia el futuro, prestaré especial atención al entorno regulatorio que rodea a estas nuevas tecnologías. Actualmente nos encontramos en la fase de sorpresa de esta tecnología, pero muy rápidamente necesitaremos políticas informadas y consistentes para regir el desarrollo, el uso y la evaluación a largo plazo de la IA. Esa es la clave para la seguridad y la eficacia y para garantizar que estas tecnologías no solo funcionen sino que también ayuden a cerrar desigualdades en salud de larga data.
Russ Altman, MD, PhD, Codirector de RAISE-Health, profesor Kenneth Fong y profesor de bioingeniería, genética, medicina y ciencia de datos biomédicos
A veces la IA es criticada por preocupaciones (razonables) sobre la privacidad, la equidad y la justicia. Estos deben seguir siendo una prioridad para todos los investigadores de IA para asegurarse de que las herramientas que crean contribuyan a la equidad.
Sin embargo, la IA también tiene una gran ventaja a la hora de ayudar a gestionar los descubrimientos biomédicos y mejorar la prestación de atención clínica. Los modelos de lenguaje grandes pueden revolucionar nuestra capacidad de explicar a los pacientes su diagnóstico, pronóstico y tratamiento, en un inglés claro y sencillo. Y la tecnología de IA pasará de ser una mera herramienta para analizar conjuntos de datos biológicos a un colega/asistente que puede ayudar a formular hipótesis, probarlas e informar sobre los resultados. Esto catalizará el ritmo de descubrimiento y traducción.
También se necesita innovación para reducir el uso de energía de la tecnología y la cantidad de datos necesarios para lograr un buen rendimiento. Con el éxito en estas dos áreas, habrá una democratización de la IA donde ya no estará dominada por grandes y ricas empresas tecnológicas, sino donde podrá proliferar y ser construida y utilizada por un grupo mucho más grande de usuarios diversos con diversas necesidades, perspectivas y objetivos.
Sanmi Koyejo, PhD, Codirector de RAISE-Health, profesor asistente de informática
Gran parte de lo que hemos visto a lo largo del año destaca los beneficios y riesgos de la era actual en el desarrollo de la IA en general y su implementación en la atención médica. De hecho, el futuro de la IA en la atención sanitaria depende de las decisiones que tomemos ahora. Podemos repetir los errores que hemos cometido y que conducen a sistemas frágiles y no equitativos, o podemos darle forma a la IA en la atención médica para que tenga un impacto positivo en la sociedad. Espero que elijamos lo último.
Las estrategias significativas para evaluar la IA (qué funciona y qué no) son componentes cruciales para generar confianza y un impacto positivo. Con ese fin, hemos introducido un nuevo marco de evaluación que se centra en las propiedades de confiabilidad de los modelos de IA, como ChatGPT, que generan nuevos datos. La evaluación también puede ayudar a determinar las capacidades de la IA. Por ejemplo, hemos demostrado que algunas de las afirmaciones de que los grandes modelos lingüísticos están desarrollando propiedades emergentes (en otras palabras, comportamientos sorprendentes que recuerdan a la inteligencia humana) no resisten el escrutinio.
También es clave priorizar el desarrollo de la IA en la atención sanitaria centrado en el ser humano. Incluir a las partes interesadas en el diseño y despliegue de la tecnología y mantener a los humanos en el proceso conducirá a sistemas más equitativos que eviten repetir los prejuicios de nuestro pasado.
Curtis Langlotz , MD, PhD, Co-líder de RAISE-Salud y profesor de radiología, de investigación en informática biomédica y de ciencia de datos biomédicos
Soy muy optimista acerca de cómo los datos clínicos de múltiples fuentes están convergiendo para impulsar los últimos avances en IA. Se están reuniendo datos de notas clínicas, valores de laboratorio, imágenes de diagnóstico y pruebas genómicas. Como radiólogo, estoy especialmente entusiasmado con cómo la IA puede ayudarnos a reducir los errores médicos y detectar enfermedades en las primeras etapas.
Deberíamos prestar más atención a los desafíos de implementar estas increíbles tecnologías de una manera justa, práctica y sostenible. Debido a que estos sistemas aprenden de los datos, cualquier sesgo inherente a los datos se incorpora al sistema. Y no hay garantía de que los médicos tengan el ancho de banda para actuar sobre la base de los conocimientos producidos por la IA.
Estoy entusiasmado con las implicaciones de ChatGPT, Bard y otros grandes modelos de lenguaje para involucrar a pacientes y proveedores. Los pacientes ahora tienen fácil acceso a sus registros médicos y los modelos de lenguaje pueden ayudarlos a comprender su información de salud a un nivel de lectura y en un idioma adecuado para ellos. Y modelos de entrenamiento como ChatGPT con grandes cantidades de datos de pacientes pueden crear capacidades que nos sorprendan.
Sylvia Plevritis , PhD,Codirector de RAISE-Health, profesor de ciencia de datos biomédicos y de radiología y catedrático de ciencia de datos biomédicos
Vivimos en tiempos sin precedentes. Los modelos de IA generativa, como ChatGPT, capturan la estructura de los datos de maneras que eran inimaginables hace poco más de un año, y es mucho más que saber cómo unir palabras. La estructura no está sólo en las oraciones, está en todo: secuencias de ADN, ARN y aminoácidos; plegamiento de proteínas; entradas de registros médicos electrónicos; y las imágenes tienen una estructura que se puede explorar con IA generativa.
Trabajo en la investigación del cáncer. La IA actual nos permite combinar datos de una manera que pueda predecir qué evento clínico (“código CPT”) será probablemente el próximo para un paciente con cáncer determinado en función de su estado e historial clínico y molecular. Esto nos permite construir sistemas de aprendizaje activo que puedan avanzar simultáneamente en el descubrimiento de ciencia básica y la atención clínica.
Veo un futuro brillante y no estoy solo. La gente está generando grandes ideas sobre lo que se puede hacer. Pero el límite ahora mismo es la accesibilidad. Este trabajo requiere importantes recursos computacionales y de datos que no existen en la mayoría de las instituciones académicas. Universidades como Stanford se están tomando esto muy en serio: ¿cómo creamos tecnologías de inteligencia artificial de alto rendimiento pero de menor costo para entornos académicos (y más amplios) para potenciar una perspectiva académica, no solo comercial?
Escrito y redactado en Stanford Medicine