Los diseñadores de software están probando chatbots impulsados por IA especializados que pueden dar consejos médicos y diagnosticar enfermedades, pero las dudas sobre su precisión son muchas.
En primavera, Google presentó una función de “Visión general de IA” donde las respuestas del chatbot de la compañía comenzaron a aparecer por encima de los resultados de búsqueda típicos, incluyendo consultas relacionadas con la salud. Aunque podría haber sonado como una buena idea en teoría, ha habido problemas con los consejos de salud ofrecidos por el software.
En la primera semana que el bot estuvo en línea, un usuario dijo que Google AI dio información incorrecta, posiblemente letal, sobre qué hacer si te muerde una serpiente de cascabel. Otra búsqueda resultó en Google recomendando que las personas comieran “al menos una pequeña roca al día” para obtener vitaminas y minerales, un consejo sacado de un artículo satírico.
Google dice que desde entonces ha limitado la inclusión de sitios satíricos y de humor en sus resúmenes, y ha eliminado algunos de los resultados de búsqueda que se volvieron virales.
“La gran mayoría de las Visiónes generales de IA proporcionan información de alta calidad, con enlaces para profundizar en la web”, dijo un portavoz de Google a CBS News. “Para las consultas de salud, siempre hemos tenido robustas barreras de calidad y seguridad en su lugar, incluyendo descargos de responsabilidad que recuerdan a las personas la importancia de buscar consejo de expertos. Hemos seguido refinando cuándo y cómo mostramos las Visiónens generales de IA para asegurar que la información sea de alta calidad y confiable.”
La investigación de CBS News Confirmado encontró que esas correcciones no han evitado toda la información errónea sobre salud. Las consultas sobre la introducción de alimentos sólidos a bebés menores de seis meses aún proporcionaban consejos a finales de junio. Los bebés no deben comenzar a comer alimentos sólidos hasta alcanzar al menos los seis meses de edad, según la American Academy of Pediatrics.
Las búsquedas sobre los supuestos beneficios para la salud de tendencias dudosas como las desintoxicaciones o beber leche cruda también incluyeron afirmaciones desacreditadas.
A pesar de las rarezas y errores evidentes, muchos líderes de la atención médica dicen que siguen siendo optimistas sobre los chatbots con IA y cómo pueden cambiar la industria.
“Las personas accederán a la información que necesitan”, dijo el Dr. Nigam Shah, científico de datos principal de Stanford Healthcare. “A corto plazo soy un poco pesimista, creo que nos estamos adelantando un poco. Pero a largo plazo, creo que estas tecnologías nos van a hacer mucho bien.”
Otros defensores de los chatbots rápidamente señalan que los médicos no siempre aciertan. Las estimaciones varían, pero un estudio del Departamento de Salud y Servicios Humanos de 2022 encontró que hasta un 2% de los pacientes que acuden a un servicio de emergencias cada año pueden sufrir daños después de un diagnóstico erróneo por un proveedor de atención médica.
Shah comparó el uso de chatbots con los primeros días de Google en sí mismo.
“Cuando Google Search llegó, la gente temía que la gente se autodiagnosticara y todo se descontrolara. No sucedió”, dijo Shah. “Lo mismo. Pasaremos por esa fase en la que los nuevos que no estén completamente formados cometerán errores, y un par de ellos serán malos, pero en general, tener información cuando no hay otra opción es algo bueno.”
La Organización Mundial de la Salud es una de las organizaciones que están entrando en el mundo de la IA. El chatbot de la organización, Sarah, extrae información del sitio de la OMS y de sus socios de confianza, lo que hace que las respuestas sean menos propensas a errores factuales. Cuando se le pregunta cómo limitar el riesgo de un ataque al corazón, Sarah ofrece información sobre cómo manejar el estrés, dormir bien y centrarse en un estilo de vida saludable.
Los avances continuos en diseño y supervisión podrían seguir mejorando este tipo de chatbots.
Pero si recurres a un chatbot con IA para obtener consejos de salud hoy en día, ten en cuenta la advertencia que viene con la versión de Google: “La calidad de la información puede variar.”
Fuente y créditos: www.cbsnews.com
Cats: CBS Saturday Morning
