Apple suspende nueva función de inteligencia artificial
Apple ha suspendido una nueva función de inteligencia artificial (IA) que recibió críticas y quejas por cometer errores repetidos en sus resúmenes de titulares de noticias. La empresa tecnológica había enfrentado una creciente presión para retirar el servicio, que enviaba notificaciones que parecían provenir de las aplicaciones de las organizaciones de noticias. “Estamos trabajando en mejoras y las haremos disponibles en una futura actualización de software”, dijo un portavoz de Apple.
Errores en resúmenes de noticias
La BBC fue uno de los grupos que se quejaron, después de que una alerta generada por la IA de Apple informara falsamente a algunos lectores que Luigi Mangione, el hombre acusado de asesinar al CEO de UnitedHealthcare, Brian Thompson, se había disparado a sí mismo. La función también resumió incorrectamente titulares de medios como Sky News, The New York Times y The Washington Post, según informaron periodistas y otros en las redes sociales. Los medios de comunicación y grupos de prensa habían instado a la empresa a retroceder, advirtiendo que la función no estaba lista y que los errores generados por la IA contribuían a los problemas de desinformación y a la disminución de la confianza en las noticias.
Respuesta de Apple y Desactivación total de la función
La BBC se quejó a Apple en diciembre, pero la compañía no respondió hasta enero, cuando prometió una actualización de software que aclararía el papel de la IA en la creación de los resúmenes, que eran opcionales y solo estaban disponibles para lectores con los últimos iPhones. Eso provocó una nueva ola de críticas que indicaban que la empresa no iba lo suficientemente lejos. Ahora, Apple ha decidido desactivar la función completamente para aplicaciones de noticias y entretenimiento. “Con las últimas versiones beta de software de iOS 18.3, iPadOS 18.3 y macOS Sequoia 15.3, los resúmenes de notificaciones de la categoría Noticias y Entretenimiento estarán temporalmente indisponibles”, dijo un portavoz de Apple.
Compromiso con la precisión de las noticias
La empresa indicó que para otras aplicaciones los resúmenes generados por IA de las alertas de aplicaciones aparecerán utilizando texto en cursiva. “Estamos contentos de que Apple haya escuchado nuestras preocupaciones y esté pausando la función de resumen para noticias”, dijo un portavoz de la BBC. “Esperamos trabajar con ellos de manera constructiva en los próximos pasos. Nuestra prioridad es la precisión de las noticias que entregamos a las audiencias, lo cual es esencial para construir y mantener confianza.”
Apple había comentado que la función, que se lanzó a los usuarios en el Reino Unido en diciembre, tenía el propósito de hacer la vida de los clientes más eficiente. Agrupa y reescribe vistas previas de múltiples notificaciones recientes de aplicaciones en una sola alerta en las pantallas de bloqueo de los usuarios. Esta decisión se produce mientras la empresa enfrenta presión para mostrar sus desarrollos en IA, los cuales los inversionistas esperaban que impulsaran una nueva ola de demanda de iPhones y otras tecnologías. Las acciones de la compañía cayeron más del 4% en operaciones del jueves tras informes que indicaban que las ventas estaban luchando en China.
Análisis: Un giro inusual de Apple
Apple, generalmente firme sobre sus productos, rara vez responde a críticas. Esta simple declaración de la empresa tecnológica dice mucho sobre cuán dañinos son los errores cometidos por su nueva y promocionada función de IA. No solo estaba difundiendo involuntariamente desinformación al generar resúmenes inexactos de noticias, sino que también estaba dañando la reputación de organizaciones de noticias como la BBC, cuyo sustento es su credibilidad, al mostrar los titulares falsos junto a sus logos. No es una buena presentación para un servicio recién lanzado.
Los desarrolladores de IA siempre han afirmado que la tecnología tiende a “alucinar” (inventar cosas) y todos los chatbots de IA llevan cláusulas que indican que la información que proporcionan debe ser verificada. Sin embargo, cada vez más se da prominencia al contenido generado por IA, incluyendo la provisión de resúmenes en la parte superior de los motores de búsqueda, lo que en sí mismo implica que es confiable. Incluso Apple, con todo el poder financiero y experto que tiene para desarrollar la tecnología, ha demostrado públicamente que este no es aún el caso. También es interesante que el último error, que antecedió al cambio de plan de Apple, fue un resumen de IA de contenido de The Washington Post, como lo informó su columnista de tecnología Geoffrey A. Fowler. El medio de noticias es propiedad de alguien que el jefe de Apple, Tim Cook, conoce bien: Jeff Bezos, el fundador de Amazon.
Fuente y créditos: www.bbc.com
Cats:
