Notificaciones engañosas de Apple AI sobre historias sensibles
La inteligencia artificial de Apple está enviando notificaciones engañosas sobre historias delicadas como el juicio por violación masiva de Gisele Pelicot, el escándalo de bandas de grooming en Gran Bretaña, y un oficial de prisión filmado teniendo relaciones sexuales con un recluso. Varias organizaciones de noticias han expresado su preocupación a Apple respecto a la función de resumen de IA, que está disponible en iPhones con Apple Intelligence. La función “debe ser revocada”, afirmó el National Union of Journalists a Sky News, ya que “los resúmenes de noticias inexactos compartidos con las audiencias a través de Apple Intelligence demuestran que la función no es adecuada para su propósito”. Según Apple, la característica utiliza inteligencia artificial para resumir las notificaciones “para que puedas escanearlas en busca de detalles clave”. Sin embargo, la IA ha resumido incorrectamente historias de medios como BBC, Sky News y The Telegraph, creando titulares engañosos e inexactos.
Ejemplos de resúmenes erróneos
En un ejemplo relacionado con una historia de Sky News, la función sugirió incorrectamente que la ministra de protección, Jess Phillips, pidió una nueva investigación sobre las bandas de grooming de Gran Bretaña. Esto fue incorrecto. El titular original decía: “Jess Phillips le dice a Sky News que podría haber una nueva investigación nacional sobre las bandas de grooming si las víctimas lo piden”. La historia más amplia sobre las bandas de grooming es delicada y controvertida, con Elon Musk atacando a la diputada y a Sir Keir Starmer por no llevar a cabo una investigación nacional.
En otro ejemplo relacionado con una historia sensible, la IA de Apple afirmó que la víctima de violación masiva, Gisele, “defendió sus convicciones”. El titular original decía: “Gisele Pelicot dice que fue a la corte ‘por mis hijos y nietos’ después de las condenas en el juicio por violación masiva”. Gisele Pelicot fue víctima de violación por más de 50 hombres, después de que su exesposo la drogará, violara y la publicara en internet. Sus violadores han sido condenados a más de 400 años de prisión.
Críticas y preocupación respecto a la precisión
Un tercer ejemplo fue la reciente noticia sobre un oficial de prisión que fue encarcelado por 15 meses después de ser filmado teniendo sexo con un prisionero, resumida como “oficial de prisión filmado teniendo sexo con un recluso”. El resumen omitió el nuevo elemento de la historia, que era que el oficial había sido encarcelado. Sky News ha expresado sus preocupaciones a Apple sobre los resúmenes, temiendo que la función pueda erosionar la confianza en las noticias y la reputación de la organización.
La BBC también presentó quejas previamente a la gigante tecnológica, después de que la función informara con inexactitud que el jugador de dardos, Luke Littler, había ganado el Campeonato del Mundo de PDC – antes de que jugara en la final. “Estos resúmenes de IA por parte de Apple no reflejan -y en algunos casos contradicen completamente- el contenido original de la BBC”, manifestó un portavoz de la BBC a Sky News. “Es fundamental que Apple aborde estos problemas urgentemente, ya que la precisión de nuestras noticias es esencial para mantener la confianza”. Laura Davison, secretaria general del NUJ, comentó: “Con cada historia compartida inexactamente, Apple se posiciona entre actores que difunden información errónea perjudicial, condenada por todos aquellos que reconocen la importancia del periodismo ético y creíble”.
Errores significativos en resúmenes de noticias
Ha habido múltiples ejemplos de estos errores y, en un momento de polarización entre audiencias sobre historias altamente sensibles que dominan los medios, la integridad editorial y la reputación de los periodistas y las organizaciones no deberían debilitarse de esta manera. Hacerlo solo arriesga la erosión de la confianza y la confianza pública en las noticias.
En otro ejemplo reciente, el resumen indicó a los lectores de The Telegraph que el primer ministro había cambiado su posición sobre el impuesto de herencia para agricultores y ahora respaldaba a los agricultores. Apple pareció confundir el titular “Golpe a Starmer a medida que el gigante de los supermercados respalda a los agricultores sobre la imprenta de impuestos de herencia”. En su lugar, resumió el titular como “Starmer respalda a los agricultores sobre la imprenta de impuestos de herencia”. The Telegraph no respondió a una solicitud de comentarios.
Cuando se le solicitó un comentario, Apple envió a Sky News un enlace a un artículo de la BBC sobre el tema donde dijeron que estaban trabajando para aclarar que los resúmenes eran generados por IA. Sin embargo, Sky News sugirió que aún tiene preocupaciones de que la forma en que se presentan los resúmenes por parte de Apple AI conlleva fuertes implicaciones de que han originado desde Sky News.
Fuente y créditos: news.sky.com
Cats:
