Microsoft y su integración de IA
No hay duda de que la Microsoft de Nadella es un triunfo. Finalmente, en la década de 2020, Microsoft se ha centrado en la tecnología más innovadora desde la propia PC. Aunque los ingresos de los productos de IA aún no han comenzado a compensar las enormes inversiones de Microsoft, la compañía tiene la confianza y los recursos para esperar hasta que los productos mejoren y los usuarios los consideren útiles.
El problema de Recall
Pero, ¿puede Microsoft realmente evitar la soberbia que lo retrasó tanto en el pasado? Consideremos lo que ocurrió en mayo de este año con un producto llamado Recall. La función estaba diseñada para epitomizar la integración de IA de Microsoft en su hardware, software e infraestructura. La idea era ofrecer a los usuarios algo como una versión personal del Internet Archive. Recall capturaría constantemente todo lo que ocurre en tu máquina: lo que lees, lo que escribes, las imágenes y videos que miras, y los sitios que visitas. Simplemente describe a tu máquina lo que estás buscando: ¿cuáles eran aquellas muestras de alfombra que estaba considerando para mi sala de estar? ¿Dónde está ese informe sobre la ecología del Amazonas? ¿Cuándo fui a París? Esos momentos aparecerían como por arte de magia, como si tuvieras un homúnculo que lo supiera todo sobre ti. Suena aterrador, como un Gran Hermano a bordo, pero Microsoft insistió en que los usuarios podían sentirse seguros. ¡Todo se queda en tu computadora!
Críticas y reacciones
Casi de inmediato, los críticos la destruyeron como una pesadilla para la privacidad. Por un lado, señalaron que Recall funcionaba por defecto y absorbía tu información personal, sin importar cuán sensible, sin pedir permiso. Mientras Microsoft enfatizaba que solo el usuario podría acceder a Recall, investigadores de seguridad encontraron “huecos por los que podrías hacer volar un avión”, como dijo un evaluador. “En unas 48 horas, pasamos de ‘¡Vaya, esto es extraordinariamente emocionante!’ a que la gente expresase ciertas reservas”, dice Brad Smith. Mientras la prensa atacaba, Smith estaba en un avión rumbo a Washington, DC, para reunirse con Nadella. Cuando aterrizó, consideró prudente hacer que Recall funcionara solo si los usuarios optaban por ello; Nadella estuvo de acuerdo. Mientras tanto, en Redmond, los altos ejecutivos de Microsoft se reunieron para ver cómo podrían reducir el producto. Afortunadamente, como la función aún no se había lanzado, no tuvieron que retirar Recall. Postergaron el lanzamiento e incorporarían características de seguridad, como la encriptación “justo a tiempo”.
Lecciones aprendidas
“La gente señaló algunas cosas obvias que debíamos hacer y que debimos haber detectado”, dice Nadella. Pero su propio equipo de IA Responsable también las pasó por alto. Un grado de “sabelotodismo” había llevado a un anuncio de un producto que no cumplió, lo que indica que, incluso liderada por un supuesto empático, Microsoft aún retiene demasiados de sus defectos de carácter anteriores. Ahora, es una compañía valuada en 3 billones de dólares con acceso asegurado a los productos de una operación de IA de vanguardia. “Puedes pensarlo de dos maneras”, dice Brad Smith. “Una es, ‘Vaya, desearía que hubiéramos pensado en esto antes’. La retrospección es una gran cosa. O dos, ‘Hey, es bueno que estemos usando esto para hacer este cambio—seamos explícitos sobre el por qué’. Realmente fue un momento de aprendizaje para toda la empresa.” Eso está bien. Después de 50 años, sin embargo, es una lección que Microsoft y Nadella debieron haber aprendido hace mucho tiempo.
Fuente y créditos: www.wired.com
Cats: The Big Story
