No hay dudas sobre it: Microsoft de Nadella es un triunfo. Finalmente, en la década de 2020, Microsoft se ha centrado en la tecnología más innovadora desde la propia PC. Y aunque los ingresos de los productos de IA no han comenzado a compensar las enormes inversiones de Microsoft, tiene la confianza (y los recursos) para esperar hasta que los productos mejoren y los usuarios los encuentren útiles.
Pero, ¿puede realmente Microsoft evitar la arrogancia que lo hizo retroceder hasta ahora? Consideremos lo que pasó en mayo de este año con un producto llamado Recall.
Se suponía que la característica personificaría la integración de la IA de Microsoft en su hardware, software e infraestructura. La idea era ofrecer a los usuarios algo así como una versión personal de Internet Archive. Recall capturaría constantemente todo lo que sucede en su máquina: lo que lee, lo que escribe, las imágenes y videos que mira, los sitios que visita. Simplemente describa a su máquina lo que está buscando: ¿Cuáles eran esas muestras de alfombras que estaba considerando para mi sala de estar? ¿Dónde está ese informe sobre la ecología del Amazonas? ¿Cuándo fui a París? Esos momentos surgirían como por arte de magia, como si tuvieras un homúnculo que supiera todo sobre ti. Suena aterrador, algo así como un Gran Hermano integrado, pero Microsoft insistió en que los usuarios podían sentirse seguros. ¡Todo permanece en tu computadora!
Casi de inmediato, los críticos lo criticaron calificándolo de una pesadilla para la privacidad. Por un lado, señalaron, Recall funcionaba de forma predeterminada y engullía su información personal, sin importar cuán sensible fuera, sin pedir permiso. Si bien Microsoft ha enfatizado que solo el usuario puede acceder a Recall, los investigadores de seguridad encontraron “Espacios por los que podrías conducir un avión.”, como lo expresó un evaluador.
“En aproximadamente 48 horas, pasamos de ‘¡Guau, esto es extraordinariamente emocionante!’ a personas que expresan algunas reservas”, dice Brad Smith. Mientras la prensa abundaba, Smith estaba en un avión para encontrarse con Nadella en Washington, DC. Cuando aterrizó, pensó que sería prudente hacer que Recall funcionara sólo si los usuarios optaban por participar; Nadela estuvo de acuerdo. Mientras tanto, en Redmond, los altos ejecutivos de Microsoft se agolpaban en las salas de reuniones para ver cómo podrían reducir el tamaño del producto. Afortunadamente, dado que la función aún no se había enviado, no tuvieron que retirar Recall. Ellos pospuso el lanzamiento. Y agregarían características de seguridad, como el cifrado “justo a tiempo”.
“La gente nos señaló algunas cosas obvias que debíamos hacer y que deberíamos haber captado”, dice Nadella. Pero su propio equipo de IA Responsable también los extrañó. Una medida de “sabelotodo” había llevado al anuncio de un producto que se quedó corto, lo que indica que, incluso cuando está dirigido por un supuesto empático, Microsoft todavía conserva muchos de sus defectos de carácter anteriores. Sólo que ahora es una empresa de 3 billones de dólares con acceso bloqueado a los productos de la operación de inteligencia artificial de vanguardia.
“Puedes pensar en ello de dos maneras”, dice Brad Smith. “Una es: ‘Vaya, ojalá hubiéramos pensado en esto antes’. La retrospectiva es algo grandioso. O dos, “Oye, es bueno que estemos usando esto para hacer este cambio; seamos explícitos sobre por qué”. Fue realmente un momento de aprendizaje para toda la empresa”.
Está bien. Sin embargo, después de 50 años, es una lección que Microsoft (y Nadella) deberían haber aprendido hace mucho tiempo.
Imágenes falsas (cronología)
Háganos saber lo que piensa acerca de este artículo. Envíe una carta al editor a correo@wired.com.
