Una función destacada que llegará a las nuevas PCs Copilot+ de Microsoft, impulsadas por inteligencia artificial, ha generado preocupaciones sobre la privacidad. Esta función incluye un asistente de IA que constantemente toma capturas de pantalla de lo que los usuarios están haciendo.
¿Qué es Recall?
La idea de la función «recall» es que actúa como un historial de navegación superpotente para todo el dispositivo, permitiendo a los usuarios buscar y recuperar información desde un solo lugar. Esta función rastrea cada acción realizada en el portátil, desde chats de voz hasta navegación web, creando un historial detallado almacenado en el dispositivo. Los usuarios pueden buscar fácilmente en este historial para encontrar en qué estaban trabajando.
Sin embargo, este servicio ha despertado temores sobre la privacidad. Elon Musk lo comparó con la serie de ciencia ficción distópica Black Mirror, y la Oficina del Comisionado de Información del Reino Unido (ICO) se ha comprometido a investigar la función.
La ICO declaró: «Estamos haciendo consultas con Microsoft para entender las salvaguardias que existen para proteger la privacidad del usuario».
¿Qué está sucediendo?
Recall es una característica de las nuevas y potentes PCs de Microsoft llamadas Copilot+ PCs, que ofrecen funciones avanzadas de IA integradas.
La capacidad de procesar datos de IA directamente en la computadora permite incluir una función llamada Recall. Esta rastrea todo lo que se hace en la computadora, desde la navegación web hasta los chats de voz, creando un historial que se almacena en la computadora.
Los usuarios pueden buscar en Recall cuando necesiten recordar algo que hicieron, incluso meses después.
Simon Pardo, director de la empresa de especialistas en tecnología Computer Care, explicó: «Copilot+ Recall toma capturas de pantalla de la actividad del usuario en la computadora y las analiza con IA para permitir a los usuarios buscar en sus actividades pasadas, incluyendo archivos, fotos, correos electrónicos y el historial de navegación.»
«La idea es proporcionar una especie de memoria fotográfica que ayude a los usuarios a encontrar y recordar rápidamente la información que han visto previamente.»
¿Por qué están preocupadas las personas?
Usuarios de redes sociales y expertos en privacidad han expresado temores de que tal recopilación de datos pueda generar problemas para los usuarios.
«La función Recall es un desarrollo preocupante, particularmente desde un punto de vista de seguridad. Al compilar el historial digital completo de un usuario a través de los servicios de Microsoft, se crea un único punto de falla que podría ser catastrófico para las empresas», dijo Pardo.
«Consolidar todas estas instantáneas en un solo lugar crea un objetivo de alto valor para los atacantes, exponiendo potencialmente una gran cantidad de información sensible si se produce una brecha.»
«La función también plantea importantes preocupaciones de privacidad, con el potencial de invadir cada área de la vida del usuario. Tomar instantáneas cada pocos segundos es excesivo.»
«Otros han cuestionado cómo podría Microsoft usar estos datos en el futuro, como para publicidad dirigida o para entrenar modelos de IA. Todo el sistema podría tener un efecto escalofriante en cómo las personas usan sus computadoras, sabiendo que todo está siendo registrado.»
¿Qué dice Microsoft?
Microsoft ha enfatizado que Recall será opcional y que los usuarios tendrán control sobre qué contenido guardarán las PCs CoPilot+.
Microsoft afirma que la aplicación existe para proporcionar a los usuarios una «memoria fotográfica» de todo lo que ha sucedido en sus computadoras.
En una publicación de blog, Microsoft explicó que Recall no graba audio ni guarda video continuo. «Siempre tienes el control de lo que se guarda como una instantánea. Puedes deshabilitar el guardado de instantáneas, pausar temporalmente, filtrar aplicaciones y eliminar tus instantáneas en cualquier momento. Para ayudar a mantener tu privacidad, Recall procesa tu contenido localmente en la Copilot+ PC y lo almacena de manera segura en tu dispositivo.»
¿Qué tan probable es que suceda?
La ICO del Reino Unido ha declarado que está hablando con Microsoft para garantizar que existan salvaguardias de privacidad integradas en el software.
La ICO dijo que las empresas tecnológicas deben «evaluar rigurosamente y mitigar los riesgos para los derechos y libertades de las personas.»
Pardo comentó: «Microsoft podría necesitar proporcionar salvaguardias más robustas y opciones de exclusión para asegurar el cumplimiento y la confianza del usuario.»
«Microsoft necesitará asegurar que Recall cumpla con regulaciones de protección de datos como la Ley de Protección de Datos del Reino Unido y el Reglamento General de Protección de Datos (GDPR) de la UE.»
«La Oficina del Comisionado de Información del Reino Unido ya está haciendo consultas para evaluar el cumplimiento y las salvaguardias del producto.»
«También está la cuestión de cómo funciona el consentimiento para las reuniones web y la información conforme a GDPR. ¿Se notificará a las personas que serán capturadas durante una reunión?»
«La tecnología aún está en desarrollo, por lo que es crucial que Microsoft se involucre con reguladores, defensores de la privacidad y usuarios para hacerlo bien. En última instancia, el éxito de Copilot+ Recall dependerá de la capacidad de Microsoft para proporcionar un producto que respete la privacidad del usuario mientras ofrece los beneficios prometidos.»
