Los lentes inteligentes Ray-Ban de Meta tienen una cámara discreta en la parte frontal, para tomar fotos no solo cuando se les pide, sino también cuando sus funciones de inteligencia artificial lo activan con ciertas palabras clave como «mirar». Esto significa que los lentes inteligentes recopilan una gran cantidad de fotos, tanto tomadas deliberadamente como de otro modo. Sin embargo, la empresa no se compromete a mantener estas imágenes privadas.
Preguntamos a Meta si planea entrenar modelos de inteligencia artificial en las imágenes de los usuarios de Ray-Ban Meta, como lo hace con las imágenes de cuentas públicas de redes sociales. La empresa no quiso decir.
«No estamos discutiendo eso públicamente», dijo Anuj Kumar, un director senior que trabaja en dispositivos vestibles de inteligencia artificial en Meta, en una entrevista en video con TechCrunch el lunes.
«Eso no es algo que típicamente compartimos externamente», dijo la portavoz de Meta, Mimi Huggins, quien también estuvo en la llamada de video. Cuando TechCrunch solicitó una aclaración sobre si Meta está entrenando en estas imágenes, Huggins respondió: «no estamos diciendo nada al respecto».
Parte de la razón por la que esto es especialmente preocupante es por la nueva función de inteligencia artificial de los Ray-Ban Meta, que tomará muchas de estas fotos pasivas. La semana pasada, TechCrunch informó que Meta planea lanzar una nueva función de video en tiempo real para Ray-Ban Meta. Cuando se activa con ciertas palabras clave, los lentes inteligentes transmitirán una serie de imágenes (básicamente, video en vivo) a un modelo de inteligencia artificial multimodal, permitiéndole responder preguntas sobre su entorno de manera natural y de baja latencia.
Eso significa muchas imágenes, y son fotos que un usuario de Ray-Ban Meta puede no estar consciente de estar tomando. Imagina que le pides a los lentes inteligentes que escaneen el contenido de tu armario para ayudarte a elegir un atuendo. Los lentes están efectivamente tomando docenas de fotos de tu habitación y de todo lo que hay en ella, y las están subiendo a un modelo de inteligencia artificial en la nube.
¿Qué sucede con esas fotos después de eso? Meta no lo dirá.
Usar los lentes Ray-Ban Meta también significa que estás usando una cámara en tu rostro. Como aprendimos con Google Glass, no es algo con lo que otras personas se sientan cómodas universalmente, por decirlo suavemente. Por lo tanto, pensarías que es obvio para la empresa que lo está haciendo decir: «¡Hey! Todas tus fotos y videos de tus cámaras faciales serán totalmente privadas y estarán aisladas en tu cámara facial».
Pero eso no es lo que Meta está haciendo aquí.
Meta ya ha declarado que está entrenando sus modelos de inteligencia artificial en las publicaciones de Instagram y Facebook de todos los estadounidenses. La empresa ha decidido que todo eso es «datos públicos disponibles», y quizás simplemente tengamos que aceptarlo. Ella y otras empresas tecnológicas han adoptado una definición muy amplia de lo que está públicamente disponible para que puedan entrenar a la inteligencia artificial en ello, y qué no lo está.
Sin embargo, seguramente el mundo que ves a través de sus lentes inteligentes no es «públicamente disponible». Si bien no podemos decir con certeza que Meta está entrenando modelos de inteligencia artificial en las imágenes de tu lente Ray-Ban Meta, la empresa simplemente no dijo con certeza que no lo está.
Otros proveedores de modelos de inteligencia artificial tienen reglas más claras con respecto al entrenamiento con datos de los usuarios. Anthropic dice que nunca se entrena con las entradas de un cliente en uno de sus modelos de inteligencia artificial. OpenAI también dice que nunca se entrena con las entradas o salidas de los usuarios a través de su API.
Hemos contactado a Meta para obtener más claridad aquí y actualizaremos la historia si nos responden.
