La circulación de imágenes generadas por IA que muestran abusos sexuales a menores en la región ha reavivado las preocupaciones sobre los peligros asociados con esta tecnología.
¿Cuáles son los riesgos de usar inteligencia artificial?
Un incidente reciente en el que se denunció a un grupo de adolescentes por crear imágenes generadas por IA de abusos sexuales a menores con los rostros de sus compañeros de clase ha provocado un renovado debate sobre los posibles riesgos e implicaciones éticas de la IA. El mes pasado, Europol advirtió en un informe que es probable que el uso de IA para crear este tipo de imágenes en línea crezca exponencialmente, lo que hará cada vez más difícil identificar a las víctimas reales entre la avalancha de contenido falso.
Si bien la IA ofrece numerosos beneficios, también plantea riesgos y desafíos importantes. El rápido avance de esta tecnología ha suscitado preocupaciones globales sobre su potencial de uso indebido. En respuesta, la Unión Europea (UE) ha dado un paso importante al promulgar la primera regulación integral de IA del mundo. Esta legislación innovadora, que entró en vigor a principios de este mes, tiene como objetivo fomentar la innovación y, al mismo tiempo, frenar el potencial de abuso.
Aquí, destacamos solo algunos de los peligros que la IA podría exacerbar, una tecnología que primero causó revuelo con el lanzamiento de ChatGPT en 2022.
IA y pérdida de empleos
La automatización y la IA tienen el potencial de reemplazar trabajos humanos, particularmente en tareas repetitivas. Recientemente, los actores de videojuegos y los especialistas en acrobacias en Estados Unidos han pedido que su trabajo esté protegido de la IA. Argumentan que el esfuerzo físico y las largas horas requeridas para sus funciones no deberían verse socavados por una IA no regulada, según AFP.
Los artistas de videojuegos temen que la IA pueda reducir o eliminar las oportunidades laborales al replicar sus actuaciones en múltiples proyectos sin su consentimiento. Esta preocupación fue un factor importante que llevó al sindicato a la huelga a fines de julio.
IA y discriminación
La IA también puede perpetuar e incluso amplificar los sesgos y la discriminación. Si se entrenan con datos sesgados, los sistemas de IA pueden reforzar los prejuicios existentes. Un estudio publicado por la UNESCO en abril, coincidiendo con el Día Internacional de la Mujer, alertaba de que los grandes modelos de lenguaje desarrollados por Meta y OpenAI, que sustentan sus herramientas de IA generativa, propagan sesgos sexistas.
Naciones Unidas destacó «evidencia inequívoca de sesgos contra las mujeres» en estos modelos. «Las discriminaciones del mundo real se reflejan y amplifican en la esfera digital», advirtió la organización.
IA, privacidad y seguridad
El auge de la IA plantea sin duda preocupaciones sobre la privacidad y la seguridad. La IA puede comprometer la privacidad y la seguridad de los datos personales. La reciente introducción de Meta AI en ciertos países ha ejemplificado estos riesgos. Meta, propiedad de Mark Zuckerberg, integró recientemente su tecnología de IA en WhatsApp, lo que causó un gran revuelo.
Esta herramienta de IA, que puede generar imágenes a partir de indicaciones simples, responder preguntas, crear texto y proporcionar una amplia gama de información, se ha extendido rápidamente por América Latina. Sin embargo, sigue habiendo incertidumbre sobre cómo se utilizarán o salvaguardarán los datos recopilados de los usuarios.
