El CEO de Anthropic, Dario Amodei, quiere que sepas que no es un «derrotista» de la IA.
Al menos, así lo interpreto del «latigazo» de unas ~15,000 palabras que Amodei publicó en su blog el viernes pasado. (Intenté preguntarle al chatbot Claude de Anthropic si estaba de acuerdo, pero lamentablemente, la publicación superó el límite de longitud del plan gratuito).
En líneas generales, Amodei dibuja un mundo en el que todos los riesgos de la IA se mitigan, y la tecnología brinda una prosperidad, elevación social y abundancia hasta ahora no realizadas. Aunque afirma que esto no es para minimizar los aspectos negativos de la IA, al principio, Amodei critica (sin mencionar nombres) a las empresas de IA que exageran y propagandizan las capacidades de su tecnología. Pero se podría argumentar, y este escritor lo hace, que el ensayo se inclina demasiado en la dirección tecno-utopista, haciendo afirmaciones simplemente no respaldadas por hechos.
Amodei cree que la «IA poderosa» llegará tan pronto como en 2026. (Con «IA poderosa», se refiere a una IA que es «más inteligente que un ganador del Premio Nobel» en campos como la biología y la ingeniería, y que puede realizar tareas como probar teoremas matemáticos sin resolver y escribir «novelas extremadamente buenas»). Esta IA, según Amodei, podrá controlar cualquier software o hardware imaginable, incluyendo maquinaria industrial, y esencialmente hacer la mayoría de los trabajos que los humanos hacen hoy en día, pero mejor.
«Esta IA puede llevar a cabo cualquier acción, comunicación u operación remota… incluyendo tomar acciones en internet, dar o seguir instrucciones a humanos, ordenar materiales, dirigir experimentos, ver videos, hacer videos, y más,» escribe Amodei. «No tiene una forma física (más allá de vivir en una pantalla de computadora), pero puede controlar herramientas físicas existentes, robots o equipos de laboratorio a través de una computadora; en teoría, incluso podría diseñar robots o equipos para usarlos.»
Mucho tendría que suceder para llegar a ese punto.
Incluso la mejor IA actualmente no puede «pensar» de la manera en que lo entendemos. Los modelos no razonan tanto como replican patrones que han observado en sus datos de entrenamiento.
Suponiendo, para el propósito del argumento de Amodei, que la industria de la IA pronto «resuelva» el pensamiento similar al humano, ¿se pondrían al día los robots para permitir que la futura IA realice experimentos de laboratorio, fabrique sus propias herramientas, y así sucesivamente? La fragilidad de los robots actuales implica que es poco probable.
Sin embargo, Amodei es optimista, muy optimista.
Él cree que en los próximos 7-12 años, la IA podría ayudar a tratar casi todas las enfermedades infecciosas, eliminar la mayoría de los cánceres, curar trastornos genéticos y detener el Alzheimer en las primeras etapas. En los próximos 5-10 años, Amodei piensa que condiciones como el TEPT, la depresión, la esquizofrenia y la adicción serán curadas con medicamentos diseñados por IA, o previstas genéticamente a través de la selección de embriones (una opinión controvertida) — y que también existirán medicamentos desarrollados por IA que «ajustarán la función cognitiva y el estado emocional» para «hacer que [nuestros cerebros] se comporten un poco mejor y tengan una experiencia diaria más gratificante.»
Si todo esto llegara a pasar, Amodei espera que la esperanza de vida promedio de los humanos se duplique a 150 años.
«Mi predicción básica es que la biología y la medicina habilitadas por la IA nos permitirán comprimir el progreso que los biólogos humanos habrían logrado en los próximos 50-100 años en 5-10 años,» escribe. «Me referiré a esto como el ‘siglo 21 comprimido’: la idea de que después de que se desarrolle una IA poderosa, en pocos años lograremos todo el progreso en biología y medicina que habríamos logrado en todo el siglo 21.»
Estas ideas parecen exageradas, considerando que la IA no ha transformado radicalmente la medicina aún, y puede que no lo haga por mucho tiempo, o nunca. Incluso si la IA reduce el trabajo y el costo involucrados en llevar un medicamento a pruebas preclínicas, podría fallar en una etapa posterior, al igual que los medicamentos diseñados por humanos. Considere que la IA implementada en la atención médica hoy en día se ha mostrado desequilibrada y arriesgada de varias maneras, o de otra manera increíblemente difícil de implementar en los entornos clínicos y de laboratorio existentes. Sugerir que todos estos problemas y más se resolverán aproximadamente dentro de la década parece, bueno… aspiracional, en una palabra.
Pero Amodei no se detiene ahí.
La IA podría solucionar el hambre en el mundo, afirma. Podría cambiar el rumbo del cambio climático. Y podría transformar las economías en la mayoría de los países en desarrollo; Amodei cree que la IA puede llevar el PIB per cápita del África subsahariana ($1,701 en 2022) al PIB per cápita de China ($12,720 en 2022) en 5-10 años.
Estos son pronunciamientos audaces, por decirlo suavemente — aunque probablemente familiares para cualquiera que haya escuchado a los seguidores del movimiento de la «Singularidad», que esperan resultados similares. Para crédito de Amodei, reconoce que requerirían un «enorme esfuerzo en salud mundial, filantropía, [y] defensa política», que, según él, ocurrirá porque es del mejor interés económico del mundo.
Sin embargo, señalaré que esto no ha sido el caso históricamente en un aspecto importante. Muchos de los trabajadores responsables de etiquetar los conjuntos de datos utilizados para entrenar a la IA reciben salarios muy por debajo del mínimo mientras que sus empleadores cosechan decenas de millones — o cientos de millones — en capital de los resultados.
Amodei menciona, brevemente, los peligros de la IA para la sociedad civil, proponiendo que una coalición de democracias asegure la cadena de suministro de la IA y bloquee a los adversarios que intenten utilizar la IA para fines perjudiciales de los medios de producción de IA poderosa (semiconductores, etc.). Al mismo tiempo, sugiere que la IA —en las manos correctas— podría ser utilizada para «socavar gobiernos represivos» e incluso reducir los sesgos en el sistema legal. (La IA ha exacerbado históricamente los sesgos en el sistema legal).
«Una implementación verdaderamente madura y exitosa de la IA tiene el potencial de reducir el sesgo y ser más justa para todos,» escribe Amodei.
Entonces, si la IA se hace cargo de cada trabajo concebible y lo hace mejor y más rápido, ¿no dejará eso a los humanos en aprietos económicamente hablando? Amodei admite que sí, y que, en ese punto, la sociedad tendría que tener conversaciones sobre «cómo debería organizarse la economía.»
Pero no ofrece ninguna solución.
«La gente sí quiere tener un sentido de logro, incluso un sentido de competencia, y en un mundo post-IA será perfectamente posible pasar años intentando alguna tarea muy difícil con una estrategia compleja, similar a lo que la gente hace hoy cuando se embarca en proyectos de investigación, trata de convertirse en actores de Hollywood, o funda empresas,» escribe. «El hecho de que (a) una IA en algún lugar podría, en principio, hacer esta tarea mejor, y (b) esta tarea ya no sea un elemento recompensado económicamente de una economía global, no me parece que importe mucho.»
Amodei avanza la noción, al concluir, de que la IA es simplemente un acelerador tecnológico — que los humanos tienden naturalmente hacia «el imperio de la ley, la democracia y los valores ilustrados.» Pero al hacerlo, ignora los muchos costos de la IA. Se proyecta que la IA tendrá —y ya ha tenido— un impacto ambiental enorme. Y está creando desigualdad. El economista ganador del Premio Nobel Joseph Stiglitz y otros han señalado que las interrupciones laborales causadas por la IA podrían concentrar aún más la riqueza en manos de las empresas y dejar a los trabajadores más desamparados que nunca.
Estas empresas incluyen Anthropic, por más que a Amodei le cueste admitirlo. (¡Menciona a Anthropic solo seis veces en todo el ensayo.) Anthropic es un negocio, después de todo —uno que, según se informa, vale cerca de $40 billones. Y aquellos que se benefician de su tecnología de IA son, en su mayoría, corporaciones cuya única responsabilidad es aumentar los retornos para los accionistas —no mejorar la humanidad.
De hecho, el ensayo parece estar cronometrado de manera cínica, dado que se dice que Anthropic está en proceso de recaudar miles de millones de dólares en fondos de capital de riesgo. El CEO de OpenAI, Sam Altman, publicó un manifiesto tecnopositivista de manera similar poco antes de que OpenAI cerrara una ronda de financiamiento de $6.5 billones. ¡Quizás sea una coincidencia!
Por otro lado, Amodei no es un filántropo. Él, como cualquier CEO, tiene un producto que vender. Simplemente resulta que su producto va a «salvar al mundo» —y aquellos que piensen lo contrario corren el riesgo de quedarse atrás (o eso quiere que creas).
A medida que la IA continúa avanzando y transformando nuestras vidas, es importante mantener un sentido crítico y no dejarse llevar por visiones exageradas. La tecnología puede tener un gran potencial para el bien, pero también conlleva riesgos y desafíos que deben abordarse con seriedad y consideración.
En resumen, la visión de Amodei de un futuro dominado por la IA puede resultar emocionante e innovadora, pero no debemos perder de vista las implicaciones éticas, sociales y económicas de este avance tecnológico. La IA, si bien puede ofrecer soluciones a muchos problemas actuales, también plantea nuevas interrogantes y desafíos que requerirán una cuidadosa reflexión y debate a medida que avanzamos hacia un futuro cada vez más automatizado y digitalizado.
