Amor sincero: Microsoft’s Mustafa Suleyman hacia Sam Altman y su compromiso con la seguridad de la inteligencia artificial

En una entrevista en el Festival Aspen Ideas el martes, Mustafa Suleyman, CEO de Microsoft AI, dejó en claro que admira al CEO de OpenAI, Sam Altman.

CNBC’s Andrew Ross Sorkin preguntó cuál sería el plan cuando el futuro de la inteligencia artificial de Microsoft no dependa tanto de OpenAI, utilizando una metáfora de ganar una carrera en bicicleta. Pero Suleyman evitó la pregunta.

«No compro la metáfora de que hay una meta. Esta es otra falsa premisa», dijo. «Debemos dejar de enmarcar todo como una carrera feroz».

Luego procedió a seguir la línea corporativa de Microsoft sobre el acuerdo con OpenAI, en el que invirtió aproximadamente $10 mil millones a través de alguna combinación de efectivo y créditos en la nube. El acuerdo le da a Microsoft una gran participación en el negocio con fines de lucro de OpenAI, y le permite incrustar sus modelos de IA en los productos de Microsoft y vender su tecnología a los clientes de la nube de Microsoft.

«Es cierto que tenemos una competencia feroz con ellos», dijo Suleyman sobre OpenAI. «Son una empresa independiente. No los poseemos ni controlamos. Ni siquiera tenemos miembros en su consejo. Así que hacen completamente su propio camino. Pero tenemos una asociación profunda. Soy muy buen amigo de Sam, tengo un gran respeto, confianza y fe en lo que han hecho. Y así será durante muchos años más», dijo Suleyman.

Esta relación cercana y distante es importante que Suleyman profese. Los inversores y clientes empresariales de Microsoft aprecian la estrecha relación. Pero los reguladores se pusieron curiosos y en abril, la UE acordó que su inversión no era una verdadera adquisición. Si eso cambiara, es muy probable que también lo hiciera la participación regulatoria.

Suleyman dice que confía en Altman en cuanto a la seguridad de la IA

En cierto sentido, Suleyman era el Sam Altman de la IA antes de OpenAI. Ha pasado la mayor parte de su carrera compitiendo con OpenAI, y es conocido por su ego.

Suleyman fue el fundador del pionero de la IA DeepMind y lo vendió a Google en 2014. Según informes, fue puesto en licencia administrativa tras acusaciones de acoso laboral, como informó Bloomberg en 2019, luego pasó a otros roles en Google antes de dejar la empresa en 2022 para unirse a Greylock Partners como socio de riesgo. Unos meses después, él y Reid Hoffman de Greylock, un miembro de la junta directiva de Microsoft, lanzaron Inflection AI para construir su propio chatbot LLM, entre otros objetivos.

El CEO de Microsoft, Satya Nadella, intentó pero no pudo contratar a Sam Altman el otoño pasado, cuando OpenAI lo despidió y luego rápidamente lo reintegró. Después de eso, Microsoft contrató a Suleyman y gran parte de Inflection en marzo, dejando una empresa vacía y un gran cheque. En su nuevo rol en Microsoft, Suleyman ha estado auditando el código de OpenAI, según informó Semafor a principios de este mes. Como uno de los grandes rivales anteriores de OpenAI, ahora tiene la oportunidad de sumergirse en la competencia frenemy joya de la corona.

Hay otra complicación en todo esto. OpenAI fue fundada con la premisa de realizar investigaciones sobre la seguridad de la IA, para evitar que un día la IA malvada destruya a la humanidad. En 2023, cuando todavía era un competidor de OpenAI, Suleyman publicó un libro llamado «La Ola Venidera: Tecnología, Poder y el Mayor Dilema del Siglo XXI» con el investigador Michael Bhaskar. El libro analiza los peligros de la IA y cómo prevenirlos.

Un grupo de ex empleados de OpenAI firmó una carta a principios de este mes delineando sus temores de que OpenAI y otras empresas de IA no estén tomando la seguridad lo suficientemente en serio.

Cuando se le preguntó al respecto, Suleyman también proclamó su amor y confianza en Altman, pero también que quiere ver tanto regulación como un ritmo más lento.

«Quizás porque soy británico con tendencias europeas, pero no temo a la regulación de la forma en que parecen hacerlo todos por defecto», dijo, describiendo toda esta señalización por parte de los ex empleados como un «diálogo saludable». Agregó, «Creo que es genial que los tecnólogos y emprendedores y CEO de empresas como yo y Sam, a quien quiero mucho y pienso que es increíble», estén hablando de regulación. «Él no es cínico, es sincero. Lo cree genuinamente».

Pero también dijo: «La fricción será nuestra amiga aquí. Estas tecnologías se están volviendo tan poderosas, serán tan íntimas, tan omnipresentes, que este es un momento en el que está bien detenerse y reflexionar». Si todo este diálogo retrasa el desarrollo de la IA de seis a 18 meses o más, «es tiempo bien empleado».

Es muy acogedor entre estos jugadores.

Suleyman quiere cooperación con China, IA en las aulas

Suleyman también hizo algunos comentarios interesantes sobre otros temas. En cuanto a la carrera de la IA con China:

«Con todo el respeto hacia mis buenos amigos en DC y el complejo industrial militar, si es la premisa por defecto que solo puede ser una nueva Guerra Fría, entonces eso es exactamente lo que será porque se convertirá en una profecía autocumplida. Temerán que temamos que vayamos a ser adversarios, por lo que tendrán que ser adversarios y esto solo va a empeorar», dijo. «Tenemos que encontrar formas de cooperar, ser respetuosos con ellos, al mismo tiempo que reconocemos que tenemos un conjunto diferente de valores».

Por otro lado, también dijo que China está «construyendo su propio ecosistema tecnológico, y lo están difundiendo por todo el mundo. Realmente deberíamos prestarle atención».

Al preguntarle su opinión sobre los niños que usan la IA para las tareas escolares, Suleyman, que dijo que no tiene hijos, lo desestimó. «Creo que debemos ser un poco cuidadosos al temer el lado negativo de cada herramienta, ya sabes, al igual que cuando entraron las calculadoras, hubo una especie de reacción instintiva de ‘oh, no, todos van a poder resolver todas las ecuaciones al instante. Y nos va a hacer más tontos porque no éramos capaces de hacer aritmética mental».

También visualiza un momento, muy pronto, en el que la IA sea como un ayudante de maestro, quizás chateando en vivo en el aula, a medida que mejoren las habilidades verbales de la IA. «¿Cómo sería para un gran maestro o educador tener una conversación profunda con una IA que esté en vivo y frente a su audiencia?»

La conclusión es que, si queremos que las personas que construyen y se benefician de la IA gobiernen y protejan a la humanidad de sus peores efectos, es posible que estemos estableciendo expectativas poco realistas.