Un nuevo emprendimiento llamado Letta acaba de salir del anonimato con una tecnología que ayuda a los modelos de inteligencia artificial a recordar a los usuarios y las conversaciones. Creado en el famoso laboratorio de startups de la UC Berkeley, también anunció una inversión de $10 millones liderada por Astasia Myers de Felicis, con una valoración post-inversión de $70 millones.
Letta cuenta con el respaldo de destacados inversores ángeles en el campo de la inteligencia artificial, como Jeff Dean de Google, Clem Delangue de Hugging Face, Cristóbal Valenzuela de Runway y Robert Nishihara de Anyscale, entre otros.
Fundado por los estudiantes de doctorado de Berkeley, Sarah Wooders y Charles Packer, este lanzamiento de un nuevo emprendimiento de inteligencia artificial es muy esperado. Esto se debe a que es producto del Sky Computing Lab de Berkeley y es la entidad comercial del popular proyecto de código abierto MemGPT.
El Sky Computing Lab de Berkeley, liderado por el aclamado profesor y cofundador de Databricks, Ion Stoica, es descendiente de RISELab y AMPLab, que dieron origen a empresas como Anyscale, Databricks y SiFive. Sky Lab, en particular, ha dado lugar a numerosos proyectos populares de modelos de lenguaje de gran escala (LLM) de código abierto como Gorilla LLM, vLLM y SGLang LLM estructurado.
MemGPT es uno de esos proyectos y ha generado tanta expectativa que se volvió viral antes de su lanzamiento oficial.
La razón de tanta emoción es que MemGPT resuelve un problema persistente para los LLMs: en su forma original, los modelos como ChatGPT son sin memoria, lo que significa que no almacenan datos históricos en la memoria a largo plazo. Esto es problemático para aplicaciones de inteligencia artificial que dependen de conocer y aprender de un usuario con el tiempo, desde bots de soporte al cliente hasta aplicaciones de seguimiento de síntomas de salud. MemGPT gestiona datos y memoria para que los agentes de IA y los chatbots puedan recordar a usuarios y conversaciones anteriores.
Además de presentar su tecnología en GitHub, Letta también está aceptando solicitudes de usuarios beta para su variante comercial Letta Cloud, que ofrecerá un servicio de agentes hospedados que permiten a los desarrolladores implementar y ejecutar agentes persistentes en la nube, accesibles a través de APIs REST. Letta Cloud almacenará los datos a largo plazo necesarios para ello y ofrecerá herramientas para la construcción de agentes de IA.
Aunque MemGPT ya está en uso, Letta se enfrenta a competidores como LangChain y herramientas ofrecidas por gigantes del mercado como OpenAI. Sin embargo, Letta destaca por su enfoque en la colaboración con diferentes modelos de IA y su apuesta por el código abierto en el debate entre software libre y modelos cerrados.
En resumen, Letta se presenta como la alternativa abierta a OpenAI, buscando brindar transparencia y calidad a las aplicaciones de IA. Su enfoque en la memoria y los datos a largo plazo podría ser clave para el desarrollo de chatbots y agentes de inteligencia artificial más efectivos en diversas industrias.