En un principio, John Pasmore estaba emocionado por ChatGPT.
El fundador en serie había estado en el mundo de la inteligencia artificial desde al menos 2008. Recordaba los días en que los expertos declararon que pasarían décadas antes de que el mundo viera algo como un ChatGPT. Avancemos rápidamente, ese día ha llegado.
Pero hay una trampa.
ChatGPT, una de las herramientas de inteligencia artificial más poderosas del mundo, lucha con el matiz cultural. Eso es bastante molesto para una persona negra como Pasmore. De hecho, esta omisión ha provocado la ira de muchas personas negras que ya no se veían representadas adecuadamente en los algoritmos elogiados para salvar el mundo algún día. El ChatGPT actual ofrece respuestas demasiado generalizadas para preguntas específicas que atienden a ciertas comunidades, ya que su entrenamiento parece tener un sesgo eurocéntrico y occidental. Esto no es único: la mayoría de los modelos de IA no se construyen pensando en personas de color. Pero muchos fundadores negros están decididos a no quedarse atrás.
Han surgido numerosos chatbots y versiones de ChatGPT de propiedad de negros en el último año para atender específicamente a las comunidades negras y morenas, ya que los fundadores negros, como Pasmore, buscan aprovechar el desliz cultural de OpenAI.
“Si le preguntas al modelo en general quiénes son algunos de los artistas más importantes de nuestra cultura, te dará a Leonardo da Vinci y Miguel Ángel”, dijo Pasmore sobre ChatGPT. “No va a decir nada sobre India o China, África, o incluso afroamericanos, porque tiene un sesgo centrado en la trayectoria europea de la historia”.
Por lo tanto, Pasmore lanzó Latimer.AI, un modelo de lenguaje para dar respuestas adaptadas para reflejar las experiencias de las personas negras y morenas. Erin Reddick comenzó ChatBlackGPT, un chatbot también centrado en las comunidades negras y morenas. A nivel mundial, está la empresa con sede en Canadá, Spark Plug, que es una alternativa a ChatGPT para estudiantes negros y morenos. África también está viendo una gran innovación en este espacio, con modelos de lenguaje que aparecen para atender a los más de 2,000 idiomas y dialectos hablados en el continente que los modelos de IA occidentales aún pasan por alto.
“Somos los guardianes de nuestras propias historias y experiencias”, dijo Tamar Huggins, fundadora de Spark Plug, a TechCrunch. “Necesitamos crear sistemas e infraestructuras, que poseamos y controlemos, para asegurar que nuestros datos sigan siendo nuestros”.
Inteligencia Artificial Personalizada está aquí
Los modelos de IA generalizados no pueden capturar fácilmente la experiencia afroamericana porque muchos aspectos de esa cultura no están en línea. Los algoritmos actuales buscan en internet para obtener información, pero muchas tradiciones y dialectos dentro de la cultura afroamericana se transmiten de forma oral o de primera mano, dejando una brecha en lo que un modelo de IA entenderá sobre la comunidad versus el matiz de lo que realmente sucede.
Esta es una de las razones por las que Pasmore intentó usar fuentes como Amsterdam News, uno de los periódicos negros más antiguos de EE. UU., mientras construía Latimer.AI, centrándose en la precisión en lugar de entrenar con datos generados por el usuario extraídos de internet. Al hacer esto, comenzó a ver diferencias entre su modelo y el de ChatGPT.
Recordó que la gente le había preguntado a ChatGPT sobre el ferrocarril subterráneo, el pasaje que los afroamericanos esclavizados usaban para viajar a los estados del norte y escapar de la esclavitud. El modelo de ChatGPT mencionaría esclavos fugitivos, mientras que Latimer.AI ajustaba la redacción, refiriéndose a las «personas esclavizadas» o «personas en busca de libertad», lo cual está más en línea con lo que se ha vuelto más socialmente atento al discutir a los antiguamente esclavizados.
«Mientras creas contenido que resuene con los estudiantes negros, nos aseguramos de que se vean a sí mismos en la educación, lo cual es crítico para un alto compromiso y éxito académico», dijo Huggins. «Cuando se les da la oportunidad, Big Tech casi siempre priorizará las ganancias sobre las personas. Así que creamos nuestro propio camino en el espacio de la IA».
Huggins capacitó su algoritmo en los escritos de autores negros del Renacimiento de Harlem, autores negros en la educación, e incluso la jerga de su hija adolescente para captar la esencia de la AAVE. Huggins también trabaja con educadores, lingüistas y expertos culturales para revisar y validar las salidas de Spark Plug. Su producto tampoco se basa en ChatGPT. Es su propio modelo, lo que significa que los usuarios controlan sus datos.
Pasmore también tiene planes de construir un modelo fundacional separado para su Latimer.AI. Ahora mismo, está trabajando para expandir su empresa en las escuelas, especialmente en las HBCU, ya que más estudiantes recurren a ChatGPT todos los días para completar su trabajo.
«Este es un mejor compañero de inteligencia artificial para muchos de los trabajos que los niños negros y morenos tienen que hacer», dijo.
Uniendo a la diáspora
África se ve ignorada en el movimiento actual de IA. Por ejemplo, solo el 0.77% de los artículos totales de IA del mundo provienen de África subsahariana, en comparación con East Asia y América del Norte, que representan el 47.1% y el 11.6%, respectivamente, según un informe del Índice de Inteligencia Artificial de 2023. En términos de población, comparado con América del Norte, África constituye alrededor del 17% de la población mundial, en comparación con solo el 7% de América del Norte. Cuando llega el momento de extraer información y expertos sobre IA, las probabilidades de que se utilicen investigaciones de subsaharianos son bastante bajas, lo que podría afectar el desarrollo de herramientas de IA globales.
Si bien África está viendo mucho desarrollo en la creación de modelos de lenguaje más inclusivos que sirven mejor a la diáspora negra, en la actualidad, los modelos de IA actuales, desde ChatGPT hasta Gemini, no pueden soportar completamente los más de 2,000 idiomas hablados en toda África.
Yinka Iyinolakan creó CDIAL.AI para abordar esto. CDIAL.AI es un chatbot que puede hablar y entender casi todos los idiomas y dialectos africanos, con un enfoque particular en los patrones de habla en lugar de texto.
Para CDIAL.AI, Iyinolakan trajo a más de 1,200 hablantes nativos y lingüistas de toda África para recopilar conocimientos y perspectivas para construir lo que él celebra como «el primer modelo de lenguaje de voz grande multilingüe del mundo». La empresa planea expandirse en los próximos 12 meses para incluir aún más idiomas y construir un modelo para admitir texto, voces e imágenes.
No está solo en esto. Google recientemente otorgó una subvención de 1.4 millones de dólares a Jacaranda Health con sede en Kenia para construir sus servicios de aprendizaje automático para que puedan trabajar en más idiomas africanos e Intron Health recientemente recaudó varios millones de dólares para escalar su reconocimiento de voz clínico para los más de 200 acentos hablados en toda África.
«Silicon Valley quiere creer que es el todo en la inteligencia artificial», dijo Iyinolakan. «Pero para ‘entender’ la inteligencia artificial, que es lo que todas las empresas tienen como su norte, necesitan incluir un tercio del conocimiento del mundo».
Avanzando
Enfrentar a los chatbots de IA no es la única innovación que los fundadores negros están tratando de abordar.
Steve Jones y DeSean Brown comenzaron la empresa pocstock para crear imágenes de archivo de personas de color, ya que, durante décadas, ha habido una escasez de minorías representadas en imágenes de archivo. Esta es una de las razones por las que los modelos hoy en día están generando principalmente imágenes de personas blancas cuando los usuarios les piden que generen fotos de todo, desde médicos hasta cantantes pop.
«Plataformas y herramientas deben ser entrenadas a partir de datos completos, racialmente inclusivos y culturalmente precisos, o de lo contrario [perpetuaremos] los problemas de sesgo a los que se enfrenta actualmente nuestra sociedad más grande», dijo Jones. Para abordar esto, pocstock ha pasado los últimos cinco años recopilando datos de diversidad y creando su propio sistema de etiquetado visual que contribuye a una base de datos que las empresas utilizan para ayudar a entrenar sus modelos de IA para que puedan producir imágenes más inclusivas.
Algunas mejoras están ocurriendo, aunque Jones dijo que ha notado que las empresas de imágenes de archivo más grandes que suministran a empresas de IA están dando más pasos para aumentar la diversidad de su contenido. Pasmore también ve un futuro más brillante por delante, diciendo que la IA personalizada es el futuro de todos modos y que cuanto más interactúan los modelos de IA con sus usuarios, más comprenderán los deseos y necesidades específicas de una persona, «lo que, creo, elimina mucho sesgo».
Incluso podría haber espacio para más modelos de IA específicos culturalmente en el futuro, especialmente a medida que sigan surgiendo más alternativas de propiedad de negros. Después de todo, el mundo es vasto y más matizado; no tiene sentido intentar encajarlo en una caja negra.
«Mi esperanza es que más fundadores de color se involucren en el desarrollo de sus propias plataformas de IA o creen nuevos empleos relacionados con la IA tan pronto como sea posible en este próximo auge económico», dijo Jones. «La IA va a crear billonarios, y me encantaría ver a personas de color ocupar el puesto de productores y no solo de consumidores».
