Tecnología

OpenAI escala almacenamiento de ChatGPT a 1.000M usuarios con Cosmos DB

Habitat es el sistema que OpenAI construyó para gestionar el estado y el almacenamiento de conversaciones de ChatGPT a escala global. La segunda entrega describe cómo resolvieron multi-tenancy sin que un tenant afecte a otros, cómo estructuraron el caché global para reducir latencia, y por qué eligieron Cosmos DB como backend. La mejora de 12× en latencia de lectura no es incremental: implica un rediseño del camino de datos, no solo más hardware. Para ingenieros que trabajan en sistemas SaaS con usuarios simultáneos a gran escala, el artículo ofrece un caso real de decisiones de arquitectura bajo restricciones extremas. El contexto de mil millones de usuarios activos hace que cada milisegundo de latencia tenga impacto económico y de experiencia medible.