OpenAI permite el procesamiento local de GPT-6 Luna a través de sus API Responses y Chat Completions. El servicio amplía las opciones existentes de residencia de datos para incluir el cómputo necesario para generar respuestas.
Nitin Bawankule, responsable del negocio empresarial de OpenAI en India, señaló que los requisitos de procesamiento local han frenado a algunas empresas indias a la hora de desplegar IA para tareas importantes. Anthropic también ha habilitado funciones de residencia de datos para determinados modelos a través de Amazon Bedrock. La inferencia alojada localmente ha sido un argumento comercial para proveedores indios como Sarvam AI.
Los clientes deben crear un nuevo proyecto de API, seleccionar India tanto para el almacenamiento como para el procesamiento y utilizar el punto de conexión regional de India. Para quienes desarrollan soluciones destinadas a empresas con requisitos de procesamiento local, esta oferta podría eliminar una barrera para llevar a producción las cargas de trabajo compatibles con OpenAI.