A OpenAI oferece processamento local para o GPT-6 Luna pelas APIs Responses e Chat Completions. O serviço amplia as opções existentes de residência de dados para incluir o processamento necessário para gerar respostas.
Nitin Bawankule, responsável pelo segmento corporativo da OpenAI na Índia, afirmou que exigências de processamento local têm impedido algumas empresas indianas de adotar IA em atividades importantes. A Anthropic também disponibilizou recursos de residência de dados para determinados modelos por meio do Amazon Bedrock. A inferência hospedada localmente tem sido um diferencial de fornecedores indianos como a Sarvam AI.
Os clientes precisam criar um novo projeto de API, escolher a Índia tanto para armazenamento quanto para processamento e usar o endpoint regional da Índia. Para quem desenvolve soluções voltadas a empresas com exigências de processamento local, a oferta pode eliminar uma barreira à entrada em produção de cargas de trabalho compatíveis da OpenAI.