OpenAI permet le traitement local pour GPT-6 Luna via ses API Responses et Chat Completions. Le service étend les options existantes de résidence des données aux calculs nécessaires pour générer les réponses.
Nitin Bawankule, responsable des activités d’OpenAI auprès des entreprises en Inde, a indiqué que les exigences de traitement local avaient freiné le déploiement de l’IA pour des tâches importantes dans certaines entreprises indiennes. Anthropic propose également des fonctionnalités de résidence des données pour certains modèles via Amazon Bedrock. L’inférence hébergée localement constitue un argument commercial pour des fournisseurs indiens comme Sarvam AI.
Les clients doivent créer un nouveau projet API, sélectionner l’Inde pour le stockage comme pour le traitement et utiliser le point de terminaison régional indien. Pour les équipes qui développent des solutions destinées à des entreprises soumises à des exigences de traitement local, cette offre pourrait lever un obstacle à la mise en production des traitements OpenAI pris en charge.