OpenAI запустила обработку API-запросов внутри Индии для компаний, соответствующих условиям сервиса и использующих GPT-6 Luna. Теперь поддерживаемые запросы можно обрабатывать в Индии, где также доступно локальное хранение поддерживаемых данных клиентов.
OpenAI поддерживает локальную обработку запросов к GPT-6 Luna через API Responses и Chat Completions. Сервис расширяет существующие возможности локализации данных: теперь они охватывают и вычисления, необходимые для генерации ответов.
Руководитель корпоративного направления OpenAI в Индии Нитин Баванкули сообщил, что требования к локальной обработке данных мешали некоторым индийским компаниям внедрять ИИ для важных задач. Anthropic также предоставила возможности локализации данных для отдельных моделей через Amazon Bedrock. Локальное выполнение инференса было одним из конкурентных преимуществ индийских поставщиков, таких как Sarvam AI.
Клиентам необходимо создать новый API-проект, выбрать Индию для хранения и обработки данных и использовать региональную конечную точку API для Индии. Для разработчиков, обслуживающих компании с требованиями к локальной обработке данных, это предложение может устранить препятствие для запуска поддерживаемых рабочих нагрузок OpenAI в промышленную эксплуатацию.
Компании с требованиями к локальной обработке данных получают ещё один способ внедрить глобальную ИИ-модель в Индии.
Индийские поставщики ИИ сталкиваются с усилением конкуренции: локальное размещение становится менее заметным преимуществом.
Нужны новый API-проект и региональная конечная точка, поэтому существующие приложения не получают локальную обработку автоматически.
Написано автоматически редакцией Made in 10 по источнику выше.
OpenAI рассказала, как GPT-Live 1 передаёт задачи рассуждения другой модели, одновременно поддерживая голосовой разговор. Система отделяет полнодуплексный разговор от работы, которую выполняет модель на серверной стороне.
NHS England убрала заявление о том, что 137 больничных трастов получили пользу от федеративной платформы данных Palantir на базе ИИ. Это произошло после публикации The Guardian о том, что 29 трастов не использовали всю технологию или большую часть её возможностей.
Amazon Web Services выпустила UAEF — бесплатный инструмент с открытым исходным кодом для тестирования ИИ-агентов на разных программных фреймворках. Он оценивает агентов по 36 показателям и выявляет ухудшения при изменении промптов или моделей.