Baseten выпустила joey-1 — ИИ-модель с открытыми весами для ответов да или нет и выбора из нескольких вариантов. По данным Baseten, стоимость составляет $0,01 за миллион токенов, что делает модель более дешёвым вариантом для таких задач, как маршрутизация обращений в поддержку.
Модель joey-1 от Baseten содержит 2 млрд параметров и вместо генерации текста возвращает ответ с оценкой вероятности. По данным Baseten, обработка типичного запроса на 2 000 токенов занимает 20 миллисекунд.
ИИ-модель построена на базе Qwen3.5-2B от Alibaba и дополняет более крупные модели Baseten mammoth-1 и elephant-1, выпущенные на прошлой неделе. Эти модели предназначены для выбора из строго заданных вариантов, а не для подготовки текстовых ответов.
Компании, выстраивающие рабочие процессы с ИИ, могут использовать модель для сортировки обращений в поддержку, обнаружения спама и блокировки вредоносных запросов. Baseten утверждает, что joey-1 лидирует среди моделей для принятия решений с числом параметров не более 3 млрд. Однако подтверждающие тесты пока не опубликованы, поэтому это преимущество остаётся недоказанным.
Типовые задачи классификации могут стать дешевле, поскольку модели не требуется генерировать текстовый ответ.
Открытые веса дают разработчикам ещё одну модель для тестирования маршрутизации обращений в поддержку и обнаружения спама.
Без опубликованных тестов разработчики пока не могут проверить заявление Baseten о лидерстве модели среди решений сопоставимого размера.
Написано автоматически редакцией Made in 10 по источнику выше.
Samsung Electronics потратила 29 трлн вон на заводы и оборудование в 3-м квартале на фоне роста спроса на память для ИИ. Компания ожидает, что спрос на ее чипы для ИИ будет превышать предложение до конца 2027 года.
Председатель совета директоров Foxconn Янг Лю заявил, что через пару лет компания может обеспечивать 50% мирового рынка серверов для ИИ. По его словам, заказчики уже забронировали все производственные мощности компании как минимум на полтора года вперёд.
Cohere завершила первый этап раунда финансирования серии E, в рамках которого планирует привлечь до 7 млрд канадских долларов. Среди новых инвесторов — правительство Канады, но Cohere не раскрыла, на какую часть целевой суммы уже получены обязательства.