В четверг китайская технологическая компания ByteDance (официальный сайт) объявила о запуске новой архитектуры моделей UltraMem, которая позволяет снизить затраты на вычисление в моделях, основанных на искусственном интеллекте, на 83 процента. По словам команды Doubao LLM компании, UltraMem увеличивает скорость вывода в 2-6 раз по сравнению с традиционными архитектурами MoE (mixture-of-experts).
Это технологическое достижение открывает новый …Сообщение ByteDance и Baidu делают ИИ доступнее: бесплатные чат-боты и снижение затрат появились сначала на Новостной портал о Китае PRC.today – Китай сегодня.