Kimi K3 учитывает 2,8 триллиона параметров открытых весов

16 июля компания Moonshot выпустила Kimi K3 для своих приложений, веб-приложений, продуктов Work, Code, Agent, Agent Swarm и API. Полные веса моделей последовали 27 июля. Поэтапный выпуск имеет значение, поскольку доступ к продукту и вес загружаемых файлов были отдельными вехами, а не одним одновременным событием.

В технической спецификации перечислено 2,8 триллиона общих параметров и 104 миллиарда активных параметров. Он также описывает собственный ввод изображений и контекстное окно из 1 048 576 токенов. Эти цифры делают K3 необычайно крупной моделью агента с открытым весом, но они не делают ее практичной для запуска на обычном потребительском оборудовании просто потому, что файлы можно загрузить.

Moonshot выпустил гири под своим кастомным Kimi K3 License. Условия являются разрешительными во многих отношениях, но добавляют условия для крупных операторов модели как услуги и очень крупных коммерческих продуктов. Точная маркировка является открытой, если только конкретный юридический анализ не установит, что предлагаемое использование соответствует другому определению.

В таблицах тестов Moonshot K3 сравнивается с ведущими проприетарными моделями, хотя в книге источников отмечаются различия в тестовых комплектах и источниках. Результаты следует отнести к Moonshot и проверять каждую задачу. Количество параметров, количество активных параметров и контекстное окно также описывают разные свойства и не должны объединяться в одну общую меру интеллекта.

Практическая аудитория, скорее всего, будет включать организации с развитой обслуживающей инфраструктурой, исследователей, адаптирующих весовые коэффициенты, и разработчиков, использующих размещенные продукты или API. В будущих отчетах о развертывании следует раскрывать информацию об оборудовании, точности, пропускной способности и лицензионных обязательствах, чтобы читатели могли отличить загружаемый доступ от реальных эксплуатационных затрат.