Ant Group представляє AI-модель Ling-3.1-flash з 560 мільярдами параметрів

Дослідницька одиниця InclusionAI, що належить компанії Ant Group, опублікувала нову мовну модель. Ling-3.1-flash має 560 мільярдів параметрів загалом, з яких для кожного запиту фактично активуються близько 25 мільярдів. Ця архітектура повинна заощаджувати обчислювальну потужність без істотних втрат у якості відповідей.

Що повинна робити модель

Компанія Ant Group позиціонує Ling-3.1-flash для використання в так званих системах агентів, тобто програмах штучного інтелекту, які самостійно виконують багатоетапні завдання. За словами компанії, до них також належать функції пошуку, офісні додатки та рішення для спеціальних галузей. Модель розраховується на контекстне вікно розміром до одного мільйона токенів, тому теоретично може обробляти дуже довгі тексти або документи одночасно.

Однак на поточному двотижневому етапі тестування доступ обмежений значно меншим контекстним вікном. Це означає, що користувачі поки не можуть використовувати повну потужність моделі. Компанія Ant Group не надає інформації про те, коли повна версія буде вільно доступна.

Технологія, що лежить в основі моделі

Принцип активованих параметрів, також відомий як Mixture-of-Experts, працює як велика спеціалізована бібліотека, з якої для кожного запиту беруться лише відповідні книги, замість того щоб шукати в усій бібліотеці.

У разі Ling-3.1-flash це становить близько 4,5 відсотка від загальної потужності, яка фактично використовується для кожного запиту. Це зменшує енергетичні та обчислювальні витрати порівняно з моделями, які використовують повну кількість параметрів для кожного запиту.

Для порівняння: моделі, такі як GPT-4 від OpenAI або Gemini від Google, також використовують подібні архітектури, щоб утримувати великі моделі економічно життєздатними. Стратегія Ant Group відповідає загальносвітовому тренду, при якому китайські постачальники, такі як DeepSeek, Alibaba та Moonshot AI, дотримуються порівняльних підходів протягом останніх років.

Позиціонування на ринку

Ant Group найбільше відома своєю фінансовою дочірньою компанією Alipay, яку в Китаї використовують понад мільярд людей. За допомогою InclusionAI компанія розширила своєю діяльність у напрямку базових моделей штучного інтелекту, область, яка останнім часом набула великого значення для компаній, таких як Alibaba, Baidu та Tencent.

Публікація Ling-3.1-flash як моделі з відкритими вагами, де навчені параметри стають суспільно доступними, відповідає моделі, якої дотримувалося кілька китайських постачальників ШІ останнім часом. Це дозволяє розробникам у всьому світі завантажувати модель, адаптувати її та інтегрувати у власні додатки без залежності від платного програмного інтерфейсу.

Для європейських та австрійських компаній, які використовують моделі ШІ для обслуговування клієнтів, обробки документів або розробки програмного забезпечення, таким чином розширюється вибір доступних базових моделей на додаток до існуючих варіантів від OpenAI, Google, Meta та Mistral AI. Відкриті моделі з Китаю, такі як DeepSeek або Alibaba, вже тестуються окремими європейськими компаніями, оскільки вони часто можуть використовуватися без ліцензійних зборів та можуть працювати локально, що може бути важливо для питань захисту даних. Господарські організації, такі як Економічна палата Австрії, спостерігають за розвитком моделей відкритого коду ШІ в рамках своїх ініціатив цифровізації для місцевих підприємств.

Джерело: TechNode | Оригінальна стаття