Ant Group aduce modelul de IA Ling-3.1-flash cu 560 de miliarde de parametri

Unitatea de cercetare aferentă Ant Group, InclusionAI, a lansat un nou model de limbaj. Ling-3.1-flash dispune de 560 de miliarde de parametri în total, dintre care aproximativ 25 de miliarde sunt activați efectiv pentru fiecare cerere. Această arhitectură ar trebui să economisească putere de calcul, fără a face compromisuri majore în ceea ce privește calitatea răspunsurilor.

Ce ar trebui să realizeze modelul

Ant Group poziționează Ling-3.1-flash pentru utilizare în așa-numitele sisteme de agenți, adică programe de inteligență artificială care îndeplinesc în mod independent sarcini multietapate. Conform companiei, acestea includ și funcții de căutare, aplicații de birou și soluții pentru domenii de specialitate specifice. Modelul este conceput pentru o fereastră de context de până la un milion de token-uri, deci în teorie poate procesa deodată texte sau documente foarte lungi.

În faza de testare curentă de două săptămâni, accesul este totuși limitat la o fereastră de context semnificativ mai mică. Aceasta înseamnă că utilizatorii nu pot exploata încă capacitatea maximă a modelului. Ant Group nu oferă informații despre când versiunea completă va fi disponibilă liber.

Tehnologia din spatele modelului

Principiul parametrilor activați, cunoscut și sub numele de Mixture-of-Experts, funcționează ca o mare bibliotecă de specialitate, din care pentru fiecare cerere se iau doar cărțile relevante, în loc să se parcurgă întreaga bibliotecă.

În cazul Ling-3.1-flash, aceasta corespunde la aproximativ 4,5 procente din capacitatea totală, care sunt efectiv utilizate per cerere. Aceasta reduce consumul de energie și efortul de calcul comparativ cu modelele care utilizează parametrul lor complet la fiecare cerere.

Pentru comparație: modele precum GPT-4 de la OpenAI sau Gemini de la Google se bazează de asemenea pe arhitecturi similare, pentru a ține mare modele operante din punct de vedere economic. Strategia Ant Group se încadrează astfel într-o tendință pe scară largă din industrie, în care furnizori chinezi precum DeepSeek, Alibaba și Moonshot AI au urmat abordări comparabile în anii anteriori.

Poziționare pe piață

Ant Group este cunoscut în principal prin subsidiara sa financiară Alipay, care este utilizată în China de peste o miliard de oameni. Cu InclusionAI, grupul și-a extins domeniul de activitate în direcția modelelor fundamentale pentru inteligență artificială, un domeniu care a fost recent foarte disputat de companii precum Alibaba, Baidu și Tencent.

Publicarea lui Ling-3.1-flash ca model cu greutăți deschise, în care parametrii antrenați sunt pusi la dispoziție public, urmează un model pe care mai mulți furnizori chinezi de IA l-au urmat în sfârșit. Prin urmare, dezvoltatorii din întreaga lume pot descărca modelul, să-l adapteze și să-l integreze în propriile aplicații, fără a depinde de o interfață de programare plătită.

Pentru companiile europene și austriece care utilizează modele de IA pentru serviciul clienților, procesarea documentelor sau dezvoltarea de software, selecția modelelor de bază disponibile se extinde suplimentar, pe lângă opțiunile existente de la OpenAI, Google, Meta și Mistral AI. Modelele deschise din China, cum ar fi cele de la DeepSeek sau Alibaba, sunt deja testate de unele firme europene, deoarece pot fi adesea utilizate fără taxe de licență și pot fi operate local, ceea ce poate fi relevant pentru aspectele de protecție a datelor. Asociații economici cum ar fi Camera de Comerț Austriacă monitorizează dezvoltarea modelelor de IA cu cod deschis în cadrul inițiativelor lor de digitalizare pentru întreprinderile locale.

Sursă: TechNode | Articolul original