Mistral Small 3
Novi standard za brze i efikasne AI modele
Mistral AI je predstavio Mistral Small 3, 24-milijardni parametarski model optimizovan za nisku latenciju i visoku efikasnost. Ovaj model pruža performanse uporedive s tri puta većim modelima, dok ostaje brz i lak za lokalno pokretanje.
Ključne tačke
Izuzetna efikasnost - Brži od konkurentskih modela iste klase, s 81% tačnosti na MMLU i generisanjem 150 tokena/s.
Otvoreni kod - Dostupan pod Apache 2.0 licencom, omogućava slobodnu modifikaciju i implementaciju.
Primene u industriji - Idealan za virtuelne asistente, brze AI funkcije, specijalizovane modele, kao i za lokalnu obradu podataka.
Kompatibilnost - Već dostupan na platformama Hugging Face, Kaggle, Together AI i drugima, uz planiranu podršku za Amazon SageMaker i NVIDIA NIM.
Planovi za budućnost - Očekuju se poboljšanja u rezonovanju i proširenje porodice Mistral modela.
Značaj
Mistral Small 3 donosi balans između snage i brzine, omogućavajući AI inovacije u realnom vremenu i lokalnoj obradi podataka, čineći ga ključnim alatom za širok spektar industrijskih i istraživačkih primena.