11 mei 2025
Moderne AI-modellen moeten in staat zijn om complexe taken uit te voeren, zoals het oplossen van wiskundige vraagstukken, het interpreteren van logische redeneringen en het ondersteunen van zakelijke besluitvorming. Hiervoor is een combinatie nodig van wiskundig inzicht, wetenschappelijke kennis en geavanceerde patroonherkenning. Met de toenemende behoefte aan intelligente systemen in toepassingen zoals codeerhulpmiddelen en bedrijfsautomatisering, neemt de vraag naar efficiënte en krachtige modellen toe die ook geschikt zijn voor inzet in praktijksituaties met beperkte hardware.
Een belangrijk obstakel bij de ontwikkeling van zulke AI-systemen is hun hoge reken- en geheugengebruik. Hoewel veel grote modellen uitstekende prestaties leveren, zijn ze vaak lastig breed inzetbaar vanwege hun behoefte aan krachtige infrastructuur. Zelfs organisaties met ruime middelen ondervinden beperkingen bij het toepassen van modellen die tientallen gigabytes aan geheugen vereisen of hoge kosten per bewerking met zich meebrengen. Het is dan ook van belang om modellen te bouwen die niet alleen nauwkeurig zijn, maar ook efficiënt in gebruik.
Om die kloof te overbruggen, ontwikkelde het researchteam van ServiceNow de Apriel-Nemotron-15b-Thinker. Dit model telt 15 miljard parameters, wat relatief compact is, maar toch prestaties levert die vergelijkbaar zijn met modellen van bijna het dubbele formaat. Groot voordeel is het lage geheugengebruik en de efficiënte omgang met tokens, wat het model veel geschikter maakt voor gebruik in bedrijfsomgevingen waar schaalbaarheid en kosten cruciaal zijn.
De training van Apriel-Nemotron-15b-Thinker verliep in drie fasen. In de eerste fase werd het model verder getraind met meer dan 100 miljard tokens uit domeinen als logica, wiskunde en programmeren. Vervolgens werd het model fijngeslepen met 200.000 zorgvuldig geselecteerde voorbeelden om de nauwkeurigheid van het redeneringsvermogen te vergroten. Ten slotte zorgde een optimalisatiefase met reinforcement learning voor betere afstemming op gewenste uitkomsten.
Bij benchmarks gericht op praktische toepassingen – zoals MBPP, BFCL, Enterprise RAG en specifieke beoordelingssets – presteerde het model gelijk aan of beter dan grotere modellen. Bovendien gebruikt het 40% minder tokens dan concurrenten, wat de operationele kosten verlaagt. Ook op academische evaluaties, waaronder MATH-500 en GPQA, houdt het model stand en dit alles met ongeveer de helft van het geheugengebruik van grote modellen als QWQ-32b.
Apriel-Nemotron-15b-Thinker laat zien dat kleinere modellen niet hoeven in te leveren op prestaties. Door gericht te trainen én optimalisatie toe te passen, is het gelukt om een evenwicht te vinden tussen nauwkeurigheid en efficiëntie. Het model is daarmee bijzonder geschikt voor agent-gebaseerde systemen, zakelijke automatisering en real-world toepassingen waarin schaalbaarheid en snelheid een hoofdrol spelen.
Geef een reactie