30 mei 2025
Menselijke redenering verloopt van nature via abstracte, niet-verbale concepten, in plaats van via strikt linguïstische eenheden. Grote taalmodellen (LLM’s) zijn daarentegen beperkt tot het genereren van één token per keer, binnen een vaste woordenschat. Deze sequentiële benadering beperkt het expressievermogen van het model en sluit alternatieve denkpaden uit, vooral bij complexe of dubbelzinnige vragen. Methoden zoals Chain-of-Thought dwingen modellen om direct één pad te kiezen, in tegenstelling tot de meer flexibele en parallelle manier waarop mensen redeneren.
Om dit te verbeteren, stellen onderzoekers voor om redeneren te verplaatsen naar een continue conceptruimte. Hier worden redeneringen opgebouwd uit gewogen combinaties van token-embeddings. Dit stelt modellen in staat om meerdere denkpaden tegelijk te verkennen en conceptueel rijkere informatie te verwerken. Hoewel eerdere experimenten met kleinere modellen succesvol waren, botsen grotere modellen op structurele beperkingen bij het toepassen van deze techniek zonder prestatieverlies.
Onderzoekers van onder andere de Universiteit van Californië, Purdue University en Microsoft introduceren nu Soft Thinking. Deze aanpak vereist geen hertraining en laat LLM’s redeneren met ‘concept tokens’—verzwaarde mengvormen van alle mogelijke tokens. Hierdoor ontstaan parallelle denklijnen en wordt abstract redeneren bevorderd. Het systeem gebruikt ook een ‘Cold Stop’-mechanisme dat voortijdig stoppen mogelijk maakt zodra er voldoende zekerheid is, wat de efficiëntie verhoogt.
Soft Thinking vervangt discrete tokenkeuzes door probabilistische verdelingen over het gehele vocabulaire. Op basis van deze verdelingen worden gewogen embedding-representaties berekend. Door onzekerheden te behouden en meerdere redeneringen gelijktijdig te volgen, ontstaat een flexibeler en krachtiger redeneermodel. De Cold Stop-monitor toetst de entropie om het redeneringsproces efficiënt af te ronden en instorting van de output te voorkomen.
Uit theoretische analyses blijkt dat dit model een benadering biedt van volledige marginalisatie over alle redeneringspaden, maar dan op een lineaire en rekentechnisch haalbare wijze. In experimenten op acht wiskundige en programmeerbenchmarks presteert Soft Thinking consequent beter op accuraatheid (Pass@1), met tegelijkertijd minder gegenereerde tokens vergeleken met standaard CoT-methoden. Dit toont aan dat het model zowel effectiever als efficiënter kan redeneren.
De onderzoekers testten hun methode op diverse open-source taalmodellen, zonder modelgewichten aan te passen of extra training toe te voegen. Soft Thinking weet nauwkeurigheid te combineren met een lager rekenverbruik, wat resulteert in compacter, interpreteerbaar en abstracter redeneren. Vervolgonderzoek zal mogelijk gericht zijn op trainingstrategieën om de robuustheid verder te verbeteren, met name voor onverwachte of onbekende inputtypes.
Geef een reactie