13 maart 2025
Grote taalmodellen (LLM’s) hebben kunstmatige intelligentie verbeterd door hun sterke prestaties op taken zoals taalbegrip en complexe redeneervaardigheden. Toch blijft het een uitdaging om deze modellen effectief aan te passen aan nieuwe taken, omdat traditionele methoden vaak grote hoeveelheden gelabelde gegevens en intensieve rekenkracht vereisen. Bestaande technieken voor het combineren van meerdere LLM’s zijn beperkt in flexibiliteit en generalisatievermogen. Daarnaast zorgen afhankelijkheid van gradient-gebaseerde optimalisatie en hoge rekenkosten ervoor dat real-time aanpassing praktisch onhaalbaar blijft. Er is daarom behoefte aan een efficiëntere aanpak die LLM’s in staat stelt zich dynamisch en met minimale data aan te passen zonder buitensporige kosten.
Verschillende benaderingen zijn voorgesteld om de aanpasbaarheid van LLM’s te verbeteren, maar ze hebben belangrijke tekortkomingen. Methoden zoals Expert Fusion combineren modellen door parameters te middelen, maar missen dynamische aanpassing. Andere technieken, zoals LoraHub en Model Swarms, gebruiken evolutionaire algoritmen, maar vereisen gelabelde gegevens en schalen slecht over meerdere taken. Parameter-mergingmethoden zoals DARE en TIES kunnen gewichten van verschillende modellen samenvoegen maar passen zich niet flexibel aan veranderende vereisten aan. Deze beperkingen benadrukken de nood aan een verfijndere oplossing die evolueert zonder ingrijpende retraining.
Onderzoekers van Northeastern University en het Shanghai Artificial Intelligence Laboratory stellen GENOME voor, een evolutionair framework dat LLM’s helpt zich veelzijdig aan te passen. Dit systeem gebruikt mechanismen zoals kruising, mutatie, selectie en opvolging om een generatie van modellen dynamisch te verbeteren. In tegenstelling tot traditionele fine-tuning, die afhankelijk is van gradient-gebaseerd leren, benut GENOME genetische algoritmes om succesvolle aanpassing mogelijk te maken met weinig gegevens. Kruising combineert sterke modellen om krachtige nakomelingen te ontwikkelen, terwijl mutatie nieuwe capaciteiten ontdekt. Selectie behoudt de meest efficiënte modellen, en opvolging zorgt voor kennisoverdracht tussen generaties.
Een uitbreiding, GENOME+, levert extra robuustheid door een ensemble-mechanisme toe te voegen, waarbij voorspellingen van de beste modellen worden gecombineerd voor hogere nauwkeurigheid. Dit evolutionaire proces wordt toegepast op een populatie LLM’s gebaseerd op gemma-2-2b-it en getraind op tien domeinen via de Tulu-v2-SFT dataset. Gedurende tien generaties optimaliseert het systeem modellen op basis van een fitnessfunctie die validatienauwkeurigheid monitort. Tests tonen aan dat deze aanpak efficiënter is dan conventionele methoden en zelfs op een enkele RTX 4090 GPU kan worden uitgevoerd, wat de praktische toepasbaarheid benadrukt.
Uit grootschalige evaluaties blijkt dat GENOME+ beter presteert dan bestaande aanpassings- en combinatie-algoritmen. Gemiddeld behaalt het een verbetering van 24,06% ten opzichte van de best presterende individuele expertmodellen en 10,75% boven Model Swarms, met name op rekenintensieve redeneertaken. In tegenstelling tot andere methoden, die moeite hebben met meerdere taken, behoudt deze evolutionaire benadering consistente prestaties over diverse domeinen. Bovendien biedt het sterke zero-shot generalisatie, waardoor modellen effectieve kennis kunnen overdragen zonder extra training. Experimenten tonen aan dat grotere populaties de prestaties verder verbeteren, en studies bevestigen het cruciale belang van selectie- en ensemblemechanismen.
Door een genetisch algoritme-gebaseerde aanpak te introduceren, presenteert dit onderzoek een efficiënte, schaalbare en adaptieve manier om LLM’s te optimaliseren. De methode maakt voortdurende verbetering mogelijk zonder grote hoeveelheden data of training, wat een krachtig alternatief vormt voor traditionele fine-tuning en modelcombinatietechnieken. Dankzij de haalbaarheid op standaard hardware biedt GENOME+ een economisch en praktisch model voor AI-systemen die dynamisch moeten blijven evolueren en verbeteren.
Geef een reactie