26 mei 2025
Een belangrijk onderzoeksgebied binnen kunstmatige intelligentie richt zich momenteel op het laten samenwerken van grote taalmodellen (LLM’s). Multi-agent systemen die draaien op LLM’s krijgen veel aandacht, omdat ze complexe problemen kunnen aanpakken door taken op te delen en gelijktijdig uit te voeren. Deze aanpak kan de efficiëntie verhogen en de reactietijd in toepassingen die snel antwoord vereisen drastisch verbeteren.
Een terugkerend probleem binnen zulke systemen is dat de onderlinge communicatie tussen agents meestal beurtelings en sequentieel verloopt. Hierdoor moeten agents wachten tot anderen klaar zijn met hun redeneerproces, wat leidt tot vertraging. Tegelijkertijd kunnen agents elkaars denkstappen niet volgen of erop inspelen, wat zorgt voor dubbele inspanningen en inconsistente resultaten.
Bestaande oplossingen proberen deze beperkingen aan te pakken via technieken zoals Chain-of-Thought, Tree-of-Thoughts en Graph-of-Thoughts. Hoewel deze methodes gestructureerde redeneerpaden bieden, ontbreekt het aan real-time interactie tussen agents. Multi-agent systemen werken vaak met beurtelingse berichtenuitwisseling, wat de reactiesnelheid beperkt. Geavanceerdere methodes vereisen doorgaans complexe plannen of rolverdelingen, die niet geoptimaliseerd zijn voor efficiënte uitvoer.
Onderzoekers van MediaTek Research hebben een nieuwe benadering ontwikkeld, Group Think genaamd. Deze methode laat meerdere redeneersporen binnen één LLM gelijktijdig draaien, waarbij elke agent de tussentijdse output van andere agents op token-niveau kan zien. Daardoor kunnen agents hun redeneerlijn aanpassen tijdens de generatie, wat duplicatie vermindert en leidt tot snellere en samenhangendere antwoorden.
Group Think gebruikt een gedeeld geheugencache waarin interleaved tokens van alle agents worden bewaard. Hierdoor kunnen agents efficiënt aandacht besteden aan elkaars tokens zonder wijzigingen aan het onderliggende transformer-architectuur. Dit maakt de aanpak geschikt voor zowel lokale apparaten als datacenters. Op persoonlijke apparaten benut het systeem ongebruikte rekencapaciteit, terwijl het in datacenters meerdere verzoeken parallel verwerkt.
Uit prestatietesten blijkt dat Group Think aanzienlijke verbeteringen biedt in snelheid en nauwkeurigheid. Bij taken als het opsommen van unieke namen of algoritmische uitdagingen zoals Floyd–Warshall werkt het systeem sneller en effectiever dan eerdere methodes. Zelfs zonder specifieke training laten LLM’s tekenen zien van spontane taakverdeling en samenwerking, wat suggereert dat toekomstige finetuning deze prestaties verder kan verbeteren.
Geef een reactie