Auteur: admin

13 maart 2025

Grote taalmodellen (LLM’s) hebben kunstmatige intelligentie verbeterd door hun sterke prestaties op taken zoals taalbegrip en complexe redeneervaardigheden. Toch blijft het een uitdaging om deze modellen effectief aan te passen aan nieuwe taken, omdat traditionele methoden vaak grote hoeveelheden gelabelde gegevens en intensieve rekenkracht vereisen. Bestaande technieken voor het combineren van meerdere LLM’s zijn beperkt in flexibiliteit en generalisatievermogen. Daarnaast zorgen afhankelijkheid van gradient-gebaseerde optimalisatie en hoge rekenkosten ervoor dat real-time aanpassing praktisch onhaalbaar blijft. Er is daarom behoefte aan een efficiëntere aanpak die LLM’s in staat stelt zich dynamisch en met minimale data aan te passen zonder buitensporige kosten.

Verschillende benaderingen zijn voorgesteld om de aanpasbaarheid van LLM’s te verbeteren, maar ze hebben belangrijke tekortkomingen. Methoden zoals Expert Fusion combineren modellen door parameters te middelen, maar missen dynamische aanpassing. Andere technieken, zoals LoraHub en Model Swarms, gebruiken evolutionaire algoritmen, maar vereisen gelabelde gegevens en schalen slecht over meerdere taken. Parameter-mergingmethoden zoals DARE en TIES kunnen gewichten van verschillende modellen samenvoegen maar passen zich niet flexibel aan veranderende vereisten aan. Deze beperkingen benadrukken de nood aan een verfijndere oplossing die evolueert zonder ingrijpende retraining.

Onderzoekers van Northeastern University en het Shanghai Artificial Intelligence Laboratory stellen GENOME voor, een evolutionair framework dat LLM’s helpt zich veelzijdig aan te passen. Dit systeem gebruikt mechanismen zoals kruising, mutatie, selectie en opvolging om een generatie van modellen dynamisch te verbeteren. In tegenstelling tot traditionele fine-tuning, die afhankelijk is van gradient-gebaseerd leren, benut GENOME genetische algoritmes om succesvolle aanpassing mogelijk te maken met weinig gegevens. Kruising combineert sterke modellen om krachtige nakomelingen te ontwikkelen, terwijl mutatie nieuwe capaciteiten ontdekt. Selectie behoudt de meest efficiënte modellen, en opvolging zorgt voor kennisoverdracht tussen generaties.

Een uitbreiding, GENOME+, levert extra robuustheid door een ensemble-mechanisme toe te voegen, waarbij voorspellingen van de beste modellen worden gecombineerd voor hogere nauwkeurigheid. Dit evolutionaire proces wordt toegepast op een populatie LLM’s gebaseerd op gemma-2-2b-it en getraind op tien domeinen via de Tulu-v2-SFT dataset. Gedurende tien generaties optimaliseert het systeem modellen op basis van een fitnessfunctie die validatienauwkeurigheid monitort. Tests tonen aan dat deze aanpak efficiënter is dan conventionele methoden en zelfs op een enkele RTX 4090 GPU kan worden uitgevoerd, wat de praktische toepasbaarheid benadrukt.

Uit grootschalige evaluaties blijkt dat GENOME+ beter presteert dan bestaande aanpassings- en combinatie-algoritmen. Gemiddeld behaalt het een verbetering van 24,06% ten opzichte van de best presterende individuele expertmodellen en 10,75% boven Model Swarms, met name op rekenintensieve redeneertaken. In tegenstelling tot andere methoden, die moeite hebben met meerdere taken, behoudt deze evolutionaire benadering consistente prestaties over diverse domeinen. Bovendien biedt het sterke zero-shot generalisatie, waardoor modellen effectieve kennis kunnen overdragen zonder extra training. Experimenten tonen aan dat grotere populaties de prestaties verder verbeteren, en studies bevestigen het cruciale belang van selectie- en ensemblemechanismen.

Door een genetisch algoritme-gebaseerde aanpak te introduceren, presenteert dit onderzoek een efficiënte, schaalbare en adaptieve manier om LLM’s te optimaliseren. De methode maakt voortdurende verbetering mogelijk zonder grote hoeveelheden data of training, wat een krachtig alternatief vormt voor traditionele fine-tuning en modelcombinatietechnieken. Dankzij de haalbaarheid op standaard hardware biedt GENOME+ een economisch en praktisch model voor AI-systemen die dynamisch moeten blijven evolueren en verbeteren.

12 maart 2025

Onderzoekers van Carnegie Mellon University hebben een nieuwe methode ontwikkeld om de lengte van redeneerketens in taalmodellen nauwkeurig te regelen. Dit aanpak, genaamd Length Controlled Policy Optimization (LCPO), gebruikt reinforcement learning om modellen te trainen die zowel nauwkeurigheid als gebruik van rekencapaciteit optimaliseren. Traditionele modellen hebben moeite met het beheren van de lengte van hun redenering, wat kan leiden tot onnodig lange of juist te korte uitkomsten. LCPO biedt een oplossing door het model te conditioneren op een vooraf opgegeven lengte in de prompt.

Bestaande benaderingen om de redeneerlengte te reguleren, zoals het gebruik van speciale tokens of het voortijdig afbreken van de output, verminderen vaak de prestaties. Hoewel meer rekenkracht doorgaans betere redeneerprestaties oplevert, ontbreekt bij veel methoden een precieze controle over de lengte. LCPO pakt dit probleem aan door een beloningsfunctie toe te passen die zowel de nauwkeurigheid als de juiste lengte beloont. Hierdoor kan het model zich dynamisch aanpassen, zonder de samenhang van de redenering te verstoren.

Het door LCPO getrainde model, genaamd L1, past de redeneerlengte effectief aan binnen de opgegeven grenzen. Er zijn twee varianten ontwikkeld: L1-Exact, dat zich strikt aan de opgegeven lengte houdt, en L1-Max, dat binnen een maximale lengte blijft terwijl de nauwkeurigheid behouden blijft. Vergeleken met andere methoden, zoals S1, behaalt L1 significante verbeteringen in redeneerprestaties en efficiëntie, zonder dat redeneerlijnen onnodig worden afgekapt.

Tests laten zien dat L1 beter presteert dan GPT-4o bij dezelfde redeneerlengtes en uitstekend generaliseert naar logische redeneervragen en kennisgerichte benchmarks zoals MMLU. Bovendien blijkt het model zeer effectief in kortere redeneerketens, iets waar veel grotere modellen minder goed in zijn. Door bewust om te gaan met het aantal benodigde tokens, kan L1 efficiënter redeneren zonder verlies van nauwkeurigheid.

Een belangrijk voordeel van LCPO is dat het modellen in staat stelt om beredeneerde antwoorden te genereren met een optimale balans tussen prestaties en rekencapaciteit. L1 verdeelt de beschikbare tokens strategisch, waarbij langere antwoorden meer ruimte bieden voor zelfcorrectie en conclusies, terwijl tussentijdse redeneringsstappen efficiënt blijven. Dit zorgt voor robuuste prestaties en behoud van coherentie.

Deze aanpak laat zien dat het gecontroleerd sturen van de lengte van redeneerketens een haalbare en effectieve manier is om de prestaties van taalmodellen te verbeteren. LCPO biedt een eenvoudig implementeerbare oplossing die schaalbaar is en zich breed toepasbaar toont, niet alleen voor rekenen en programmeren, maar ook voor algemene redeneertaken.

11 maart 2025

In het digitale tijdperk verandert de manier waarop we werken voortdurend, maar veel uitdagingen blijven bestaan. Traditionele AI-assistenten en handmatige processen kunnen de groeiende complexiteit en werklast niet bijhouden. Professionals ervaren inefficiënte onderzoeksmethoden, repetitieve taken en een gebrek aan geavanceerde automatisering. Hoewel bestaande tools enkele suggesties en basisautomatisering bieden, schieten ze tekort in het vertalen van ideeën naar concrete acties. Er is een groeiende behoefte aan een zelfstandige AI-agent die menselijke gedachten kan omzetten in praktische uitvoeringen en herhalende taken uit handen neemt.

Manus is een nieuwe Chinese AI-agent die productiviteit naar een hoger niveau tilt door diepgaand onderzoek te combineren met de mogelijkheid om digitale toepassingen autonoom te bedienen. Het systeem kan complexe taken uitvoeren op een computer en onthoudt eerdere interacties, waardoor het zich steeds beter aanpast aan de gebruiker. Manus helpt bij het plannen van reizen, analyseren van financiële gegevens en opstellen van gedetailleerde rapporten. De intuïtieve interface maakt het eenvoudig om taken uit te besteden en processen efficiënter te beheren.

Op technisch vlak maakt Manus gebruik van geavanceerde kunstmatige intelligentie, waarbij grote taalmodellen worden gecombineerd met multi-modale verwerking en integratie van verschillende tools. Dit stelt de AI in staat om zelfstandig taken uit te voeren, zoals gegevensvisualisatie, workflowbeheer, codebewerking en inhoudsgeneratie. Door een adaptief leervermogen kan het systeem zijn antwoorden verfijnen op basis van gebruikersinteracties. Daarnaast kan Manus direct werken met webbrowsers, code-editors en databases, waardoor het aanzienlijk krachtiger is dan traditionele AI-assistenten.

Een van de opvallende kenmerken van Manus is de mogelijkheid om webpagina’s autonoom te bedienen, inclusief verificatiemethoden zoals CAPTCHA’s. Daarnaast kan het agent nieuwe bestanden aanmaken en bewerken, complete websites genereren vanuit eenvoudige opdrachten en diepgaand onderzoek uitvoeren met overzichtelijke rapporten. Deze functionaliteiten maken het een veelzijdige en effectieve assistent voor uiteenlopende taken en sectoren.

Qua prestaties toont Manus indrukwekkende benchmarks en voorbeelden waarin het in staat is om interactieve websites te creëren op basis van data-analyse en aandelenmarkten te evalueren. De uitgebreide mogelijkheden van het systeem maken het ideaal voor gebruik in zowel zakelijke als creatieve omgevingen, waarbij het de efficiëntie verhoogt en de besluitvorming ondersteunt.

Naast Manus is er ook Parlant, een AI-conversatieframework dat ontwikkelaars meer controle geeft over hun AI-klantenservice. Dit systeem maakt gebruik van gedragsrichtlijnen en realtime toezicht. Met een eenvoudige CLI-interface en SDK’s in Python en TypeScript biedt Parlant een flexibele oplossing voor AI-gestuurde interacties.

10 maart 2025

Grote taalmodellen (LLMs) vertonen opvallende overeenkomsten met neurale activiteit in het menselijke taalnetwerk. Toch blijft onduidelijk welke taalkundige eigenschappen bijdragen aan deze hersenachtige representaties. Het brein verwerkt taal via een netwerk van frontotemporale regio’s, dat cruciaal is voor begrip en communicatie. Door recente ontwikkelingen in machine learning worden LLMs, die zijn getraind op grote tekstcorpora via volgende-woordvoorspelling, steeds vaker ingezet om de werking van dit taalnetwerk te onderzoeken. Onderzoek toont aan dat deze modellen, wanneer ze hetzelfde taalmateriaal verwerken als proefpersonen in neuroimaging-experimenten, vergelijkbare neurale reacties oproepen.

Studies naar de overeenkomsten tussen kunstmatige neurale netwerken en hersenactiviteit suggereren dat bepaalde architecturen neurale patronen nabootsen. Dit fenomeen werd eerst in visuele verwerking geïdentificeerd en later uitgebreid naar auditieve en linguïstische processen. Opvallend is dat zelfs ongetrainde modellen nog steeds een zekere mate van hersenalignatie vertonen. Dit duidt erop dat structurele en architectonische eigenschappen, los van ervaring-gebaseerde training, bijdragen aan cognitieve overeenkomsten. Hierdoor wint het onderzoek naar inductieve biases, oftewel de ingebouwde aannames van neurale netwerken, aan belang.

Onderzoekers van EPFL, MIT en Georgia Tech analyseerden 34 trainingsfases over acht modelgroottes om de relatie tussen hersenalignatie en taalkundige competentie te onderzoeken. Zij concludeerden dat hersenalignatie sterker correleert met formele taalkundige kennis—zoals grammaticale regels—dan met functionele competentie, waaronder redeneer- en wereldkennis. Naarmate modellen verder worden getraind, neemt de functionele competentie toe, maar verzwakt de correlatie met hersenactiviteit. Bovendien bleek modelgrootte geen doorslaggevende factor voor hersenalignatie, wanneer gecontroleerd wordt voor de grootte van de representaties. Dit suggereert dat huidige benchmarks nog niet het maximale potentieel van hersenalignatie benutten.

Het onderzoek beoordeelt hersenalignatie in taalmodellen met behulp van uiteenlopende neuroimaging-gegevens, geordend op modaliteit, contextlengte en stimuluspresentatie. Een functionele lokalisatiemethode identificeert neurale structuren die specifiek zijn voor taalverwerking. Voor de analyse werd gebruikgemaakt van ridge-regressie en Pearson-correlatie, en intersubject-consistentie werd geëvalueerd om ruis in de data mee te nemen. Formele taalkundige competentie werd getest met BLIMP en SYNTAXGYM, terwijl functionele competentie werd beoordeeld via benchmarks voor redeneervermogen en wereldkennis.

Ongetrainde modellen behaalden, ondanks lagere alignatiescores dan voorgetrainde modellen, nog steeds opmerkelijke hersenovereenkomsten, aanzienlijk beter dan willekeurige tokenreeksen. Dit komt voort uit inductieve biases binnen bepaalde architecturen, waarbij sequentiële modellen zoals GRU, LSTM en Transformers betere alignatie vertonen dan token-gebaseerde modellen zoals MLP en lineaire netwerken. Positiecodering en temporele integratie speelden hierbij een belangrijke rol. Hersenalignatie bereikte vroeg in de training een piek—rond acht miljard tokens—en bleek voornamelijk gerelateerd aan formele taalkundige competentie.

Samenvattend toont het onderzoek aan dat hersenalignatie in LLMs grotendeels wordt bepaald door formele taalkundige structuren, terwijl functionele competentie zich onafhankelijk ontwikkelt. Modelgrootte blijkt geen bepalende factor te zijn; in plaats daarvan spelen architectonische biases en trainingsdynamieken een doorslaggevende rol. Bovendien blijft er ruimte voor verbeteringen in de afstemming tussen deze modellen en menselijke taalverwerking. Dit onderzoek draagt bij aan een dieper begrip van hoe LLMs overeenkomsten vertonen met neurale taalverwerking, met een nadruk op syntactische en compositorische structuren.

9 maart 2025

Het toepassen van grote taalmodellen (LLM’s) in klinisch ziektebeheer brengt grote uitdagingen met zich mee. Hoewel deze modellen effectief zijn gebleken in diagnostisch redeneren, is hun inzet voor langdurige ziektebehandeling, medicatievoorschriften en zorg over meerdere consulten nog onvoldoende onderzocht. Belangrijke obstakels zijn het begrijpen van medische context over meerdere bezoeken heen, wisselende naleving van richtlijnen en complexe medicatiebeslissingen. Daarnaast vormen realtime interacties van hoge kwaliteit met patiënten en de efficiëntie van de computermodellen belangrijke aandachtspunten. Het oplossen van deze problemen is cruciaal om AI-systemen te ontwikkelen die zorgprofessionals ondersteunen bij nauwkeurige en gepersonaliseerde beslissingen.

Eerdere AI-gestuurde klinische modellen waren voornamelijk gericht op diagnostiek en maakten gebruik van gestructureerde datasets voor differentiële diagnose. In de praktijk blijken deze benaderingen echter beperkt bruikbaar voor ziektebeheer. Ze slagen er vaak niet in om het volledige patiëntverloop bij te houden, wat leidt tot inconsistente behandeladviezen. Veel modellen hebben bovendien moeite met het strikt volgen van klinische richtlijnen, wat de betrouwbaarheid van het zorgplan vermindert. Medicatiebeheer vormt daarnaast een uitdaging, omdat inconsistente keuzes in medicatie, dosering en interacties de veiligheid in gevaar brengen. Bovendien vereist medische besluitvorming snelle verwerking van grote hoeveelheden gegevens, wat voor veel LLM-gebaseerde systemen een computationale belemmering vormt.

Onderzoekers van Google hebben een geavanceerd AI-systeem ontwikkeld dat is ontworpen voor klinisch ziektebeheer en herhaalde patiëntbezoeken. Dit systeem maakt gebruik van een multi-agentstructuur met onder meer een Dialoogagent, die empathische gesprekken voert en patiëntgeschiedenis bijhoudt, en een Management Reasoning (Mx) Agent, die klinische richtlijnen en testresultaten integreert in behandelplannen. Dankzij de uitgebreide contextmogelijkheden van Gemini kan het model zich aanpassen aan actuele klinische richtlijnen en medicatiegegevens. In tegenstelling tot traditionele AI-modellen, die vaak slechts één consult tegelijk verwerken, maakt dit systeem dynamische aanpassingen op basis van patiëntvoortgang en nieuwe testresultaten.

Om de medicatiebeslissingen van het systeem te evalueren, werd een nieuwe dataset, RxQA, ontwikkeld. Deze bevat multiple-choicevragen afkomstig uit Amerikaanse en Britse nationale medicatierichtlijnen en toetst het vermogen van het systeem om complexe farmacologische problemen op te lossen. De prestaties van het model werden vergeleken met die van artsen via een geblindeerde, gerandomiseerde virtuele klinische examenomgeving (OSCE), waarbij 100 herhaalde consultscenario’s werden getest aan de hand van NICE-richtlijnen en BMJ Best Practice. Het systeem omvat ook een gestructureerd generatiemechanisme, dat consistentie in uitkomsten garandeert en nauwkeurige verwijzingen naar klinische richtlijnen biedt.

In vergelijkende testen presteerde het AI-model gelijkwaardig aan huisartsen in ziektebeheer, maar overtrof hen in nauwkeurigheid van behandelingsplannen, medicatiebeheer en naleving van richtlijnen. De multi-visit benadering zorgde voor betere gestructureerde plannen met specifieke aanbevelingen voor onderzoeken en behandelingen. Op het gebied van medicatiebeheer presteerde het model beter dan menselijke artsen, vooral bij ingewikkelde medicatievragen. Daarnaast beoordeelden zowel specialisten als acteurs die patiënten nabootsten het systeem positief op het vermogen om behandelingstrajecten bij te werken en patiëntgerichte beslissingen te nemen. Dit suggereert dat het systeem effectief kan bijdragen aan AI-ondersteunde klinische besluitvorming.

Dit AI-systeem markeert een grote vooruitgang in medisch beheer door de overstap van pure diagnostiek naar langdurige patiëntenzorg en behandelplanning. Het gebruik van diepgaande contextanalyse, samenwerking tussen meerdere agents en realtime raadpleging van klinische richtlijnen zorgt voor een besluitvormingsproces dat vergelijkbaar is met dat van artsen. De nauwkeurigheid van behandeladviezen en naleving van protocollen onderstrepen de potentie van AI in de gezondheidszorg. Hoewel verdere validatie in de dagelijkse klinische praktijk nodig is, vormt dit onderzoek een belangrijke stap in de richting van meer uniforme en automatische zorgprocessen via AI.

7 maart 2025

Jupyter Notebooks is een krachtig open-source hulpmiddel waarmee gebruikers interactieve documenten kunnen maken en delen. Deze documenten kunnen live code, wiskundige vergelijkingen, visualisaties en tekst bevatten. Ze worden veel gebruikt in datawetenschap, machine learning en wetenschappelijk programmeren voor analyses en codering. Deze handleiding legt uit hoe je Jupyter installeert, de basisfuncties gebruikt en gegevens analyseert.

Om Jupyter Notebook te installeren, kun je kiezen tussen Anaconda of pip. Anaconda is aanbevolen voor beginners omdat het een complete distributie biedt met Jupyter vooraf geïnstalleerd. Pip is geschikt voor gevorderde gebruikers die Python al hebben geïnstalleerd. Na installatie kan de Jupyter-interface worden geopend om nieuwe notebooks te maken en bestaande bestanden te beheren.

Elke notebook bestaat uit cellen waarin code kan worden uitgevoerd of tekst kan worden geformatteerd met Markdown voor documentatie. Code wordt uitgevoerd door op Shift + Enter te drukken, terwijl Markdown-cellen helpen bij het structureren van de inhoud met koppen, lijsten en LaTeX-formules. Dit maakt Jupyter een handig hulpmiddel voor zowel analyse als verslaglegging.

Data-analyse is een veelvoorkomende toepassing van Jupyter Notebooks. Door bibliotheken zoals Pandas, Matplotlib en Seaborn te gebruiken, kunnen datasets eenvoudig worden geladen en gevisualiseerd. Dit helpt bij het verkrijgen van inzicht in gegevens door middel van grafieken en statistische analyses. Een veelgebruikte dataset voor demonstraties is de Black Friday Sales dataset van Kaggle.

Naast analyse helpt Jupyter bij het visualiseren van grote datasets. Door statistieken en grafieken te genereren, kunnen verbanden en patronen eenvoudig worden begrepen. Bijvoorbeeld, met Seaborn kan een staafdiagram worden gemaakt om aankopen per stadscategorie weer te geven. Histogrammen en KDE-plots helpen bij het begrijpen van de verdeling van gegevens.

Jupyter Notebooks kunnen eenvoudig worden opgeslagen en geëxporteerd in verschillende formaten zoals PDF en HTML. Door best practices te volgen, zoals het gebruik van Markdown voor documentatie, duidelijke secties en versiebeheer, kunnen goed gestructureerde en herbruikbare notebooks worden gemaakt. Dit maakt Jupyter een ideaal hulpmiddel voor interactieve codering en gegevensanalyse.

6 maart 2025

Personalisatie van grote taalmodellen (LLM’s) is essentieel voor toepassingen zoals virtuele assistenten en gepersonaliseerde contentaanbevelingen. In plaats van modellen te optimaliseren op basis van algemene gebruikersfeedback, richt personalisatie zich op de unieke perspectieven van individuen, die beïnvloed worden door cultuur, ervaringen en waarden. Huidige methoden, zoals versterkend leren met menselijke feedback (RLHF), gebruiken vaak een enkel beloningsmodel, wat kan leiden tot het negeren van minderheidsstandpunten en potentiële vooringenomenheden. Een effectievere benadering zou het leren van een verdeling van beloningsfuncties zijn, waardoor LLM’s beter afgestemde reacties kunnen genereren voor verschillende gebruikersgroepen en inclusiviteit wordt bevorderd.

Onderzoek naar voorkeurleren heeft verschillende strategieën voor personalisatie onderzocht. Sommige methoden, zoals distributionele afstemming, richten zich op generieke statistische eigenschappen, terwijl andere expliciet beloningsverdelingen modelleren, maar kampen met uitdagingen in efficiëntie en praktische implementatie. Bestaande benaderingen, zoals GPO en correctie door mensen, zijn effectief in gestructureerde taken, maar zijn minder getest in open situaties. Supervised fine-tuning en versterkend leren met methoden zoals PPO, DPO en IPO worden onderzocht om LLM’s beter af te stemmen op persoonlijke voorkeuren. FSPO, een black-box meta-leermethode, past zich snel aan nieuwe gebruikersvoorkeuren aan met minimale voorbeelden en bouwt voort op eerdere technieken uit taalmodellering en meta-leren.

Onderzoekers van Stanford University, Google DeepMind en OpenAI introduceren Few-Shot Preference Optimization (FSPO), een methode die taalmodellen personaliseert met beperkte gelabelde voorbeelden. FSPO beschouwt beloningsmodellering als een meta-leerprobleem, waarbij modellen aangepaste beloningsfuncties opstellen in plaats van op geaggregeerde menselijke feedback te vertrouwen. Om het gebrek aan beschikbare data op te vangen, genereert FSPO ruim een miljoen gestructureerde synthetische voorkeuren. Toepassingen in domeinen zoals productbeoordelingen, educatieve content en rollenspellen tonen aan dat FSPO LLM’s effectiever afstemt op individuele behoeften.

FSPO benadert personalisatie als een meta-leerprobleem en voorkomt dat individuele nuances verloren gaan, zoals vaak gebeurt bij traditionele RLHF-methoden. In plaats daarvan koppelt FSPO voorkeuren aan gebruikersspecifieke identificaties en behandelt het elke gebruiker als een afzonderlijke taak. De methode maakt gebruik van few-shot prompts en een black-box meta-leerstrategie om LLM’s snel en efficiënt te personaliseren. Daarnaast wordt gebruikersrepresentatie vastgelegd in een (N)-bit voorkeurencoding, waardoor gestructureerde generalisatie mogelijk is.

Om FSPO te evalueren, werd deze vergeleken met vier andere methoden: een generiek instructiemodel, few-shot prompting, few-shot fine-tuning (Pref-FT) en prompting met een ideale gebruikersbeschrijving. FSPO presteert consistent beter dan deze alternatieven. Met synthetische winstratio’s, gemeten via een aangepaste AlpacaEval, behaalt FSPO sterke resultaten in domeinen zoals ELIX, productbeoordelingen en rollenspellen. Een studie met 25 testpersonen bevestigt de effectiviteit van FSPO, met een winstpercentage van 72% ten opzichte van standaardmodellen.

In conclusie is FSPO een krachtig raamwerk voor personalisatie van taalmodellen in open vraag- en antwoordscenario’s. De methode maakt gebruik van meta-leren om menselijke voorkeuren beter vast te leggen en zich snel aan te passen aan individuele gebruikers. Door meer dan een miljoen synthetische voorkeuren te genereren, verbetert FSPO de diversiteit en overdraagbaarheid naar realistische toepassingen. Evaluaties in drie domeinen en bij 1.500 synthetische gebruikers laten een winstpercentage van 87% in AlpacaEval en 72% bij echte gebruikers zien. Deze aanpak draagt bij aan betere personalisatie binnen virtuele assistenten en contentaanbevelingssystemen, wat resulteert in inclusievere, gebruikersgerichte taalmodellen.

5 maart 2025

Moderne bedrijven worden geconfronteerd met aanzienlijke uitdagingen bij intern dataonderzoek. Gegevens zijn vaak verspreid over meerdere bronnen, waaronder spreadsheets, databases, PDF-bestanden en online platforms. Dit gebrek aan integratie maakt het moeilijk om bruikbare inzichten te verkrijgen. Veel organisaties kampen met gefragmenteerde systemen waarin gestructureerde SQL-query’s en ongestructureerde documenten niet gemakkelijk samenkomen. Dit belemmert niet alleen de besluitvorming, maar vertraagt ook innovatie, doordat analisten en zakelijke teams kostbare tijd verliezen aan het samenvoegen en herformatteren van gegevens.

Defog AI heeft Introspect open-source gemaakt, een MIT-gelicentieerde tool voor diepgaand dataonderzoek. Deze oplossing verenigt verschillende databronnen in één gestroomlijnde workflow en kan overweg met spreadsheets, databases, PDF’s en informatie van het web. Met een eenvoudige architectuur maakt Introspect het mogelijk om inzichten uit zowel gestructureerde SQL-data als ongestructureerde gegevens en webbronnen te combineren. Dit bespaart tijd en automatiseert het onderzoeksproces, waardoor gebruikers sneller relevante informatie kunnen verkrijgen.

De technologie achter Introspect is gebaseerd op een Sonnet-agent die gebruikmaakt van recursieve tool-calls om complexe vragen te beantwoorden. De agent is uitgerust met drie hoofdtools: text_to_sql voor databasequery’s, web_search voor externe informatie en pdf_with_citations voor documentanalyse. Door iteratief informatie op te halen totdat er voldoende context is, slaat de tool een brug tussen gestructureerde en ongestructureerde data. Daarnaast biedt het ondersteuning voor populaire databaseconnectoren zoals PostgreSQL, MySQL, SQLite, BigQuery, Redshift, Snowflake en Databricks, waardoor het geschikt is voor diverse zakelijke omgevingen.

Op GitHub laat het project concrete resultaten zien en biedt het een demo-omgeving waarin gebruikers de mogelijkheden in real-time kunnen testen. De repository bevat gedetailleerde handleidingen voor een snelle implementatie, zoals het instellen van API-sleutels en het uitvoeren van services via Docker Compose. De groeiende gemeenschap rondom Introspect en de beschikbare demonstratievideo geven een overzicht van hoe de tool werkt en hoe data uit verschillende bronnen effectief wordt samengebracht.

Met Introspect biedt Defog AI een innovatieve oplossing voor bedrijven die interne data efficiënter willen benutten. Door gestructureerde database-inzichten te combineren met ongestructureerde gegevens en live webinformatie, maakt de tool diepgaand onderzoek toegankelijk zonder complexe handmatige processen. Dankzij de open-source en MIT-licentie kunnen ontwikkelaars bijdragen aan verdere verbeteringen, terwijl bedrijven profiteren van een krachtige en flexibele data-analysetool.

Deze ontwikkeling onderstreept het belang van geïntegreerde AI-oplossingen in een datagedreven wereld. Organisaties die worstelen met datasilo’s en fragmentatie kunnen Introspect gebruiken om hun analyses te stroomlijnen en beter geïnformeerde beslissingen te nemen. Door snel inzichten te verkrijgen uit verschillende databronnen, helpt het bedrijven om innovatie te versnellen en efficiënter om te gaan met interne informatie.

4 maart 2025

Het omgaan met persoonlijk identificeerbare informatie (PII) in grote taalmodellen (LLM’s) vormt een grote uitdaging voor privacy. Deze modellen worden getraind met enorme datasets die gevoelige gegevens bevatten, wat het risico op onthouden en onbedoelde openbaarmaking verhoogt. Het beheren van PII is complex omdat gegevens voortdurend worden bijgewerkt en sommige gebruikers hun gegevens willen laten verwijderen. In sectoren zoals de gezondheidszorg is het elimineren van PII niet altijd haalbaar. Daarnaast vergroot het verfijnen van modellen voor specifieke taken het risico op het vasthouden van gevoelige informatie, terwijl resterende informatie na training moeilijk volledig te verwijderen is.

Bestaande methoden om PII-memorisatie te verminderen, vertrouwen op het filteren van gevoelige gegevens en technieken zoals machine unlearning. Deze methoden kampen echter met moeilijkheden, vooral bij voortdurend veranderende datasets. Fijn afstemmen van modellen vergroot het risico op memorisatie, terwijl unlearning soms onbedoeld gegevens kan onthullen. Daarnaast vormen membership inference-aanvallen, waarbij wordt geprobeerd te achterhalen of specifieke gegevens in de training zijn gebruikt, een groot risico. Omdat taalmodellen verborgen patronen van PII kunnen behouden, blijft het waarborgen van privacy een lastige opgave.

Onderzoekers van Northeastern University, Google DeepMind en de Universiteit van Washington hebben een nieuwe benadering voorgesteld, genaamd “assisted memorization”. In tegenstelling tot eerdere methoden die zich alleen richtten op de vraag of gegevens worden onthouden, onderzoekt deze aanpak wanneer en waarom dit gebeurt. De onderzoekers identificeerden verschillende vormen van PII-memorisatie, waaronder directe, langdurige en geleidelijke onthouding. Uit hun onderzoek bleek dat PII niet altijd onmiddellijk wordt opgeslagen, maar later kan worden geëxtraheerd, vooral wanneer trainingsgegevens elkaar overlappen. Dit ondermijnt bestaande strategieën voor gegevensverwijdering die lange termijn-geheugeneffecten over het hoofd zien.

Het onderzoek omvatte analyses van PII-memorisatie in verschillende modellen en datasets om te bepalen hoe trainingsmethoden invloed hebben op gegevensopslag en -extractie. Tests met modellen zoals GPT-2-XL, Llama 3 8B en Gemma 2B toonden aan dat toevoeging van nieuwe data het risico op PII-extractie vergroot. Pogingen om memorisatie voor één individu te verminderen, verhoogden soms het risico voor anderen. In 35,7% van de gevallen trad assisted memorization op, wat aantoont dat het geen onvermijdelijk proces is, maar wordt beïnvloed door de dynamiek van modeltraining.

Vervolgexperimenten onderzochten hoe het toevoegen van meer PII aan trainingsgegevens de kans op extractie beïnvloedt. Modellen die zijn getraind op datasets met hogere percentages PII vertoonden een significant groter risico op datalekken, vooral bij top-k sampling. Bovendien leidde iteratieve unlearning tot het zogeheten “Onion Effect”, waarbij het verwijderen van een bepaald type PII ervoor zorgde dat andere eerder onopvallende gegevens toegankelijk werden. Dit fenomeen toont aan hoe ingewikkeld het is om privacyproblemen in taalmodellen op te lossen.

Het onderzoek benadrukt de uitdaging van het beschermen van PII in LLM’s, waarbij verfijning en het verwijderen van gegevens soms onbedoelde onthullingen veroorzaken. Assisted memorization laat zien dat bepaalde gegevens pas later kwetsbaar kunnen worden, afhankelijk van trainingsprocessen. Hoe meer PII in trainingsdata wordt opgenomen, hoe groter het risico op extractie, terwijl pogingen om gegevens te verwijderen soms andere gevoelige informatie blootleggen. Deze bevindingen onderstrepen de noodzaak van verbeterde privacybescherming en effectievere unlearning-methoden om gevoelige informatie in machine learning-modellen beter te beveiligen.

4 maart 2025

Onderzoek naar grootschalige taalmodellen (LLM’s) heeft geleid tot methoden zoals Chain-of-Thought (CoT)-prompting om complexe problemen op te splitsen in opeenvolgende stappen. Nieuwere technieken, zoals o1-achtige denkmodi, introduceren extra mogelijkheden zoals trial-and-error, terugspoelen en iteratie om prestaties te verbeteren. Echter, deze verbeteringen brengen aanzienlijke computationele kosten met zich mee. Het genereren van een groter aantal tokens vergroot het geheugengebruik door beperkingen van de Transformer-architectuur, waarbij de attentiecomplexiteit kwadratisch toeneemt met de contextlengte en KV Cache-gebruik lineair stijgt. Bij een contextlengte van 10.000 tokens verbruikt bijvoorbeeld Qwen32B’s KV Cache evenveel geheugen als het volledige model.

Bestaande methoden om LLM-inferentie te versnellen vallen in drie categorieën: modelkwantisatie, minder tokens genereren en KV Cache-reductie. Kwantisatie omvat parameter- en cache-optimalisatie. Voor KV Cache-reductie vormen pruning-gebaseerde en merging-gebaseerde strategieën de belangrijkste technieken. Pruning behoudt alleen essentiële tokens tijdens inferentie zonder extra training, maar vereist een voortdurend selectieproces. Merging comprimeert informatie door anker-tokens, wat wel modeltraining vereist. Beide methoden verminderen geheugengebruik zonder dat de nauwkeurigheid sterk afneemt.

Onderzoekers van de Zhejiang Universiteit en Ant Group hebben LightThinker ontwikkeld, een techniek die LLM’s in staat stelt om tussentijdse redeneerstappen dynamisch te comprimeren. Geïnspireerd door menselijke cognitieve processen vat LightThinker uitvoerige denkstappen compact samen en verwijdert overbodige redeneringsketens. Hierdoor wordt het aantal opgeslagen tokens drastisch verminderd. Daarnaast introduceerden de onderzoekers een afhankelijkheidsmetric (Dep) om te meten in hoeverre gegenereerde tokens op eerdere tokens steunen. LightThinker vermindert geheugengebruik en inferentietijd aanzienlijk, terwijl de nauwkeurigheid behouden blijft, wat bijdraagt aan efficiëntere complexe redeneertaken.

Het systeem werd getest op de Qwen2.5-7B- en Llama3.1-8B-modellen met een volledige parametrische instructietraining op het Bespoke-Stratos-17k dataset. Vergelijkingen werden uitgevoerd met vijf basismodellen: twee trainingvrije methoden (H2O en SepLLM), één traininggebaseerde aanpak (AnLLM) en CoT-prompting. Evaluaties over vier datasets (GSM8K, MMLU, GPQA en BBH) beoordeelden zowel effectiviteit als efficiëntie, inclusief inferentietijd en geheugengebruik. Twee compressieprocessen werden getest: token-niveau reductie en gedachte-niveau segmentatie met behulp van delimitertekens (\n\n).

Resultaten tonen dat Distill-R1 structureel minder presteert dan CoT, mede door herhalingseffecten bij greedy decoding. H2O behoudt prestaties terwijl het geheugen verbruikt vermindert, maar verhoogt de inferentietijd met 51% voor Qwen en 72% voor Llama. LightThinker bereikt een vergelijkbare compressiegraad als H2O, maar verlaagt de inferentietijd aanzienlijk (52% voor Qwen en 41% voor Llama). Hierdoor verbetert het zowel geheugen- als rekenefficiëntie zonder prestatieverlies.

Hoewel LightThinker veelbelovend is, kent de methode enkele beperkingen. De compatibiliteit met parameter-efficiënte technieken zoals LoRA of QLoRA is nog niet onderzocht. Ook is het onduidelijk of grotere trainingsdatasets de prestatie verder kunnen verbeteren. Bovendien presteert het minder goed op Llama-modellen wanneer kleine datasets worden gebruikt bij next-token predictie. Verdere optimalisatie is nodig om de prestaties op verschillende modellen en trainingsdata te stabiliseren.