Auteur: admin

  • Een Gids voor het Coderen van een Agentische, Door AI Aangedreven Asynchrone Ticketing Assistent met Gebruik van PydanticAI Agents, Pydantic v2 en een SQLite-database

    Een Gids voor het Coderen van een Agentische, Door AI Aangedreven Asynchrone Ticketing Assistent met Gebruik van PydanticAI Agents, Pydantic v2 en een SQLite-database

    24 april 2025

    In deze tutorial wordt uitgelegd hoe je een ticketingassistent bouwt die gebruikmaakt van Agentic AI, mogelijk gemaakt door de PydanticAI-bibliotheek. Het systeem combineert natuurlijke taalinterpretatie met gestructureerde datamodellen via Pydantic v2 en maakt gebruik van een in-memory SQLite-database voor het opslaan van tickets. Elk ticket krijgt een uniek ID toegekend met behulp van Python’s uuid-module. Twee AI-agenten worden ingezet: één om meldingen aan te maken en één om de status ervan op te vragen.

    Om te beginnen wordt pip bijgewerkt en PydanticAI geïnstalleerd. Vervolgens wordt gecontroleerd of de Google Gemini API-sleutel beschikbaar is in de omgeving. Als deze ontbreekt, wordt er veilig om gevraagd. Daarnaast wordt nest_asyncio toegevoegd om compatibiliteit binnen interactieve omgevingen zoals Google Colab te waarborgen bij het uitvoeren van asynchrone functies.

    Met SQLite wordt een eenvoudige maar effectieve database opgezet waarin ticketinformatie wordt opgeslagen, inclusief kolommen voor ticket-ID, samenvatting, urgentie, afdeling en status. Een dataclass wordt gedefinieerd om de databaseverbinding door te geven aan de AI-agenten. Verder worden twee Pydantic-modellen aangemaakt die het formaat van de output van de AI-processen vastleggen.

    De eerste agent, create_agent, is gelinkt aan Google Gemini en wordt gebruikt om nieuwe tickets in te voeren. Via een asynchrone tool verwerkt deze agent input zoals probleemomschrijving, urgentie en verantwoordelijke afdeling, genereert een uniek ID en slaat het ticket op in de database. De output wordt automatisch gevalideerd met het eerder gedefinieerde datamodel.

    De tweede agent, status_agent, richt zich op het opvragen van de status van een bestaand ticket. Aan de hand van het ticket-ID wordt de actuele status opgezocht in de database. Wanneer het ticket niet bestaat, wordt een foutmelding gegenereerd. Ook hier wordt de uitgegeven informatie gevalideerd met een Pydantic-model om consistentie te garanderen.

    Tot slot wordt een voorbeeld gegeven van hoe de combinatie van create_agent en status_agent werkt in de praktijk. Eerst wordt er via natuurlijke taal een ticket aangemaakt, waarvan de gegevens keurig als gestructureerde JSON worden teruggegeven. Daarna wordt de status van ditzelfde ticket opgevraagd. Deze aanpak laat zien hoe goed georganiseerde AI-tools, ondersteund door betrouwbare datamodellen en databases, een krachtig en uitbreidbaar ticketsysteem kunnen vormen.

  • Here’s the translated title to Dutch:

Een Code-Implementatie van een Real-Time In-Memory Sensorwaarschuwingspijplijn in Google Colab met FastStream, RabbitMQ, TestRabbitBroker, Pydantic

Let me know if you want the full code translated or just the title.

    Here’s the translated title to Dutch: Een Code-Implementatie van een Real-Time In-Memory Sensorwaarschuwingspijplijn in Google Colab met FastStream, RabbitMQ, TestRabbitBroker, Pydantic Let me know if you want the full code translated or just the title.

    23 april 2025

    In deze notebook wordt stap voor stap uitgelegd hoe je in Google Colab een volledig in-memory sensorwaarschuwingssysteem kunt bouwen met FastStream, een snelle native stream-verwerkingsbibliotheek in Python. Hierbij wordt gebruikgemaakt van de RabbitMQ-integratie van FastStream, en met behulp van TestRabbitBroker is het mogelijk om de volledige verwerking lokaal te simuleren zonder externe infrastructuur. De pijplijn bestaat uit vier fasen: invoer en validatie, normalisatie, bewaking met alertering, en archivering. Voor elk van deze fases zijn datamodellen gedefinieerd met Pydantic om datakwaliteit en typeveiligheid te waarborgen.

    FastStream en nest_asyncio worden geïnstalleerd om de streamverwerking en asynchrone uitvoering in Colab te ondersteunen. De nest_asyncio-module maakt het mogelijk genestelde event loops uit te voeren, terwijl het logging-framework wordt ingesteld om real-time inzicht te bieden in de pijplijnuitvoering. De stroom van berichten wordt afgehandeld via RabbitBroker, waarbij alle componenten volledig in-memory draaien voor ontwikkelings- en testdoeleinden.

    Vervolgens worden drie Pydantic-datamodellen opgesteld. RawSensorData valideert de oorspronkelijke invoer, waaronder een verplicht ‘sensor_’ prefix en geldige temperatuurwaarden. NormalizedData zet de temperatuur om naar Kelvin, terwijl AlertData aangeeft of de drempel voor een waarschuwing is overschreden met een booleaanse vlag.

    De datastructuur archive slaat alle waarschuwingsberichten op in een lijst. Door het gebruik van decoratoren worden de functiestappen verbonden aan specifieke broker-kanalen. Bij elke stap in de keten worden gegevens verwerkt, gelogd en doorgestuurd naar het volgende onderdeel in de pijplijn, van invoer tot en met archivering, waarin waarschuwingen met hun bijbehorende gegevens worden opgeslagen.

    Een hoofdfunctie publiceert enkele voorbeeldmetingen via de TestRabbitBroker, waarna een korte pauze volgt zodat alle asynchrone functies de gegevens hebben verwerkt. De verzamelde resultaten uit de archive-lijst worden met pandas in een DataFrame geplaatst voor visuele inspectie van de waarschuwingen die zijn gegenereerd door het systeem.

    Deze demonstratie laat zien hoe ontwikkelaars een schaalbare, veilige en goed testbare pipeline kunnen opzetten zonder externe afhankelijkheden. De combinatie van FastStream, Pydantic, asyncio en pandas biedt een solide basis voor real-time verwerking van gebeurtenissen, waaronder sensorbewaking en ETL-processen. Voor productietoepassingen kan eenvoudig worden overgestapt naar een echte broker en een ASGI-server worden gebruikt om de pipeline op schaal uit te rollen.

  • LLM’s Kunnen Denken Tijdens Rust: Onderzoekers van Letta en UC Berkeley Introduceren ‘Sleep-Time Compute’ om de Inference-Kosten te Verlagen en de Nauwkeurigheid te Verbeteren Zonder Vertraging in Latentie

    LLM’s Kunnen Denken Tijdens Rust: Onderzoekers van Letta en UC Berkeley Introduceren ‘Sleep-Time Compute’ om de Inference-Kosten te Verlagen en de Nauwkeurigheid te Verbeteren Zonder Vertraging in Latentie

    22 april 2025

    Grote taalmodellen (LLM’s) hebben bewezen uitstekend te presteren bij complexe redeneervraagstukken. Ze vormen de motor achter toepassingen zoals chatbots en codegeneratie. Hoewel deze modellen profiteren van intensieve rekencapaciteit tijdens het gebruik, leidt dit tot hogere kosten en tragere responstijden. In praktijksituaties, waar snelheid en efficiëntie belangrijk zijn, vormt dit een knelpunt. Er is daarom groeiende behoefte aan modellen die niet alleen nauwkeurig maar ook zuinig omgaan met middelen.

    Een belangrijke inefficiëntie ontstaat doordat LLM’s bij elke nieuwe vraag de volledige context opnieuw moeten verwerken. Vaak is die context echter stabiel en reeds bekend voordat de vraag wordt gesteld. Het telkens herhalen van die analyse is verre van optimaal, zeker wanneer meerdere vragen binnen hetzelfde onderwerp vallen.

    Onderzoekers van Letta en de Universiteit van Californië, Berkeley stellen een innovatieve oplossing voor: sleep-time compute. Hierbij gebruikt het model periodes van inactiviteit om de context alvast te analyseren en relevante inzichten vooraf op te slaan. Als de gebruiker later een vraag stelt, hoeft het model veel minder te rekenen om een passend antwoord te geven.

    De methode baseert zich op een scheiding van context en vraag. Tijdens de inactieve periode genereert het model een verrijkte contextversie, die later de originele tekst vervangt. Dankzij technieken zoals redeneringsketens of samenvattingen kan deze vooraf voorbereide context helpen het antwoordproces efficiënter en sneller te maken.

    In tests met datasets als GSM-Symbolic en AIME bleek sleep-time compute aanzienlijk effectiever. Bij dezelfde nauwkeurigheid daalde de benodigde rekenkracht tot vijfmaal minder, en de nauwkeurigheid steeg tot wel 18 procent. Wanneer meerdere gerelateerde vragen dezelfde context deelden, daalde de gemiddelde kost per vraag met een factor 2,5.

    Sleep-time compute bleek vooral nuttig bij voorspelbare vragen. In zulke gevallen leidt het vooraf analyseren van de context tot de grootste winst. Het onderzoek laat zien dat dit proactieve modeldenken een veelbelovende stap is naar efficiëntere LLM’s die tegelijk snel, betaalbaar en accuraat blijven.

  • LLM’s Kunnen Nu Leren om het Opnieuw te Proberen: Onderzoekers uit Menlo Introduceren ReZero, een Versterkend Leerframework dat Het Opnieuw Proberen van Vragen Beloont om Zoekgebaseerd Redeneren in RAG-Systemen te Verbeteren

    LLM’s Kunnen Nu Leren om het Opnieuw te Proberen: Onderzoekers uit Menlo Introduceren ReZero, een Versterkend Leerframework dat Het Opnieuw Proberen van Vragen Beloont om Zoekgebaseerd Redeneren in RAG-Systemen te Verbeteren

    21 april 2025

    De ontwikkeling van grote taalmodellen (LLM’s) heeft zich snel uitgebreid met technieken die externe kennis integreren in hun redeneerproces. Een belangrijke innovatie hierin is Retrieval-Augmented Generation (RAG), waarmee modellen toegang krijgen tot actuele of gespecialiseerde informatie via externe zoekopdrachten. Dit vergroot hun vermogen om kennisintensieve vraagstukken op te lossen. Naarmate taken complexer worden, wordt het echter steeds belangrijker dat deze modellen beter leren omgaan met zoeksystemen.

    Een zwakke plek in bestaande RAG-systemen is de afhankelijkheid van de kwaliteit van zoekopdrachten. Als een model een ineffectieve query genereert, heeft het vaak geen strategie om te herstellen. Veel modellen gaan er nog van uit dat één goede zoekopdracht volstaat, wat leidt tot foutieve of onvolledige uitkomsten bij complexe taken die herformulering en doorzettingsvermogen vereisen.

    Om dit te verbeteren, zijn technieken ontwikkeld zoals Process Reward Models (PRMs) en DeepRetrieval die belonen op basis van tussentijdse redeneringen of eindresultaten. Toch blijven ze tekortschieten in het stimuleren van doorzettingsvermogen na mislukte zoekpogingen. Zonder een expliciete beloning voor retry-gedrag blijven modellen snel opgeven als de eerste poging niet slaagt.

    Menlo Research heeft ReZero geïntroduceerd, een nieuw raamwerk dat LLM’s leert volhardend te zoeken door hernieuwde querypogingen actief te belonen. Deze aanpak, gebaseerd op reinforcement learning, waardeert het proces van het opnieuw proberen zodra een eerdere zoekpoging mislukt. Hierdoor leert het model om, net als mensen, zijn aanpak aan te passen wanneer directe resultaten uitblijven.

    Voor de training van ReZero is gebruikgemaakt van de Llama3-23B-Instruct en het Apollo 3-dataset. De onderzoekers trainden het model met vijf beloningen: juistheid, formaat, inhoudsrelevantie, strategisch zoekgedrag en retry-acties. Pas als herhaalde queries tot een correct antwoord leiden, wordt de beloning toegekend. Dit voorkomt inefficiënt gebruik van retries en stimuleert gerichte verbeteringen in het zoekproces.

    Tijdens testen presteerde ReZero aanzienlijk beter dan het baseline-model; het behaalde een pieknauwkeurigheid van 46,88% tegen 25,00% zonder retry-beloning. Beide modellen ervoeren echter een prestatieval na langere training, wat wijst op mogelijke overfitting of instabiliteit bij langdurige reinforcement learning. ReZero toont aan dat volharding een trainbare vaardigheid is binnen geavanceerde zoekgebaseerde AI-systemen.

  • IBM Brengt Granite 3.3 8B uit: Een Nieuw Spraak-naar-Tekst (STT) Model dat Uitblinkt in Automatische Spraakherkenning (ASR) en Automatische Spraakvertaling (AST)

    IBM Brengt Granite 3.3 8B uit: Een Nieuw Spraak-naar-Tekst (STT) Model dat Uitblinkt in Automatische Spraakherkenning (ASR) en Automatische Spraakvertaling (AST)

    20 april 2025

    De integratie van kunstmatige intelligentie in bedrijfsomgevingen zorgt voor een groeiende vraag naar modellen die flexibiliteit, efficiëntie en transparantie combineren. Bestaande oplossingen slagen er vaak niet in aan al deze vereisten te voldoen. Open-source modellen missen soms domeinspecifieke mogelijkheden, terwijl commerciële systemen restricties hebben op het gebied van aanpasbaarheid of toegankelijkheid. Dit leidt vooral tot knelpunten bij toepassingen zoals spraakherkenning, logisch redeneren en retrieval-augmented generation (RAG), die doorgaans last hebben van gefragmenteerde technologie en incompatibele toolchains.

    IBM heeft Granite 3.3 gelanceerd, een reeks open foundation modellen gericht op zakelijke toepassingen. Deze versie biedt verbeteringen op het gebied van spraakverwerking, redeneervermogen en informatieopvraging. Granite Speech 3.3 8B is het eerste open model van IBM dat zowel spraak-naar-tekst als automatische spraakvertaling ondersteunt. Het model levert een nauwkeurigere transcriptie en betere vertalingen dan systemen gebaseerd op Whisper en is geoptimaliseerd voor lange audiofragmenten.

    Granite 3.3 8B Instruct breidt de basismogelijkheden verder uit met ondersteuning voor ‘fill-in-the-middle’ tekstgeneratie en verbeterd symbolisch en wiskundig redeneren. Op benchmarks zoals MATH500 presteert het model beter dan andere modellen van vergelijkbare schaal, waaronder Llama 3.1 8B en Claude 3.5 Haiku.

    De onderliggende architectuur van Granite Speech 3.3 8B is modulair, met een spraakencoder en LoRA-gebaseerde audio-adapters. Hierdoor is efficiënte domeinspecifieke fine-tuning mogelijk zonder verlies van generaliseerbaarheid. De Instruct-versie omvat ook vijf LoRA-adapters gericht op RAG-taken, wat externe kennis beter integreert en de feitelijke juistheid van gegenereerde antwoorden verhoogt.

    Een opvallende innovatie is adaptive LoRA (aLoRA), die de eerder gebruikte key-value cache hergebruikt tijdens inferentiesessies. Dit vermindert geheugenverbruik en vertraging, vooral bij streaming of meerstaps retrieval. Het systeem biedt zo een effectieve balans tussen prestaties en middelengebruik in retrieval-intensieve toepassingen.

    Granite 3.3 toont aanzienlijke verbeteringen binnen spraakherkenning en vertaling, alsook in logisch redeneren. Alle modellen met bijbehorende LoRA-versies zijn open-source beschikbaar gesteld en kunnen worden ingezet via IBM’s eigen platform of externe tools. Deze release weerspiegelt IBM’s inzet voor open en schaalbare AI-oplossingen voor zakelijke toepassingen.

  • Sure! The translation of “A Hands-On Tutorial: Build a Modular LLM Evaluation Pipeline with Google Generative AI and LangChain” into Dutch is:

“Een Praktische Handleiding: Bouw een Modulaire LLM-Evaluatiepijplijn met Google Generatieve AI en LangChain”

    Sure! The translation of “A Hands-On Tutorial: Build a Modular LLM Evaluation Pipeline with Google Generative AI and LangChain” into Dutch is: “Een Praktische Handleiding: Bouw een Modulaire LLM-Evaluatiepijplijn met Google Generatieve AI en LangChain”

    19 april 2025

    Het evalueren van grote taalmodellen (LLMs) is een steeds belangrijker vraagstuk geworden binnen zowel academische als industriële contexten. Naarmate de capaciteiten van deze modellen toenemen, groeit ook de behoefte aan robuuste, reproduceerbare en veelzijdige evaluatiemethoden. Deze tutorial richt zich op het opzetten van een flexibele evaluatiepipeline voor LLMs, waarbij zowel sterke als zwakke punten onderzocht worden op basis van verschillende prestatiecriteria.

    De evaluatie maakt gebruik van geavanceerde Generatieve AI-modellen van Google, met ondersteuning van de LangChain-bibliotheek voor het coördineren van taken. Dit framework is modulair en direct inzetbaar in Google Colab. De evaluatiecriteria bestaan onder andere uit juistheid, relevantie, samenhang en beknoptheid, en worden zowel op basis van referentieantwoorden als zonder referentie beoordeeld.

    Een compacte dataset met vijf inhoudelijke vragen en bijbehorende grondwaarheden vormt de basis voor het testen van twee verschillende Gemini-modellen van Google. De gegenereerde antwoorden worden automatisch beoordeeld door een afzonderlijk model, wat zorgt voor objectieve en consistente scores over elk criterium.

    De gemiddelde scores worden vervolgens berekend en gevisualiseerd met behulp van barplots en radar-diagrammen. Daardoor wordt in één oogopslag duidelijk waar modellen in uitblinken of juist tekortschieten. De resultaten geven dieper inzicht in de taalvaardigheid van het model op specifieke onderdelen.

    Naast de individuele scores voorziet de tutorial ook in een paargewijze vergelijking tussen modellen. Een model treedt daarbij op als beoordelaar, waarbij het op basis van kwaliteit en helderheid een voorkeur uitspreekt tussen twee antwoorden. Dit helpt inzichten te ontwikkelen in welk model beter presteert voor specifieke taken.

    Tot slot worden alle gegevens, inclusief beoordeling, modelantwoorden en vergelijkingsanalyses, opgeslagen in CSV-bestanden. De volledige evaluatieflow – van datacreatie tot scorevergelijking en visuele rapportage – vormt zo een praktische en uitbreidbare toolkit voor iedereen die de prestaties van taalmodellen beter wil begrijpen en benchmarken.

  • Biofysische hersenmodellen krijgen een snelheidsboost van 2000×: Onderzoekers van NUS, UPenn en UPF introduceren DELSSOME om numerieke integratie te vervangen door deep learning zonder in te leveren op nauwkeurigheid.

    Biofysische hersenmodellen krijgen een snelheidsboost van 2000×: Onderzoekers van NUS, UPenn en UPF introduceren DELSSOME om numerieke integratie te vervangen door deep learning zonder in te leveren op nauwkeurigheid.

    18 april 2025

    Biophysische modellen spelen een belangrijke rol bij het begrijpen van hersenfuncties door de dynamiek op celniveau te koppelen aan grootschalige hersenactiviteit. Deze modellen gebruiken biologisch interpreteerbare parameters, waarvan sommige experimenteel meetbaar zijn. Andere parameters blijven echter onbekend en moeten worden afgestemd op empirische gegevens, zoals rusttoestand fMRI, wat vaak leidt tot hoge rekenkosten.

    Traditionele optimalisatiemethoden, zoals uitputtend zoeken, gradiëntafdalingen, evolutionaire algoritmen en Bayesiaanse optimalisatie, vereisen een herhaalde numerieke integratie van complexe differentiaalvergelijkingen. Door de hoge rekenintensiteit beperken veel onderzoeken zich tot het afstemmen van slechts een paar parameters of maken aannames die ten koste gaan van de biologische nauwkeurigheid.

    Recentere benaderingen verhogen de biologische realisme door regionale verschillen in hersenstructuren in kaart te brengen en geavanceerde technieken zoals evolutionaire strategieën en Bayesiaanse modellen toe te passen. Deze methodes verbeteren de overeenstemming tussen gesimuleerde en werkelijke hersenactiviteit en leveren interpreteerbare metingen op, zoals de excitatie/inhibitie-ratio.

    Een bottleneck blijft echter bestaan: het optimalisatieproces vereist nog steeds intensieve numerieke integratie. Deep learning-netwerken zijn in andere wetenschappen ingezet om deze stap te omzeilen, maar de toepassing ervan op hersenmodellen is uitdagender door hun stochastische aard en het grote aantal integratiestappen dat nodig is. Hierdoor zijn voor hersenmodellering nog aanpassingen nodig alvorens deep learning effectief kan worden ingezet.

    Onderzoekers van onder andere National University of Singapore, Universiteit van Pennsylvania en Universitat Pompeu Fabra ontwikkelden DELSSOME, een deep learning-framework dat de noodzaak voor numerieke integratie vervangt. Door middel van twee neurale netwerken voorspelt DELSSOME of een set modelparameters realistische hersendynamiek oplevert en hoe goed de simulatie aansluit op fMRI-gegevens, wat leidt tot een versnelling van 2000× bij evaluatie en 50× bij optimalisatie.

    Toegepast op het Feedback Inhibition Control (FIC) model, liet DELSSOME consistente prestaties zien over datasets zoals HCP en PNC zonder extra afstemming. Het model gebruikt een classificatiecomponent voor het beoordelen van biologisch plausibele vuursnelheden en een voorspellingsmodel voor de afwijking van functionele connectiegegevens. Hiermee maakt DELSSOME grootschalige, biologisch onderbouwde hersenmodellering op populatieniveau een stuk toegankelijker.

  • Van Logica naar Verwarring: MIT-onderzoekers laten zien hoe eenvoudige aanpassingen in prompts het redeneervermogen van grote taalmodellen ondermijnen

    Van Logica naar Verwarring: MIT-onderzoekers laten zien hoe eenvoudige aanpassingen in prompts het redeneervermogen van grote taalmodellen ondermijnen

    17 april 2025

    Grote taalmodellen worden steeds vaker ingezet om wiskundige problemen op te lossen die echte redeneerprocessen nabootsen. Deze modellen worden getest op hun vermogen om feitelijke vragen te beantwoorden en meerstapslogica correct toe te passen. Het oplossen van wiskundige opgaven biedt een robuuste manier om te onderzoeken of modellen in staat zijn om relevante informatie te extraheren, complexe uitspraken te interpreteren en accurate uitkomsten te berekenen.

    Eén van de voornaamste zorgen is hoe deze modellen presteren wanneer invoer rommelig of ongeorganiseerd is. In realistische situaties zijn vragen vaak voorzien van overbodige achtergrondinformatie of verwarrende details die de redenering kunnen verstoren. Hoewel modellen goed scoren op gestandaardiseerde benchmarks, blijven ze kwetsbaar voor afleiding en verlies van focus bij minder gestructureerde input.

    Nieuwe benchmarkvarianten, zoals GSM-Symbolic en GSM-PLUS, hebben aangetoond dat zelfs kleine aanpassingen in tekst de prestaties van modellen aanzienlijk kunnen beïnvloeden. Een ogenschijnlijk relevante, maar overbodige clausule kan de accuraatheid tot wel 65% doen dalen. Dit benadrukt dat veel modellen eerder leunen op oppervlakkige patronen dan op diepgaande logica.

    Onderzoekers van het MIT hebben een studie uitgevoerd om te meten hoe taalmodellen omgaan met vier soorten inhoudelijke verstoringen: irrelevante context, misleidende instructies, relevante maar niet-essentiële details, en een combinatie daarvan. In totaal werden 13 modellen getest, variërend van open-source tot commerciële systemen, op basis van 56 zorgvuldig geselecteerde probleemgevallen uit het GSM8K-dataset.

    De onderzoekers bewerkten de oorspronkelijke vragen door grote hoeveelheden irrelevante tekst, zoals Wikipedia-artikelen, toe te voegen die tot 90% van de contextruimte innamen. Ook werden instructies toegevoegd die subtiel de redeneerstap konden verstoren. Daarnaast testten ze hoe modellen reageerden op feitelijk correcte maar overbodige informatie, en op input waarbij meerdere verstoringen gecombineerd zijn.

    De grootste prestatiedalingen werden gezien bij de irrelevante context, met een gemiddelde afname van 55,89% in nauwkeurigheid. Misleidende instructies lieten een daling zien van 8,52%, terwijl relevante maar niet-essentiële informatie zorgde voor een achteruitgang van 7,01%. Opvallend genoeg was modelgrootte geen betrouwbare voorspeller van robuustheid; grotere modellen presteerden niet noodzakelijk beter. Dit wijst op fundamentele beperkingen in de manier waarop huidige modellen omgaan met complexe en vervuilde input.

  • Multimodale modellen hebben geen late fusie nodig: Apple-onderzoekers tonen aan dat early-fusion-architecturen schaalbaarder, efficiënter en modaliteits-agnostisch zijn.

    Multimodale modellen hebben geen late fusie nodig: Apple-onderzoekers tonen aan dat early-fusion-architecturen schaalbaarder, efficiënter en modaliteits-agnostisch zijn.

    16 april 2025

    Multimodale kunstmatige intelligentie staat voor fundamentele uitdagingen bij het integreren en verwerken van diverse soorten gegevens. Huidige methoden vertrouwen vaak op late-fusie, waarbij afzonderlijk getrainde modellen, zoals beeld- en taalmodellen, aan elkaar worden gekoppeld. Hoewel deze aanpak handig is, kan deze de vermogens van het model om diepe verbanden tussen modaliteiten te begrijpen beperken. Bovendien brengt het opschalen van zulke samengestelde systemen extra complexiteit met zich mee en belemmert het een efficiënte verdeling van rekenkracht.

    Onderzoekers van de Sorbonne Universiteit en Apple onderzochten alternatieve architecturen waarbij modellen vanaf nul worden getraind op multimodale data. Ze vergeleken vroege-fusie—waarbij de gegevens meteen gezamenlijk worden verwerkt—met late-fusie en ontdekten dat vroege-fusie efficiënter is. Beide benaderingen leveren vergelijkbare prestaties wanneer ze vanaf nul worden getraind, maar vroege-fusie biedt voordelen bij lagere rekenbudgetten en is makkelijker schaalbaar.

    De studie toonde aan dat vroege-fusie-modellen groeipatronen volgen die lijken op die van tekstmodellen, met slechts kleine verschillen afhankelijk van het soort data. Late-fusie-modellen bleken meer parameters nodig te hebben om optimaal te presteren. Vroege-fusie heeft dus voordelen qua efficiëntie en vereenvoudigt training, zeker wanneer het rekenvermogen beperkt is.

    Een belangrijke uitbreiding betrof het gebruik van Mixture of Experts (MoE)-architecturen. Hierbij worden specialistische submodules geactiveerd afhankelijk van de inputmodaliteit, zonder dat dit veel extra rekenkosten met zich meebrengt. Deze opzet levert aanzienlijke prestatieverbeteringen op vergeleken met dichte modellen, vooral bij kleinere modelgroottes.

    De analyse van opschalingswetten wees uit dat in sparse modellen de verhouding tussen getrainde tokens en actieve parameters bepalend is, waarbij tokenvolume belangrijker wordt naarmate compute-capaciteit toeneemt. Daarbij presteert een aanpak zonder expliciete routing per modaliteit consequent beter dan een modaliteitsgerichte benadering, wat indruist tegen eerdere aannames over specialisatie.

    Samengevat laten de onderzoekers zien dat native vroege-fusie-architecturen niet alleen efficiënter en beter schaalbaar zijn, maar ook betere prestaties leveren in multimodale taken. Deze bevindingen stellen de dominantie van late-fusie-modellen ter discussie en suggereren dat toekomstbestendige AI-systemen baat hebben bij unified modellen met dynamische parameterverdeling.

  • Sure! Here’s the translation of the phrase “Translate Code Implementation to Building a Model Context Protocol (MCP) Server and Connecting It with Claude Desktop” into Dutch:

Vertaal de code-implementatie naar het opzetten van een Model Context Protocol (MCP)-server en het verbinden ervan met Claude Desktop.

If you need further translation or technical localizations (e.g., for documentation, code comments, or UI elements), feel free to ask!

    Sure! Here’s the translation of the phrase “Translate Code Implementation to Building a Model Context Protocol (MCP) Server and Connecting It with Claude Desktop” into Dutch: Vertaal de code-implementatie naar het opzetten van een Model Context Protocol (MCP)-server en het verbinden ervan met Claude Desktop. If you need further translation or technical localizations (e.g., for documentation, code comments, or UI elements), feel free to ask!

    15 april 2025

    In deze praktische handleiding leer je hoe je een MCP-server (Model Context Protocol) opzet die het mogelijk maakt om live beursgegevens, zoals nieuws-sentiment en de grootste stijgers of dalers van de dag, op te halen via de AlphaVantage API. Omdat de meeste grote taalmodellen geen directe toegang hebben tot actuele financiële informatie, fungeert deze server als een brug tussen Claude Desktop en real-time data.

    Als eerste stap wordt de ontwikkelomgeving ingericht. Daarbij wordt de uv package manager geïnstalleerd, een nieuw project opgezet en een virtuele omgeving geactiveerd. Vervolgens worden de benodigde pakketten, zoals mcp, httpx en python-dotenv, geïnstalleerd om de communicatie met de API mogelijk te maken.

    Daarna volgt het aanmaken van een .env-bestand waarin de persoonlijke AlphaVantage API-sleutel wordt opgenomen. Deze sleutel is noodzakelijk om verzoeken bij de AlphaVantage-dienst te kunnen authentiseren. Het opzetten van deze variabelen gebeurt via een eenvoudige configuratie met behulp van dotenv.

    De kern van de implementatie zit in het programmeren van de MCP-server in Python. Twee tools, get_news_sentiment en get_top_movers, worden beschikbaar gesteld. Ze halen respectievelijk beursnieuws met sentimentanalyse en de grootste marktbewegingen op. Elke tool wordt via async-functies gekoppeld aan de AlphaVantage API met behulp van httpx-clients.

    Nadat het script is voltooid, wordt de server gestart via de uv-tool en gekoppeld aan Claude Desktop. Dit vereist een JSON-configuratiebestand binnen Claude, waarin het pad naar de MCP-server inclusief opstartcommando’s wordt geregistreerd. Zo weet Claude precies waar de server te vinden is en hoe deze in de achtergrond moet worden aangeroepen.

    Bij het gebruik van Claude voor Desktop worden gebruikersvragen – zoals nieuws over een aandeel of huidige marktbewegingen – automatisch doorgestuurd naar de juiste MCP-tool. De opgehaalde resultaten worden vervolgens omgezet naar een verstaanbare reactie. Dit maakt het mogelijk om binnen een gesprek actuele beursinformatie te raadplegen en daarop te reageren.