20 april 2025
De integratie van kunstmatige intelligentie in bedrijfsomgevingen zorgt voor een groeiende vraag naar modellen die flexibiliteit, efficiëntie en transparantie combineren. Bestaande oplossingen slagen er vaak niet in aan al deze vereisten te voldoen. Open-source modellen missen soms domeinspecifieke mogelijkheden, terwijl commerciële systemen restricties hebben op het gebied van aanpasbaarheid of toegankelijkheid. Dit leidt vooral tot knelpunten bij toepassingen zoals spraakherkenning, logisch redeneren en retrieval-augmented generation (RAG), die doorgaans last hebben van gefragmenteerde technologie en incompatibele toolchains.
IBM heeft Granite 3.3 gelanceerd, een reeks open foundation modellen gericht op zakelijke toepassingen. Deze versie biedt verbeteringen op het gebied van spraakverwerking, redeneervermogen en informatieopvraging. Granite Speech 3.3 8B is het eerste open model van IBM dat zowel spraak-naar-tekst als automatische spraakvertaling ondersteunt. Het model levert een nauwkeurigere transcriptie en betere vertalingen dan systemen gebaseerd op Whisper en is geoptimaliseerd voor lange audiofragmenten.
Granite 3.3 8B Instruct breidt de basismogelijkheden verder uit met ondersteuning voor ‘fill-in-the-middle’ tekstgeneratie en verbeterd symbolisch en wiskundig redeneren. Op benchmarks zoals MATH500 presteert het model beter dan andere modellen van vergelijkbare schaal, waaronder Llama 3.1 8B en Claude 3.5 Haiku.
De onderliggende architectuur van Granite Speech 3.3 8B is modulair, met een spraakencoder en LoRA-gebaseerde audio-adapters. Hierdoor is efficiënte domeinspecifieke fine-tuning mogelijk zonder verlies van generaliseerbaarheid. De Instruct-versie omvat ook vijf LoRA-adapters gericht op RAG-taken, wat externe kennis beter integreert en de feitelijke juistheid van gegenereerde antwoorden verhoogt.
Een opvallende innovatie is adaptive LoRA (aLoRA), die de eerder gebruikte key-value cache hergebruikt tijdens inferentiesessies. Dit vermindert geheugenverbruik en vertraging, vooral bij streaming of meerstaps retrieval. Het systeem biedt zo een effectieve balans tussen prestaties en middelengebruik in retrieval-intensieve toepassingen.
Granite 3.3 toont aanzienlijke verbeteringen binnen spraakherkenning en vertaling, alsook in logisch redeneren. Alle modellen met bijbehorende LoRA-versies zijn open-source beschikbaar gesteld en kunnen worden ingezet via IBM’s eigen platform of externe tools. Deze release weerspiegelt IBM’s inzet voor open en schaalbare AI-oplossingen voor zakelijke toepassingen.
Geef een reactie