De wapenwedloop tussen technologiebedrijven op het gebied van AI-modellen is de afgelopen twee weken aanzienlijk toegenomen. OpenAI onthulde GPT-4o onmiddellijk voordat Google een aantal Gemini-verbeteringen aankondigde. Daarna kondigde Microsoft een aantal Copilot+ pc’s aan, samen met eigen AI-verbeteringen.
Maar terwijl dat allemaal aan de hand was, zorgde Meta zelf voor de AI-zaken. Het bedrijf rustig vrijgelaten A onderzoekspapier over haar inspanningen op het gebied van multimodale AI. Gespot door Venture-beatlaat het artikel zien dat Meta werkt aan een multimodaal groottaalmodel genaamd Chameleon.
Dat moet niet worden verward met het generatieve AI-model CM3leon (uitgesproken als Chameleon) dat Meta AI afgelopen zomer onthuld. Meta AI zei in zijn blogpost dat het CM3leon-model zou leiden tot verbeteringen op toekomstige LLM’s.
Het onderzoeksartikel beweert dat Chameleon state-of-the-art is en gelijkwaardig is aan of concurreert met andere modellen zoals Gemini, GPT-4 en Meta’s eigen Llama-2.
Net als Google’s Gemini is Chameleon gebouwd op een “early-fusion token-based mixed-modal” architectuur. Dit betekent dat het model vanaf het begin is gebouwd om te leren van een combinatie van afbeeldingen, code, tekst en andere invoer, en dat het die inhoud gebruikt om reeksen te creëren.
De andere manier om een multimodale architectuur te bouwen is door een aantal modellen aan elkaar te naaien die op één enkele modaliteit zijn getraind. Dit wordt ‘late fusie’ genoemd. In wezen neemt het AI-systeem inpiduele modellen en voegt deze samen om conclusies te trekken. Late fusie werkt blijkbaar goed, maar kan beperkend zijn in het vermogen van de AI om informatie te integreren.
In het artikel zeggen de auteurs dat Chameleon het meest lijkt op Google’s Gemini, die op een vergelijkbare manier is gebouwd. In tegenstelling tot Gemini zeggen de onderzoekers echter dat Chameleon een end-to-end-model is.
Als de beweringen en tests van het artikel waar zijn en kunnen worden gerepliceerd, lijkt het erop dat het Chameleon-model overeenkomt met of beter is dan veel van de AI-modellen die vandaag de dag beschikbaar zijn.
Een interessante rimpel in de beweringen over Chameleon is dat Mark Zuckerberg en Meta het grootste deel van dit jaar open source als de toekomst hebben gepromoot. De reeds bestaande Llama 3 is open source en zal naar verwachting in juli een grote update krijgen. Meta heeft zojuist ook het Quest-headsetbesturingssysteem opengesteld voor hardwarefabrikanten.
Het artikel geeft niet aan of en wanneer Meta dit nieuwe model zou kunnen uitbrengen. Publiekelijk heeft Meta hard gewerkt aan de nieuwste versie van de Llama-assistent. Llama 3 is eind april live gegaan op Facebook, Instagram en WhatsApp.
- Ik heb eindelijk een live demo van ChatGPT-4o Voice gezien – het is in ieder geval onderhyped
- Microsoft Build 2024: de grootste AI-aankondigingen en wat ze voor u betekenen
- Gemini Live — welke functies zijn nu beschikbaar en wat komt binnenkort