Okosabb-e a ChatGPT egy majomnál?
Gondoltál már arra, miközben a ChatGPT-vel beszélgettél, hogy a gép, ami pillanatok alatt ír verset, készít képet/videót vagy ír programkódot, miért omlik össze egy egyszerű logikai feladványtól? Vagy miért van az, hogy ha megtanítasz neki egy új szabályt a beszélgetés elején, tíz perccel később (de legkésőbb egy új beszélgetésben) már úgy tűnik, mintha sosem hallotta volna?
Hajlamosak vagyunk azt hinni, hogy a generatív AI egyfajta „szuperintelligencia”, pedig a valóságban sokszor még az alapvető logikai következtetésekkel is hadilábon áll. Olyannyira, hogy bizonyos helyzetekben még egy majom kognitív szintjét sem éri el.
Nemrég bukkantam egy friss és rendkívül izgalmas kutatásra az ARXIV-on (An AI Monkey Gets Grapes for Sure), ami nemcsak megmagyarázza ezt a jelenséget, de egy forradalmian új, geometriai alapú megoldást is kínál. Ez a technológia, ha elterjed, alapjaiban változtathatja meg azt, ahogyan az AI-t tanítjuk és használjuk.
A majom, a szőlő és a hallucináció
A kutatás rávilágít egy kényelmetlen igazságra: a mai legnépszerűbb modellek (LLM-ek) nem tudnak megbízhatóan logikusan gondolkodni. Míg egy állat (például egy majom) kiterjedt tréning nélkül is képes a kizárásos logikára – „ha a szőlő nincs az A dobozban, akkor a B-ben kell lennie” –, addig az AI modellek ezzel küzdenek. Vagy „hallucinálnak”, vagy ha megtanítják nekik az új szabályt, fellép az úgynevezett katasztrofális felejtés (catastrophic forgetting).
A kutatásban említett példában az Euler Net nevű modell hiába tanulta meg tökéletesen az új feladatot, közben az előző tudása szinte teljesen törlődött: a teljesítménye 100%-ról 6%-ra zuhant vissza.
Miért fáj ez nekünk, szakembereknek?
Számunkra azért érdekes ez a kérdés, mert a "katasztrofális felejtés" (catastrophic forgetting) és a modellek "fekete doboz" jellege az elsődleges oka annak, hogy a prompt engineering (prompt mérnökség) egyáltalán létezik, mint szakma.
Jelenleg a prompt írás nagyrészt arról szól, hogy megpróbáljuk „kicselezni” vagy „irányba állítani” a modellt, mert az alapvetően valószínűségekre épít, nem biztos tudásra. Azért kell bonyolult promptokat írnunk (pl.: "Gondold végig lépésről lépésre", "Viselkedj profi matematikusként"), mert a modell magától nem rendelkezik stabil logikai keretrendszerrel. Ha a modell hajlamos felejteni vagy keverni a szabályokat (ahogy a cikk írja: a klasszikus logika romlik, ha újat tanul), a prompttal kell folyamatosan "emlékeztetni" a helyes útra.
A prompt engineering egyik legnagyobb rémálma, amikor egy tökéletesnek hitt prompton változtatsz egy pici dolgot (pl. a stílust), és hirtelen összeomlik a válasz logikája. Ez azért van, mert a modell belső reprezentációja "zavaros", a tudás nem különül el élesen. (Példa: Ha megtanítasz egy modellt jogi szövegekre, előfordulhat, hogy hirtelen "elfelejt" kreatívan írni, vagy romlik a matematikai képessége. A prompt mérnöknek ezt kell trükkökkel kompenzálnia.)
Ráadásul, ugyanerre az okokra vezethető vissza a beszélgetés közbeni felejtés (context drift). A felhasználónak újra és újra be kell írnia a szabályokat a chatbe, mert a modell "kiesik a szerepéből".
Gömb Neurális Hálók
A megoldás: Gömbök a térben
A szerzők egy új geometriai módszert javasolnak (Gömb Neurális Hálók). Ahelyett, hogy rengeteg szövegből próbálná a gép „megsejteni” a választ, a fogalmakat (pl. „minden ember”, „halandó”) körökként és gömbökként ábrázolja térben. Ha két kör nem fedi egymást, akkor nincs átfedés a fogalmak között. Ez a rendszer 100%-os pontossággal működik és nem felejti el a régi szabályokat, amikor újakat tanul.
Ha a kutatásban bemutatott explicit modellkonstrukció (ahol a fogalmak geometriai gömbökként vannak tárolva) beépül a mindennapi AI-kba, az drasztikusan megváltoztatja a felhasználói élményt. Nőni fog a megbízhatóság, halandzsa és hallucináció mentessé válhat az érvelés. Ha a modell explicite érti a logikát, elég lesz egyszerűen, emberi nyelven közölni a tényeket, nem lesz szükség varázsige szerű szakszavak kutatására, vagy különféle prompt-keretrendszerek használatára.
Számomra ez a legizgalmasabb
Elérkezhet a felejtés nélküli tanulás kora. Építhetsz egy „Saját AI-t”, aminek megtanítod, hogy „nem eszem húst” vagy „rövid válaszokat kérek”, és ez a tudás hónapok múlva is stabil marad, anélkül, hogy rontaná a modell egyéb képességeit.
Ha ez megvalósul, az AI többé nem egy kreatív, de néha bolondos „művész” lesz, hanem egy megbízható mérnök, akinek a tudása stabil, bővíthető, és nem felejt.
A régi AI-k (GOFAI - Good Old-Fashioned AI) csak logikával működtek, de nem értették a nyelvet. A mostaniak (LLM) értik a nyelvet, de rosszak logikából. A jövő valószínűleg a kettő házassága: egy LLM, ami a nyelvet kezeli, és egy ilyen „Gömb háló”, ami a tényeket és a logikát ellenőrzi a háttérben (Neuro-szimbolikus AI).
Nyugi, ez csak kutatás...
Bár holnap még nem fogunk Gömb hálózatokkal csetelni a telefonunkon, ez a kutatás kijelöli az utat a GPT-5 vagy a GPT-6 számára.
Forrás: https://arxiv.org/html/2601.00142v1
