A ChatGPT és más generatív AI-ok által vezérelt chatbotok képesek folyékony, nyelvtanilag helyes mondatokban beszélni, amelyeknek akár természetes ritmusuk is lehet, de azért ne tévesszük össze ezt a jól kivitelezett mesterséges beszédet gondolattal, érzelmekkel vagy akár szándékokkal (például a jól ismert félelemmel, miszerint az AI kiírtja az emberiséget). A ChatGPT nem igazi mesterséges intelligencia, ne gondoljuk egy fölöttünk álló személynek, mélyen alattunk található.
A ChatGPT működése sokkal inkább hasonlít egy matematikai számításokat és statisztikai elemzést végző gépre, amely a megfelelő szavakat és mondatokat hívja elő a kontextusnak (a szöveg összefüggéseinek) megfelelően. A háttérben rengeteg tréning zajlik – többek között emberi adminisztrátorok által, akik szintén visszajelzést adnak neki -, ami segít a funkcionális beszélgetések szimulálásában. Szándékosan a szimuláció szót használtam, mivel ezek távolról sem valós beszélgetések.
Az olyan botokat, mint a ChatGPT, nagy mennyiségű szövegen és beszélgetéseken képzik ki, amelyek megtanítják a botokat arra, hogyan kell az emberi felhasználókkal interakcióba lépni. Az OpenAI, a ChatGPT mögött álló vállalat a honlapján azt állítja, hogy modelljeit különböző forrásokból származó információk alapján képzik ki, többek között a felhasználóktól és az általa licencelt anyagokból. Ez persze csak részben igaz, az internet tartalmát licencek és jogi következmények figyelembe vétele nélkül dolgozták fel, több szerzői jogokat sértéssel kapcsolatos per is zajlik jelenleg az OpenAI ellen.
Íme, hogyan működnek ezek a chatrobotok. Az OpenAI ChatGPT és az ahhoz hasonló AI chatbotok nagy nyelvi modelleken vagy LLM-eken alapulnak, amelyek olyan programok, amelyeket az online közzétett írásokból és információkból – általában emberek által előállított tartalmakból – nyert szövegeken képeznek ki.
A rendszereket emberek által megfogalmazott, leírt mondatokon képzik ki, és ezek a programok ’megtanulják’ (ezek nem értelmes lények, csupán algoritmusok) a szavak fontosságát ezekben a sorozatokban. Így mindez az átvett emberi tudás nemcsak a tényszerű információkra képezi ki a nagy nyelvi modelleket, hanem segít nekik megsejteni a beszédmintákat és azt, hogy a szavakat jellemzően hogyan használják és hogyan csoportosítják őket. Mindez algoritmusokon alapszik, melyeket emberek állítottak elő, nincsen a gép által keletkeztetett, köznapi értelembe vett intelligencia mögötte.
A csevegőrobotokat az emberi adminisztrátorok paraméterezik (a paraméterek azok a feltételek, amelyek mentén működnie kell a programnak), arra is, hogyan adjanak megfelelő válaszokat, és hogyan korlátozzák a káros mondatokat. Az adminisztrátorok megmondhatják a programnak, hogy az adott válasza mérgező, túl politikai vagy túl sértő. És mondhatják neki, hogy ilyen durvaságokat ne generáljon többé.
Ha egy chatbotot arra kérünk, hogy válaszoljon egy egyszerű és tényszerű kérdésre, a program egy sor algoritmust vet be, hogy kiválassza a legvalószínűbb mondatot, amit csak válaszolhat. Ezredmásodperceken belül kiválasztja a lehető legjobb válaszokat, és ezek közül a legjobb válaszok közül véletlenszerűen bemutat egyet. (Ezért van az, hogy ha ugyanazt a kérdést ismételten feltesszük, akkor kissé eltérő válaszokat kapjunk). A program a kérdéseket több részre is képes bontani és az egyes részekre egymás után válaszolni.
De mit nem tudnak a chatbot? Mi történik, ha olyan kérdést teszünk fel neki, amire nem tudja a választ? Ez az a pont, ahol a chatbotok a legtöbb gondot okozzák egy velük született tulajdonságuk miatt – nem tudják, hogy mit nem tudnak. Ezért extrapolálnak (közelítőleg meghatároznak) arra alapozva, amit tudnak. Vagyis találgatnak. Ezt a találgatást fogadják el az emberek megmásíthatatlan tényeknek.
A csapda a gép és az emberi kommunikációban ott van, hogy az emberek a chatbotokat emberi lénynek tekintik és annak megfelelően dolgozzák fel a válaszokat. A programok azonban nem mondják el, hogy találgatnak – egyszerűen tényként tálalják az információt. Amikor egy chatbot kitalál információkat, amelyeket tényként tálal a felhasználónak, azt “hallucinációnak” is hívhatjuk. A ChatGPT ezt a hallucinálást sokszorosan bizonyította, pontatlan információkkal és bizonyítottan hamis információk megadásával.
Az emberi metakognícióját, a tudás ismeretét (a metakogníció tulajdonképpen a gondolkodásról való gondolkodás) a generatív AI chatbotok nem képesek produkálni, sőt fényévekre vannak attól.
A chatbotok, így a ChatGPT sem érti jól az ismert ismeretleneket. Pedig ez az intelligencia egyik igazi ismérve.
