Te is megköszönöd az AI-nek, ha segít?

A mesterséges intelligenciával való kommunikáció során sokan természetesnek veszik, hogy udvariassági formulákat, például „köszönöm”-öt írnak. Bár emberi szempontból ez kedves gesztus, az üzemeltetők nem örülnek ennek. Technológiai oldalról nézve minden egyes szó számítási kapacitást igényel – és ez pedig pénzbe kerül. 

Miért „drága” a köszönöm a mesterséges intelligenciának?

Ha valaki segít, megköszönjük – ez egy alapvető emberi gesztus. Ugyanez az ösztön vezet sokakat arra, hogy a mesterséges intelligenciával való beszélgetés végén odabiggyesszék a „köszönöm”, „légy szíves” vagy éppen a „szép napot kívánok” fordulatokat. De az utóbbi időben egyre többször hallani, hogy ezek az udvariassági formák – bármennyire is ártalmatlannak tűnnek – felesleges költségeket okoznak az AI rendszerek üzemeltetőinek.

Ez elsőre furcsának tűnhet. Miért jelentene többletköltséget egyetlen szó vagy mondat egy chatbotnak? Ehhez meg kell értenünk, hogyan működik a mesterséges intelligencia technológiai háttere, és hogyan számlázzák annak használatát.

Tokenek és költségek

A modern nyelvi modellek – mint például a ChatGPT vagy más generatív mesterséges intelligenciák – tokenekben számolják a szövegeket. Egy token nem pontosan egy szó: lehet egy teljes szó, de gyakran csak szótag vagy szórészlet. Nagyjából 3-4 token tesz ki egy átlagos angol mondatot, magyarul pedig még több is lehet.

Amikor beírsz egy kérdést, és az AI választ ad, a rendszer minden egyes token feldolgozásáért számítási kapacitást használ. Ez a folyamat komoly erőforrásokat igényel: speciális hardvereket (például GPU-kat), nagy mennyiségű villamos energiát, szoftveres infrastruktúrát – és mindez pénzbe kerül. Fogalmazhatun úgy is, hogy a mesterséges nyelvi modellek pénzneme a token. Ebben mérik a költségeket. A tokeneknek, pedig valós pénzben mérhető értéke van és akkor máris helyben vagyunk.

Az OpenAI például úgy számláz, hogy az árakat tokenalapon határozza meg. Egy nagyvállalat, amely napi több százezer kérdést dolgoztat fel egy AI-val, akár millió tokenes napi forgalmat is generálhat. Ha minden lekérdezés végére bekerül egy „Köszönöm szépen, ez nagyon hasznos volt!”, az plusz 5–10 token – szorozva akár több millióval. Így máris érzékelhető, hogy az udvariasság tömeges szinten mérhető költséget jelent.

Egy átlagos felhasználónál természetesen nincs jelentősége néhány plusz tokennek. De amikor az AI-t integrálják ügyfélszolgálatokba, terméktámogatási rendszerekbe vagy belső vállalati asszisztensekbe, ott már más a helyzet.

Akkor most ne is legyünk udvariasak?

A kérdés jogos. Ha egy emberrel beszélgetünk, természetes, hogy megköszönjük a segítséget. De egy AI esetében nincs érzelmi válasz – a rendszer nem „örül” a köszönetnek, nem sértődik meg, ha elmarad. Az udvariasságot tehát inkább a felhasználó számára jelenti a komfortérzet, nem a rendszer számára.

Ezért egyéni használat során természetesen semmi baj nincs azzal, ha valaki szeretne udvarias lenni – sőt, sok felhasználónak ez teszi barátságosabbá a technológiát. Viszont ahol az üzemeltetési költségek számítanak, ott praktikusabb lehet elhagyni a felesleges szavakat.

Sam Altman, az OpenAI vezérigazgatója viccesen megjegyezte, hogy a „please” és „thank you” kifejezések használata akár tízmilliós pluszköltséget róhat a cégre – ráadásul nem csupán pénzügyileg, hanem környezeti szempontból is. Ugyanakkor Altman úgy fogalmazott, hogy

Tens of millions of dollars well spent

vagyis dollár milliókba kerül az udvariaskodás, de ez jól elköltött pénz. Miért is? Mert az AI modell tanul. Az udvariassági formulákból is tanul és mivel nekünk embereknek egy beidegződés (na jó legtöbbünknek) az udvariasság, a gép ezt is megtanulja, és a válaszai is udvariasak lesznek. Ettől mi fogadjuk a gépet a bizalmunkba és így szívesebben elbeszélgetünk egy udvarias válaszadóval.

A TechNow a „Please & Thank you” címmel elemzi az extra tokenek hatását: kiszámolták, a GPT-4-nél akár 0,14 kWh/100 szó, ami számottevő lehet globális használaton.

Szóval a „köszönöm” a digitális térben is szép gesztus, de mesterséges intelligenciák esetében minden szó számít – szó szerint is, anyagilag is. Bár egyéni felhasználásban nem okoz gondot, vállalati vagy ipari környezetben akár jelentős többletköltséget is eredményezhetnek ezek az udvariassági formulák. Így amikor legközelebb beszélgetünk egy ilyen nyelvi modellel tartsuk szem előtt a számítógép nem fog megsértődni, de az üzemeltető pénztárcája igen.