Forrás: SG.hu | 2024.03.04.

A világháló egy részét ma már a botok és az emberek számára olvashatatlan szemét uralja.

Idén januárban egy reggel Terry Hughes tengerkutató megnyitotta az X-et, és a Nagy-korallzátonyról szóló tweetekre keresett. "Minden nap figyelem, mit tweetelnek a zátonyról" - mondta Hughes professzor, a James Cook Egyetem vezető korallkutatója. Amit aznap talált, meglepte és összezavarta: botfiókok százai tweetelték ugyanazt a furcsa üzenetet, kissé eltérő megfogalmazással. "Hű, fogalmam sem volt róla, hogy a mezőgazdaság ilyen pusztító hatással lehet a Nagy-korallzátonyra" - tweetelte az egyik fiók, amely egyébként kriptovalutákat reklámozott. Egy másik kriptobot azt írta: "Hű, elkeserítő hallani, hogy Ausztrália milyen vízszennyezési kihívásokkal néz szembe". És így tovább. Több száz kripto fiók tweetelt a mezőgazdasági szennyvíz-elvezetésről. Egy hónappal később újra megtörtént, akkor a botok a Nagy-korallzátonyt fenyegető "tengeri hulladékról" tweeteltek.

Amikor Hughes professzor közzétette, hogy mit talált, egyesek dezinformációs összeesküvést láttak, egy kísérletet arra, hogy eltereljék a figyelmet az éghajlatváltozásról. A valószínű válasz azonban sokkal hétköznapibb, de messzebbre mutató következményei is vannak. Több mint egy év telt el azóta, hogy Elon Musk megvette az X-et azzal az ígérettel, hogy megszabadul a botoktól, de a szakértők szerint a probléma nagyobb, mint valaha. Az internet megtelik olyan "zombi-tartalmakkal", amelyeket arra terveztek, hogy kijátsszák az algoritmusokat és átverjék az embereket. Olyan hellyé válik, ahol botok beszélgetnek botokkal, és a keresőmotorok a mesterséges intelligencia által írt oldalakat indexelik fel. A szemét eltömíti a Google keresési eredményeit. Az Amazont elárasztja az értelmetlen e-könyvek áradata, a YouTube-nak pedig spam-problémája van. És ez csak a kezdet.

De előbb térjünk vissza a zátonyról beszélgető botokhoz. Timothy Graham, a Queenslandi Műszaki Egyetem hálózati szakértője a tweeteket egy sor bot- és MI-detektoron futtatta át. Megállapította, hogy a szöveg 100 százaléka mesterséges intelligencia által generált. "Összességében úgy tűnik, hogy egy kriptobot-hálózatról van szó, amely mesterséges intelligenciát használ a tartalom előállításához" - mondta. "Gyanítom, hogy ebben a szakaszban csak követőket próbál toborozni és tartalmakat ír, hogy eladhassák vagy más célra használhassák őket." Dr. Graham szerint ezek a botok nem is emberi felügyelet alatt állnak, hanem automatizált rutinokat hajtanak végre, amelyek célja, hogy kijátsszák a bot-felderítő algoritmusokat. Szerinte felesleges értelmet keresni a fecsegésükben. "Hughes professzor teljesen érthetően megpróbál értelmet találni bennük, de minél több figyelmet kapnak, annál hasznosabbak."

De a botbeszéd kakofóniája rontja az online beszélgetések minőségét, megzavarja az embereket és pazarolja az idejüket. "Itt van valaki, aki a legjelentősebb kutató ezen a téren, és azzal tölti az idejét, hogy megpróbálja kideríteni ezeknek a fiókoknak a működési módját". Ebben az esetben a botok egy másik bot tweetjére válaszoltak, amely viszont más botok tweetjeire válaszolt, és így tovább. Egyik hamis botfiók a másikra rakódott, mondta Dr. Graham. "Pedig csak mesterséges intelligenciával rendelkező botok voltak."

Januárban egy ChatGPT-hiba rávilágított az X botproblémájára. Rövid ideig néhány fiók a ChatGPT általános válaszát tette közzé azokra a kérésekre, amelyeket a platform a tartalmi politikáján kívül esőnek ítélt, így leleplezve őket, mint MI-t használó tartalomgenerátorokat. A felhasználók videókat tettek közzé, amelyek görgetett feedeket mutattak, számos fiókkal, amelyek mindegyikén az állt: "Sajnálom, de nem tudok választ adni a kérésére, mivel az sérti az OpenAl tartalomszabályzatát". "A Twitter valójában egy szellemváros" - írta az egyik felhasználó.

Az X botproblémájának valódi méretét azonban kívülállók számára nehéz megbecsülni. Nem sokkal azután, hogy Musk a botokra panaszkodás után megszerezte az irányítását, az X leállította a szabad hozzáférést azon programozási felülethez, amely lehetővé tette a kutatók számára, hogy tanulmányozzák ezt a problémát. Ez két lehetőséget hagyott a kutatóknak: fizetnek az adatokhoz való hozzáférésért vagy találnak valamilyen más módot. Tavaly év végén Dr. Graham és kollégái 7800 dollárt fizettek egy pályázati alapból, hogy elemezzék az első republikánus előválasztási vitát övező 1 millió tweetet. Azt találták, hogy a botprobléma minden eddiginél súlyosabb - mondta Dr. Graham.

Későbbi tanulmányok alátámasztják ezt a következtetést. A CHEQ kiberbiztonsági cég februárban három napon keresztül követte nyomon az X-től az ügyfelei weboldalaira irányuló botforgalom arányát. Megállapította, hogy az X-ről érkező forgalom háromnegyede hamis volt, míg a TikTok, a Facebook és az Instagram forgalmának kevesebb mint 3 százaléka. "Terry Hughes tapasztalatai jól példázzák, hogy mi folyik a platformon" - mondta Dr. Graham. "Anekdotikusan 10-ből egy tetszésnyilvánítás egy pornórobottól származik".

Mi értelme van tehát ezeknek a botoknak? Mit csinálnak? A kriptobotok növelik a keresletet bizonyos pénzek iránt, a pornóbotok ráveszik a felhasználókat, hogy fizessenek pornóoldalakért, a dezinformációs botok hamis hírekkel házalnak, más botok a közvélemény támogatásának látszatát keltik, és így tovább. Egyes botok pusztán azért léteznek, hogy növeljék az értük fizető ügyfelek követőinek számát és elkötelezettségi statisztikáit.

Az X botprobléma mértékét jelzi a botkészítés virágzó ipara. A világ minden tájáról származó botkészítők szabadúszó weboldalakon hirdetik szolgáltatásaikat. Awais Yousaf, egy pakisztáni informatikus 30 és 500 dollár közötti áron árul "ChatGPT Twitter botokat", összetettségtől függően. Egy interjúban a 27 éves gujranwalai fiatalember azt mondta, hogy olyan "teljes értékű" botot tud készíteni, amely "az Ön nevében lájkolni, kommenteket írni, üzenetekre válaszolni, vagy akár az Ön specifikációi alapján magával ragadó tartalmat készíteni". Yousaf karrierje végigkíséri a botkészítő gazdaság felemelkedését és az internetes hype egymást követő ciklusait. Miután öt évvel ezelőtt elvégezte az egyetemet, csatlakozott a "nagyon szegény háttérből" származó informatikai szabadúszók egyre növekvő pakisztáni közösségéhez.

Az első ügyfelek közül sokan olyan botokat akartak, amelyek az akkoriban nagy népszerűségnek örvendő kriptovalutákat népszerűsítik. "Aztán jött az NFT dolog" - mondta. Néhány évvel ezelőtt hallott az OpenAI GPT3 nyelvi modelljéről, és három hónapos szünetet tartott, hogy megismerkedjen a mesterséges intelligenciával. "Mostanra a botok majdnem 90 százaléka, amikkel foglalkozom, így vagy úgy kapcsolódik az MI-hez. "Ez lehet olyan egyszerű, mint amikor az emberek MI-posztokat tesznek közzé a fitneszre vonatkozóan, a motivációs ötleteken át akár a kriptovaluta-előrejelzésekig." Öt év alatt 120 Twitter botot készített. Arra a felvetésre, hogy Musk azt ígérte, hogy "legyőzi a spam botokat", Yousaf csak mosolygott. "Nehéz eltávolítani a botokat a Twitterről, mert a Twitter többnyire botokból áll".

Az X botproblémája talán rosszabb, mint más nagy platformoké, de nincs egyedül. Dr. Graham szerint az MI-tartalmak egyre növekvő "áradata" árasztja el azokat a platformokat, amelyeket "soha nem egy olyan világra terveztek, ahol a gépek beszélgetni tudnak az emberekkel". "Olyan ez, mintha egy gazdaságot vezetnél de még sosem hallottál volna a farkasról, aztán hirtelen új ragadozók jelennek meg a színen. "A platformok nem rendelkeznek megfelelő infrastruktúrával. A kapuk tárva vannak."

Az elmúlt hónapokban több példát is láthattunk erre. Írók arról számolnak be, hogy az Amazonon a könyveikről MI által generált utánzatok és összefoglalók jelennek meg. A Byword nevű vállalat azt állítja, hogy 3,6 millió kattintásnyi forgalmat lopott el egy versenytársától azáltal, hogy lemásolta a weboldalukat és 1800 cikket írt át mesterséges intelligencia segítségével. A SpinRewriter nevű mesterséges intelligencia eszköz lehetővé teszi a felhasználók számára, hogy egyetlen kattintással létrehozzák ugyanannak a cikknek 1000, egymástól kissé eltérő változatát, és egy fizetős bővítmény segítségével automatikusan annyi WordPress-oldalon tegyék közzé amennyin csak akarják. Emellett egy olyan eszközt is kínál, amellyel a felhasználók egyetlen vezérlőpultról annyi webhelyet kezelhetnek, amennyit csak akarnak.

Mindegyiknél ugyanaz a minta: csalók és spammerek úgy próbálnak pénzt keresni, hogy a mesterséges intelligencia segítségével hatalmas mennyiségű tartalmat pumpálnak ki, hogy a Google keresési találatok élére kerüljenek. Emiatt a Google keresési eredményei egyre rosszabbak - derült ki egy német kutatók által nemrégiben készített tanulmányból. A kutatók egy éven keresztül több ezer termékértékelő kifejezés keresési eredményeit vizsgálták a Google, a Bing és a DuckDuckGo keresőoldalain. Azt találták, hogy a magasabb rangsorolású oldalak általában alacsonyabb szövegminőségűek voltak, de jobban megtervezték őket a keresési rangsorolási algoritmus kijátszására. "Úgy tűnik, a keresőmotorok elveszítik a macska-egér játékot, ami a SEO spam" - írták a tanulmányban.

Matti Wiegman, a weimari Bauhaus Egyetem társszerzője szerint a mesterséges intelligencia által generált spamek megjelenésével ez a rangsorháború valószínűleg sokkal rosszabb lesz. "Ami korábban alacsony minőségű tartalom volt, azt ma már nagyon nehéz megkülönböztetni a jó minőségű tartalomtól" - mondta. "Ennek eredményeképpen nehéz lesz megkülönböztetni a hiteles és megbízható, hasznos és a nem hiteles tartalmakat". Hozzátette, hogy az MI által generált tartalom hosszú távú hatásait a keresőmotorokra nehéz megítélni. A mesterséges intelligencia által generált tartalom hasznosabbá teheti a keresést - mondta. "Az egyik lehetséges irány az, hogy a generált tartalom jobb lesz, mint az alacsony minőségű, ember által készített tartalom, amely egyes műfajokat ural a webes keresésben. Ebben az esetben a keresés hasznossága nőni fog" - mondta.

Vagy éppen az ellenkezője fog történni. Az MI által generált tartalmak elárasztják majd az olyan "sérülékeny tereket", mint a keresőmotorok és az olyan "műsorszóró jellegű" közösségi médiaplatformokat, mint az X. Helyettük az emberek a "fallal körülvett kertek", a kisebb számú, csak emberekkel foglalkozó, specializált fórumok felé fordulhatnak.

Erre a felmerülő problémára válaszul a platformok különböző stratégiákat próbálnak ki. A Meta nemrégiben bejelentette, hogy eszközöket fejleszt a Facebook, az Instagram és a Threads szolgáltatásain közzétett, mesterséges intelligencia által generált képek felismerésére és címkézésére. Az Amazon korlátozta a szerzőket, hogy naponta legfeljebb három könyvet tölthetnek fel az áruházába, bár a szerzők szerint ez nem oldotta meg a problémát. Az X néhány országban "Not a Bot" programot tesztel, ahol az új felhasználóknak évi 1 dollárt kér az alapfunkciókért. Ez a program az X ellenőrző rendszerével párhuzamosan működik, ahol a felhasználók havonta 8 dollárt fizetnek azért, hogy ellenőrizzék személyazonosságukat, és kapjanak egy kék pipát.

Úgy tűnik azonban, hogy a botkészítők megtalálták a módját, hogy ezt megkerüljék. A Hughes professzor által talált összes zátonyra futó kriptobot ellenőrzött fiók volt. "Ez olyan rendetlenség a platformon, amire nincs szükség. Bárcsak eltakarítanák" - mondta a korallkutató. "Mindenki csak az idejét pazarolja."