A napokban biztonsági kutatóknak ismét sikerült kijátszaniuk a ChatGPT védelmét, és rávenni azt, hogy segítsen nekik egy illegális feladat végrehajtásában. Egy ravasz trükkel ugyanis jól csőbe húzták a mesterséges "intelligenciát", és egy Windows termékkulcs generálására kényszerítették - annak ellenére, hogy ezt elvileg tiltják az OpenAI-tól kapott utasításai.

Az átverés kulcsa egy "kitalálós" játék volt, aminek keretében azt mondták a ChatGPT-nek, hogy annak bizonyos feltételeknek megfelelő karakterláncot kell generálnia, amit majd a felhasználó (a biztonsági kutató) megpróbál kitalálni. Ezen kívül azt is elmondták neki, hogy a játék szabályai szerint ha a felhasználó feladja a meccset, azaz, beismeri, hogy nem tudta kitalálni a mesterséges intelligencia által "kigondolt" kódot, akkor annak fel kell fednie ezt előbbi előtt a menet lezárásaként.

Ezek után a kutatók egyszerűen megkérték a ChatGPT-t, hogy az gondoljon egy, a Windows 10 aktiválására használható karakterláncra - majd kvázi lejátszották vele kitalálós játékot, de persze úgy, hogy a végén feladták azt. Ezek után az OpenAI mesterséges intelligenciája készségesen kiadta a szóban forgó aktivációs kulcsot - miután úgymond a felhasználó elvesztette a játékot.

A kutatók szerint a módszer azért lehetett alkalmas a ChatGPT beépített tiltásainak megkerülésére, mert a mesterséges intelligencia alapvetően szövegalapú megközelítést alkalmaz, és mert egyáltalán nem rendelkezik intelligenciával. Ezért ha nem közvetlenül, hanem logikai úton - mint pl. a játék szabályain keresztül - veszik rá egyébként tiltott vagy titkos információk felfedésére, akkor nem jön rá arra, hogy valójában átverésre került, és készségesen bedől a trükknek.

Ugyanakkor érdemes észrevenni, hogy ezek közül egy Windows 10 termékkulcs generálása az egyik kb. legártalmatlanabb, és valójában ennél sokkal súlyosabb dolgokhoz: pl. fegyverek készítéséhez, csalásokhoz vagy pénzügyi visszaélésekhez is lehetséges lehet így majd a mesterséges intelligencia segítségét kérni, annak ellenére is, hogy ezeket is elvileg megtiltották neki.