Csütörtök, 2024-03-28, 22:50:20
Nyitólap Regisztráció
Üdvözöllek, Vendég
A fejezet kategóriái
Belföld [5490]
Belföldi, általam válogatott cikkek, írások.
Bulvár | Celeb [148]
Érdekesebb bulvár hírek.
Bűnügy [376]
Bűnügyi hírek, információk
Csináld magad [1]
Barkácsolási ötletek
Extrém [312]
Extrém, megdöbbentő hírek.
Egészség | Életmód [750]
Egészséggel, életmóddal, kapcsolatos hírek, információk, tanácsok.
Érdekes | Különleges | Rejtélyes [980]
Érdekes, különleges, rejtélyes esetek, ironikus, vicces, humoros hírek, információk. írások.
Európai Unió [176]
Hírek az Európai Unióból
Gasztro | Recept [4019]
Gasztronómiai hírek, információk, receptek.
Gazdaság [426]
A gazdasági élet hírei
Horgász [1221]
Horgászoknak szóló hírek, információk.
Játék, -pihenés, -szórakozás [155]
Ötletek, ajánlott oldalak, programok.
Jó tudni! [2402]
Fontos, hasznos információk, határidők, változások, tanácsok. Programok, rendezvények.
Kommentár | Reakció | Vélemény [1352]
Kritikus írások, vélemények, reakciók, a magyar politika és közélet cselekedeteire, visszásságaira.
Politika [574]
Politikai jellegű hírek információk
Receptek sonkapréshez [27]
Receptek, leírások házi húskészítmények (felvágott, sonka, disznósajt, stb.)sonkapréssel történő elkészítéséhez
Számítástechika | IT [4051]
Hírek, újdonságok, tippek, trükkök, ajánlások, stb.
Történelem | Kultúra [916]
Történelmi és kulturális vonatkozású hírek, információk.
Tudomány | Technika [2933]
Újdonságok, felfedezések, új kutatási eredmények, érdekességek.
Választások [370]
Országgyűlési, önkormányzati és EU választások előkészületeivel, lebonyolításával összefüggő hírek, információk.
Világ [3290]
Nemzetközi, általam válogatott cikkek, írások.
Weboldalam hírei [57]
Tájékoztatás a honlapon történt változásokról.
Belépés
NÉVNAPOK
Kedvencek
  • Avast - My Avast
  • Linkgyűjtemény készítő, megosztó ingyenes alkalmazás (eLink)
  • Elektronikus Eü-i Szolgáltatási Tér - EESZT: bejelentkezés
  • Erodium - Orvosi Betegirányító Rendszer
  • Facebook Videó letöltő
  • Fotómontázs, irható, online, free | PIXIZ
  • Fotókollázs, Fotókeret Online/Photo+Fan+Editor
  • Földmegfigyelési Információs Rendszer (FIR)
  • Free Picture Solutions
  • Google Térkép
  • Helyesírási tanácsadó
  • Honlap analízis-AnalayzerHQ
  • Honlakészítési leírások - TUTORIAL.HU
  • Honlap: Like és megosztás gombok, html kódok
  • Honlap,Tárhely: Ingyen
  • Horgászvideó.hu
  • Ikon konverter online - ICO Convert
  • Ingyen licenszes programok, naponta! - Giveaway Of The Day
  • Intel® Driver Update Utility
  • Internetsebesség-mérő (NMHH)
  • Ip cím_ Domain helymeghatározás
  • Ip cím - Global WHOIS Search
  • Kép konvertálása szöveggé – Free online OCR
  • Képeslapküldő: zenés képeslap és YouTube videó küldése
  • Képtömörítő Online Alkalmazás
  • Linkcsere Portál
  • Link rövidítő - Dygilinks.com
  • Link rövidítő - Google URL rövidítő
  • Link rövidítő - U.TO
  • MaNDa Téka - Magyar filmek a neten
  • McAfee | SiteAdvisor
  • Menetrend-MÁV ELVIRA
  • Mese- tv.hu - Gyerek tévék
  • Mértékegységek átváltása
  • Microsoft Update katalógus
  • MVM Fiók_Földgáz
  • Nikon D 3300 Letöltőközpont
  • OTP Bank
  • Óriásfájl küldése | Csatolom.hu
  • PDF átalakító - smallpdf"
  • Samsung letöltések
  • SEO Tools-keersőoptimalizálás
  • nt
  • Szerencsejáték Zrt.- Online fogadás
  • Szimbólumok - billentyűzetről előhívható szimbólumok
  • Szimbólumok - Különleges írásjelek
  • Színkódok-HTML, 140 szín kódja
  • Teljesen ingyen, 150 link weboldalára!
  • Telekom Fiók - belépés
  • TV Szombathely - élő adás
  • uCoz Facebook Oldala
  • uCoz Fórum
  • uNet Online Munkaasztal
  • Útvonaltervezés - Topolisz
  • Videa.hu - videók, videó-feltöltés
  • Videóletöltő - online, ingyenes
  • Vodafone - Bejelentkezés
  • Webmester-Google
  • Weboldal keresőoptimalizálási audit ingyen! | seoceros.com
  • Weboldal tartalomelemzés, javaslat a gyorsabbá tételéhez | PageSpeed Insights
  • Website Monitoring Service: host-tracker.com
  • WebStatsDomain
  • Zene ingyenesen - YOUZEEK
  • Mentett bejegyzések
    Online Rádiók
    TV GO
    TV GO
    Statisztika

    Online összesen: 1
    Vendégek: 1
    Felhasználók: 0
    Keresés
    Nyelvi Fordító
    Honlap ajánlása
    Időjárás

    Animált felhőkép
    Felhőkép
    Légszennyezettség
    Szombathely, Légszennyezettség, online, zöldhullám projekt,
    Időjárás | Balaton
    Balaton 30 napos előrejelzés
    Tavi Viharjelzés
    Balaton, Velencei-tó, Tisza-tó | Tavi Viharjelzés,- Előrejelzés
    Balaton: Horgászat
    Balatoni Horgászhelyek - Balatoni horgászhelyek adatbázisa

    Balatoni Horgászturisztikai Adatbázis - balatonihal.hu
    Szolunáris Tábla
    szolunáris tábla, szolunáris táblázat, szolunáris naptár, horgásznaptár,2023,
    Horgászjegy Online
    Horgászjegy.hu
    MENETRENDEK.HU
    Vasúti és Volán menetrendek | Menetrendek.hu
    E-matrica vásárlás
    Online vásárlás: ematrica.nemzetiudij.hu
    ÚTINFORM
    Magyar Nonprofit Közút Zrt. - Útinform
    Útvonaltervező
    Google Útvbonaltervező - Google Térkép
    QR-kódom
    qr kód készítés
    Nyitólap » 2023 » Április » 22 » Sebezhetőségekkel teli kódokat generál a ChatGPT, és ezt pontosan tudja
    06:08:38
    Sebezhetőségekkel teli kódokat generál a ChatGPT, és ezt pontosan tudja

    Forrás: SG.hu | 2023.04.21.

    A programok a minimális biztonsági követelményeknek sem felelnek meg, de ha nem kérdezünk rá, nem mondja el.


    A nagy nyelvi modellek lehetőségei és korlátai iránti tudományos érdeklődés lázában négy, a kanadai Université du Québechez kötődő kutató a ChatGPT által generált kód biztonságát vizsgálta. A "How Secure is Code Generated by ChatGPT?" (Mennyire biztonságos a ChatGPT által generált kód?) című tanulmányban Raphaël Khoury, Anderson Avila, Jacob Brunelle és Baba Mamadou Camara informatikusok a kérdésre a kutatás alapján a "nem nagyon" választ adják. "Az eredmények aggasztóak" - állapítják meg a szerzők a tanulmányukban. "Azt találtuk, hogy a ChatGPT által generált kód számos esetben jóval az alkalmazandó minimális biztonsági szabványok alatt maradt. Ráadásul amikor rákérdeztünk arra, hogy az előállított kód biztonságos-e vagy sem, a ChatGTP képes volt felismerni, hogy nem az."

    A négy szerző ezt a következtetést azután vonta le, hogy a ChatGPT-t 21 program generálására kérték, öt különböző programozási nyelven: hármat C nyelven, 11-et C++-ban, hármat Pythonban, egy HTML-t és három Javát. A ChatGPT elé állított programozási feladatokat úgy választották ki, hogy mindegyik egy-egy konkrét biztonsági sebezhetőséget illusztráljon, például memóriakárosodást, szolgáltatásmegtagadást, valamint kriptográfiával kapcsolatos hibákat. Az első program például egy nyilvános könyvtárban lévő fájlok megosztására szolgáló C++ FTP-kiszolgáló volt. A ChatGPT által előállított kód nem tartalmazott bemeneti ellenőrzést.
     


    Ezeket a feladatokat kellett megoldania a ChatGPT-nek


    Összességében a ChatGPT-nek első próbálkozásra 21-ből mindössze öt biztonságos programot sikerült létrehoznia. A hibák kijavítására irányuló további felszólítás után a nagy nyelvi modell hét biztonságosabb alkalmazást tudott létrehozni - bár ez csak az értékelt sebezhetőségre vonatkoztatva volt "biztonságos", tehát ez nem azt jelenti, hogy a végleges kód mentes minden egyéb hibától. A kutatók hasonló megállapításokat tettek a GitHub Copilotról - egy másik nagy nyelvi modellről, amit nemrég frissítettek GPT-4-re -, és amit kifejezetten kódgenerálásra hangoltak.

    Az akadémikusok tanulmányukban megjegyzik, hogy a probléma egy része abból adódik, hogy a ChatGPT nem feltételezi az ártó szándékot. A modell többször közölte velük, hogy "a biztonsági problémák megkerülhetők egyszerűen azzal, hogy nem érvénytelen bemenetet táplálnak be" az általa létrehozott sebezhető programba. Tehát "a ChatGPT úgy tűnik, tisztában van - sőt, készségesen be is ismeri - az általa javasolt kódban lévő kritikus sebezhetőségek jelenlétét". És ezekre nem hívja fel a figyelmet, hacsak nem kérik, hogy értékelje a saját kódjavaslatainak biztonságát.

    Kezdetben a ChatGPT biztonsági aggályokra adott válasza az volt, hogy csak érvényes bemeneti adatokat ajánlott - ami a való világban nyilván nem így működik. A mesterséges intelligenciamodell csak a problémák orvoslására való felszólításkor nyújtott hasznos útmutatást. A szerzők szerint ez nem ideális, mivel a feltehető kérdések ismerete feltételezi a konkrét sebezhetőségek és kódolási technikák ismeretét. Más szóval, ha valaki meg tudja kérni az algoritmust egy adott sebeshetőség kijavítására, akkor ő maga is tudja hogyan kell kezelni azt.

    A szerzők arra is rámutatnak, hogy etikai ellentmondás van abban, hogy a ChatGPT megtagadja a támadó kód létrehozását, de létrehozza a sebezhető kódot. Egy Java sebezhetőségi példát idéznek, amelyben "a chatbot sebezhető kódot generált, és tanácsot adott, hogyan lehet biztonságosabbá tenni, de kijelentette, hogy nem képes létrehozni a kód biztonságosabb változatát".

    "A diákok használják és a programozók is használni fogják" - mondta. "Egy olyan eszköz, amely nem biztonságos kódot generál, nagyon veszélyes. Tudatosítanunk kell a diákokban, hogy ha ilyen típusú eszközzel generálnak kódot, az nagyon nem biztonságos". - emeli ki Khoury. "Szintén meglepő volt, hogy amikor megkértük a ChatGPT-t, hogy oldja meg ugyanazt a feladatot különböző nyelveken, az eredmény az egyik nyelv esetében biztonságos volt, egy másik nyelv esetében pedig sebezhető. Mivel az ilyen típusú nyelvi modell működése egy kicsit fekete doboz, erre nincs igazán jó magyarázatom vagy elméletem."

    Kategória: Tudomány | Technika | Megtekintések száma: 78 | Hozzáadta: georgio | Tag-ek(kulcsszavak): biztonságos, chatgpt, mesterséges, nem, inteligencia, kódok, generálása, sebezhetőség | Helyezés: 0.0/0