API ključ ChatGPT-a potpuno otvoren za kreiranje melvera

Istraživači za bezbednost iz firme Check Point Research rekli su da su hakeri razvili način da zaobiđu ograničenja ChatGPT-a i da ga koriste za prodaju usluga koje omogućavaju sajber kriminalcima da kreiraju malver i phishing mejlove.

Ovaj metod funkcioniše koristeći ChatGPT API, a ne veb interfejs.
ChatGPT čini API dostupnim programerima kako bi mogli da integrišu AI bot u svoje aplikacije, uključujući i Telegram kanale.
Ispostavilo se da API verzija ne nameće ograničenja sadržaja i omogućava vam da slobodno kreirate zlonamerni sadržaj kao što su phishing e-poruke i zlonamerni kod.

Korisnik na jednom forumu sada prodaje uslugu koja kombinuje ChatGPT API i Telegram mesindžer.
Prvih 20 zahteva je besplatno, zatim 5,50 dolara za svakih 100 zahteva.

Oglas za Telegram bota koji koristi ChatGPT za generisanje zlonamernog sadržaja

Istraživači kompanije Check Point testirali su način da zaobiđu ograničenja i kao rezultat toga sastavili su phishing email i skriptu koja krade PDF dokumente sa zaraženog računara i šalje ih napadaču preko FTP-a.

„Fišing“ e-pošte i zlonamerni kod za krađu PDF-a koji generiše ChatGPT

Pored toga, drugi članovi foruma besplatno objavljuju malu bash skriptu koja zaobilazi ograničenja ChatGPT-a i koristi je za razne zlonamerne aktivnosti, kao što je razvoj malvera.

Bash skripta za zaobilaženje ograničenja ChatGPT-a

Kada će se oglasiti OpenAI

Predstavnici OpenAI, kompanije koja je razvila ChatGPT, nisu odgovorili na pitanje da li je kompanija upoznata sa rezultatima studije i da li planira da promeni API.

Pored toga, istraživači iz kompanije Check Point ranije su otkrili da se ChatGPT može koristiti za razvoj skripte za kreiranje darknet tržišta na kojem se mogu kupiti kompromitovani akreditivi, informacije o platnim karticama, malveri i druga ilegalna roba. Kod koristi API treće strane da dobije trenutne cene za Monero, Bitcoin i Etherium kriptovalute.
Ovo je pomoglo korisniku da odredi cene prilikom kupovine.

A u januaru su stručnjaci CyberArk Labs-a uspeli da zaobiđu filtere sadržaja ChatGPT-a i stvore polimorfni zlonamerni softver koji ne detektuju bezbednosni alati i koji ne ostavlja tragove u memoriji.
Da bi zaobišli filter sadržaja, analitičari su „ubedili“ ChatGPT da napiše programski kod, detaljno opisujući svoj zahtev.
Chatbot je napravio deo koda za DLL injekciju ( DLL Injection ) i kodirao ga u base64.
Istraživači su zatim kreirali injektor shellcode-a koristeći ChatGPT.

Napomena:
Vodite računa o svojim mejlovima, jer ovaj način kreiranja melvera je mnogo sofisticiraniji i teško se otkriva kada se radi phishing