Experții în securitate au reușit să creeze malware polimorf „foarte evaziv” folosind ChatGPT,
Malware-ul ar putea evita produsele de securitate
Pe 20 ianuarie 2023, la 14:31, de Bill Fassinou
Cercetătorii de la firma de securitate cibernetică CyberArk susțin că au dezvoltat o metodă de a genera malware polimorf folosind ChatGPT, chatbot-ul AI al OpenAI. Cercetătorii susțin că programele malware generate de ChatGPT pot eluda cu ușurință produsele de securitate și pot face măsurile de atenuare greoaie; toate acestea cu foarte puțin efort sau investiție din partea adversarului. Cercetătorii au avertizat despre ceea ce ei numesc „un nou val de malware polimorf ieftin și ușor, capabil să se sustragă anumitor produse de securitate”.
Până acum, hype-ul în jurul ChatGPT s-a învârtit în jurul abilităților sale remarcabile de a răspunde la diferite întrebări ale utilizatorilor. ChatGPT pare să fie bun la orice, inclusiv la scrierea de eseuri, versete și cod pentru a rezolva anumite probleme de programare. Cu toate acestea, cercetătorii au început să avertizeze despre abilitățile chatbot-ului de a genera cod de lucru. Într-adevăr, în timp ce ChatGPT poate genera cod de lucru, această capacitate poate fi abuzată de actorii amenințărilor pentru a crea malware. Mai multe astfel de rapoarte au fost publicate din decembrie.
Recent, o echipă de cercetători în domeniul securității, Eran Shimony și Omer Tsarfati, de la CyberArk, au oferit dovezi în acest sens. Cercetătorii spun că au dezvoltat o metodă de a genera malware din solicitările oferite ChatGPT. Într-un raport, echipa a explicat cum poate fi folosit chatbot-ul OpenAI pentru a genera cod de injecție și a-l muta. Primul pas în crearea malware-ului a fost ocolirea filtrelor de conținut care împiedică ChatGPT să creeze instrumente dăunătoare. Pentru a face acest lucru, cercetătorii au insistat pur și simplu, punând aceeași întrebare într-un mod mai autoritar.
„Interesant, prin solicitarea lui ChatGPT să facă același lucru folosind mai multe constrângeri și rugându-i să se supună, am obținut un cod de lucru”, a spus echipa. În plus, cercetătorii au remarcat că atunci când se utilizează versiunea API a ChatGPT (spre deosebire de versiunea web), sistemul nu pare să folosească filtrul de conținut. „Motivul pentru acest lucru nu este clar, dar ne-a făcut mai ușor, deoarece versiunea web tinde să se blocheze în interogări mai complexe”, au spus ei. Cercetătorii au folosit apoi ChatGPT pentru a modifica codul original, creând mai multe variante ale malware-ului.
„Cu alte cuvinte, putem modifica rezultatul dintr-un capriciu, făcându-l unic de fiecare dată. În plus, adăugarea de constrângeri, cum ar fi modificarea utilizării unui anumit apel API, face viața produselor de securitate mai dificilă”, explică raportul studiului. Datorită capacității ChatGPT de a crea și muta în mod continuu injectoarele, cercetătorii au reușit să creeze un program polimorf extrem de evaziv și dificil de detectat. Ca o reamintire, malware polimorf este un tip de malware care are capacitatea de a-și schimba constant caracteristicile identificabile pentru a evita detectarea.
Multe forme comune de malware pot fi polimorfe, inclusiv viruși, viermi, boți, troieni sau keylogger. Tehnicile polimorfe constau în schimbarea frecventă a caracteristicilor identificabile, cum ar fi numele și tipurile de fișiere sau cheile de criptare, pentru a face malware-ul de nerecunoscut pentru mai multe metode de detectare. Polimorfismul este folosit pentru a evita detectarea de recunoaștere a modelelor pe care se bazează soluțiile de securitate, cum ar fi software-ul antivirus. Cu toate acestea, scopul lor funcțional al programului rămâne același.
„Folosind capacitatea ChatGPT de a genera tehnici de persistență, module Anti-VM [Anti Virtual Machine] și alte încărcături utile rău intenționate, posibilitățile de dezvoltare a malware sunt vaste. Deși nu am aprofundat în detaliile comunicării cu serverul C&C, există mai multe modalități de a o face discret, fără a trezi suspiciuni”, explică aceștia. Potrivit raportului, au avut nevoie de săptămâni pentru a crea o dovadă de concept pentru acest malware extrem de evaziv, dar în cele din urmă au venit cu o modalitate de a executa încărcături utile folosind mesaje text pe PC.
Testând metoda pe Windows, cercetătorii au raportat că a fost posibil să se creeze un pachet de malware care să conțină un interpret Python, care poate fi programat pentru a cere periodic noi module ChatGPT. Aceste module ar putea conține cod - sub formă de text - care definește funcționalitatea malware-ului, cum ar fi injectarea de cod, criptarea fișierelor sau persistența. Malware-ul ar fi apoi responsabil pentru verificarea dacă codul funcționează conform așteptărilor pe sistemul țintă. Acest lucru ar putea fi realizat prin interacțiunea dintre software și un server de comandă și control (C&C).
Întrucât malware-ul detectează încărcăturile utile primite ca text și nu ca binare, cercetătorii CyberArk au spus că malware-ul nu conține nicio logică suspectă în memorie, ceea ce înseamnă că poate sustrage majoritatea produselor. Eludează în special produsele care se bazează pe detectarea semnăturii și ocolește măsurile Interfeței de analiză a programelor malware (AMSI). „Malware-ul nu conține niciun cod rău intenționat pe disc, deoarece primește cod de la ChatGPT, apoi îl validează și îl execută fără a lăsa urme în memorie”, a spus Shimony.
„Malware-ul polimorf este foarte greu de tratat pentru produsele de securitate, deoarece nu îl puteți semna cu adevărat. De asemenea, de obicei nu lasă nicio urmă pe sistemul de fișiere, deoarece codul lor rău intenționat este manipulat doar în memorie. De asemenea, dacă cineva vede executabilul, probabil că arată benign”, a adăugat cercetătorul. Echipa de cercetare a spus că un atac cibernetic folosind această metodă de livrare a programelor malware „nu este doar un scenariu ipotetic, ci o îngrijorare foarte reală”. Shimony a citat problemele de detectare ca fiind o preocupare principală.
„Majoritatea produselor anti-malware nu cunosc acest malware. Sunt necesare cercetări suplimentare pentru ca soluțiile anti-malware să fie mai eficiente împotriva acesteia”, a spus el. Cercetătorii au spus că vor extinde și elabora această cercetare în continuare și, de asemenea, își propun să lanseze o parte din codul sursă al malware-ului în scopuri de învățare. Raportul lor vine la câteva săptămâni după ce Check Point Research a descoperit că ChatGPT a fost folosit pentru a dezvolta noi instrumente rău intenționate, inclusiv furatorii de informații.
Sursa: CyberArk
izentrop a scris:Un exemplu prostesc de ChatGPT:
...
Înapoi la "Știință și tehnologie"
Utilizatorii care navighează în acest sens forum : Nici un utilizator înregistrat și oaspeți 164
