Αναιμική η παρουσία της Generative AI στις κυβερνοεπιθέσεις

Της Ελένης Μιχαηλίδου

Σύμφωνα με νέα έρευνα της Sophos, οι εγκληματίες του κυβερνοχώρου είναι μέχρι στιγμής απρόθυμοι να χρησιμοποιήσουν εφαρμογές της Generative AI για να εξαπολύσουν επιθέσεις. Εξετάζοντας τέσσερα forum στο dark web, η εταιρεία διαπίστωσε ότι οι φορείς απειλών έδειξαν μικρό ενδιαφέρον για τη χρήση αυτών των εργαλείων και μάλιστα, οι ίδιοι εξέφρασαν ανησυχίες για την αποτελεσματικότητά τους.

Οι ερευνητές αποκάλυψαν, ακόμα, ότι η πλειονότητα των αναρτήσεων που σχετίζονταν με LLM αφορούσαν παραβιασμένους λογαριασμούς ChatGPT προς πώληση και τρόπους παράκαμψης των προστατευτικών διατάξεων που είναι ενσωματωμένες στα LLM, γνωστά ως jailbreaks.

Επιπλέον, παρατήρησαν 10 παράγωγα του ChatGPT, τα οποία, σύμφωνα με τους δημιουργούς τους, θα μπορούσαν να χρησιμοποιηθούν για την εξαπόλυση κυβερνοεπιθέσεων και την ανάπτυξη κακόβουλου λογισμικού. Ωστόσο, η εταιρεία δήλωσε ότι οι κυβερνοεγκληματίες είχαν ανάμεικτες αντιδράσεις για αυτά τα παράγωγα, με πολλούς να εκφράζουν ανησυχίες ότι οι δημιουργοί των μιμητών του ChatGPT προσπαθούσαν να τους εξαπατήσουν.

Ο Κρίστοφερ Μπαντ, Διευθυντής της έρευνας X-Ops της Sophos, σημείωσε: «Τουλάχιστον προς το παρόν, φαίνεται ότι οι εγκληματίες του κυβερνοχώρου έχουν τις ίδιες συζητήσεις σχετικά με τα LLMs με τους υπόλοιπους από εμάς», ενώ πρόσθεσε πως «ενώ υπάρχει αυξημένη ανησυχία σχετικά με την κατάχρηση της AI και των LLMs από τους εγκληματίες του κυβερνοχώρου μετά την κυκλοφορία του ChatGPT, η έρευνά μας διαπίστωσε ότι, μέχρι στιγμής, οι φορείς απειλών είναι περισσότερο επιφυλακτικοί παρά ενθουσιασμένοι».