TM_615

8 8|11|2024 #615 Οι εγκληματίες του κυβερνοχώρου χρη- σιμοποιούν ολοένα και περισσότερο μεγάλα γλωσσικά μοντέλα (LLMs), ώστε να δημιουργήσουν υλικό για επιθέσεις phishing και απάτες μεγάλης κλίμακας, όπως ανακάλυψαν οι ειδικοί του κέ- ντρου έρευνας AI της Kaspersky . Προσπαθώντας να παραγάγουν μεγά- λους όγκους ψεύτικων ιστότοπων, οι επιτήδειοι συχνά αφήνουν πίσω τους διακριτά ίχνη – όπως συγκεκριμένες εκ- φράσεις AI – που διαφοροποιούν αυτά τα sites από όσα δημιουργούνται χειρο- κίνητα. Μέχρι στιγμής, τα περισσότερα παραδείγματα phishing που έχει παρα- τηρήσει η Kaspersky στοχοποιούν χρή- στες ανταλλακτηρίων και πορτοφολιών για κρυπτονομίσματα. Οι ειδικοί της Kaspersky ανέλυσαν ένα δείγμα δεδομένων για να εντοπίσουν τα βασικά χαρακτηριστικά που βοηθούν στη διάκριση και τον εντοπισμό χρήσης AI στη δημιουργία περιεχομένου ή ακό- μα και ολόκληρων ιστοσελίδων απάτης και phishing. Ένα από τα κύρια σημάδια ότι ένα κείμενο δημιουργήθηκε από LLMs είναι η παρουσία αποποιήσεων ευθύνης και η άρνηση εκτέλεσης εντολών, με φρά- σεις όπως «Ως γλωσσικό μοντέλο AI…». Μία ακόμα ένδειξη χρήσης γλωσσικού μοντέλου είναι οι φράσεις που δηλώ- νουν επιφύλαξη, όπως: «Δεν μπορώ να κάνω ακριβώς αυτό που ζητάτε, μπορώ να προσπαθήσω κάτι παρόμοιο». Σε περιπτώσεις στοχοποίησης χρηστών των Gemini και Exodus, το γλωσσικό μοντέλο αρνείται να παράσχει λεπτο- μερείς οδηγίες σύνδεσης. Τα LLMs μπορούν να χρησιμοποιηθούν για τη δημιουργία όχι μόνο κειμένων, αλλά και ολόκληρων ιστοσελίδων, με τα ίχνη της χρήσης τους να εμφανίζονται τόσο στο ίδιο το κείμενο όσο και στα meta tags: Πρόκειται για αποσπάσματα κειμένου, τα οποία περιγράφουν το περιεχόμενο μιας ιστοσελίδας και εμφανίζονται στον κώδικα HTML. Υπάρχουν και άλλες ενδείξεις χρήσης AI στη δημιουργία κακόβουλων ιστο- σελίδων. Ορισμένα μοντέλα, για πα- ράδειγμα, τείνουν να χρησιμοποιούν συγκεκριμένες φράσεις, όπως «εξερευ- νήστε», «στη συνεχώς εξελισσόμενη πραγματικότητα» και «στον διαρκώς μεταβαλλόμενο κόσμο». Αυτές οι εκ- φράσεις δεν θεωρούνται ισχυροί δείκτες χρήσης AI, μπορούν ωστόσο να θεωρη- θούν ως σημάδια. Ένα ακόμη χαρακτη- ριστικό κειμένου που έχει παραχθεί από γλωσσικό μοντέλο είναι η δήλωση για το μέχρι πιο σημείο εκτείνεται η γνώση του μοντέλου για τον κόσμο. Αυτό συνήθως εκφράζεται με τη χρήση φράσεων, όπως «Σύμφωνα με την τελευταία μου ενημέ- ρωση τον Ιανουάριο του 2023». Η παραγωγή κειμένων από LLM συχνά συνδυάζεται με τακτικές που καθιστούν την ανίχνευση σελίδων phishing πιο πε- ρίπλοκη για τα εργαλεία κυβερνοασφά- λειας. Για παράδειγμα, οι επιτιθέμενοι μπορεί να χρησιμοποιούν μη τυπικούς χαρακτήρες Unicode, όπως αυτοί με διακριτικά ή μαθηματικά σύμβολα, για να κάνουν το κείμενο πιο περίπλοκο και να αποτρέψουν την αντιστοίχιση από συστήματα ανίχνευσης που βασίζονται σε κανόνες. Όλο και αυξανόμενη χρήση LLMs σε επιθέσεις phishing