H ESET για τις επικίνδυνες πτυχές του ChatGPT  

Η σύγχρονη τεχνολογία ρομπότ, το ChatGPT, συνιστά μια εντυπωσιακή εφαρμογή τεχνητής νοημοσύνης που επιτρέπει το διάλογο με το χρήστη, καθώς μπορεί να δώσει αυτόματα απαντήσεις για νομικά θέματα, ερευνητικά έγγραφα, ιατρικά θέματα και πλήθος άλλων θεμάτων. Πέρα από αυτά, όμως, η ESET προειδοποιεί πως πιθανότατα μπορεί να βοηθήσει και προς την κατεύθυνση εκατοντάδων χιλιάδων δειγμάτων κακόβουλου λογισμικού που βλέπουμε και επεξεργαζόμαστε καθημερινά. 

Προκειμένου να ρίξει «φως» πάνω στις πιθανές αρνητικές πτυχές του ChatGPT η ESET προχωρά σε ορισμένες απαντήσεις που έδωσαν ειδικοί πάνω στο θέμα: 

Πόσο καλό είναι αυτή τη στιγμή το ChatGTP; 

Το ChatGPT είναι πολύ εντυπωσιακό, αν αναλογιστεί κανείς ότι πρόκειται για ένα Μεγάλο Γλωσσικό Μοντέλο και οι δυνατότητές του εκπλήσσουν ακόμη και τους δημιουργούς τέτοιων μοντέλων. Ωστόσο, επί του παρόντος είναι πολύ ρηχό, κάνει λάθη, δημιουργεί απαντήσεις που πλησιάζουν περισσότερο τις παραισθήσεις (δηλαδή κατασκευασμένες απαντήσεις) και δεν είναι πραγματικά αξιόπιστο για οτιδήποτε σοβαρό. Φαίνεται, όμως, να κερδίζει γρήγορα έδαφος, αν κρίνουμε από το πλήθος των ειδικών της τεχνολογίας που αρχίζουν να ασχολούνται διστακτικά. 

Πόσο καλό θα είναι το κακόβουλο λογισμικό που θα δημιουργηθεί από το ChatGPT, εάν βέβαια είναι κάτι τέτοιο δυνατό; 

Στην πραγματικότητα απέχουμε πολύ από το στάδιο που θα υπάρξει «κακόβουλο λογισμικό που παράγεται πλήρως από τεχνητή νοημοσύνη», αν και το ChatGPT είναι αρκετά καλό στην υπόδειξη κώδικα, στη δημιουργία παραδειγμάτων και αποσπασμάτων κώδικα, στην αποσφαλμάτωση και βελτιστοποίηση κώδικα, ακόμη και στην αυτοματοποίηση της τεκμηρίωσης. 

Τι γίνεται με τις πιο προηγμένες λειτουργίες; 

Δεν ξέρουμε πόσο καλό είναι στις τεχνικές που εμποδίζουν ανιχνεύσεις (obfuscation). Ορισμένα από τα παραδείγματα αφορούν γλώσσες προγραμματισμού scripting όπως η Python. Αλλά είδαμε το ChatGPT να «αντιστρέφει» το νόημα του αποσυναρμολογημένου κώδικα που συνδέεται με το IDA Pro – και αυτό έχει πολύ ενδιαφέρον. Συνολικά, είναι ένα εύχρηστο εργαλείο που μπορεί να βοηθήσει έναν προγραμματιστή και ίσως αυτό να είναι ένα πρώτο βήμα προς τη δημιουργία πιο ολοκληρωμένου κακόβουλου λογισμικού, αλλά απέχουμε ακόμα από αυτό. 

Τι μπορεί να κάνει αυτή τη στιγμή; 

Προς το παρόν, βλέπουμε τρεις πιθανούς τομείς υιοθέτησης και χρήσης κακόβουλων προγραμμάτων: 

• Οι απάτες phishing θα γίνουν ακόμα πιο πειστικές: Δεν θα είστε σε θέση να εντοπίσετε την απάτη γρήγορα λόγω γλωσσικών λαθών, καθώς η χρήση της γλώσσας θα είναι καλύτερη. Δεδομένου ότι ένα μεγάλο μέρος των επιθέσεων ξεκινά με το να κάνει κάποιος κλικ σε έναν σύνδεσμο, περιμένουμε ότι οι σχετικές επιπτώσεις θα αυξηθούν. Από τη διερεύνηση περισσότερων πηγών δεδομένων και την άψογη συνένωσή τους μέχρι τη δημιουργία ειδικά διαμορφωμένων μηνυμάτων ηλεκτρονικού ταχυδρομείου που θα είναι πολύ δύσκολο να εντοπιστούν με βάση το περιεχόμενό τους – τα ποσοστά επιτυχίας φαίνεται ότι θα είναι καλύτερα. 

• Οι διαπραγματεύσεις για λύτρα θα αυτοματοποιηθούν: Οι χειριστές ransomware δεν είναι και πολύ γλυκομίλητοι, αλλά η «ζεστασιά» στην επικοινωνία που μπορεί να προσθέσει το ChatGPT θα μπορούσε να μειώσει τον «φόρτο εργασίας» των δραστών κατά τη διάρκεια των διαπραγματεύσεων. Αυτό θα σημαίνει, επίσης, λιγότερα λάθη που θα μπορούσαν να επιτρέψουν στους δράστες να εντοπίσουν τις πραγματικές ταυτότητες και τις τοποθεσίες των χειριστών. 

• Οι τηλεφωνικές απάτες θα γίνουν ακόμα πιο πειστικές: Με τη βοήθεια του ChatGPT, οι κακόβουλοι απατεώνες θα ακούγονται σαν ντόπιοι και θα είναι πιο πειστικοί σχετικά με το ότι νοιάζονται για τα συμφέροντά σας. Αυτό είναι ένα από τα πρώτα βήματα για να πέσετε θύματα σε μια απάτη εμπιστοσύνης: Να ακούγονται πιο σίγουροι σαν να είναι ένας από τους δικούς σας ανθρώπους. 

Μολονότι όλα αυτά ακούγονται σαν να ανήκουν στο μακρινό μέλλον, η ESET προειδοποιεί πως ναι μεν όλα τα παραπάνω δεν θα συμβούν ταυτόχρονα, ούτε από τη μια μέρα στην άλλη, αλλά οι εγκληματίες πιθανότατα θα γίνουν πολύ καλύτεροι μέσω της αξιοποίησης του ChatGPT. 

Τεύχος 250