TM_304

12 13|6|2023 #304 Η Google, ιδιοκτήτρια του generative AI chatbot Bard και μητρική εταιρεία του ερευνητικού εργαστηρίου AI DeepMind, παρουσίασε το Secure AI Framework (SAIF) στις 8 Ιουνίου 2023. Το SAIF πρόκειται να είναι «ένα τολμηρό και υπεύθυνο, [...] εν- νοιολογικό πλαίσιο που θα βοηθήσει στη συνεργατική ασφάλεια της τεχνολογί- ας AI», έγραψαν η κα Royal Hansen, Αντιπρόεδρος Μη- χανικής της Google για την προστασία της ιδιωτικής ζωής και την ασφάλεια, και ο κος Phil Venables, CISO του Google Cloud, σε ανα- φορά τους. Η προσπάθεια βασίζεται στην εμπειρία της Google στην ανάπτυξη μοντέλων ασφαλείας στον κυβερνοχώρο, όπως το συνεργατικό πλαίσιο Supply-chain Levels for Software Artifacts (SLSA) και το BeyondCorp, την αρχιτεκτονική μηδενικής εμπιστοσύνης που χρησιμοποιείται από πολλούς οργανισμούς. Συγκεκριμένα, το SAIF είναι ένα «πρώτο βήμα» που έχει σχε- διαστεί για να βοηθήσει στον μετριασμό των κινδύνων που αφορούν ειδικά στα συστήματα τεχνητής νοημοσύνης , όπως η κλοπή του μοντέλου, η «δηλητηρίαση» των δεδομένων εκπαίδευσης, οι κακόβου- λες εισροές μέσω prompt injection και η εξαγωγή εμπιστευτικών πληροφοριών στα δεδομένα εκπαίδευσης. Το SAIF βασίζεται σε έξι βασικές αρχές: Επέκταση ισχυρών βάσεων ασφάλειας στο οικοσύστημα AI , συμπεριλαμβανο- μένης της αξιοποίησης των προστατευ- τικών υποδομών της υποδομής secure- by-default (π.χ. τεχνικές μετριασμού της έγχυσης SQL). Επέκταση της ανίχνευσης και της απόκρισης για να εισαχθεί το AI στο σύμπαν απειλών ενός οργανι- σμού . Αυτοματοποίηση της άμυνας για να συμβαδίζει με τις υπάρχουσες και τις νέες απειλές . Εναρμόνιση των ελέγχων σε επίπεδο πλατφόρμας για να διασφαλιστεί συνε- πής ασφάλεια σε ολόκληρο τον οργα- νισμό , ξεκινώντας με το Vertex AI και το Security AI Workbench που ανήκουν στην Google και το Perspective API, ένα δωρε- άν API ανοικτού κώδικα που αναπτύχθηκε από τις ομάδες Jigsaw και Counter Abuse Technology της Google και χρησιμοποιεί μηχανική μάθηση για τον εντοπισμό «το- ξικών» σχολίων στο διαδίκτυο. Προσαρμογή των ελέγχων για την προ- σαρμογή των μετριασμών και τη δημι- ουργία ταχύτερων βρόχων ανατροφο- δότησης για την ανάπτυξη του AI . Συμπερίληψη των κινδύνων του συστή- ματος AI στις περιβάλλουσες επιχειρη- σιακές διαδικασίες . Ο Οργανισμός της Ευρωπαϊκής Ένωσης για την Κυβερνοασφάλεια (Enisa) καλω- σορίζει τη νέα Team Europe που θα δια- γωνιστεί στον 2ο Διεθνή Διαγωνισμό Κυ- βερνοασφάλειας (ICC) που θα διεξαχθεί στις Ηνωμένες Πολιτείες. Αποτελούμενη από δεκαεπτά συνολικά νεαρά ταλέντα , συμπεριλαμβανομένων δεκαπέντε κύριων μελών της ομάδας και δύο αναπληρωματικών μελών, η ευρωπα- ϊκή αποστολή θα μεταβεί στο Σαν Ντιέγκο της Καλιφόρνιας των ΗΠΑ, για να διαγωνι- στεί στον ICC από τις 31 Ιουλίου έως τις 4 Αυγούστου. Η νέα ομάδα αποτελείται από μέλη από δεκατέσσερις διαφορετικές ευ- ρωπαϊκές χώρες με ηλικίες που κυμαίνο- νται από 20-25 ετών, ενώ αριθμεί και 2 γυναίκες. Πώς επιλέχθηκε και εκπαιδεύτηκε η ομάδα της Ευρώπης; Ο Enisa εκπαίδευσε και αξιολόγησε τους διαγωνιζόμενους με την υποστήριξη πέντε εξωτερικών εμπειρογνωμόνων, των προπονητών της Team Europe, οι οποίοι βοήθησαν στη διαδικασία επιλογής της τελικής ομάδας, και συγκε- κριμένα των Sanne Maasakkers, Pedro Adão, Johannes Kadak, Benjamin Kral και Mario Polino. Ο Enisa διοργάνωσε τέσσερα bootcamps, έναν διαδικτυακό προκριματικό αγώνα Capture The Flag (CTF) και διάφορες δρα- στηριότητες οικοδόμησης ομάδων κατά τη διάρκεια του περασμένου έτους. Πενή- ντα πέντε υποψήφιοι από είκοσι επτά δι- αφορετικές ευρωπαϊκές χώρες συμμετεί- χαν στις εκπαιδευτικές δραστηριότητες που οδήγησαν στην επιλογή της τελικής Team Europe. Η τελική αντίστροφη μέτρηση για την Team Europe έχει ξεκινήσει με το τελευ- ταίο bootcamp πριν από τον διαγωνισμό που θα διεξαχθεί από τις 7 έως τις 9 Ιουλί- ου στη Λισαβόνα της Πορτογαλίας. Η ομάδα της Ευρώπης θα έχει να αντιμε- τωπίσει στον διαγωνισμό άλλες 7 ομάδες, που εκπροσωπούν την Αφρική, την Ασία, τον Καναδά, τη Λατινική Αμερική, τη Μέση Ανατολή, την Ωκεανία και τις Ηνω- μένες Πολιτείες της Αμερικής. Εκδότης Αργύρης Νομικός arnomikos@techmail.gr Εμπορικός Διευθυντής Νίκος Σαράφογλου n.sarafoglou@librapress.gr Διευθύντρια Έκδοσης Βασιλική Χονδροδήμου v.chondrodimou@librapress.gr Διευθυντής Σύνταξης Σωτήρης Χατζηστρατής Αρχισυντάκτης Χρίστος Κρανάκης x.kranakis@librapress.gr Marketing & Sales Manager Αφροδίτη Μπαλίδου a.balidou@librapress.gr Σύνταξη Παναγιώτης Αποστολόπουλος Χάρης Ματθαίου Νίκος Δρικάκης Συνεργάτες Στάθης Ασπιώτης Παύλος Κερασίδης Ανταποκριτής Β. Ελλάδας Κώστας Παπαζαχαρίου Καλλιτεχνική Επιμέλεια Σωτήρης Ανδρίτσος Web Developer Λευτέρης Χαμακιώτης Videographer Αντώνης Παπαθανασίου Νομική Υποστήριξη Βασιλική Κέντογλου Λογιστήριο Χρύσα Τσιαντούλα fin@librapress.gr ΙΔΙΟΚΤΗΣΙΑ Καυκάσου 145,113 64, Αθήνα, Τηλ.: 210-8815417, Fax: 210-8815416 e-mail: info@techmail.gr Site: www.techmail.gr Η Google παρουσιάζει το Secure AI Framework Έτοιμη η Team Europe για το ICC Της Αφροδίτης Μπαλίδου