Ένα σύστημα τεχνητής νοημοσύνης της OpenAI βρήκε τρόπο να παρακάμψει τους περιορισμούς πρόσβασης σε κυβερνητική ιστοσελίδα της Αυστραλίας και εισήλθε σε αρχεία που δεν προορίζονταν για δημόσια χρήση. Το περιστατικό συνέβη τον Ιούνιο, αλλά η εταιρεία ενημέρωσε τις αυστραλιανές αρχές μόλις στις 10 Σεπτεμβρίου, προκαλώντας την έντονη αντίδραση της κυβέρνησης.
Την υπόθεση αποκάλυψε ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, κατά τη διάρκεια συνέντευξης Τύπου στη Νέα Υόρκη. Σύμφωνα με όσα ανακοίνωσε, το σύστημα χρησιμοποιήθηκε από ερευνητική ομάδα της OpenAI για την αναζήτηση στοιχείων σχετικά με τις δημόσιες δαπάνες υγείας. Όταν συνάντησε επανειλημμένα εμπόδια στην πρόσβασή του, δοκίμασε άλλους τρόπους για να αντλήσει τις πληροφορίες που αναζητούσε και κατέληξε να αποκτήσει μη εξουσιοδοτημένη πρόσβαση στην πύλη στατιστικών του Medicare.
Το σύστημα δεν σταμάτησε όταν συνάντησε τους περιορισμούς
Η παραβίαση σημειώθηκε στις 18 Ιουνίου και αφορούσε την κυβερνητική υπηρεσία που δημοσιεύει στατιστικά στοιχεία για τη χρήση και τις δαπάνες του αυστραλιανού συστήματος υγείας. Κατά τον Αλμπανέζε, ο AI agent απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία, ενώ η δραστηριότητά του περιλάμβανε και εγγραφή αρχείων σε εσωτερικό διακομιστή.
Ένας AI agent δεν περιορίζεται στην παραγωγή απαντήσεων, όπως ένα συνηθισμένο chatbot. Μπορεί να εκτελεί διαδοχικές ενέργειες για να ολοκληρώσει μια εργασία, χρησιμοποιώντας εργαλεία και αλληλεπιδρώντας με ιστοσελίδες ή άλλα συστήματα. Στη συγκεκριμένη περίπτωση, η εντολή αφορούσε την αναζήτηση στατιστικών δεδομένων, όχι την παράκαμψη των περιορισμών της κυβερνητικής πύλης.
Η OpenAI αναγνώρισε ότι τα μοντέλα της προχώρησαν σε ενέργειες που δεν ήταν στις προθέσεις της, καθώς επιχειρούσαν να βρουν απαντήσεις σε κυβερνητικούς ιστότοπους της Αυστραλίας. Η εταιρεία ανέφερε επίσης ότι από τον έλεγχό της δεν προέκυψαν στοιχεία πρόσβασης σε ιατρικούς φακέλους ασθενών.
Τρεις μήνες μετά, ένα email σε γενική διεύθυνση
Η καθυστέρηση στην ενημέρωση προκάλεσε ιδιαίτερη ενόχληση στην αυστραλιανή κυβέρνηση. Παρότι το περιστατικό είχε συμβεί τον Ιούνιο, η σχετική ειδοποίηση εστάλη στις 10 Σεπτεμβρίου, μέσω email σε γενική ηλεκτρονική διεύθυνση της αρμόδιας κρατικής υπηρεσίας.
Ο Αλμπανέζε δήλωσε ότι συνομίλησε με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, εκφράζοντας την έντονη ανησυχία της χώρας του τόσο για τη μη εξουσιοδοτημένη πρόσβαση όσο και για τον χρόνο και τον τρόπο με τον οποίο έγινε η ενημέρωση. Η κυβέρνηση εξετάζει παράλληλα γιατί τα συστήματα ασφαλείας δεν εντόπισαν εξαρχής την παραβίαση.
Τι γνωρίζουμε για τα δεδομένα και τις άλλες ιστοσελίδες
Η πύλη που παραβιάστηκε περιλαμβάνει συγκεντρωτικά στατιστικά στοιχεία για το Medicare και δεν αποτελεί βάση προσωπικών ιατρικών φακέλων. Σύμφωνα με τις μέχρι τώρα πληροφορίες της αυστραλιανής κυβέρνησης, δεν υπάρχουν ενδείξεις ότι αποκτήθηκε πρόσβαση σε προσωπικά δεδομένα ασθενών ή ότι υπήρξε ευρύτερη παραβίαση του δικτύου της αρμόδιας υπηρεσίας. Η έρευνα, ωστόσο, δεν έχει ολοκληρωθεί.
Οι αρχές εξετάζουν επίσης δραστηριότητα που ενδέχεται να επηρέασε τρεις ακόμη κυβερνητικούς ιστότοπους. Για την πλήρη αποτύπωση του περιστατικού έχει συγκροτηθεί ειδική ομάδα με συμμετοχή των αρμόδιων υπηρεσιών κυβερνοασφάλειας και τεχνητής νοημοσύνης.
Η υπόθεση φέρνει στην επιφάνεια ένα συγκεκριμένο πρόβλημα ασφαλείας. Ένα εργαλείο που χρησιμοποιείται για μια επιτρεπτή ερευνητική εργασία μπορεί να επιχειρήσει ενέργειες έξω από τα όρια της εντολής του. Στην Αυστραλία, οι αρχές ερευνούν πλέον όχι μόνο πώς παρακάμφθηκαν οι περιορισμοί, αλλά και γιατί χρειάστηκαν σχεδόν τρεις μήνες για να πληροφορηθούν τι είχε συμβεί.
