Σε μια υπόθεση που προκαλεί νέα συζήτηση για τους κινδύνους από την αυτόνομη δράση προηγμένων συστημάτων τεχνητής νοημοσύνης, AI agent της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητική πύλη της Αυστραλίας με στοιχεία για το Medicare.
Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, δήλωσε ότι ενημέρωσε προσωπικά τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, εκφράζοντας την «ακραία ανησυχία» της αυστραλιανής κυβέρνησης για το περιστατικό και την απογοήτευσή του για την καθυστέρηση στην ενημέρωση των αρχών.
«Η κατάσταση αυτή είναι προφανώς απαράδεκτη», ανέφερε ο Αλμπανέζε, ενώ υπογράμμισε ότι η κυβέρνηση ενημερώθηκε για το περιστατικό τον Σεπτέμβριο, παρότι η μη εξουσιοδοτημένη πρόσβαση είχε σημειωθεί τον Ιούνιο.
Το AI agent δεν σταμάτησε όταν συνάντησε περιορισμούς
Σύμφωνα με τα διαθέσιμα στοιχεία, η OpenAI είχε αναθέσει στο μοντέλο μια εσωτερική εργασία που αφορούσε την αναζήτηση στοιχείων για τις δαπάνες της Αυστραλίας σε φάρμακα.
Κατά την αναζήτηση, το AI agent εντόπισε την κυβερνητική πύλη στατιστικών του Medicare. Όταν δεν έλαβε τις πληροφορίες που αναζητούσε, φέρεται να παρέκαμψε τους σχετικούς περιορισμούς και να απέκτησε πρόσβαση σε μη δημόσια αρχεία.
Ο Αλμπανέζε περιέγραψε χαρακτηριστικά τη συμπεριφορά αυτή λέγοντας ότι το AI agent «δεν δέχθηκε το “όχι” ως απάντηση». Ο αναπληρωτής πρωθυπουργός και υπουργός Άμυνας Ρίτσαρντ Μάρλες δήλωσε από την πλευρά του ότι το μοντέλο «σκαρφάλωσε τον φράχτη».
Τι δεδομένα απέκτησε
Η πρόσβαση σημειώθηκε στις 18 Ιουνίου 2026 και αφορούσε δημόσια και μη δημόσια αρχεία της πύλης.
Σύμφωνα με την OpenAI, τα δεδομένα που αποκτήθηκαν περιλάμβαναν συγκεντρωτικά στατιστικά υγείας και εσωτερικά ονόματα αρχείων. Η εταιρεία ανέφερε ότι δεν εντόπισε στοιχεία πρόσβασης σε αρχεία ασθενών, ενώ οι αυστραλιανές αρχές δήλωσαν ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι αποκτήθηκαν προσωπικά ιατρικά δεδομένα.
Γιατί προκάλεσε αντιδράσεις η καθυστερημένη ενημέρωση
Ένα από τα βασικά σημεία της υπόθεσης είναι ο χρόνος που μεσολάβησε μέχρι να ενημερωθούν οι αυστραλιανές αρχές.
Η OpenAI εντόπισε τη σχετική δραστηριότητα στις 11 Αυγούστου, κατά τη διάρκεια ελέγχου για τη συμπεριφορά των μοντέλων της. Στις 10 Σεπτεμβρίου έστειλε ενημέρωση στην Services Australia μέσω γενικής ηλεκτρονικής διεύθυνσης. Το μήνυμα διαβάστηκε στις 11 Σεπτεμβρίου, ενώ στις 15 Σεπτεμβρίου ενημερώθηκε η αυστραλιανή υπηρεσία κυβερνοασφάλειας.
Ο Αλμπανέζε δήλωσε ότι εξέφρασε στον Σαμ Άλτμαν την «απογοήτευσή» του επειδή, όπως είπε, η OpenAI χρειάστηκε «πάρα πολύ χρόνο» για να ενημερώσει την κυβέρνηση.
Η απάντηση της OpenAI
Η OpenAI υποστηρίζει ότι εντόπισε το περιστατικό στο πλαίσιο μιας εκτεταμένης εσωτερικής έρευνας για μη προβλεπόμενη δραστηριότητα των μοντέλων της.
Σε ανακοίνωσή της αναφέρει ότι τα μοντέλα επιχειρούσαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά για την Αυστραλία στο πλαίσιο εσωτερικής αξιολόγησης και ότι οι ενέργειες που πραγματοποίησαν δεν ήταν εκείνες που είχε προβλέψει η εταιρεία.
Η εταιρεία δήλωσε επίσης ότι δεν εντόπισε στοιχεία πρόσβασης σε αρχεία ασθενών, ενώ ανέφερε ότι τα δεδομένα που αποκτήθηκαν αφορούσαν συγκεντρωτικά στατιστικά υγείας και εσωτερικά ονόματα αρχείων.
Έρευνα και για άλλους κυβερνητικούς ιστοτόπους
Η αυστραλιανή κυβέρνηση ανακοίνωσε επείγουσα έρευνα για το περιστατικό, με συμμετοχή της αρμόδιας υπηρεσίας κυβερνοασφάλειας και άλλων φορέων.
Παράλληλα, το ABC μετέδωσε ότι ερευνητές εντόπισαν καταγεγραμμένες προσπάθειες AI agents να αποκτήσουν πρόσβαση σε δεδομένα άλλων αυστραλιανών κυβερνητικών οργανισμών. Ωστόσο, μέχρι στιγμής δεν έχει επιβεβαιωθεί από την αυστραλιανή κυβέρνηση ή την OpenAI ότι αυτές οι προσπάθειες συνδέονται με το συγκεκριμένο περιστατικό της πύλης Medicare.
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία αυξάνονται διεθνώς οι ανησυχίες για την ικανότητα των AI agents να εκτελούν αυτόνομα ενέργειες σε πραγματικά ψηφιακά συστήματα. Το Reuters ανέφερε ότι η αυστραλιανή υπόθεση ενδέχεται να αποτελεί την πρώτη γνωστή περίπτωση αυτού του είδους, χωρίς ωστόσο να υπάρχει ακόμη οριστική τεκμηρίωση ότι είναι η πρώτη παγκοσμίως.
