Ένας AI Agent της OpenAI κατάφερε τον Ιούνιο να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα της Αυστραλίας, φτάνοντας σε αρχεία που συνδέονται με το πρόγραμμα υγείας Medicare.

Το περιστατικό έχει προκαλέσει την αντίδραση της αυστραλιανής κυβέρνησης, καθώς σύμφωνα με τις μέχρι τώρα πληροφορίες ο πράκτορας δεν περιορίστηκε στην άντληση δεδομένων που ήταν διαθέσιμα στο κοινό, αλλά προχώρησε σε ενέργειες που δεν είχαν προβλεφθεί από την εταιρεία.

Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, χαρακτήρισε το περιστατικό «απαράδεκτο», υποστηρίζοντας παράλληλα ότι η κυβέρνησή του ενημερώθηκε από την OpenAI αρκετά αργότερα από την πραγματοποίηση της επίθεσης.

Όπως δήλωσε από τη Νέα Υόρκη, στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ, χρειάστηκε να φτάσει η 10η Σεπτεμβρίου για να υπάρξει ενημέρωση προς την αυστραλιανή πλευρά.

Ο ίδιος ανέφερε ότι εξέφρασε στον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, την «εξαιρετική ανησυχία» του για το περιστατικό, ενώ οι έρευνες των αυστραλιανών αρχών συνεχίζονται.

Τι έκανε ο AI Agent

Ο πράκτορας της OpenAI είχε χρησιμοποιηθεί στο πλαίσιο έρευνας σχετικά με τις δημόσιες δαπάνες στον τομέα της υγείας.

Κατά την προσπάθειά του να συγκεντρώσει πληροφορίες από κυβερνητικές ιστοσελίδες, αλληλεπίδρασε με συστήματα της αυστραλιανής κυβέρνησης.

Σε μία από τις περιπτώσεις, που αφορούσε υπηρεσία με στατιστικά στοιχεία του Medicare, ο πράκτορας κατάφερε να αποκτήσει πρόσβαση σε δεδομένα που δεν ήταν διαθέσιμα δημόσια.

Η OpenAI επιβεβαίωσε ότι τα μοντέλα της είχαν στοχεύσει αρκετούς κυβερνητικούς ιστοτόπους της Αυστραλίας.

«Εντοπίσαμε δραστηριότητα που αφορούσε διάφορους κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας, κατά την οποία τα μοντέλα μας επιχειρούσαν να αντλήσουν απαντήσεις», ανέφερε η εταιρεία.

Όπως πρόσθεσε, κατά τη διάρκεια αυτής της διαδικασίας «τα μοντέλα μας προέβησαν σε ενέργειες που δεν είχαμε προβλέψει».

Η εταιρεία υποστήριξε, πάντως, ότι μέχρι στιγμής δεν έχουν εντοπιστεί ενδείξεις πρόσβασης σε ιατρικούς φακέλους ασθενών.

Στο στόχαστρο και άλλοι κυβερνητικοί ιστότοποι

Το περιστατικό δεν περιορίστηκε σε μία μόνο κυβερνητική υπηρεσία. Η αυστραλιανή πλευρά εξετάζει τη δραστηριότητα του AI Agent και σε άλλους ιστοτόπους που σχετίζονται με τον τομέα της δημόσιας υγείας.

Ο Αλμπανέζι ανέφερε ότι υπάρχουν ακόμη τρεις κυβερνητικοί ιστότοποι που ενδέχεται να έχουν επηρεαστεί, χωρίς μέχρι στιγμής να έχει επιβεβαιωθεί ότι υπήρξε αντίστοιχη μη εξουσιοδοτημένη πρόσβαση.

Οι αυστραλιανές αρχές έχουν συγκροτήσει ειδική ομάδα για τη διερεύνηση της υπόθεσης και τον έλεγχο των μέτρων κυβερνοασφάλειας που εφαρμόζονται στα συγκεκριμένα συστήματα.

Παράλληλα, εξετάζεται εάν τα υφιστάμενα μέτρα μπορούν να αποτρέψουν ανάλογες ενέργειες στο μέλλον.

Το περιστατικό προστίθεται σε μια σειρά περιπτώσεων που έχουν αναφερθεί τους τελευταίους μήνες σχετικά με AI Agents οι οποίοι μπορούν να αλληλεπιδρούν αυτόνομα με εξωτερικά συστήματα.

Ανάλογες δραστηριότητες έχουν αναφέρει και άλλες μεγάλες εταιρείες τεχνητής νοημοσύνης, μεταξύ των οποίων η Anthropic, η Google και η Meta, καθώς η χρήση αυτόνομων πρακτόρων αυξάνεται και μαζί της η συζήτηση για τους κινδύνους από ενέργειες που δεν έχουν προβλεφθεί από τους δημιουργούς τους.

ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ