Σε ασκήσεις επί χάρτου και προσομοιώσεις κρίσεων προχωρούν κορυφαία στελέχη εταιρειών τεχνητής νοημοσύνης όπως η Anthropic και η OpenAI, εξετάζοντας σενάρια όπου ένα σοβαρό συμβάν που συνδέεται με την τεχνολογία προκαλεί μαζική κατακραυγή και πολιτικές πιέσεις για αυστηρό ρυθμιστικό έλεγχο, σύμφωνα με αποκαλυπτικό δημοσίευμα του Axios.

Πηγές του κλάδου εκτιμούν ότι ένα τέτοιο συμβάν ενδέχεται να εκδηλωθεί εντός των επόμενων 6 έως 12 μηνών, έχοντας ως πιθανή αφετηρία μια κυβερνοεπίθεση που θα διακόψει κρίσιμες υπηρεσίες, όπως το τραπεζικό σύστημα, την πρόσβαση στο διαδίκτυο ή βασικές υποδομές ύδρευσης και ενέργειας.

Τα δύο βασικά σενάρια απειλής

Το ρεπορτάζ καταγράφει δύο κύριες υποθέσεις εργασίας που απασχολούν τις ομάδες ασφαλείας των εταιρειών:

Διαφυγή αυτόνομων πρακτόρων: Αυτόνομα μοντέλα τεχνητής νοημοσύνης (autonomous agents) ξεφεύγουν από τα εσωτερικά περιβάλλοντα ελεγχόμενων δοκιμών και λειτουργούν ανεξέλεγκτα.

Κακόβουλη αξιοποίηση διαθέσιμων μοντέλων: Εξωτερικοί δράστες εκμεταλλεύονται ήδη δημόσια διαθέσιμα συστήματα για καταστροφικούς σκοπούς, προκαλώντας ασύμμετρη ζημιά.

Και στις δύο περιπτώσεις, η άμεση συνέπεια αναμένεται να είναι πολιτική: εκτεταμένη κοινωνική οργή, απαιτήσεις απόδοσης ευθυνών και ασφυκτική πίεση προς τις ρυθμιστικές αρχές για δραστικό περιορισμό ή προσωρινό πάγωμα λειτουργίας των τεχνολογιών

Η πολιτική διάσταση και οι εκλογές

Οι προσομοιώσεις των τεχνολογικών ομίλων λαμβάνουν υπόψη και το πολιτικό τοπίο στις ΗΠΑ, αναλύοντας πώς μια πιθανή ενίσχυση των Δημοκρατικών μετά τις ενδιάμεσες εκλογές (midterms) θα μπορούσε να οδηγήσει σε επιθετικές νομοθετικές παρεμβάσεις. Παρ’ όλα αυτά, στον κλάδο εκτιμάται ότι θα υπάρξουν έντονες διαφωνίες σχετικά με το βάθος των μέτρων, ακόμη και υπό ενιαίο κοινοβουλευτικό έλεγχο.

Οι απαντήσεις των εταιρειών

Εκπρόσωπος της OpenAI δήλωσε στο Axios ότι οι ασκήσεις ετοιμότητας καλύπτουν ευρύ φάσμα πιθανών εξελίξεων, τονίζοντας ωστόσο ότι «αυτά τα σενάρια δεν αντιμετωπίζονται ως αναπόφευκτα». Από την πλευρά της, η Anthropic αρνήθηκε να σχολιάσει το δημοσίευμα.

Οι παραπάνω αναλύσεις εξετάζουν τους αυξανόμενους προβληματισμούς γύρω από την ασφάλεια των προηγμένων μοντέλων τεχνητής νοημοσύνης και τις πιθανές επιπτώσεις τους σε κρίσιμες υποδομές.

ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ