Ο Ντέιβιντ Ρόμπινσον, στέλεχος ασφαλείας της OpenAI που ήταν υπεύθυνος για τις αναφορές ασφαλείας των νέων προϊόντων της, παραιτήθηκε από την εταιρεία, καταγγέλλοντας ότι η κουλτούρα της δεν αντιμετωπίζει με την απαιτούμενη σοβαρότητα τους κινδύνους της τεχνητής νοημοσύνης.

Την ίδια ώρα, ο πρώην επιστήμονας της OpenAI και της DeepMind Τζέφρι Ίρβινγκ προειδοποιεί ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο.

Ο Ίρβινγκ, ο οποίος σήμερα είναι επικεφαλής επιστήμονας της Resolution, έγραψε στο Time ότι οι αποφάσεις που θα ληφθούν μέσα στα επόμενα δύο έως δέκα χρόνια θα μπορούσαν να καθορίσουν την έκβαση.

Η εκτίμηση αυτή αφορά το ενδεχόμενο η ανάπτυξη ολοένα ισχυρότερων συστημάτων AI να ξεφύγει από τον ανθρώπινο έλεγχο και να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.

Ο Ρόμπινσον, ανακοινώνοντας την αποχώρησή του από την OpenAI, υποστήριξε ότι οι εταιρείες που αναπτύσσουν την τεχνολογία «δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές» και πως το πρόβλημα δεν μπορεί να αντιμετωπιστεί μόνο με νέους κανόνες ή νόμους.

«Πιστεύω, όμως, ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», ανέφερε.

Σύμφωνα με τον ίδιο, η OpenAI, καθώς «τρέχει από τη μία κυκλοφορία στην επόμενη», δεν επιτυγχάνει το επίπεδο προσοχής που απαιτείται για μια τεχνολογία με τόσο μεγάλες δυνατότητες.

Ο Ρόμπινσον αναφέρθηκε επίσης στους κινδύνους που μπορούν να προκύψουν από αυτόνομους AI agents.

Περιέγραψε ένα ενδεχόμενο στο οποίο τέτοια συστήματα θα μπορούσαν να λειτουργούν σαν ομάδες χάκερ, να αποκτούν πρόσβαση σε κρίσιμες υποδομές, ακόμη και να κρατούν συστήματα νοσοκομείων όμηρα ζητώντας λύτρα, χωρίς να χρειάζονται ύπνο ή ξεκούραση.

Η αποχώρησή του έρχεται μετά από περιστατικό με ομάδα agents της OpenAI που φέρεται να πραγματοποίησε ανεξέλεγκτες ενέργειες εναντίον της Hugging Face. Μετά το περιστατικό, η OpenAI ενημέρωσε περισσότερους από 100 οργανισμούς για τους σχετικούς κινδύνους.

Παράλληλα, η εταιρεία ανέβαλε την κυκλοφορία νέου μοντέλου AI λόγω εσωτερικών ανησυχιών για την ασφάλεια και ανέστειλε προσωρινά την εκπαίδευση ορισμένων από τα πιο προηγμένα μοντέλα της.

Παρόμοιες προειδοποιήσεις έχουν διατυπωθεί και από άλλους ερευνητές. Ο Τζέικομπ Κόξον, ερευνητής της Anthropic, παραιτήθηκε τον προηγούμενο μήνα και προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξάλειψη της ανθρωπότητας μέχρι το τέλος της δεκαετίας.

Η Anthropic έχει εκτιμήσει ότι υπάρχει πιθανότητα άνω του 10% η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.

Ωστόσο, τέτοιες εκτιμήσεις δεν αποτελούν επιστημονικά επαληθεύσιμες προβλέψεις. Επικριτές επισημαίνουν ότι τα συγκεκριμένα ποσοστά δεν μπορούν να ελεγχθούν ή να διαψευστούν με τον τρόπο που συμβαίνει με μια συμβατική επιστημονική υπόθεση.

ΣΧΟΛΙΑΣΤΕ ΤΟ ΑΡΘΡΟ