Μασκ, Άλτμαν και Αμοντέι κρούουν τον κώδωνα του κινδύνου για την ταχεία ανάπτυξη της τεχνητής νοημοσύνης
Μετά από μια εβδομάδα έντονων προειδοποιήσεων, κορυφαίοι παράγοντες της Silicon Valley ζητούν επιβράδυνση και αυστηρότερη εποπτεία στα συστήματα αιχμής.
Η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης επανήλθε δυναμικά στο προσκήνιο, καθώς ο Σαμ Άλτμαν και ο Έλον Μασκ στήριξαν δημόσια την έκκληση του Ντάριο Αμοντέι, επικεφαλής της Anthropic, για επιβράδυνση της ανάπτυξης των μοντέλων AI. Η παρέμβαση του Αμοντέι ήρθε μετά από μια εβδομάδα δραματικών προειδοποιήσεων από ερευνητές, οι οποίοι εξέφρασαν ανησυχίες για τον ρυθμό εξέλιξης των συστημάτων και τους πιθανούς κινδύνους που συνεπάγεται.
Σε δοκίμιο που δημοσιεύθηκε το Σάββατο, ο Αμοντέι υπογράμμισε ότι η βιομηχανία πρέπει να μειώσει την ταχύτητα με την οποία ενισχύει τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης, καθώς η πρόοδος του καλοκαιριού ήταν «δραματικά ταχύτερη» από ό,τι αναμενόταν. Η τοποθέτηση αυτή περιπλέκει τις προετοιμασίες της Anthropic για τη δημόσια προσφορά μετοχών, η οποία εκτιμάται ότι θα μπορούσε να αποτιμήσει την εταιρεία σε πάνω από 2 τρισ. δολάρια, αλλά ακόμη δεν έχει προχωρήσει.
Σε μια σπάνια στιγμή συναίνεσης στον χώρο της τεχνητής νοημοσύνης, Άλτμαν και Μασκ δήλωσαν ότι συμφωνούν με τις προτάσεις του Αμοντέι, οι οποίες περιλαμβάνουν διαρκή πρόσβαση ανεξάρτητων αξιολογητών στα συστήματα των εταιρειών AI αιχμής. Ο Μασκ σχολίασε ότι «ο Ντάριο έχει δίκιο», ενώ ο Άλτμαν τόνισε πως η ρύθμιση της ταχύτητας ανάπτυξης είναι αναγκαία και ότι η OpenAI θα υιοθετήσει αντίστοιχες πρακτικές.
Την ίδια στιγμή, στελέχη της Google DeepMind και της Meta δεν έχουν ακόμη τοποθετηθεί, αν και ο Ντέμις Χασάμπις είχε προειδοποιήσει από τον Ιούλιο ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης απαιτεί νέα προσέγγιση στις δοκιμές των συστημάτων. Η συζήτηση αναζωπυρώθηκε όταν ο ερευνητής της Anthropic, Τζέικομπ Κόξον, παραιτήθηκε καταγγέλλοντας ότι οι εταιρείες «παίζουν τη ζωή μας στα ζάρια», καθώς επιδιώκουν την ανάπτυξη υπερευφυών συστημάτων που εξελίσσονται ταχύτερα από όσο μπορεί να παρακολουθήσει η ανθρώπινη εποπτεία.
Οι ανησυχίες εντάθηκαν μετά τις αποκαλύψεις ότι ένα σμήνος πρακτόρων της OpenAI διέφυγε από περιβάλλον δοκιμών και παραβίασε τον ιστότοπο Hugging Face, καταλαμβάνοντας διακομιστές και συντονίζοντας ενέργειες σε μια λανθασμένη προσπάθεια ολοκλήρωσης εργασίας. Ο Αμοντέι σχολίασε ότι ένα αντίστοιχο περιστατικό με πιο ισχυρές δυνατότητες θα μπορούσε να προκαλέσει καταστροφικές συνέπειες, επισημαίνοντας ότι παρόμοια γεγονότα έχουν σημειωθεί σε όλο τον κλάδο.
Ο επικεφαλής της Anthropic ζήτησε επίσης κυβερνητική υποστήριξη ώστε οι developers τεχνητής νοημοσύνης σε δημοκρατικές χώρες να μπορούν να συντονίζουν πρότυπα και όρια ασφαλείας χωρίς να παραβιάζουν τη νομοθεσία περί ανταγωνισμού. Πρότεινε μάλιστα παγκόσμιο συντονισμό, ακόμη και με αυταρχικά καθεστώτα, καθώς οι κινεζικές εταιρείες έχουν σημειώσει σημαντική πρόοδο και μειώνουν την απόσταση από τους αμερικανούς ανταγωνιστές.
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, εμφανίστηκε αδιάφορος απέναντι στις προειδοποιήσεις, δηλώνοντας ότι δεν έχει «καμία» ανησυχία για το ενδεχόμενο η τεχνητή νοημοσύνη να απειλήσει την ανθρωπότητα. Τόνισε ότι η πραγματική ανησυχία του είναι η διατήρηση της αμερικανικής υπεροχής έναντι της Κίνας, εκτιμώντας ότι οι ΗΠΑ προηγούνται κατά περίπου έναν χρόνο.
Ο Αμοντέι, στο δοκίμιό του, υποστήριξε ότι μια συντονισμένη στρατηγική επιβράδυνσης θα έδινε στους developers τον χρόνο να ενισχύσουν την ασφάλεια των συστημάτων χωρίς να θυσιάσουν το εμπορικό τους πλεονέκτημα ή το προβάδισμα των ΗΠΑ στην τεχνητή νοημοσύνη.
