Η Amazon «φρενάρει» την Anthropic: Γιατί απενεργοποιήθηκαν τα πιο προηγμένα AI μοντέλα της
Ανησυχίες για κυβερνοασφάλεια, παρέμβαση της Ουάσιγκτον και μια απόφαση που επηρεάζει χρήστες σε όλο τον κόσμο
Η απόφαση της Anthropic να απενεργοποιήσει παγκοσμίως τα νεότερα μοντέλα τεχνητής νοημοσύνης της, Fable 5 και Mythos 5, προκάλεσε έντονο ενδιαφέρον στον τεχνολογικό κόσμο. Η κίνηση αυτή ήρθε μετά από εντολές εθνικής ασφάλειας της κυβέρνησης Τραμπ, οι οποίες εκδόθηκαν έπειτα από ανησυχίες κορυφαίων στελεχών της Silicon Valley, μεταξύ των οποίων και ο διευθύνων σύμβουλος της Amazon, Άντι Τζάσι. Σύμφωνα με πηγές που μίλησαν στο Reuters, οι φόβοι επικεντρώνονταν στις δυνατότητες κυβερνοδιείσδυσης των προηγμένων μοντέλων της εταιρείας.
Η Anthropic είχε ήδη επισημάνει ότι το Mythos 5 διέθετε δυνατότητες που θα μπορούσαν να αξιοποιηθούν για τον εντοπισμό κενών ασφαλείας, γι’ αυτό και δεν είχε κυκλοφορήσει ευρέως. Παρ’ όλα αυτά, η εταιρεία διέθεσε πρόσφατα στο κοινό το Fable 5, μια έκδοση που –όπως υποστήριζε– περιλάμβανε ενισχυμένες δικλίδες ασφαλείας. Η διάθεση αυτή αποδείχθηκε σύντομη, καθώς η αμερικανική κυβέρνηση ενημέρωσε την εταιρεία ότι εντοπίστηκε μέθοδος «jailbreaking» που μπορούσε να παρακάμψει τις προστασίες του μοντέλου.
Παρότι η Anthropic υποστήριξε ότι η παράκαμψη αποκάλυπτε μόνο αδυναμίες «ήσσονος σημασίας», αντίστοιχες με αυτές που μπορούν να εντοπίσουν και άλλα δημόσια διαθέσιμα μοντέλα, η κυβέρνηση Τραμπ διέταξε τον αποκλεισμό όλων των αλλοδαπών χρηστών από τα δύο μοντέλα. Η εταιρεία, αδυνατώντας να εφαρμόσει έναν τέτοιο περιορισμό σε παγκόσμιο επίπεδο, επέλεξε να απενεργοποιήσει πλήρως την πρόσβαση.
Η Amazon, αν και δεν επιβεβαίωσε τις επαφές με την κυβέρνηση, παραδέχθηκε ότι συχνά καλείται να παρέχει συμβουλές σε θέματα ασφαλείας λόγω του ρόλου της ως κορυφαίου παρόχου cloud υπηρεσιών. Η εμπλοκή της, ωστόσο, αναδεικνύει το βάρος που δίνουν οι μεγάλες εταιρείες τεχνολογίας στους κινδύνους που ενδέχεται να προκύψουν από τα πιο ισχυρά μοντέλα ΑΙ.
Οι περιορισμοί που επιβλήθηκαν στην Anthropic έλαβαν τη μορφή ελέγχων εξαγωγών, μια διαδικασία που συνήθως εφαρμόζεται σε τεχνολογίες υψηλής στρατηγικής σημασίας. Σύμφωνα με τον σύμβουλο του Λευκού Οίκου Ντέιβιντ Σακς, η κυβέρνηση προχώρησε «απρόθυμα» στην επιβολή των μέτρων, καθώς ο CEO της Anthropic, Ντάριο Αμοντέι, φέρεται να αρνήθηκε να αποσύρει το μοντέλο ή να διορθώσει το ζήτημα ασφαλείας. Η ελπίδα της Ουάσιγκτον είναι ότι η εταιρεία θα επιλύσει το πρόβλημα ώστε οι περιορισμοί να αρθούν.
Η απόφαση έχει προκαλέσει συζητήσεις και μεταξύ ειδικών, καθώς οι περιορισμοί επηρεάζουν όχι μόνο ανταγωνιστικές χώρες αλλά και συμμάχους των ΗΠΑ. Ορισμένοι αναλυτές εκτιμούν ότι η κίνηση δεν είχε μελετηθεί επαρκώς, καθώς αποκλείει ακόμη και Καναδούς και Βρετανούς ερευνητές της ίδιας της Anthropic από την πρόσβαση στα μοντέλα.
Η υπόθεση αναδεικνύει τις αυξανόμενες εντάσεις γύρω από την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης και τον τρόπο με τον οποίο κυβερνήσεις και εταιρείες προσπαθούν να ισορροπήσουν ανάμεσα στην καινοτομία και τον έλεγχο. Το μόνο βέβαιο είναι ότι η συζήτηση για τα όρια και τους κινδύνους της ΑΙ βρίσκεται πλέον στο επίκεντρο της παγκόσμιας τεχνολογικής ατζέντας.
