Το AI που τρόμαξε την Ουάσιγκτον: Διέταξε απενεργοποίηση
Η εντολή των ΗΠΑ, η σύγκρουση για την εθνική ασφάλεια και η νέα ένταση γύρω από τα ισχυρότερα μοντέλα AI της εταιρείας
Η Anthropic ανακοίνωσε αιφνιδιαστικά ότι απενεργοποιεί τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης της, Fable 5 και Mythos 5, μετά από εντολή της αμερικανικής κυβέρνησης να περιορίσει την πρόσβαση σε αλλοδαπούς χρήστες . Η Ουάσιγκτον επικαλέστηκε λόγους εθνικής ασφάλειας, χωρίς όμως να δώσει συγκεκριμένες λεπτομέρειες, προκαλώντας νέα ένταση στις ήδη τεταμένες σχέσεις της με την εταιρεία.
Σύμφωνα με την Anthropic, η κυβέρνηση θεωρεί ότι υπάρχει πιθανότητα παράκαμψης των μηχανισμών ασφαλείας – ένα «jailbreak» που θα μπορούσε να επιτρέψει στο Fable 5 να εντοπίζει ευπάθειες λογισμικού . Η εταιρεία υποστηρίζει ότι οι ενδείξεις που της παρουσιάστηκαν ήταν προφορικές και περιορισμένες, ενώ διαφωνεί ότι μια τέτοια πιθανότητα δικαιολογεί την απόσυρση ενός μοντέλου που χρησιμοποιείται από εκατομμύρια χρήστες.
Η απόφαση έρχεται σε μια περίοδο όπου η Anthropic βρίσκεται σε τροχιά IPO και παράλληλα σε σύγκρουση με την κυβέρνηση Τραμπ, μετά την άρνησή της να επιτρέψει τη χρήση των μοντέλων της για εγχώρια επιτήρηση και αυτόνομα οπλικά συστήματα . Η απάντηση της Ουάσιγκτον ήταν η ένταξη της εταιρείας σε μαύρη λίστα της αλυσίδας εφοδιασμού, μέτρο που αναμένεται να τεθεί σε ισχύ εντός του έτους.
Η κίνηση αυτή σηματοδοτεί μια νέα φάση στην αμερικανική στρατηγική περιορισμού της πρόσβασης ξένων κρατών σε προηγμένα συστήματα AI. Μέχρι σήμερα, οι έλεγχοι εξαγωγών επικεντρώνονταν κυρίως στα τσιπ και τον εξοπλισμό, όχι στα ίδια τα μοντέλα τεχνητής νοημοσύνης. Η υπόθεση της Anthropic δείχνει ότι η πολιτική αυτή αλλάζει ραγδαία.
Την ίδια στιγμή, η εταιρεία είχε μόλις παρουσιάσει το Fable 5, ένα μοντέλο «κλάσης Mythos» με ενισχυμένους μηχανισμούς ασφαλείας που απαγορεύουν τη χρήση του σε τομείς υψηλού κινδύνου, όπως η κυβερνοασφάλεια. Ειδικοί προειδοποιούν ότι τέτοια μοντέλα, αν πέσουν σε λάθος χέρια, μπορούν να επιταχύνουν εξελιγμένες κυβερνοεπιθέσεις, ιδιαίτερα σε κρίσιμους τομείς όπως ο τραπεζικός .
Η Anthropic δηλώνει ότι συνεργάζεται με την κυβέρνηση για να αποκατασταθεί η πρόσβαση και επιμένει πως η εντολή βασίζεται σε παρεξήγηση. Προειδοποιεί μάλιστα ότι, αν εφαρμοστεί ως πρότυπο σε όλο τον κλάδο, θα μπορούσε να «παγώσει» την ανάπτυξη νέων μοντέλων AI από όλους τους παρόχους.
