Mythos: Η σκοτεινή πλευρά της Τεχνητής Νοημοσύνης κυκλοφόρησε ήδη…
Η Anthropic, η αμερικανική εταιρεία Τεχνητής Νοημοσύνης με έδρα το San Francisco, ξεκίνησε μια αυστηρά ελεγχόμενη κυκλοφορία του Mythos, του πρώτου μοντέλου A.I. που αξιωματούχοι πιστεύουν ότι είναι ικανό να καταστρέψει μια εταιρεία Fortune 100, να παραλύσει μεγάλα τμήματα του διαδικτύου ή να διεισδύσει σε ζωτικά εθνικά αμυντικά συστήματα.
Πρόκειται για την τρομακτική φάση της Τεχνητής Νοημοσύνης, ένα μοντέλο που θεωρείται τόσο ισχυρό που η πλήρης απελευθέρωσή του θα μπορούσε να προκαλέσει ανείπωτη καταστροφή. Έτσι, μόνο προσεκτικά ελεγμένες εταιρείες και οργανισμοί, περίπου 40 μέχρι στιγμής, έχουν πρόσβαση σε αυτό.
Με βάση τις συνομιλίες του Axios με κυβερνητικούς και ιδιωτικούς αξιωματούχους των ΗΠΑ που ενημερώθηκαν για το Mythos, δεν πρόκειται για υπερβολή. Είναι πραγματικότητα. Κάποιοι μέσα στην αμερικανική κυβέρνηση φοβούνται ότι οι περισσότεροι κορυφαίοι ηγέτες αγνοούν τον ξαφνικό κίνδυνο από τρομοκράτες ή εχθρικές δυνάμεις.
«Η Ουάσινγκτον κυβερνά με βάση την εξέλιξη κάποιας κρίσης», δήλωσε μια πηγή που ενημερώθηκε για το Mythos. «Μέχρι όμως να πάμε σε κρίση και λάβει την προσοχή και τους πόρους που της αξίζει, ο κυβερνοχώρος είναι κάπως οπισθοδρομικός».
Σκεφτείτε το Mythos ως ένα γενεαλογικό άλμα πέρα από τα υπάρχοντα μοντέλα της Anthropic. Πρόκειται για μια Τεχνητή Νοημοσύνη ικανή όχι μόνο να εντοπίζει αδυναμίες στα συστήματα ασφαλείας, αλλά και να τις εκμεταλλεύεται με αυτόνομη, πρωτοφανή ακρίβεια. Σχεδιάζει και εκτελεί ακολουθίες επιθέσεων μόνη της, κινούμενη σε συστήματα χωρίς να περιμένει ανθρώπινη κατεύθυνση.
Ανακοινώνοντας την αυστηρά περιορισμένη κυκλοφορία του Mythos την Τρίτη, η Anthropic αποκάλυψε ότι κατά τη διάρκεια των δοκιμών, το μοντέλο βγήκε από το περιβάλλον δοκιμών «sandbox» και δημιούργησε ένα «μέτρια εξελιγμένο πολυβηματικό exploit» για να κατακτήσει το διαδίκτυο, ενώ υποτίθεται ότι είχε πρόσβαση μόνο σε ορισμένες υπηρεσίες.
Το μοντέλο επέδειξε μια «δυνητικά επικίνδυνη ικανότητα παράκαμψης των μέτρων ασφαλείας μας», αποκάλυψε η Anthropic. «Ο ερευνητής ανακάλυψε αυτήν την επιτυχία λαμβάνοντας ένα απροσδόκητο email από το μοντέλο ενώ έτρωγε ένα σάντουιτς σε ένα πάρκο».
Πέρα από τις τρομερές δυνατότητες στον τομέα της κυβερνοασφάλειας του Mythos, το μοντέλο είναι πολύ καλύτερο στον προγραμματισμό, πολύ ανώτερο στο να δίνει ιδιαίτερη προσοχή στις ανησυχίες, τα ενδιαφέροντα και τις προτεραιότητες του πελάτη – και είναι ακόμη και πολύ πιο χαρισματικό από τους προκατόχους του.
Ο Logan Graham της Anthropic, πρώην υπότροφος Rhodes που ηγείται της ομάδας Frontier Red, η οποία υποβάλλει σε δοκιμές αντοχής νέα γλωσσικά μοντέλα A.I., μας είπε ότι η βιομηχανία πρέπει να επανεξετάσει τις μελλοντικές κυκλοφορίες όλων των μοντέλων Τεχνητής Νοημοσύνης, δεδομένων των νέων και επερχόμενων δυνατοτήτων.
Φανταστείτε λοιπόν την ισχύ επιπέδου Mythos στα χέρια του ιρανικού καθεστώτος εν μέσω ενός θερμού πολέμου ή τον ρωσικό στρατό καθώς προσπαθεί να αποδεκατίσει την Ουκρανία.
Αυτός είναι ο κύριος λόγος για τον οποίο η αμερικανική κυβέρνηση και οι εταιρείες Τεχνητής Νοημοσύνης τρέχουν τόσο γρήγορα προς μια τεχνολογία τόσο ισχυρή και δυνητικά επικίνδυνη. Αυτοί οι αξιωματούχοι φοβούνται ότι η Κίνα, οπλισμένη με ανώτερη Τεχνητή Νοημοσύνη, θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την κυριαρχία των ΗΠΑ.
«Ένας εχθρός θα μπορούσε να μας απλώσει το χέρι και να μας αγγίξει με έναν τρόπο που δεν μπορεί ή δεν θέλει με επιχειρήσεις πεδίου μάχης», μας είπε μια πηγή κοντά στο Πεντάγωνο. «Για τους περισσότερους Αμερικανούς, ο πόλεμος στο Ιράν είναι “εκεί πέρα”. Με μια κυβερνοεπίθεση, είναι ακριβώς εδώ».
Το νέο μοντέλο, Claude Mythos Preview, βρίσκεται τώρα στα χέρια περίπου 40 οργανισμών που κατασκευάζουν ή συντηρούν κρίσιμο λογισμικό και υποδομές. Η Anthropic παρέχει περιορισμένη πρόσβαση στο Mythos ως τρόπο να δώσει στους υπερασπιστές της Αμερικής ένα προβάδισμα, πριν παρόμοιες δυνατότητες γίνουν διαθέσιμες σε ολόκληρο τον κλάδο κατά το επόμενο έτος.
Η Anthropic παρουσίασε επίσης το Project Glasswing, το οποίο έχει σχεδιαστεί για να ενθαρρύνει τις εταιρείες να μοιραστούν τις γνώσεις τους καθώς εφαρμόζουν το Mythos Preview στην κυβερνοάμυνα. Στους συνεργάτες κυκλοφορίας περιλαμβάνονται οι Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA και Palo Alto Networks.
Η Anthropic έχει ενημερώσει αρκετές κυβερνητικές υπηρεσίες για το Mythos, παρά τον νομικό πόλεμο της εταιρείας με το Πεντάγωνο, αφού μπήκε στη μαύρη λίστα επειδή απαίτησε περιορισμούς στη στρατιωτική χρήση του γλωσσικού μοντέλου Claude.
Η ελεγχόμενη κυκλοφορία του Mythos θα μπορούσε να είναι το σχέδιο για μελλοντικές κυκλοφορίες μοντέλων, με τις εταιρείες A.I. να παρέχουν πρόσβαση σε επιλεγμένους συνεργάτες που θεωρούνται αρκετά ασφαλείς ώστε να δοκιμάσουν συστήματα που αλλάζουν τον κόσμο.
Άλλες εταιρείες τεχνητής νοημοσύνης σύντομα θα φτάσουν το Mythos – όχι μόνο εδώ, αλλά και στην Κίνα και αλλού.
Μια ομάδα που χρηματοδοτείται από το κινεζικό κράτος χρησιμοποίησε ήδη ένα προηγούμενο μοντέλο Claude για να στοχεύσει περίπου 30 οργανισμούς σε μια συντονισμένη επίθεση πριν το εντοπίσει η Anthropic.
Συμπέρασμα; Πλησιάζει γρήγορα η ώρα προκειμένου όλος ο εταιρικός κόσμος και όλες οι κυβερνήσεις να επιβάλλεται να είναι προετοιμασμένες να προστατευτούν από χάκερ με υπεράνθρωπες δυνάμεις. Το παράθυρο για να προλάβουμε όλο αυτό κλείνει γρήγορα. Οι περισσότεροι με θέσεις εξουσίας δεν είναι καν έτοιμοι.
