ΗΠΑ: Θύελλα σε κυβέρνηση και αγορές από το αίτημα για «φρένο» στην ΑΙ
Η Anthropic PBC και η OpenAI θα πρέπει να σταθμίσουν τις εκκλήσεις τους για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης απέναντι στις δυνάμεις της τεχνολογικής βιομηχανίας, των χρηματοπιστωτικών αγορών και της κυβέρνησης Τραμπ, οι οποίες είναι πιθανό να αντισταθούν σε οποιαδήποτε ουσιαστική επιβράδυνση.
Οι δύο εταιρείες, οι οποίες αναπτύσσουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης στον κόσμο, δεσμεύονται να λάβουν μέτρα για να περιορίσουν την επιδίωξη ανάπτυξης μοντέλων τεχνητής νοημοσύνης αιχμής, ώστε να κατανοηθούν καλύτερα οι κίνδυνοι που εγκυμονεί η τεχνολογία, μετά από μια σειρά παραβιάσεων ασφαλείας.
Ένα κείμενο 3.800 λέξεων που δημοσίευσε το Σάββατο ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι —το οποίο υποστήριξαν ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο διευθύνων σύμβουλος της SpaceXAI, Έλον Μασκ— ανέφερε ότι η ανάπτυξη των πλέον προηγμένων συστημάτων πρέπει να επιβραδυνθεί, προκειμένου να αποτραπεί το ενδεχόμενο η τεχνητή νοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο και να προκαλέσει καταστροφική ζημία.
Ο Αμοντέι επέμεινε στο δοκίμιό του ότι ο «ρυθμός» προόδου των δυνατοτήτων της τεχνητής νοημοσύνης δεν θα μεταφραστεί κατ’ ανάγκη σε μειωμένες δαπάνες ή χαμηλότερη ανάπτυξη. Ωστόσο, οποιαδήποτε παύση ή καθυστέρηση στην πρόοδο των λεγόμενων frontier συστημάτων θα ήταν ανεπιθύμητη για τους επενδυτές που στοιχηματίζουν ότι η άνθηση της τεχνητής νοημοσύνης θα οδηγήσει σε εκατοντάδες δισεκατομμύρια δολάρια επενδυτικών δαπανών.
Στη Silicon Valley, οι συζητήσεις περί επιβράδυνσης θα μπορούσαν επίσης να επιβαρύνουν κατασκευαστές chip όπως η Nvidia Corp., η οποία έχει επωφεληθεί από την αυξημένη δαπάνη για επεξεργαστές που χρησιμοποιούνται για την εκπαίδευση και τη λειτουργία νέων γενεών μοντέλων τεχνητής νοημοσύνης.
Εταιρείες όπως η Amazon.com Inc. και η Microsoft Corp., οι οποίες παρέχουν υπηρεσίες cloud computing για τεχνητή νοημοσύνη στην Anthropic και την OpenAI, θα μπορούσαν επίσης να υποστούν τις επιπτώσεις.
«Αυτές οι δύο εταιρείες και τα σχέδιά τους έχουν τεράστιες επιπτώσεις σε ολόκληρο τον τεχνολογικό κλάδο», δήλωσε ο Μαρκ Μαχάνεϊ, αναλυτής της Evercore ISI. «Εάν αυτές οι δύο εταιρείες περιόριζαν δραστικά τις δαπάνες τους για R&D, τις προσλήψεις τους και το capex τους, αυτό θα μπορούσε να έχει σημαντικό αντίκτυπο στις χρηματοπιστωτικές αγορές».
Οποιαδήποτε κίνηση για την παρεμπόδιση της ανάπτυξης εγκυμονεί επίσης τον κίνδυνο αντίδρασης από τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ, ο οποίος έχει στηρίξει την οικονομική του ατζέντα στην επιθετική ανάπτυξη της τεχνητής νοημοσύνης ως μοχλό δημιουργίας θέσεων εργασίας και έχει προειδοποιήσει ότι οι ΗΠΑ πρέπει να παραμείνουν μπροστά από την Κίνα στην τεχνολογία, προκειμένου να προστατεύσουν την εθνική ασφάλεια.
«Όταν μιλάμε για “ρυθμό”, δεν εννοούμε “σταμάτημα”», έγραψε ο Άλτμαν σε ανάρτησή του στο X την Κυριακή. «Εκεί όπου θα χρειαστούμε τη βοήθεια της κυβέρνησής μας είναι στον διεθνή συντονισμό. Αλλά πρώτα πρέπει να κάνουμε ό,τι μπορούμε μόνοι μας».
Την Κυριακή, ο Τραμπ υποβάθμισε την ιδέα για περαιτέρω δικλίδες ασφαλείας, επαναλαμβάνοντας την προηγούμενη θέση του ότι οι ΗΠΑ πρέπει να συνεχίσουν να επεκτείνουν την τεχνητή νοημοσύνη, ακόμη και απέναντι στις αυξανόμενες αντιδράσεις στο εσωτερικό της χώρας για τα κέντρα δεδομένων που απαιτούνται για τη λειτουργία της τεχνολογίας.
«Ηγούμεθα της Κίνας στην τεχνητή νοημοσύνη. Είμαστε η πιο προηγμένη χώρα στον κόσμο και, ειλικρινά, θέλω να παραμείνει έτσι, επειδή όποιος κερδίσει στην τεχνητή νοημοσύνη κερδίζει συνολικά», δήλωσε ο Τραμπ σε δημοσιογράφους στο περιθώριο του τουρνουά γκολφ Irish Open. «Και μπορούμε να βάλουμε δικλίδες ασφαλείας. Μπορούμε να κάνουμε το ένα και το άλλο. Αλλά νομίζω ότι υπάρχουν πολλές πολύ αρνητικές δυνάμεις που το αναδεικνύουν, ενώ δεν θα έπρεπε να το αναδεικνύουν».
Η ανησυχία για τους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης πέρασε στο προσκήνιο την περασμένη εβδομάδα, με αφορμή την υψηλού προφίλ αποχώρηση του εργαζομένου της Anthropic Τζέικομπ Κόξον, ο οποίος κατηγόρησε τις εταιρείες τεχνητής νοημοσύνης ότι «παίζουν στα ζάρια τη ζωή μας» στην προσπάθειά τους να αναπτύξουν προηγμένα συστήματα.
Η ανάρτηση του Κόξον στα μέσα κοινωνικής δικτύωσης σχετικά με την παραίτησή του υιοθετήθηκε από δεκάδες άλλους ερευνητές της τεχνητής νοημοσύνης, οι οποίοι ζήτησαν να επιβραδυνθεί μια τεχνολογία που, όπως είπε, «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Στη Βουλή των Αντιπροσώπων, ο πρόεδρος Μάικ Τζόνσον ζήτησε συνεργασία μεταξύ της τεχνολογικής βιομηχανίας και της κυβέρνησης για την εξεύρεση δικλίδων ασφαλείας για την τεχνητή νοημοσύνη, λέγοντας ότι το μήνυμά του προς τις εταιρείες είναι πως «έχουν εταιρική ευθύνη να διασφαλίσουν ότι τα προϊόντα τους είναι ασφαλή». Ο επικεφαλής της μειοψηφίας στη Βουλή, Χακίμ Τζέφρις, δήλωσε στην εκπομπή This Week του ABC ότι οι Δημοκρατικοί στη Βουλή θα συνεδριάσουν ως κοινοβουλευτική ομάδα το πρωί της Τρίτης για να συζητήσουν πιθανές δράσεις σχετικά με την τεχνητή νοημοσύνη.
Ακόμη και με δισεκατομμύρια δολάρια τεχνολογικών επενδύσεων να διακυβεύονται, ορισμένοι στη Wall Street προειδοποιούν επίσης για το ενδεχόμενο κάτι να πάει καταστροφικά στραβά με την τεχνολογία και να προκαλέσει εκτεταμένη ζημία, σημειώνει το Bloomberg.
Ο Γκρεγκ Γιένσεν, διευθυντής επενδύσεων της Bridgewater Associates και πρώιμος επενδυτής τόσο στην OpenAI όσο και στην Anthropic, δήλωσε ότι η ταχεία πρόοδος της τεχνητής νοημοσύνης τον έχει ανησυχήσει και ότι ο κόσμος κινδυνεύει να χάσει το παράθυρο ευκαιρίας για την αποτροπή σοβαρών συνεπειών.
«Μέχρι η τεχνητή νοημοσύνη να αρχίσει να σκοτώνει ανθρώπους, δυστυχώς η ιστορία δείχνει ότι δεν πρόκειται να κάνουμε τίποτα», δήλωσε ο Γιένσεν στο podcast Odd Lots του Bloomberg. «Αυτό πρόκειται να συμβεί και θα ήταν πολύ καλύτερο να αρχίσουμε να το αντιμετωπίζουμε πριν συμβεί».
