Η Anthropic ανακοίνωσε ότι προχωρά στην αναστολή λειτουργίας των προηγμένων μοντέλων τεχνητής νοημοσύνης Fable 5 και Mythos 5, έπειτα από οδηγία της κυβέρνησης Τραμπ που επικαλείται λόγους εθνικής ασφάλειας. Η εταιρεία αρχικά περιόρισε την πρόσβαση για ξένους υπηκόους και στη συνέχεια απενεργοποίησε τα εργαλεία για όλους τους χρήστες, συμπεριλαμβανομένων εκείνων στις ΗΠΑ.
Οδηγία ελέγχου εξαγωγών από την κυβέρνηση των ΗΠΑ
Σύμφωνα με την Anthropic, η κυβέρνηση των ΗΠΑ απέστειλε οδηγία ελέγχου εξαγωγών που απαιτεί την άμεση διακοπή πρόσβασης στα μοντέλα Fable 5 και Mythos 5 από οποιονδήποτε ξένο υπήκοο, είτε βρίσκεται εντός είτε εκτός αμερικανικού εδάφους. Στον περιορισμό περιλαμβάνονται ακόμη και αλλοδαποί εργαζόμενοι της ίδιας της εταιρείας.
Η επιστολή, η οποία ελήφθη την Παρασκευή στις 17:21 σύμφωνα με την εταιρεία, θεωρείται η πιο σημαντική έως σήμερα παρέμβαση της κυβέρνησης Τραμπ στον έλεγχο προηγμένων μοντέλων τεχνητής νοημοσύνης. Αξιωματούχος επιβεβαίωσε ότι το Υπουργείο Εμπορίου απέστειλε τη σχετική οδηγία.
Πιέσεις προς την Anthropic
Η εξέλιξη έρχεται σε μια περίοδο αυξημένης πίεσης προς την Anthropic. Νωρίτερα μέσα στη χρονιά, το Πεντάγωνο είχε χαρακτηρίσει την εταιρεία πιθανό κίνδυνο για την αλυσίδα εφοδιασμού, στο πλαίσιο διαφωνιών σχετικά με τις δικλίδες ασφαλείας που είχε επιβάλει η εταιρεία στα μοντέλα της.
Η απόφαση ενδέχεται να επηρεάσει και τα επενδυτικά σχέδια της Anthropic, η οποία συγκαταλέγεται στις πιο πολύτιμες startups τεχνητής νοημοσύνης στις ΗΠΑ και εξετάζει το ενδεχόμενο δημόσιας εγγραφής τους επόμενους μήνες.
Ανησυχίες για πιθανό jailbreak
Η οδηγία δεν περιλάμβανε αναλυτική αιτιολόγηση σχετικά με τους κινδύνους εθνικής ασφάλειας. Ωστόσο, η Anthropic εκτιμά ότι η κυβερνητική παρέμβαση σχετίζεται με πιθανή μέθοδο παράκαμψης των περιορισμών ασφαλείας του Fable 5.
Όπως ανέφερε η εταιρεία, η κυβέρνηση φαίνεται να θεωρεί ότι έχει εντοπιστεί ένας πιθανός μηχανισμός «jailbreak» του μοντέλου. Παρ’ όλα αυτά, η Anthropic διαφωνεί με την απόφαση, υποστηρίζοντας ότι η ύπαρξη ενός περιορισμένου πιθανού κενού ασφαλείας δεν δικαιολογεί την απόσυρση ενός εμπορικού συστήματος που χρησιμοποιείται από εκατοντάδες εκατομμύρια ανθρώπους.
Τα μοντέλα Fable 5 και Mythos 5 στο επίκεντρο
Η Anthropic είχε διαθέσει το Mythos τον Απρίλιο σε περιορισμένο αριθμό επιχειρηματικών και κρατικών συνεργατών, προειδοποιώντας για τις προηγμένες δυνατότητές του στον εντοπισμό κενών κυβερνοασφάλειας. Λίγες ημέρες πριν από την κυβερνητική παρέμβαση, η εταιρεία είχε παρουσιάσει δημόσια το Fable 5, ενσωματώνοντας ενισχυμένα φίλτρα για την αποτροπή χρήσης του σε κυβερνοεπιθέσεις ή βιολογικές εφαρμογές υψηλού κινδύνου.
Η υπόθεση αναμένεται να επηρεάσει ευρύτερα τη συζήτηση γύρω από τη ρύθμιση της τεχνητή νοημοσύνη (AI), καθώς έρχεται σε αντίθεση με προηγούμενες διαβεβαιώσεις της αμερικανικής κυβέρνησης ότι δεν θα επιβληθεί υποχρεωτικό καθεστώς αδειοδότησης για τα προηγμένα μοντέλα AI.
