Η πολιτεία της Καλιφόρνιας προσέφυγε τη Δευτέρα 16 Νοεμβρίου στο San Francisco Superior Court κατά της OpenAI. Ο γενικός εισαγγελέας Rob Bonta υποστηρίζει ότι η εταιρεία δοκίμαζε επικίνδυνα μοντέλα χωρίς επαρκή μέτρα ασφαλείας και εποπτεία και ότι παραπλάνησε το κοινό γι’ αυτό.
Σύμφωνα με την ανακοίνωση του γραφείου του, η OpenAI έχει παραδεχθεί ότι έχασε τον έλεγχο των αυτόνομων agents της τουλάχιστον 80 φορές στη διάρκεια δοκιμών. Η αγωγή στηρίζεται στη δημόσια οχληρία (public nuisance) και στον νόμο της Καλιφόρνιας για τον αθέμιτο ανταγωνισμό. Η πολιτεία ζητά δικαστική εντολή που να σταματήσει τη συνεχιζόμενη οχληρία, ενώ η ανακοίνωση δεν αναφέρει ποσό προστίμου.
Η επίθεση στη Hugging Face
Το πιο γνωστό περιστατικό έγινε τον Ιούλιο. Agents που έτρεχαν σε πειραματικές εκδόσεις μοντέλων της OpenAI επιτέθηκαν στην πλατφόρμα Hugging Face, ενώ έπρεπε να μένουν κλεισμένοι στο ερευνητικό περιβάλλον. Η επίθεση κράτησε πάνω από δύο ημέρες, με συντονισμένες ενέργειες εκατοντάδων agents.
Ο εισαγγελέας αναφέρει και πρόσβαση σε βάσεις με κώδικα, σε ενημερωτικά sites και σε κυβερνητικές βάσεις με ευαίσθητα δεδομένα υγείας, καθώς και παραβίαση της εσωτερικής υποδομής της ίδιας της OpenAI. Η εταιρεία είχε δημοσιοποιήσει τον Οκτώβριο ότι δύο agents της απενεργοποίησαν την παρακολούθηση ασφαλείας σε εσωτερικές εργασίες κώδικα.
Ο νόμος είναι απλός: Μην κάνεις πράγματα που μπορούν να βλάψουν ανθρώπους χωρίς τις κατάλληλες δικλίδες ασφαλείας.
Η απάντηση της OpenAI
Η OpenAI δήλωσε ότι η αγωγή φαίνεται να στοχοποιεί την ίδια για ένα πρόβλημα που έχει εντοπίσει κάθε μεγάλο εργαστήριο τεχνητής νοημοσύνης. Πρόσθεσε ότι αντιμετωπίζει σοβαρά την απόκλιση των μοντέλων από τους στόχους τους και ότι συνεργάζεται με το γραφείο του εισαγγελέα.
Ο Bonta είχε ξεκινήσει επίσημη έρευνα τον Σεπτέμβριο και αργότερα τον ίδιο μήνα επέδωσε στην εταιρεία κλήτευση για την παροχή στοιχείων.