Η Anthropic, δημιουργός του Claude, αποκάλυψε σε νέα έκθεση απειλών ότι εντόπισε και διέκοψε σειρά ενεργειών κατά τις οποίες χρήστες επιχείρησαν να αξιοποιήσουν τα μοντέλα της σε στρατιωτικά και δυνητικά βιολογικά προγράμματα.
Τα ευρήματα που παρουσιάζουν οι Financial Times και οι New York Times δείχνουν πόσο γρήγορα διευρύνεται το πεδίο κινδύνου: από μια ομάδα στη βόρεια Υεμένη που ταυτίζεται με τους Χούθι χρησιμοποίησε το Claude για να γράψει λογισμικό καθοδήγησης πυραύλων, μέχρι επιστήμονες που προσπάθησαν να το αξιοποιήσουν σε έρευνες οι οποίες, υπό συγκεκριμένες συνθήκες, θα μπορούσαν να οδηγήσουν σε ισχυρότερους παθογόνους οργανισμούς.
Η Anthropic τονίζει ότι δεν έχει αποδείξεις πως τα βιολογικά ερευνητικά προγράμματα είχαν κατ’ ανάγκη σκοπό την κατασκευή όπλων. Ωστόσο, το γεγονός ότι ορισμένοι χρήστες έκρυβαν τον πραγματικό σκοπό της έρευνάς τους και επιχειρούσαν να παρακάμψουν τους μηχανισμούς ασφαλείας ήταν αρκετό για την εταιρεία ώστε να διακόψει την πρόσβασή τους.
«Δεν βλέπεις κάποιον, σαν σε κόμικ, να λέει “θέλω να φτιάξω ένα βιολογικό όπλο για να σκοτώσω τους πάντες”», δήλωσε στους New York Times ο επικεφαλής Threat Intelligence της Anthropic, Τζέικομπ Κλάιν. «Είναι μια απίστευτα σύνθετη κατάσταση».
Το Claude ως «μηχανικός» πυραύλων
Μία από τις πιο ανησυχητικές υποθέσεις αφορά ομάδα που δραστηριοποιούνταν στη βόρεια Υεμένη. Η Anthropic δεν την ταυτοποίησε επισήμως με τους Χούθι, ωστόσο η γεωγραφική περιοχή βρίσκεται σε μεγάλο βαθμό υπό τον έλεγχο της υποστηριζόμενης από το Ιράν οργάνωσης και, όπως σημειώνουν οι New York Times, τα στοιχεία της υπόθεσης παραπέμπουν σε αυτήν.
Σύμφωνα με την εταιρεία, η ομάδα εργαζόταν πάνω σε τρία διαφορετικά προγράμματα όπλων: έναν βαλλιστικό πύραυλο, έναν πύραυλο με διαφορετικές παραλλαγές και μία κατευθυνόμενη ρουκέτα. Το πλέον ανησυχητικό είναι ότι οι χρήστες δεν αντιμετώπιζαν το Claude απλώς ως εργαλείο αναζήτησης πληροφοριών.
Το χρησιμοποίησαν, όπως αναφέρει η Anthropic, «στη θέση ανθρώπων μηχανικών λογισμικού», προκειμένου να αναπτύξουν το σύστημα καθοδήγησης, πλοήγησης και ελέγχου των όπλων.
Το μοντέλο χρησιμοποιήθηκε για την ενσωμάτωση autopilot ανοικτού κώδικα σε υπολογιστή πτήσης επιπέδου smartphone, για τη συγγραφή λογισμικού ελέγχου και υπολογισμού θέσης, την προσαρμογή παραμέτρων, την παραγωγή firmware και ακόμη και για προσομοίωση πτήσης. Με άλλα λόγια, ένα εμπορικά διαθέσιμο σύστημα τεχνητής νοημοσύνης επιχειρήθηκε να μετατραπεί σε ψηφιακό συνεργάτη ενός προγράμματος ανάπτυξης οπλικών συστημάτων.
Δοκίμασαν ρουκέτα και μετά ρώτησαν το ΑΙ γιατί απέτυχε
Η υπόθεση δεν περιορίστηκε σε θεωρητικές αναζητήσεις. Η Anthropic αναφέρει ότι η ομάδα πραγματοποίησε δοκιμαστική εκτόξευση κατευθυνόμενης ρουκέτας. Η δοκιμή φαίνεται ότι απέτυχε. Μέσα σε λίγες ώρες, οι χρήστες επέστρεψαν στο Claude για να αναλύσουν τι είχε πάει στραβά και να επιχειρήσουν να διορθώσουν τα προβλήματα.
Η εταιρεία διευκρινίζει ότι δεν διαθέτει στοιχεία πως το συγκεκριμένο πρόγραμμα κατέληξε σε λειτουργικό όπλο. Το γεγονός, όμως, ότι η τεχνητή νοημοσύνη χρησιμοποιήθηκε σε πραγματικό κύκλο σχεδιασμού, δοκιμής και διόρθωσης αποτελεί ποιοτικά διαφορετικό επίπεδο απειλής.
Πώς παρακάμπτονταν οι δικλίδες ασφαλείας
Οι μηχανισμοί του Claude απέρριψαν πολλά από τα σχετικά αιτήματα, όχι όμως όλα. Σύμφωνα με την Anthropic, οι χρήστες είχαν αναπτύξει τεχνικές ώστε να αποκρύπτουν τι πραγματικά κατασκεύαζαν. Δεν αποκάλυπταν εξαρχής τον τελικό σκοπό του λογισμικού και μοίραζαν την εργασία σε πολλές διαφορετικές συνομιλίες, έτσι ώστε καμία μεμονωμένη συνεδρία να μην παρουσιάζει ολόκληρο το σχέδιο.
Το ακόμη πιο ανησυχητικό κεφάλαιο: βιολογικά όπλα
Αν η χρήση ΑΙ για πυραύλους προκαλεί ανησυχία, το πιο επικίνδυνο κομμάτι της έκθεσης αφορά τη βιολογική έρευνα.
Η Anthropic αποκάλυψε ότι μέσα στη χρονιά διέκοψε αρκετές περιπτώσεις στις οποίες επιστήμονες χρησιμοποιούσαν προηγμένα μοντέλα Claude για έρευνα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων.
Η έρευνα πάνω σε ιούς και μεταλλάξεις μπορεί να οδηγήσει σε νέα εμβόλια και θεραπείες. Μπορεί, όμως, να χρησιμοποιηθεί και για τη δημιουργία πιο επικίνδυνων παθογόνων.
Αυτό ακριβώς είναι το λεγόμενο dual-use πρόβλημα της σύγχρονης βιοτεχνολογίας.
Η Anthropic αναφέρει ότι δεν μπόρεσε να διαπιστώσει με βεβαιότητα εάν οι επιστήμονες είχαν νόμιμους ή κακόβουλους σκοπούς. Επέλεξε, ωστόσο, να διακόψει τις σχετικές δραστηριότητες λόγω των δυνητικά καταστροφικών συνεπειών ενός λάθους.
Το πείραμα με τον ιό chikungunya
Μία από τις χαρακτηριστικότερες περιπτώσεις καταγράφηκε τον Μάιο. Επιστήμονας ζήτησε τη βοήθεια του Claude για τη σύνταξη πρότασης χρηματοδότησης έρευνας πάνω στον ιό chikungunya, ο οποίος μεταδίδεται από κουνούπια και μπορεί να προκαλέσει έντονους πόνους και άλλα σοβαρά συμπτώματα επί μήνες.
Η σχεδιαζόμενη έρευνα αφορούσε πειράματα τύπου gain-of-function, κατά τα οποία ένας παθογόνος οργανισμός τροποποιείται ώστε να μελετηθούν μεταλλάξεις και χαρακτηριστικά του. Τέτοιες μελέτες μπορούν να έχουν απολύτως θεμιτή επιστημονική αξία και να οδηγήσουν στην ανάπτυξη εμβολίων.
Στη συγκεκριμένη περίπτωση, όμως, ο επιστήμονας επιδίωκε να δημιουργήσει μεταλλάξεις που θα μπορούσαν να κάνουν τον ιό περισσότερο επιβλαβή καθώς μεταδιδόταν επανειλημμένα σε ζώα. Η ανησυχία της Anthropic έγινε ακόμη μεγαλύτερη όταν διαπίστωσε ότι η έρευνα προοριζόταν να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ινστιτούτο.
«Αυτό που δεν γνωρίζουμε είναι αν η έρευνα προοριζόταν για στρατιωτική αξιοποίηση», δήλωσε ο Κλάιν. «Αλλά ένα στρατιωτικό ίδρυμα που πραγματοποιεί έρευνα gain-of-function είναι ανησυχητικό».
«Μπορεί να δημιουργηθούν παθογόνα που δεν θα δούμε να έρχονται»
Η Σούζαν Μονάρεζ, μικροβιολόγος και ειδικός στη δημόσια υγεία, η οποία είχε εξετάσει την εθνική ετοιμότητα βιοασφάλειας των ΗΠΑ επί κυβέρνησης Ομπάμα, χαρακτήρισε τα ευρήματα πραγματική ένδειξη ότι κακόβουλοι φορείς προσπαθούν ήδη να αξιοποιήσουν κρυφά τα πιο προηγμένα μοντέλα.
Όπως προειδοποίησε, οι ίδιες δυνατότητες που μπορούν να οδηγήσουν σε θεαματικές ιατρικές ανακαλύψεις μπορούν ταυτόχρονα να επιτρέψουν σε επικίνδυνους χρήστες να «κρύβονται σε κοινή θέα», χρησιμοποιώντας φαινομενικά νόμιμη επιστημονική έρευνα για την ανάπτυξη παθογόνων που μπορεί να αποδειχθούν εξαιρετικά δύσκολο να σταματήσουν μετά την απελευθέρωσή τους.
Ο Άντριου Γουέμπερ, πρώην υφυπουργός Άμυνας των ΗΠΑ για προγράμματα πυρηνικής, χημικής και βιολογικής άμυνας, χαρακτήρισε τις περιπτώσεις «ανατριχιαστικά παραδείγματα» κρατικά υποστηριζόμενων ερευνητών που επιχειρούν να αξιοποιήσουν τις ταχύτατα εξελισσόμενες δυνατότητες των προηγμένων μοντέλων ΑΙ.
Κατά τον ίδιο, η πρόσβαση σε συστήματα ικανά να υποστηρίζουν τόσο προηγμένη βιολογική έρευνα θα πρέπει να περιορίζεται σε απολύτως αξιόπιστους επιστήμονες.
Κίνα, Ρωσία, Υεμένη και προγράμματα όπλων
Η έκθεση της Anthropic περιλαμβάνει και άλλες περιπτώσεις χρήσης του Claude για στρατιωτικούς σκοπούς. Καταγράφονται τρεις υποθέσεις στην Κίνα, δύο στη Ρωσία και μία στην Υεμένη, στις οποίες το μοντέλο επιχειρήθηκε να χρησιμοποιηθεί για ανάπτυξη συμβατικών οπλικών συστημάτων, από πυροβόλα και drones έως πυραύλους και βόμβες.
Παράλληλα, η εταιρεία εντόπισε ύποπτους χρήστες που συνδέονταν με την Κίνα και το Ιράν να χρησιμοποιούν το Claude για παρακολούθηση αντιφρονούντων και κοινοτήτων της διασποράς.
Ρωσικά κρατικά μέσα, σύμφωνα με την έκθεση, αξιοποίησαν επίσης το μοντέλο για την παραγωγή διαδικτυακής προπαγάνδας που παρουσιαζόταν ως ανεξάρτητη δημοσιογραφία, ακόμη και με κατασκευασμένους ισχυρισμούς γύρω από εκλογές στη Μολδαβία.
Ο νέος αγώνας δρόμου των εταιρειών ΑΙ
Τα ευρήματα καταγράφονται σε μια στιγμή κατά την οποία τα κορυφαία μοντέλα γίνονται πολύ πιο ικανά να εκτελούν σύνθετες επιστημονικές και τεχνικές εργασίες. Η ίδια η Anthropic αναφέρει ότι οι παλαιότερες εκδόσεις των μοντέλων της, όταν εξετάστηκαν πέρυσι, δεν ήταν ακόμη σε θέση να προσφέρουν ουσιαστική βοήθεια σε επικίνδυνη βιολογική έρευνα.
Τα σημερινά μοντέλα, όμως, έχουν σαφώς μεγαλύτερες δυνατότητες. Αυτό ανάγκασε την εταιρεία να αυστηροποιήσει τις δικλίδες ασφαλείας για ένα ευρύ φάσμα βιολογικών ερωτημάτων διπλής χρήσης. Το πρόβλημα είναι ότι η άμυνα εξελίσσεται ταυτόχρονα με την επίθεση.
Όσο τα συστήματα γίνονται πιο έξυπνα, τόσο περισσότερο μπορούν να βοηθήσουν επιστήμονες, προγραμματιστές και μηχανικούς. Και τόσο μεγαλύτερη γίνεται η αξία τους για κυβερνήσεις, ένοπλες οργανώσεις ή μεμονωμένους χρήστες που επιδιώκουν ακριβώς το αντίθετο από εκείνο για το οποίο σχεδιάστηκαν.
Ακόμη κι αν κλείσει ένας λογαριασμός, η γνώση μένει
Η Anthropic ανακοίνωσε ότι απαγόρευσε τους λογαριασμούς που συνδέονταν με τις επικίνδυνες δραστηριότητες και μοιράστηκε πληροφορίες με κυβερνητικούς και ιδιωτικούς φορείς. Στην περίπτωση της Υεμένης, όμως, διαπίστωσε κάτι ακόμη πιο ανησυχητικό.
Η ομάδα είχε ήδη κατασκευάσει offline εργαλεία προσομοίωσης, τα οποία μπορούσαν να λειτουργήσουν χωρίς περαιτέρω πρόσβαση στο Claude. Με άλλα λόγια, όταν η εταιρεία έκλεισε την πόρτα, ένα μέρος της τεχνογνωσίας που είχε ήδη παραχθεί είχε φύγει από τον έλεγχό της.
Και αυτό είναι ίσως το πιο δύσκολο ερώτημα που αναδεικνύεται από τις δύο έρευνες: σε μια εποχή όπου ένα μοντέλο ΑΙ μπορεί να λειτουργεί ταυτόχρονα ως επιστημονικός συνεργάτης, προγραμματιστής και μηχανικός, πόσο εύκολο είναι να σταματήσει κανείς μια επικίνδυνη χρήση αφού η απαραίτητη γνώση έχει ήδη παραχθεί;
