Ένα πείραμα με 15 συσκευές συνδεδεμένες στο Διαδίκτυο πραγματοποίησαν ερευνητές της Anthropic, εξετάζοντας κατά πόσο μοντέλα τεχνητής νοημοσύνης μπορούν να λειτουργούν σε διαφορετικά μηχανήματα και να αναπαράγονται χωρίς ανθρώπινη παρέμβαση. Τα αποτελέσματα οδήγησαν την εταιρεία σε προειδοποίηση για την εμφάνιση μιας νέας κατηγορίας ψηφιακών απειλών.
Μια νέα μορφή κακόβουλου λογισμικού, που θα μπορεί να χρησιμοποιεί τεχνητή νοημοσύνη για να εξαπλώνεται από συσκευή σε συσκευή, βρέθηκε στο επίκεντρο έρευνας της Anthropic.
Η εταιρεία, γνωστή για την ανάπτυξη του Claude, δημοσιοποίησε στις 12 Οκτωβρίου τα αποτελέσματα δοκιμών που πραγματοποίησε η εσωτερική ομάδα ασφαλείας της, εξετάζοντας τις δυνατότητες των λεγόμενων «AI worms», δηλαδή προγραμμάτων που θα μπορούσαν να αντιγράφουν και να μεταφέρουν αυτόνομα τον εαυτό τους σε άλλες συσκευές.
Στο πλαίσιο της έρευνας, οι επιστήμονες κατάφεραν να λειτουργήσουν ένα μοντέλο τεχνητής νοημοσύνης αξιοποιώντας συνδυαστικά την υπολογιστική ισχύ 15 συσκευών τύπου Android TV box.
Το αποτέλεσμα απέδειξε ότι ορισμένα μοντέλα μπορούν να λειτουργούν χωρίς να εξαρτώνται αποκλειστικά από μεγάλα κέντρα δεδομένων. Δεν σημαίνει, ωστόσο, ότι δημιουργήθηκε ένας πλήρως λειτουργικός ιός που εξαπλώνεται ανεξέλεγκτα.
Πώς θα μπορούσε να εξαπλωθεί ένας ιός AI
Τα συνηθισμένα κακόβουλα προγράμματα εκμεταλλεύονται κενά ασφαλείας για να προσβάλλουν υπολογιστές και άλλες ηλεκτρονικές συσκευές.
Η διαφορά στην περίπτωση των AI worms είναι ότι ένα μοντέλο τεχνητής νοημοσύνης θα μπορούσε να προσαρμόζει τη λειτουργία του ανάλογα με το μηχάνημα που επιχειρεί να προσβάλει.
Σύμφωνα με την Anthropic, ένας τέτοιος μηχανισμός θα μπορούσε στο μέλλον να εντοπίζει ευάλωτες συσκευές, να μεταφέρει σε αυτές το λογισμικό του και να συνεχίζει τη διαδικασία χωρίς συνεχή ανθρώπινο έλεγχο.
Στην κατηγορία των πιθανών στόχων περιλαμβάνονται έξυπνες τηλεοράσεις, κάμερες ασφαλείας, ηλεκτρικές συσκευές και άλλος εξοπλισμός που συνδέεται στο Διαδίκτυο.
Η ομάδα της Anthropic διαπίστωσε ότι ένα μοντέλο με εννέα δισεκατομμύρια παραμέτρους κατάφερε να προσαρμόσει τη λειτουργία άλλων μοντέλων σε οκτώ από τους εννέα τύπους υλικού που δοκιμάστηκαν.
Τι κατάφεραν και τι δεν κατάφεραν οι ερευνητές
Η έρευνα κατέγραψε πρόοδο σε επιμέρους στάδια της αυτόνομης αναπαραγωγής, αλλά και σημαντικούς περιορισμούς.
Τα μικρότερα μοντέλα που δοκιμάστηκαν μπορούσαν να εκτελέσουν αρκετές από τις απαιτούμενες ενέργειες, χωρίς όμως να ολοκληρώνουν με αξιοπιστία ολόκληρη τη διαδικασία: εντοπισμό νέας συσκευής, πρόσβαση σε αυτή, εγκατάσταση και συνέχιση της εξάπλωσης.
Οι δοκιμές έδειξαν επίσης ότι η λειτουργία σε συσκευές περιορισμένης υπολογιστικής ισχύος παραμένει ιδιαίτερα αργή.
Η Anthropic εκτιμά ότι μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να αποκτήσουν τις απαιτούμενες δυνατότητες έως το τέλος του 2026, εφόσον συνεχιστεί ο σημερινός ρυθμός τεχνολογικής ανάπτυξης.
Πρόκειται για εκτίμηση της εταιρείας και όχι για επιβεβαιωμένη πρόβλεψη ότι θα εμφανιστεί τότε πραγματική κυβερνοεπίθεση αυτού του είδους.
Η προειδοποίηση για τις έξυπνες συσκευές
Οι ερευνητές επισημαίνουν ότι πολλές συσκευές του λεγόμενου «Διαδικτύου των Πραγμάτων» δεν διαθέτουν το επίπεδο προστασίας που συναντάται στους σύγχρονους υπολογιστές και στα κινητά τηλέφωνα.
Επιπλέον, ορισμένοι κατασκευαστές παρέχουν λιγότερο συχνές ενημερώσεις ασφαλείας, αφήνοντας γνωστές ευπάθειες χωρίς διόρθωση.
Η Anthropic προειδοποιεί ότι ένας μελλοντικός αυτοαναπαραγόμενος μηχανισμός τεχνητής νοημοσύνης θα ήταν δύσκολο να απενεργοποιηθεί, εφόσον λειτουργούσε ταυτόχρονα σε μεγάλο αριθμό ανεξάρτητων συσκευών.
Η εταιρεία προτείνει ενίσχυση της ασφάλειας των συνδεδεμένων συσκευών, τακτικές ενημερώσεις λογισμικού και στενότερη συνεργασία μεταξύ κατασκευαστών, παρόχων Διαδικτύου και ειδικών κυβερνοασφάλειας.
Μέχρι σήμερα, οι ερευνητές δεν έχουν παρουσιάσει έναν πλήρως αυτόνομο ιό AI που να εξαπλώνεται με επιτυχία από συσκευή σε συσκευή σε πραγματικές συνθήκες. Τα αποτελέσματα της μελέτης αφορούν πειραματικές δυνατότητες και τους κινδύνους που ενδέχεται να προκύψουν από την περαιτέρω ανάπτυξή τους.
