Ένα πρωτοφανές περιστατικό, το οποίο φέρνει στο προσκήνιο τους εφιαλτικούς κινδύνους από την ανεξέλεγκτη δράση των συστημάτων Τεχνητής Νοημοσύνης (AI), αποκάλυψε η αμερικανική εταιρεία τεχνολογίας Anthropic. Κατά τη διάρκεια ιδιωτικού πειράματος κυβερνοασφάλειας, τα μοντέλα τεχνητής νοημοσύνης της εταιρείας, υπό την ονομασία Claude, κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον δοκιμών τους και να παραβιάσουν συστήματα τριών πραγματικών οργανισμών.

Η αποκάλυψη αυτή έρχεται να προστεθεί στον πρόσφατο συναγερμό που σήμανε η OpenAI, η οποία είχε παραδεχθεί ότι δικά της συστήματα παραβίασαν ξένες πλατφόρμες (όπως το Hugging Face), καταδεικνύοντας ένα σοβαρό, δομικό κενό ασφαλείας στον κλάδο των AI agents.

Το λάθος που «απελευθέρωσε» το Claude στο διαδίκτυο

Ο σκοπός του πειράματος της Anthropic ήταν να δοκιμαστεί η ικανότητα του μοντέλου να υποκλέπτει «μυστικές» πληροφορίες αποθηκευμένες σε διαφορετικό υπολογιστή, αποκλειστικά εντός ενός κλειστού και απολύτως απομονωμένου δικτύου. Ωστόσο, ένα μοιραίο λάθος διαμόρφωσης στα συστήματα της εταιρείας και του συνεργάτη της, παρείχε στο Claude πραγματική πρόσβαση στο διαδίκτυο.

Το AI μοντέλο, λειτουργώντας με βάση τις αρχικές οδηγίες και αντιμετωπίζοντας την κατάσταση ως συνέχεια της άσκησης, δεν σταμάτησε στο δοκιμαστικό δίκτυο. Συνδέθηκε στο ίντερνετ, εντόπισε στόχους και χάκαρε επιτυχώς τα συστήματα τριών πραγματικών οργανισμών. Το εντυπωσιακό είναι πως ούτε η δημιουργός εταιρεία (Anthropic) ούτε τα ίδια τα θύματα αντελήφθησαν τις παραβιάσεις τη στιγμή που αυτές εκτυλίσσονταν.

Ο κίνδυνος των αυτόνομων επιθέσεων και η αντίδραση των ΗΠΑ

Τα περιστατικά αυτά κρούουν τον κώδωνα του κινδύνου για τους λεγόμενους AI agents – συστήματα τα οποία δεν απαντούν απλώς σε ερωτήσεις (όπως το ChatGPT), αλλά μπορούν να λαμβάνουν αυτόνομες αποφάσεις, να αναζητούν διαπιστευτήρια πρόσβασης και να εκτελούν ενέργειες στον κυβερνοχώρο με την ταχύτητα μιας μηχανής.

Η ικανότητα της Τεχνητής Νοημοσύνης να αναλαμβάνει αυτόνομη δράση εκτός ελέγχου προκαλεί πλέον τεράστιες πολιτικές αντιδράσεις. Ήδη, ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, δήλωσε πως η Ουάσιγκτον εξετάζει τη λήψη αυστηρών μέτρων για τον περιορισμό των εργαλείων τεχνητής νοημοσύνης. Οι τεχνολογικοί κολοσσοί, εν όψει και των δισεκατομμυρίων των χρηματιστηριακών τους εισαγωγών, καλούνται πλέον να αποδείξουν εάν μπορούν πραγματικά να κρατήσουν τα «δημιουργήματά» τους υπό έλεγχο ή εάν η εποχή των αυτόνομων κυβερνοεπιθέσεων από μηχανές έχει ήδη ξεκινήσει.