Μια προειδοποίηση που προκαλεί έντονο προβληματισμό έρχεται από έναν άνθρωπο που βρίσκεται στην καρδιά της παγκόσμιας κούρσας για την τεχνητή νοημοσύνη.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καλεί σε άμεση επιβράδυνση της ανάπτυξης των δυνατοτήτων της AI, εκφράζοντας φόβους ότι η τεχνολογική εξέλιξη μπορεί να αρχίσει να κινείται ταχύτερα από την ικανότητα των ανθρώπων να την ελέγξουν.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», υποστηρίζει, επισημαίνοντας παράλληλα ότι ο χρόνος που μπορεί να κερδηθεί θα πρέπει να αξιοποιηθεί για την ανάπτυξη ισχυρότερων δικλίδων ασφαλείας.
Από την πρόοδο στον φόβο
Ο Αμοντέι αναγνωρίζει ότι η ίδια τεχνολογία που υπόσχεται τεράστια οφέλη μπορεί να χρησιμοποιηθεί και με επικίνδυνο τρόπο.
Στο σενάριο που περιγράφει, οι κίνδυνοι δεν περιορίζονται σε απλές δυσλειτουργίες. Μιλά για κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές αναταράξεις, προειδοποιώντας ότι ένας ανεξέλεγκτος ανταγωνισμός μεταξύ εταιρειών, με βασικό κίνητρο το εμπορικό κέρδος, θα μπορούσε να κάνει τα πράγματα ακόμη πιο επικίνδυνα.
Το μεγάλο ερώτημα είναι πλέον αν η τεχνολογία θα συνεχίσει να εξελίσσεται με ρυθμούς που οι άνθρωποι μπορούν να παρακολουθούν ή αν κάποια στιγμή η ισορροπία θα ανατραπεί.
Τουρκικά ΜΜΕ μιλούν στρατιωτική κατάληψη του Καστελλόριζου! “Ο Μητσοτάκης το είδε για τελευταία φορά”
Το περιστατικό που τον ανησύχησε
Ιδιαίτερη αναφορά κάνει σε περιστατικό που συνδέεται με το Hugging Face, υποστηρίζοντας ότι ένα σμήνος πρακτόρων AI παρουσίασε συμπεριφορά που τον προβλημάτισε έντονα.
Όπως περιγράφει, οι πράκτορες φέρεται να λειτούργησαν συλλογικά και να πραγματοποίησαν κυβερνοεπιθέσεις εναντίον στόχων που, σύμφωνα με τον ίδιο, δεν είχαν λάβει εντολή να χτυπήσουν.
Για τον Αμοντέι, τέτοια περιστατικά αποτελούν προειδοποιητικό καμπανάκι για το τι θα μπορούσε να συμβεί εάν παρόμοια συστήματα αποκτήσουν πολύ μεγαλύτερες δυνατότητες και αυτονομία.
Το ακραίο σενάριο των 6-12 μηνών
Η πιο δραματική προειδοποίηση αφορά το Διαδίκτυο.
Ο επικεφαλής της Anthropic εκτιμά ότι, εάν η εξέλιξη των δυνατοτήτων της AI συνεχιστεί με τον ίδιο επιταχυνόμενο ρυθμό και δεν υπάρξουν επαρκείς μηχανισμοί προστασίας, ένα ιδιαίτερα ισχυρό σμήνος πρακτόρων θα μπορούσε, σύμφωνα με το υποθετικό σενάριο που περιγράφει, μέσα σε μόλις έξι έως δώδεκα μήνες να αποκτήσει τη δυνατότητα να επηρεάσει ή να καταλάβει μεγάλο μέρος της διαδικτυακής υποδομής μέσω επίμονου botnet.
Οι πιθανές οικονομικές απώλειες, όπως προειδοποιεί, θα μπορούσαν να φτάσουν σε εκατοντάδες δισεκατομμύρια δολάρια, ενώ οι επιπτώσεις θα μπορούσαν να αυξηθούν περαιτέρω όσο ισχυρότερα γίνονται τα συστήματα.
Δεν πρόκειται για πρόβλεψη ότι αυτό θα συμβεί οπωσδήποτε. Είναι, όμως, μια προειδοποίηση από έναν από τους ανθρώπους που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI.
Και το μήνυμα του Αμοντέι είναι ξεκάθαρο: η τεχνητή νοημοσύνη μπορεί να προχωρά με ιλιγγιώδη ταχύτητα, αλλά οι δικλίδες ασφαλείας δεν επιτρέπεται να μείνουν πίσω.
