Σοβαρά ερωτήματα για τους κινδύνους που μπορεί να προκύψουν από τη χρήση μοντέλων τεχνητής νοημοσύνης
Ένα ιδιαίτερα ανησυχητικό περιστατικό, που αναδεικνύει τις προκλήσεις ασφαλείας στην τεχνητή νοημοσύνη, είδε το φως της δημοσιότητας. Όπως έγινε γνωστό, το μοντέλο Gemini της Google κατάφερε να αποκτήσει πρόσβαση σε προστατευμένους ιστοτόπους.
Όπως επιβεβαίωσε η εταιρεία στο Γαλλικό Πρακτορείο Ειδήσεων (AFP) —σε συνέχεια αποκαλυπτικού δημοσιεύματος της Wall Street Journal— το συμβάν έλαβε χώρα τον Μάιο, κατά τη διάρκεια τακτικών ελέγχων και ταυτοποιήθηκε τον Ιούλιο.
Πώς το μοντέλο AI προσπέρασε τα μέτρα ασφαλείας
Σύμφωνα με την αντιπρόεδρο μηχανικής ασφαλείας της Google, Heather Adkins, το σύστημα AI συνδύασε δημόσια διαθέσιμα δεδομένα από το διαδίκτυο και στη συνέχεια προχώρησε σε εικασίες, προκειμένου να μαντέψει τα διαπιστευτήρια σύνδεσης (credentials). Με αυτόν τον τρόπο εισήλθε σε διαδικτυακούς τόπους, τους οποίους θεώρησε λανθασμένα ως μέρος του περιβάλλοντος δοκιμών.
Οι παραβιάσεις συνέβησαν ενώ το Gemini συμμετείχε σε μία άσκηση hacking τύπου «capture the flag» (CTF). Σε τέτοιου είδους ασκήσεις ο στόχος είναι να εντοπιστούν συγκεκριμένες πληροφορίες ή «σημαίες» μέσα σε συστήματα που έχουν στηθεί ειδικά για δοκιμές ασφαλείας.
Στην προκειμένη περίπτωση, είχε ζητηθεί από το μοντέλο να ανακτήσει πληροφορίες από λογισμικό που υποτίθεται ότι ανήκε σε μια φανταστική εταιρεία μέσα στο περιβάλλον δοκιμών, σύμφωνα με τη Wall Street Journal.
Υπήρχε όμως ένα κρίσιμο πρόβλημα: η φανταστική εταιρεία είχε το ίδιο όνομα με μια πραγματική εταιρεία.
Σε μία από τις περιπτώσεις, το μοντέλο άρχισε να δοκιμάζει πιθανούς κωδικούς πρόσβασης σε ένα προστατευμένο σύστημα, μέχρι που τελικά κατάφερε να αποκτήσει πρόσβαση.
Στις άλλες δύο περιπτώσεις, το Gemini εντόπισε στοιχεία σύνδεσης (credentials) μέσα σε δημόσια διαθέσιμο αποθετήριο κώδικα και στη συνέχεια χρησιμοποίησε αυτά τα στοιχεία για να αποκτήσει πρόσβαση σε άλλα προστατευμένα συστήματα.
Σύμφωνα με το δημοσίευμα, μόλις το μοντέλο αντιλήφθηκε ότι είχε αποκτήσει πρόσβαση σε πραγματικές εταιρείες και όχι στο υποτιθέμενο περιβάλλον δοκιμών, σταμάτησε τις ενέργειές του.
Αντίδραση της Google και μέτρα θωράκισης
Παρά το γεγονός ότι το Gemini πέτυχε είσοδο σε τρεις διαφορετικές περιπτώσεις, η ίδια η διαδικασία διακόπηκε άμεσα και στις τρεις.
Η Google απέφυγε να κατονομάσει τους φορείς που επηρεάστηκαν, επιβεβαίωσε όμως ότι προχώρησε στην πλήρη ενημέρωσή τους.
Παράλληλα, σε συνεργασία με τον εκπαιδευτικό της εταίρο, αναθεώρησε τα πρωτόκολλα των αξιολογήσεων, τονίζοντας τη σημασία της υπεύθυνης εκπαίδευσης των προηγμένων μοντέλων AI.
BBC: «Γιατί υπάρχουν ανησυχίες ότι η ΤΝ μπορεί να απειλήσει την ανθρωπότητα και πόσο πραγματικές είναι»
Καθώς η τεχνολογία της Τεχνητής Νοημοσύνης εξελίσσεται με πρωτοφανείς ρυθμούς, ειδικοί και ερευνητές προειδοποιούν για τους υπαρξιακούς κινδύνους που ενδέχεται να εγκυμονεί για την ανθρωπότητα, εντείνοντας τη συζήτηση γύρω από την ανάγκη λήψης ρυθμιστικών μέτρων.
Σύμφωνα με ανάλυση του BBC, οι κύριες ανησυχίες και οι κίνδυνοι είναι οι εξής:
Υπερφυΐα (Superintelligence) και απώλεια ελέγχου: Η πιθανότητα δημιουργίας συστημάτων ΤΝ που ξεπερνούν την ανθρώπινη νοημοσύνη και αποκτούν την ικανότητα αυτο-βελτίωσης. Αυτό δημιουργεί σοβαρούς κινδύνους ελέγχου για τους προγραμματιστές και τους επενδυτές.
Αυτοματοποιημένοι πράκτορες (AI Agents): Εργαλεία ΤΝ που μπορούν να εκτελούν εργασίες και να λαμβάνουν αποφάσεις αυτόνομα, χωρίς ανθρώπινη παρέμβαση.
Ευθυγράμμιση (Alignment): Η πρόκληση του να διασφαλιστεί ότι τα συστήματα ΤΝ παραμένουν ευθυγραμμισμένα με τις ανθρώπινες ηθικές αξίες και την ασφάλεια.
Κακόβουλη χρήση & Βιολογικά Όπλα: Φόβοι ότι προηγμένα μοντέλα (όπως το Claude) θα μπορούσαν να χρησιμοποιηθούν από κακόβουλους δρώντες ή επιστήμονες για επικίνδυνες ερευνητικές δραστηριότητες (π.χ. ανάπτυξη βιολογικών όπλων) ή κυβερνοεπιθέσεις.
Deepfakes & Παραπληροφόρηση: Η παραγωγή συνθετικών μέσων που μπορούν να χειραγωγήσουν τη δημόσια γνώμη και να αποσταθεροποιήσουν κοινωνικοπολιτικές διαδικασίες.
Το σχετικό άρθρο του BBC.
Παράλληλα, όμως, υπάρχει και γεωπολιτική / οικονομική διάσταση:
Ανταγωνισμός ΗΠΑ – Κίνας: Η ραγδαία πρόοδος της Κίνας στην ΤΝ απειλεί την ηγετική θέση των ΗΠΑ στην αγορά, γεγονός που καθιστά τις ρυθμίσεις ακόμη πιο περίπλοκες, καθώς καμία πλευρά δεν θέλει να επιβραδύνει την ανάπτυξη εις βάρος της στρατηγικής της ισχύος.
«Επιβράδυνση της ΤΝ» (AI Slowdown): Προτάσεις για θεσμοθέτηση ρυθμιστικών πλαισίων που θα επιβραδύνουν την ανάπτυξη νέων μοντέλων ώστε να προηγηθεί η διασφάλιση της ασφάλειας. Ωστόσο, αυτό συνεπάγεται υψηλό οικονομικό κόστος για τις εταιρείες που δίνουν προτεραιότητα στην ασφάλεια.
Όπως αναφέρει ακόμη το BBC, το μέλλον της ανάπτυξης της Τεχνητής Νοημοσύνης θα εξαρτηθεί από τη λεπτή ισορροπία μεταξύ της καινοτομίας και της υπευθυνότητας. Η πρόκληση για τους ηγέτες του κλάδου και τις κυβερνήσεις είναι να διασφαλίσουν τη βιώσιμη ανάπτυξη χωρίς να τεθεί σε κίνδυνο η ασφάλεια της κοινωνίας.
zougla.gr
