Google Gemini: Η Τεχνητή Νοημοσύνη κατάφερε να σπάσει κωδικούς και να κάνει κυβερνοεπιθέσεις

Το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατάφερε, στο πλαίσιο δοκιμαστικής αξιολόγησης, να αποκτήσει πρόσβαση σε ιστότοπους μαντεύοντας στοιχεία σύνδεσης, σύμφωνα με όσα δήλωσε η εταιρεία στο Γαλλικό Πρακτορείο (AFP). Το περιστατικό, που σημειώθηκε τον Μάιο και εντοπίστηκε από την Google τον Ιούλιο, επαναφέρει τα ερωτήματα για τους κινδύνους που μπορεί να προκύψουν από τη χρήση ισχυρών μοντέλων τεχνητής νοημοσύνης.

Οι παραβιάσεις, για τις οποίες είχε γράψει πρώτη η Wall Street Journal, σημειώθηκαν κατά τη διάρκεια μιας τυπικής διαδικασίας αξιολόγησης.

To Gemini απέκτησε πρόσβαση σε συστήματα

Η Heather Adkins, αντιπρόεδρος μηχανικής ασφαλείας της Google, δήλωσε στο AFP ότι το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και στη συνέχεια μάντεψε στοιχεία σύνδεσης, προκειμένου να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι περιλαμβάνονταν στη δοκιμή.

Σύμφωνα με την ίδια, το Gemini απέκτησε πρόσβαση σε τρεις περιπτώσεις, αλλά σταμάτησε τη διαδικασία σε κάθε μία από αυτές. Η Google δεν διευκρίνισε ποιοι οργανισμοί ή ιστότοποι επηρεάστηκαν.

Ενημερώθηκαν οι τρεις οργανισμοί

Η Google ανέφερε ότι και οι τρεις οντότητες ενημερώθηκαν για το περιστατικό και ότι συνεργάστηκε με τον εκπαιδευτικό της εταίρο για τις αλλαγές που έγιναν στη διαδικασία των δοκιμών.

Η εταιρεία υπογράμμισε ότι τα περιστατικά καταδεικνύουν τη σημασία της εκπαίδευσης των ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να λειτουργούν με υπεύθυνο τρόπο.