Η αμερικανική εταιρεία Anthropic αποκάλυψε ένα ακόμη περιστατικό κατά το οποίο το μοντέλο τεχνητής νοημοσύνης (AI) της παραβίασε εξωτερικά συστήματα κατά τη διάρκεια δοκιμών. Το περιστατικό συνέβη τον Ιανουάριο και αφορούσε μια πρώιμη έκδοση του μοντέλου Claude Opus 4.6. Ωστόσο, η εταιρεία το ανακάλυψε μόλις τον Αύγουστο, παρά το γεγονός ότι είχε διεξαγάγει προηγουμένως εκτενή έλεγχο, όπως ανέφερε το Reuters.
Ίσως σας αρέσει: Trading έναντι Επενδύσεων
Ελαττώματα Συλλογισμού του Claude Προκαλούν Έρευνα Ασφαλείας
Η Anthropic δήλωσε ότι ενημέρωσε όλα τα επηρεαζόμενα μέρη, αν και δεν αποκάλυψε περαιτέρω λεπτομέρειες. Κατά τον αρχικό έλεγχο των 141.006 συνεδριών δοκιμών, η εταιρεία παρέβλεψε ένα τμήμα των δεδομένων. Η επακόλουθη ανακάλυψή τους οδήγησε στον εντοπισμό ενός τέταρτου περιστατικού ασφαλείας. Σύμφωνα με προκαταρκτική εκτίμηση, η νέα περίπτωση δεν ήταν πιο σοβαρή από τις τρεις προηγούμενες, τις οποίες η εταιρεία είχε διερευνήσει λεπτομερώς.
Σύμφωνα με την Anthropic, ένα από τα ζητήματα αφορούσε ελαττώματα συλλογισμού όπου το μοντέλο Claude παρέβλεψε ή αναγνώρισε εσφαλμένα αποδείξεις ότι λειτουργούσε στο ζωντανό διαδίκτυο. Ως δεύτερο επαναλαμβανόμενο ζήτημα, η Anthropic εντόπισε την προθυμία των μοντέλων να αναλάβουν δυνητικά επιβλαβείς ενέργειες για την ολοκλήρωση μιας εργασίας. Η εταιρεία ανέθεσε στον εξωτερικό ερευνητικό οργανισμό METR να διερευνήσει το περιστατικό.
Διαβάστε περισσότερα: eToro – Κριτική
Σφάλμα Ανοιχτού Διαδικτύου Προκάλεσε Εταιρικές Παραβιάσεις
Τον Ιούλιο, η εταιρεία ανακοίνωσε ότι ορισμένα από τα μοντέλα της είχαν παραβιάσει τα συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Η βασική αιτία των περιστατικών hacking ήταν ένα σφάλμα που παραχώρησε εκ παραδρομής στα μοντέλα πρόσβαση στο ανοιχτό διαδίκτυο.
Αυτά τα περιστατικά έχουν συμβάλει στις αυξανόμενες ανησυχίες σχετικά με τους κινδύνους που ενέχουν οι αυτόνομοι πράκτορες AI, οι οποίοι μπορούν να παρακάμψουν κανόνες και να αξιοποιήσουν απροσδόκητους τρόπους αλληλεπίδρασης με εξωτερικά συστήματα.
Μην χάσετε: Κριτική BITmarkets.com – Ασφαλείς Συναλλαγές
Πηγή: Reuters
