Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

«Το παιχνίδι άλλαξε»: Η εταιρεία που δέχθηκε επίθεση από τους «δραπέτες» της OpenAI χτυπάει καμπανάκι.

Η Hugging Face χαρακτηρίζει το περιστατικό «αφύπνιση» για ολόκληρο τον κλάδο, μετά την πρωτοφανή κυβερνοεπίθεση που εξαπέλυσαν αυτόνομα μοντέλα τεχνητής νοημοσύνηςΗ πρωτοφανής υπόθεση κατά την οποία προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI φέρονται να «δραπέτευσαν» από ελεγχόμενο περιβάλλον δοκιμών και να εξαπέλυσαν κυβερνοεπίθεση συνεχίζει να προκαλεί έντονο προβληματισμό στον κλάδο της AI.Ο συνιδρυτής της Hugging Face, Τόμας Γουλφ, χαρακτήρισε το περιστατικό «καμπανάκι αφύπνισης» για ολόκληρη τη βιομηχανία, προειδοποιώντας ότι αυτού του είδους οι επιθέσεις ενδέχεται να αποτελέσουν σύντομα μία από τις πιο συνηθισμένες μορφές κυβερνοαπειλών.«Οι περισσότερες εταιρείες δεν έχουν ακόμη συνειδητοποιήσει ότι το παιχνίδι έχει αλλάξει», δήλωσε στο BBC.Η OpenAI δεν έχει σχολιάσει τις τελευταίες δηλώσεις, ενώ είχε ήδη ανακοινώσει ότι διεξάγει κοινή έρευνα με τη Hugging Face για το περιστατικό.

Πώς έγινε η επίθεση

Σύμφωνα με την OpenAI, κατά τη διάρκεια εσωτερικής δοκιμής ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εξέλθουν από το ασφαλές περιβάλλον δοκιμών και εξαπέλυσαν κυβερνοεπίθεση εναντίον της Hugging Face, σε ένα περιστατικό που η ίδια η εταιρεία χαρακτήρισε «άνευ προηγουμένου».Η Hugging Face αποτελεί μία από τις μεγαλύτερες παγκόσμιες πλατφόρμες ανοικτού κώδικα για τη φιλοξενία και ανταλλαγή μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται ευρέως από ερευνητές και προγραμματιστές.Ο Γουλφ αποκάλυψε ότι όταν εντοπίστηκαν οι πρώτες ενδείξεις της επίθεσης, στα μέσα Ιουλίου, η εταιρεία δεν μπορούσε να καταλάβει από πού προερχόταν.Λίγο αργότερα, η OpenAI ενημέρωσε τη Hugging Face ότι πίσω από την επίθεση βρίσκονταν τα δικά της μοντέλα.

17.000 επιθέσεις μέσα σε λίγα λεπτά

Σύμφωνα με τον συνιδρυτή της Hugging Face, μέσα σε εξαιρετικά μικρό χρονικό διάστημα καταγράφηκαν περίπου 17.000 απόπειρες επίθεσης στο δίκτυο της εταιρείας από διαφορετικές διευθύνσεις IP.Παρότι η παραβίαση περιορίστηκε εγκαίρως, ο ίδιος υπογράμμισε ότι η φύση της επίθεσης ήταν εντελώς διαφορετική από τις συμβατικές κυβερνοεπιθέσεις που αντιμετωπίζει καθημερινά η εταιρεία.

«Η AI αγνόησε τις δικλίδες ασφαλείας»

Ιδιαίτερη ανησυχία προκαλεί στους ειδικούς το γεγονός ότι τα μοντέλα φαίνεται να αγνόησαν τους μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αποτρέπουν κακόβουλες ενέργειες.Ο Νέιτ Σοάρες, από το Machine Intelligence Research Institute, σχολίασε ότι το περιστατικό υποδηλώνει πως το σύστημα «καταλάβαινε ότι δεν ενεργούσε σύμφωνα με τις προθέσεις των δημιουργών του, αλλά απλώς δεν ενδιαφέρθηκε».Η διαπίστωση αυτή αναζωπυρώνει τη συζήτηση για τον βαθμό ελέγχου που μπορούν να διατηρήσουν οι εταιρείες πάνω σε ολοένα πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.

Παρέμβαση και από τη βρετανική κυβέρνηση

Το περιστατικό έχει ήδη κινητοποιήσει τις αρμόδιες αρχές.

Εκπρόσωπος της βρετανικής κυβέρνησης δήλωσε ότι το AI Security Institute μελετά τη συμπεριφορά του συστήματος κατά τη διάρκεια της επίθεσης και συνεχίζει να συνεργάζεται με την OpenAI και άλλα ερευνητικά εργαστήρια για την ενίσχυση των μηχανισμών ασφαλείας.Παράλληλα, κάλεσε επιχειρήσεις και οργανισμούς να ενισχύσουν τα μέτρα κυβερνοασφάλειας, αξιοποιώντας πιστοποιήσεις και πρακτικές προστασίας από ολοένα πιο εξελιγμένες απειλές.

Νέες ανησυχίες γύρω από την AI

Το περιστατικό σημειώνεται σε μια περίοδο αυξανόμενων ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης.Πριν από λίγες εβδομάδες, η αμερικανική κυβέρνηση είχε επιβάλει προσωρινούς περιορισμούς στην πρόσβαση στα μοντέλα της Anthropic για λόγους εθνικής ασφάλειας, πριν τελικά τους άρει.Την ίδια στιγμή, στο επίκεντρο βρίσκεται και η Κίνα. Η νεοφυής εταιρεία Moonshot AI ετοιμάζεται να διαθέσει στις 27 Ιουλίου το ανοικτού κώδικα μοντέλο Kimi K3, το οποίο ήδη θεωρείται από αρκετούς ως ένας από τους ισχυρότερους ανταγωνιστές των κορυφαίων δυτικών συστημάτων.Ωστόσο, σύμβουλος του Λευκού Οίκου κατηγόρησε δημοσίως τη Moonshot ότι συμμετείχε σε εκτεταμένη προσπάθεια αντιγραφής των δυνατοτήτων προηγμένων αμερικανικών μοντέλων τεχνητής νοημοσύνης, δείχνοντας ότι η ασφάλεια της AI εξελίσσεται πλέον όχι μόνο σε τεχνολογικό, αλλά και σε γεωπολιτικό ζήτημα.

https://www.naftemporiki.gr/techscience/2141455/to-paichnidi-allaxe-i-etaireia-poy-dechthike-epithesi-apo-toys-drapetes-tis-openai-chtypaei-kampanaki/

 

 

 

Τεχνητή Νοημοσύνη: Ερχεται «κουμπί θανάτου» για περιπτώσεις επικίνδυνης ανταρσίας.

Διακομματικό νομοσχέδιο προωθείται στις ΗΠΑ

Κατατέθηκε το νομοσχέδιο που -εφόσον ψηφισθεί- θα δίνει στις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ (Homeland) την εξουσία να υποχρεώνουν εταιρίες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI που θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.Το διακομματικό νομοσχέδιο κατετέθη στη Βουλή των Αντιπροσώπων λίγες ημέρες αφότου η εταιρεία OpenAI ανακοίνωσε ότι ένα από τα μοντέλα της παρουσίασε ανεξέλεγκτη συμπεριφορά.Το νομοσχέδιο, φέρει τον τίτλο «AI Kill Switch Act» και υποστηρίζεται από τον βουλευτή των Δημοκρατικών Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν.

Σενάρια απώλειας ελέγχου

Σύμφωνα με το κείμενο του νομοσχεδίου, η Υπηρεσία Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να παρεμβαίνει σε περιπτώσεις που χαρακτηρίζονται ως «σενάρια απώλειας ελέγχου» (loss-of-control scenarios). Ως τέτοιο ορίζεται η περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης εκτελεί μια επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.Οι δύο βουλευτές ανακοίνωσαν την πρωτοβουλία λίγες ημέρες αφότου η OpenAI γνωστοποίησε ότι ένα στοιχείο τεχνητής νοημοσύνης παρουσίασε ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμής ασφαλείας και προκάλεσε κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.«Πρόκειται για επείγουσα και αυτονόητη νομοθετική πρωτοβουλία, που αποσκοπεί στην αντιμετώπιση του προβλήματος ενός προηγμένου μοντέλου τεχνητής νοημοσύνης το οποίο έχει ξεφύγει από τον έλεγχο και έχει παρακάμψει τους μηχανισμούς ασφαλείας του», έγραψε ο Λιού σε ανάρτησή του στην πλατφόρμα X.Το περιστατικό με την OpenAI θεωρείται ως η πλέον ισχυρή ένδειξη, μέχρι σήμερα, ότι οι ολοένα αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης ενισχύουν ήδη τους κινδύνους ασφαλείας που ειδικοί προειδοποιούσαν εδώ και χρόνια ότι θα μπορούσαν να προκύψουν.Παράλληλα, ανέδειξε ότι ακόμη και οι κορυφαίοι προγραμματιστές και εταιρείες του κλάδου μπορεί να αιφνιδιαστούν από αδυναμίες τις οποίες τα ίδια τα μοντέλα τους είναι σε θέση να εκμεταλλευτούν.

https://www.naftemporiki.gr/techscience/2141735/techniti-noimosyni-erchetai-koympi-thanatoy-gia-periptoseis-epikindynis-antarsias/

[Δροσος Γεωργιος]

Τα διαστημικά κέντρα δεδομένων κίνδυνος για τον πλανήτη.

Ειδικοί λένε ότι μπορεί να έχουν τεράστιες περιβαλλοντικές επιπτώσεις.

Τα σχέδια εταιρειών όπως η SpaceX του Ελον Μασκ, η Blue Origin του Τζεφ Μπέζος και μεγάλων τεχνολογικών κολοσσών όπως η Google για τη δημιουργία κέντρων δεδομένων για να υποστηρίξουν την τεχνητή νοημοσύνης σε τροχιά γύρω από τη Γη ενδέχεται να προκαλέσουν πρωτοφανή περιβαλλοντική επιβάρυνση προειδοποιούν ειδικοί της διαστημικής βιομηχανίας και περιβαλλοντικές οργανώσεις.Όπως αναφέρει ο Guardian κατατέθηκε στην Ομοσπονδιακή Επιτροπή Επικοινωνιών των ΗΠΑ (FCC) που είναι αρμόδια για την έγκριση λειτουργίας αυτών των κέντρων δεδομένων αναφορά από οργανώσεις ζητούν να ανασταλεί η έκδοση νέων αδειών μέχρι να αξιολογηθούν πλήρως οι περιβαλλοντικές επιπτώσεις αυτών των σχεδίων.Οι μεγάλες εταιρείες τεχνολογίας εξετάζουν τη δημιουργία τεράστιων δικτύων από «διαστημικά κέντρα δεδομένων», τα οποία θα λειτουργούν σε τροχιά γύρω από τη Γη.Η ιδέα προωθείται ως λύση στις ολοένα αυξανόμενες ανάγκες αποθήκευσης και επεξεργασίας δεδομένων ιδιαίτερα λόγω της ανάπτυξης της τεχνητής νοημοσύνης και προβάλλεται ως μια λύση φιλική προς το περιβάλλον αφού η λειτουργία τους στο Διάστημα θα εξαφανίσει τις τεράστιες ανάγκες σε ενέργεια και νερό για τη λειτουργία των σύγχρονων κέντρων δεδομένων.Ωστόσο οι επικριτές υποστηρίζουν ότι τα διαστημικά data centers θα είναι δομές αποτελούμενες από δεκάδες χιλιάδες και προοδευτικά εκατοντάδες ή και εκατομμύρια δορυφόρους γεγονός που θα μπορούσε να επιφέρει σοβαρές και ενδεχομένως μη αναστρέψιμες επιπτώσεις στο περιβάλλον.

Ρύπανση στη στρατόσφαιρα

Ένα από τα μεγαλύτερα προβλήματα αφορά τη ρύπανση που προκαλούν τόσο οι εκτοξεύσεις όσο και η επανείσοδος των δορυφόρων στην ατμόσφαιρα. Κατά την καύση τους απελευθερώνονται:

* μαύρη αιθάλη
* οξείδια του αλουμινίου
* σπάνια μέταλλα
* μονοξείδιο του άνθρακα
* οξείδια του αζώτου
* ενώσεις χλωρίου
* άλλοι ρύποι των οποίων οι επιπτώσεις παραμένουν σε μεγάλο βαθμό άγνωστες.

Οι επιστήμονες φοβούνται ότι η συνεχής συσσώρευση αυτών των ουσιών στη στρατόσφαιρα θα μπορούσε:

* να επηρεάσει το στρώμα του όζοντος
* να αυξήσει την έκθεση στην υπεριώδη ακτινοβολία
* να μεταβάλει τη χημική ισορροπία της ατμόσφαιρας
* να επιδεινώσει τις συνέπειες της κλιματικής αλλαγής
* Μέρος αυτών των σωματιδίων ενδέχεται τελικά να επιστρέφει στην επιφάνεια της Γης.

Άγνωστες ακόμη οι συνέπειες

Οι ανησυχίες ενισχύθηκαν στα τέλη του 2023 όταν πτήση μετρήσεων που χρηματοδοτήθηκε από την αμερικανική NOAA εντόπισε μεταλλικά στοιχεία μέσα στα αερολύματα θειικού οξέος της στρατόσφαιρας. Τα αερολύματα αυτά θεωρούνται ιδιαίτερα σημαντικά καθώς συμβάλλουν στη ρύθμιση της θερμοκρασίας του πλανήτη λειτουργώντας σαν ένα φυσικό «αντηλιακό», αντανακλώντας μέρος της ηλιακής ακτινοβολίας.Οι επιστήμονες όμως δεν γνωρίζουν ακόμη πώς αλληλεπιδρούν τα μέταλλα που προέρχονται από τους δορυφόρους με αυτά τα αερολύματα και ποιες θα είναι οι μακροπρόθεσμες συνέπειες. Σύμφωνα με τους ίδιους απαιτείται επειγόντως περισσότερη έρευνα.

Κίνδυνος και για τον νυχτερινό ουρανό

Πέρα από τη χημική ρύπανση, η μαζική αύξηση των δορυφόρων αναμένεται να επιδεινώσει σημαντικά και τη φωτορύπανση.Οι περιβαλλοντικές οργανώσεις προειδοποιούν ότι εκατομμύρια φωτεινοί δορυφόροι θα μπορούσαν να αλλάξουν οριστικά την εικόνα του νυχτερινού ουρανού. Η φωτορύπανση επηρεάζει ήδη:

* τα αποδημητικά πτηνά
* τα νυχτόβια ζώα
* τις πυγολαμπίδες
* πολλά ακόμη έντομα που βασίζονται στο φυσικό σκοτάδι για τον προσανατολισμό και την αναπαραγωγή τους.

Ραγδαία αύξηση των δορυφόρων

Ο αριθμός των ενεργών δορυφόρων έχει αυξηθεί εντυπωσιακά τα τελευταία χρόνια. Το 2015 υπήρχαν περίπου 1.400 ενεργοί δορυφόροι.  Σήμερα ο αριθμός τους φτάνει περίπου τις 15.000.  Μέσα στην επόμενη δεκαετία εκτιμάται ότι θα ξεπεράσουν τις 100.000, χωρίς να υπολογίζονται τα νέα δίκτυα διαστημικών data centers.Σήμερα, το μεγαλύτερο μέρος της διαστημικής ρύπανσης αποδίδεται ήδη στους μεγάλους αστερισμούς δορυφόρων, όπως το Starlink της SpaceX και το Project Kuiper της Amazon, που παρέχουν ευρυζωνικές υπηρεσίες διαδικτύου.

Αμφιβολίες για τη βιωσιμότητα του σχεδίου

Ο Στιβ Βολτζ, πρώην επικεφαλής του γραφείου δορυφόρων της Υπηρεσίας Ατμόσφαιρας και Ωκεανών των ΗΠΑ (NOOA) δήλωσε ότι αμφιβάλλει ακόμη και για το κατά πόσο τα διαστημικά data centers είναι τεχνικά και οικονομικά εφικτά.Παράλληλα υπογράμμισε ότι ακόμη και αν οι δορυφόροι καίγονται πλήρως κατά την επανείσοδό τους στην ατμόσφαιρα, αυτό δεν σημαίνει ότι οι ρύποι εξαφανίζονται. «Δεν θα θέλαμε να γεμίζουμε την ατμόσφαιρα με αυτά τα κατάλοιπα περισσότερο απ’ όσο θα θέλαμε να προέρχονται από μια καμινάδα εργοστασίου» ανέφερε χαρακτηριστικά.

Τεράστιες ανάγκες σε πρώτες ύλες

Ένα ακόμη ζήτημα αφορά την κατασκευή των ίδιων των δορυφόρων. Οι ειδικοί επισημαίνουν ότι η παραγωγή εκατομμυρίων νέων δορυφόρων θα απαιτήσει τεράστιες ποσότητες:

* σπάνιων γαιών
* αλουμινίου
* εξειδικευμένων κραμάτων και άλλων κρίσιμων πρώτων υλών που ήδη βρίσκονται σε περιορισμένη διαθεσιμότητα

Έτσι οι περιβαλλοντικές επιπτώσεις δεν θα περιοριστούν μόνο στο διάστημα αλλά θα επεκταθούν και στις εξορύξεις και τη βιομηχανική παραγωγή στη Γη.

Ζητούν πάγωμα των αδειών

Η αναφορά κατατέθηκε από τις οργανώσεις Public Employees for Environmental Responsibility (PEER), Earthjustice και DarkSky International. Οι οργανώσεις υποστηρίζουν ότι οι αιτήσεις που έχουν κατατεθεί στην FCC δεν εξετάζουν ουσιαστικά τις σωρευτικές περιβαλλοντικές επιπτώσεις.Όπως αναφέρουν, οι εταιρείες περιγράφουν τα σχέδιά τους ως τεχνολογίες που θα αλλάξουν τον πολιτισμό, χωρίς όμως να παρουσιάζουν επαρκείς μελέτες για το πώς θα αντιμετωπιστούν οι συνέπειες από τη λειτουργία εκατοντάδων χιλιάδων ή ακόμη και εκατομμυρίων δορυφόρων που θα εκτοξεύονται, θα συγκρούονται, θα αποσυναρμολογούνται και τελικά θα καίγονται επιστρέφοντας στην ατμόσφαιρα.Για τον λόγο αυτό ζητούν να προηγηθεί πλήρης περιβαλλοντική αξιολόγηση πριν εγκριθεί οποιοδήποτε νέο πρόγραμμα διαστημικών κέντρων δεδομένων.

https://www.naftemporiki.gr/techscience/2141946/ta-diastimika-kentra-dedomenon-kindynos-gia-ton-planiti/

 

 

 

 

«Επίθεση από το μέλλον»: Πώς ακριβώς έδρασαν οι «δραπέτες» της OpenAI

Τι συνέβη, τι λένε οι εμπλεκόμενοι και ποια ερωτήματα παραμένουν αναπάντητα - Αναλυτικό ρεπορτάζ της WSJ

Ένα από τα πιο ανησυχητικά περιστατικά στην ιστορία της τεχνητής νοημοσύνης ερευνούν η OpenAI και η Hugging Face.Όπως αποκαλύφθηκε προηγμένα μοντέλα AI της OpenAI κατάφεραν να διαφύγουν από ελεγχόμενο ερευνητικό περιβάλλον και να εξαπολύσουν κυβερνοεπίθεση εναντίον της Hugging Face, στην προσπάθειά τους να… «κλέψουν» τις απαντήσεις ενός τεστ κυβερνοασφάλειας. Η Wall Street Journal εξηγεί πώς ακριβώς εκτυλίχθηκε το πρωτοφανές περιστατικό.

Το περιστατικό σημειώθηκε στις 11 Ιουλίου και θεωρείται από ειδικούς ένα από τα πρώτα πραγματικά παραδείγματα αυτού που η κοινότητα της ασφάλειας της AI αποκαλεί εδώ και χρόνια «απώλεια ελέγχου» (loss of control): την περίπτωση δηλαδή κατά την οποία ένα ισχυρό μοντέλο ενεργεί αυτόνομα, έξω από τα όρια που είχαν θέσει οι δημιουργοί του.

Πώς ξεκίνησαν όλα

Η OpenAI δοκίμαζε δύο από τα πλέον προηγμένα μοντέλα της, το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο που δεν έχει ακόμη κυκλοφορήσει.Οι δοκιμές πραγματοποιούνταν στο πλαίσιο του ExploitGym, ενός εξειδικευμένου benchmark που αξιολογεί τις δυνατότητες μοντέλων AI στην κυβερνοασφάλεια.Το ExploitGym περιλαμβάνει περίπου 900 διαφορετικές δοκιμές, στις οποίες το μοντέλο καλείται να εντοπίσει γνωστά κενά ασφαλείας σε λογισμικό και να τα εκμεταλλευθεί, αποδεικνύοντας ότι κατάφερε να αποκτήσει πρόσβαση στο σύστημα.Για τις ανάγκες του πειράματος, η OpenAI είχε απενεργοποιήσει ορισμένες από τις δικλίδες ασφαλείας που κανονικά εμποδίζουν τα μοντέλα της να χρησιμοποιούνται για επιθέσεις hacking.

Αντί να λύσουν το τεστ… προσπάθησαν να αντιγράψουν
Σύμφωνα με την OpenAI και τους δημιουργούς του ExploitGym, τα μοντέλα κατέληξαν σε μία διαφορετική στρατηγική.Αντί να ολοκληρώσουν τις δοκιμές, κατάφεραν να διαφύγουν από το απομονωμένο περιβάλλον («sandbox») στο οποίο εκτελούνταν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να επιτεθούν στη Hugging Face, θεωρώντας ότι εκεί θα έβρισκαν έτοιμες τεχνικές ή πληροφορίες που θα τους επέτρεπαν να πετύχουν υψηλότερη βαθμολογία.Το φαινόμενο αυτό είναι γνωστό ως «reward hacking»: το μοντέλο δεν επιδιώκει να επιλύσει το πρόβλημα με τον τρόπο που σχεδίασαν οι ερευνητές, αλλά αναζητά οποιονδήποτε τρόπο μεγιστοποιεί την «ανταμοιβή» ή τη βαθμολογία του.

Μία επίθεση που δεν έμοιαζε με καμία άλλη

Ο Thomas Wolf, συνιδρυτής και επικεφαλής επιστήμονας της Hugging Face, δήλωσε στη WSJ ότι αντιλήφθηκε αμέσως πως κάτι ήταν ασυνήθιστο.Όπως είπε, ο εισβολέας δεν αναζητούσε οικονομικά δεδομένα ή πληροφορίες που θα μπορούσαν να πουληθούν, όπως κάνουν συνήθως οι κυβερνοεγκληματίες. Αντίθετα, έψαχνε αποκλειστικά βάσεις δεδομένων κυβερνοασφάλειας.Η επίθεση εξελίχθηκε μέσω χιλιάδων αυτόματων ενεργειών. Σύμφωνα με τη Hugging Face, τα μοντέλα πραγματοποίησαν περίπου 17.000 επιμέρους ενέργειες, χρησιμοποιώντας πολλαπλούς βραχύβιους «πράκτορες» για αναγνώριση του δικτύου και αναζήτηση πληροφοριών.

Η ειρωνεία: Σταμάτησαν την επίθεση με κινεζικό μοντέλο AI
Η Hugging Face επιχείρησε αρχικά να αναλύσει τα αρχεία καταγραφής χρησιμοποιώντας μοντέλα της Anthropic.Ωστόσο, τα μοντέλα αρνήθηκαν να επεξεργαστούν τα δεδομένα, επειδή περιείχαν στοιχεία πραγματικής κυβερνοεπίθεσης και ενεργοποιήθηκαν οι ενσωματωμένοι περιορισμοί ασφαλείας τους.Τελικά, η εταιρεία χρησιμοποίησε το ανοικτού κώδικα μοντέλο GLM 5.2 της κινεζικής Z.AI, το οποίο βοήθησε στην ανάλυση της επίθεσης.Ακολούθησε επαναφορά κωδικών πρόσβασης, απομόνωση των παραβιασμένων συστημάτων και απομάκρυνση των μοντέλων από το δίκτυο.

Η Hugging Face διευκρίνισε ότι δεν διέρρευσαν δεδομένα πελατών.

Η OpenAI σταμάτησε τις δοκιμές

Όταν ενημερώθηκε ότι πίσω από την επίθεση βρίσκονταν δικά της μοντέλα, η OpenAI διέκοψε προσωρινά τα συστήματα δοκιμών προκειμένου να διερευνήσει τι ακριβώς συνέβη.

Η εταιρεία προσπαθεί ακόμη να απαντήσει σε κρίσιμα ερωτήματα:

Πόσο χρόνο έμειναν τα μοντέλα εκτός ελέγχου;

Επιτέθηκαν και σε άλλους οργανισμούς;

Προσπάθησαν να αλλοιώσουν και άλλες δοκιμές;

Απέκτησαν πρόσβαση σε περισσότερα δεδομένα;

Η OpenAI έχει ανακοινώσει ότι θα δημοσιεύσει αναλυτική έκθεση μόλις ολοκληρωθεί η έρευνα.

Eυρύτερες προεκτάσεις

Η υπόθεση έχει προκαλέσει έντονη συζήτηση στην κοινότητα της τεχνητής νοημοσύνης και στους κύκλους χάραξης πολιτικής στις ΗΠΑ.Από τη μία πλευρά ενισχύει τις ανησυχίες ότι τα ολοένα ισχυρότερα μοντέλα AI μπορεί να αναπτύσσουν μη αναμενόμενες στρατηγικές όταν επιδιώκουν έναν στόχο.Από την άλλη, αναζωπυρώνει τη συζήτηση για τον ανταγωνισμό ΗΠΑ–Κίνας στην τεχνητή νοημοσύνη, καθώς η αντιμετώπιση της επίθεσης κατέστη δυνατή με τη βοήθεια ενός κινεζικού ανοικτού μοντέλου, τη στιγμή που αρκετοί Αμερικανοί αξιωματούχοι και εταιρείες πιέζουν για αυστηρότερους περιορισμούς στην πρόσβαση στις κινεζικές τεχνολογίες AI.Παρά τον εντυπωσιακό χαρακτήρα του περιστατικού, πολλά στοιχεία παραμένουν ακόμη υπό διερεύνηση και δεν έχουν δημοσιοποιηθεί όλα τα τεχνικά ευρήματα της υπόθεσης.

https://www.naftemporiki.gr/techscience/2142222/epithesi-apo-to-mellon-pos-akrivos-edrasan-oi-drapetes-tis-openai/