Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

«Το παιχνίδι άλλαξε»: Η εταιρεία που δέχθηκε επίθεση από τους «δραπέτες» της OpenAI χτυπάει καμπανάκι.

Η Hugging Face χαρακτηρίζει το περιστατικό «αφύπνιση» για ολόκληρο τον κλάδο, μετά την πρωτοφανή κυβερνοεπίθεση που εξαπέλυσαν αυτόνομα μοντέλα τεχνητής νοημοσύνηςΗ πρωτοφανής υπόθεση κατά την οποία προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI φέρονται να «δραπέτευσαν» από ελεγχόμενο περιβάλλον δοκιμών και να εξαπέλυσαν κυβερνοεπίθεση συνεχίζει να προκαλεί έντονο προβληματισμό στον κλάδο της AI.Ο συνιδρυτής της Hugging Face, Τόμας Γουλφ, χαρακτήρισε το περιστατικό «καμπανάκι αφύπνισης» για ολόκληρη τη βιομηχανία, προειδοποιώντας ότι αυτού του είδους οι επιθέσεις ενδέχεται να αποτελέσουν σύντομα μία από τις πιο συνηθισμένες μορφές κυβερνοαπειλών.«Οι περισσότερες εταιρείες δεν έχουν ακόμη συνειδητοποιήσει ότι το παιχνίδι έχει αλλάξει», δήλωσε στο BBC.Η OpenAI δεν έχει σχολιάσει τις τελευταίες δηλώσεις, ενώ είχε ήδη ανακοινώσει ότι διεξάγει κοινή έρευνα με τη Hugging Face για το περιστατικό.

Πώς έγινε η επίθεση

Σύμφωνα με την OpenAI, κατά τη διάρκεια εσωτερικής δοκιμής ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εξέλθουν από το ασφαλές περιβάλλον δοκιμών και εξαπέλυσαν κυβερνοεπίθεση εναντίον της Hugging Face, σε ένα περιστατικό που η ίδια η εταιρεία χαρακτήρισε «άνευ προηγουμένου».Η Hugging Face αποτελεί μία από τις μεγαλύτερες παγκόσμιες πλατφόρμες ανοικτού κώδικα για τη φιλοξενία και ανταλλαγή μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται ευρέως από ερευνητές και προγραμματιστές.Ο Γουλφ αποκάλυψε ότι όταν εντοπίστηκαν οι πρώτες ενδείξεις της επίθεσης, στα μέσα Ιουλίου, η εταιρεία δεν μπορούσε να καταλάβει από πού προερχόταν.Λίγο αργότερα, η OpenAI ενημέρωσε τη Hugging Face ότι πίσω από την επίθεση βρίσκονταν τα δικά της μοντέλα.

17.000 επιθέσεις μέσα σε λίγα λεπτά

Σύμφωνα με τον συνιδρυτή της Hugging Face, μέσα σε εξαιρετικά μικρό χρονικό διάστημα καταγράφηκαν περίπου 17.000 απόπειρες επίθεσης στο δίκτυο της εταιρείας από διαφορετικές διευθύνσεις IP.Παρότι η παραβίαση περιορίστηκε εγκαίρως, ο ίδιος υπογράμμισε ότι η φύση της επίθεσης ήταν εντελώς διαφορετική από τις συμβατικές κυβερνοεπιθέσεις που αντιμετωπίζει καθημερινά η εταιρεία.

«Η AI αγνόησε τις δικλίδες ασφαλείας»

Ιδιαίτερη ανησυχία προκαλεί στους ειδικούς το γεγονός ότι τα μοντέλα φαίνεται να αγνόησαν τους μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αποτρέπουν κακόβουλες ενέργειες.Ο Νέιτ Σοάρες, από το Machine Intelligence Research Institute, σχολίασε ότι το περιστατικό υποδηλώνει πως το σύστημα «καταλάβαινε ότι δεν ενεργούσε σύμφωνα με τις προθέσεις των δημιουργών του, αλλά απλώς δεν ενδιαφέρθηκε».Η διαπίστωση αυτή αναζωπυρώνει τη συζήτηση για τον βαθμό ελέγχου που μπορούν να διατηρήσουν οι εταιρείες πάνω σε ολοένα πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.

Παρέμβαση και από τη βρετανική κυβέρνηση

Το περιστατικό έχει ήδη κινητοποιήσει τις αρμόδιες αρχές.

Εκπρόσωπος της βρετανικής κυβέρνησης δήλωσε ότι το AI Security Institute μελετά τη συμπεριφορά του συστήματος κατά τη διάρκεια της επίθεσης και συνεχίζει να συνεργάζεται με την OpenAI και άλλα ερευνητικά εργαστήρια για την ενίσχυση των μηχανισμών ασφαλείας.Παράλληλα, κάλεσε επιχειρήσεις και οργανισμούς να ενισχύσουν τα μέτρα κυβερνοασφάλειας, αξιοποιώντας πιστοποιήσεις και πρακτικές προστασίας από ολοένα πιο εξελιγμένες απειλές.

Νέες ανησυχίες γύρω από την AI

Το περιστατικό σημειώνεται σε μια περίοδο αυξανόμενων ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης.Πριν από λίγες εβδομάδες, η αμερικανική κυβέρνηση είχε επιβάλει προσωρινούς περιορισμούς στην πρόσβαση στα μοντέλα της Anthropic για λόγους εθνικής ασφάλειας, πριν τελικά τους άρει.Την ίδια στιγμή, στο επίκεντρο βρίσκεται και η Κίνα. Η νεοφυής εταιρεία Moonshot AI ετοιμάζεται να διαθέσει στις 27 Ιουλίου το ανοικτού κώδικα μοντέλο Kimi K3, το οποίο ήδη θεωρείται από αρκετούς ως ένας από τους ισχυρότερους ανταγωνιστές των κορυφαίων δυτικών συστημάτων.Ωστόσο, σύμβουλος του Λευκού Οίκου κατηγόρησε δημοσίως τη Moonshot ότι συμμετείχε σε εκτεταμένη προσπάθεια αντιγραφής των δυνατοτήτων προηγμένων αμερικανικών μοντέλων τεχνητής νοημοσύνης, δείχνοντας ότι η ασφάλεια της AI εξελίσσεται πλέον όχι μόνο σε τεχνολογικό, αλλά και σε γεωπολιτικό ζήτημα.

https://www.naftemporiki.gr/techscience/2141455/to-paichnidi-allaxe-i-etaireia-poy-dechthike-epithesi-apo-toys-drapetes-tis-openai-chtypaei-kampanaki/

 

 

 

Τεχνητή Νοημοσύνη: Ερχεται «κουμπί θανάτου» για περιπτώσεις επικίνδυνης ανταρσίας.

Διακομματικό νομοσχέδιο προωθείται στις ΗΠΑ

Κατατέθηκε το νομοσχέδιο που -εφόσον ψηφισθεί- θα δίνει στις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ (Homeland) την εξουσία να υποχρεώνουν εταιρίες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI που θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.Το διακομματικό νομοσχέδιο κατετέθη στη Βουλή των Αντιπροσώπων λίγες ημέρες αφότου η εταιρεία OpenAI ανακοίνωσε ότι ένα από τα μοντέλα της παρουσίασε ανεξέλεγκτη συμπεριφορά.Το νομοσχέδιο, φέρει τον τίτλο «AI Kill Switch Act» και υποστηρίζεται από τον βουλευτή των Δημοκρατικών Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν.

Σενάρια απώλειας ελέγχου

Σύμφωνα με το κείμενο του νομοσχεδίου, η Υπηρεσία Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να παρεμβαίνει σε περιπτώσεις που χαρακτηρίζονται ως «σενάρια απώλειας ελέγχου» (loss-of-control scenarios). Ως τέτοιο ορίζεται η περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης εκτελεί μια επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.Οι δύο βουλευτές ανακοίνωσαν την πρωτοβουλία λίγες ημέρες αφότου η OpenAI γνωστοποίησε ότι ένα στοιχείο τεχνητής νοημοσύνης παρουσίασε ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμής ασφαλείας και προκάλεσε κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.«Πρόκειται για επείγουσα και αυτονόητη νομοθετική πρωτοβουλία, που αποσκοπεί στην αντιμετώπιση του προβλήματος ενός προηγμένου μοντέλου τεχνητής νοημοσύνης το οποίο έχει ξεφύγει από τον έλεγχο και έχει παρακάμψει τους μηχανισμούς ασφαλείας του», έγραψε ο Λιού σε ανάρτησή του στην πλατφόρμα X.Το περιστατικό με την OpenAI θεωρείται ως η πλέον ισχυρή ένδειξη, μέχρι σήμερα, ότι οι ολοένα αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης ενισχύουν ήδη τους κινδύνους ασφαλείας που ειδικοί προειδοποιούσαν εδώ και χρόνια ότι θα μπορούσαν να προκύψουν.Παράλληλα, ανέδειξε ότι ακόμη και οι κορυφαίοι προγραμματιστές και εταιρείες του κλάδου μπορεί να αιφνιδιαστούν από αδυναμίες τις οποίες τα ίδια τα μοντέλα τους είναι σε θέση να εκμεταλλευτούν.

https://www.naftemporiki.gr/techscience/2141735/techniti-noimosyni-erchetai-koympi-thanatoy-gia-periptoseis-epikindynis-antarsias/

[Δροσος Γεωργιος]

Τα διαστημικά κέντρα δεδομένων κίνδυνος για τον πλανήτη.

Ειδικοί λένε ότι μπορεί να έχουν τεράστιες περιβαλλοντικές επιπτώσεις.

Τα σχέδια εταιρειών όπως η SpaceX του Ελον Μασκ, η Blue Origin του Τζεφ Μπέζος και μεγάλων τεχνολογικών κολοσσών όπως η Google για τη δημιουργία κέντρων δεδομένων για να υποστηρίξουν την τεχνητή νοημοσύνης σε τροχιά γύρω από τη Γη ενδέχεται να προκαλέσουν πρωτοφανή περιβαλλοντική επιβάρυνση προειδοποιούν ειδικοί της διαστημικής βιομηχανίας και περιβαλλοντικές οργανώσεις.Όπως αναφέρει ο Guardian κατατέθηκε στην Ομοσπονδιακή Επιτροπή Επικοινωνιών των ΗΠΑ (FCC) που είναι αρμόδια για την έγκριση λειτουργίας αυτών των κέντρων δεδομένων αναφορά από οργανώσεις ζητούν να ανασταλεί η έκδοση νέων αδειών μέχρι να αξιολογηθούν πλήρως οι περιβαλλοντικές επιπτώσεις αυτών των σχεδίων.Οι μεγάλες εταιρείες τεχνολογίας εξετάζουν τη δημιουργία τεράστιων δικτύων από «διαστημικά κέντρα δεδομένων», τα οποία θα λειτουργούν σε τροχιά γύρω από τη Γη.Η ιδέα προωθείται ως λύση στις ολοένα αυξανόμενες ανάγκες αποθήκευσης και επεξεργασίας δεδομένων ιδιαίτερα λόγω της ανάπτυξης της τεχνητής νοημοσύνης και προβάλλεται ως μια λύση φιλική προς το περιβάλλον αφού η λειτουργία τους στο Διάστημα θα εξαφανίσει τις τεράστιες ανάγκες σε ενέργεια και νερό για τη λειτουργία των σύγχρονων κέντρων δεδομένων.Ωστόσο οι επικριτές υποστηρίζουν ότι τα διαστημικά data centers θα είναι δομές αποτελούμενες από δεκάδες χιλιάδες και προοδευτικά εκατοντάδες ή και εκατομμύρια δορυφόρους γεγονός που θα μπορούσε να επιφέρει σοβαρές και ενδεχομένως μη αναστρέψιμες επιπτώσεις στο περιβάλλον.

Ρύπανση στη στρατόσφαιρα

Ένα από τα μεγαλύτερα προβλήματα αφορά τη ρύπανση που προκαλούν τόσο οι εκτοξεύσεις όσο και η επανείσοδος των δορυφόρων στην ατμόσφαιρα. Κατά την καύση τους απελευθερώνονται:

* μαύρη αιθάλη
* οξείδια του αλουμινίου
* σπάνια μέταλλα
* μονοξείδιο του άνθρακα
* οξείδια του αζώτου
* ενώσεις χλωρίου
* άλλοι ρύποι των οποίων οι επιπτώσεις παραμένουν σε μεγάλο βαθμό άγνωστες.

Οι επιστήμονες φοβούνται ότι η συνεχής συσσώρευση αυτών των ουσιών στη στρατόσφαιρα θα μπορούσε:

* να επηρεάσει το στρώμα του όζοντος
* να αυξήσει την έκθεση στην υπεριώδη ακτινοβολία
* να μεταβάλει τη χημική ισορροπία της ατμόσφαιρας
* να επιδεινώσει τις συνέπειες της κλιματικής αλλαγής
* Μέρος αυτών των σωματιδίων ενδέχεται τελικά να επιστρέφει στην επιφάνεια της Γης.

Άγνωστες ακόμη οι συνέπειες

Οι ανησυχίες ενισχύθηκαν στα τέλη του 2023 όταν πτήση μετρήσεων που χρηματοδοτήθηκε από την αμερικανική NOAA εντόπισε μεταλλικά στοιχεία μέσα στα αερολύματα θειικού οξέος της στρατόσφαιρας. Τα αερολύματα αυτά θεωρούνται ιδιαίτερα σημαντικά καθώς συμβάλλουν στη ρύθμιση της θερμοκρασίας του πλανήτη λειτουργώντας σαν ένα φυσικό «αντηλιακό», αντανακλώντας μέρος της ηλιακής ακτινοβολίας.Οι επιστήμονες όμως δεν γνωρίζουν ακόμη πώς αλληλεπιδρούν τα μέταλλα που προέρχονται από τους δορυφόρους με αυτά τα αερολύματα και ποιες θα είναι οι μακροπρόθεσμες συνέπειες. Σύμφωνα με τους ίδιους απαιτείται επειγόντως περισσότερη έρευνα.

Κίνδυνος και για τον νυχτερινό ουρανό

Πέρα από τη χημική ρύπανση, η μαζική αύξηση των δορυφόρων αναμένεται να επιδεινώσει σημαντικά και τη φωτορύπανση.Οι περιβαλλοντικές οργανώσεις προειδοποιούν ότι εκατομμύρια φωτεινοί δορυφόροι θα μπορούσαν να αλλάξουν οριστικά την εικόνα του νυχτερινού ουρανού. Η φωτορύπανση επηρεάζει ήδη:

* τα αποδημητικά πτηνά
* τα νυχτόβια ζώα
* τις πυγολαμπίδες
* πολλά ακόμη έντομα που βασίζονται στο φυσικό σκοτάδι για τον προσανατολισμό και την αναπαραγωγή τους.

Ραγδαία αύξηση των δορυφόρων

Ο αριθμός των ενεργών δορυφόρων έχει αυξηθεί εντυπωσιακά τα τελευταία χρόνια. Το 2015 υπήρχαν περίπου 1.400 ενεργοί δορυφόροι.  Σήμερα ο αριθμός τους φτάνει περίπου τις 15.000.  Μέσα στην επόμενη δεκαετία εκτιμάται ότι θα ξεπεράσουν τις 100.000, χωρίς να υπολογίζονται τα νέα δίκτυα διαστημικών data centers.Σήμερα, το μεγαλύτερο μέρος της διαστημικής ρύπανσης αποδίδεται ήδη στους μεγάλους αστερισμούς δορυφόρων, όπως το Starlink της SpaceX και το Project Kuiper της Amazon, που παρέχουν ευρυζωνικές υπηρεσίες διαδικτύου.

Αμφιβολίες για τη βιωσιμότητα του σχεδίου

Ο Στιβ Βολτζ, πρώην επικεφαλής του γραφείου δορυφόρων της Υπηρεσίας Ατμόσφαιρας και Ωκεανών των ΗΠΑ (NOOA) δήλωσε ότι αμφιβάλλει ακόμη και για το κατά πόσο τα διαστημικά data centers είναι τεχνικά και οικονομικά εφικτά.Παράλληλα υπογράμμισε ότι ακόμη και αν οι δορυφόροι καίγονται πλήρως κατά την επανείσοδό τους στην ατμόσφαιρα, αυτό δεν σημαίνει ότι οι ρύποι εξαφανίζονται. «Δεν θα θέλαμε να γεμίζουμε την ατμόσφαιρα με αυτά τα κατάλοιπα περισσότερο απ’ όσο θα θέλαμε να προέρχονται από μια καμινάδα εργοστασίου» ανέφερε χαρακτηριστικά.

Τεράστιες ανάγκες σε πρώτες ύλες

Ένα ακόμη ζήτημα αφορά την κατασκευή των ίδιων των δορυφόρων. Οι ειδικοί επισημαίνουν ότι η παραγωγή εκατομμυρίων νέων δορυφόρων θα απαιτήσει τεράστιες ποσότητες:

* σπάνιων γαιών
* αλουμινίου
* εξειδικευμένων κραμάτων και άλλων κρίσιμων πρώτων υλών που ήδη βρίσκονται σε περιορισμένη διαθεσιμότητα

Έτσι οι περιβαλλοντικές επιπτώσεις δεν θα περιοριστούν μόνο στο διάστημα αλλά θα επεκταθούν και στις εξορύξεις και τη βιομηχανική παραγωγή στη Γη.

Ζητούν πάγωμα των αδειών

Η αναφορά κατατέθηκε από τις οργανώσεις Public Employees for Environmental Responsibility (PEER), Earthjustice και DarkSky International. Οι οργανώσεις υποστηρίζουν ότι οι αιτήσεις που έχουν κατατεθεί στην FCC δεν εξετάζουν ουσιαστικά τις σωρευτικές περιβαλλοντικές επιπτώσεις.Όπως αναφέρουν, οι εταιρείες περιγράφουν τα σχέδιά τους ως τεχνολογίες που θα αλλάξουν τον πολιτισμό, χωρίς όμως να παρουσιάζουν επαρκείς μελέτες για το πώς θα αντιμετωπιστούν οι συνέπειες από τη λειτουργία εκατοντάδων χιλιάδων ή ακόμη και εκατομμυρίων δορυφόρων που θα εκτοξεύονται, θα συγκρούονται, θα αποσυναρμολογούνται και τελικά θα καίγονται επιστρέφοντας στην ατμόσφαιρα.Για τον λόγο αυτό ζητούν να προηγηθεί πλήρης περιβαλλοντική αξιολόγηση πριν εγκριθεί οποιοδήποτε νέο πρόγραμμα διαστημικών κέντρων δεδομένων.

https://www.naftemporiki.gr/techscience/2141946/ta-diastimika-kentra-dedomenon-kindynos-gia-ton-planiti/

 

 

 

 

«Επίθεση από το μέλλον»: Πώς ακριβώς έδρασαν οι «δραπέτες» της OpenAI

Τι συνέβη, τι λένε οι εμπλεκόμενοι και ποια ερωτήματα παραμένουν αναπάντητα - Αναλυτικό ρεπορτάζ της WSJ

Ένα από τα πιο ανησυχητικά περιστατικά στην ιστορία της τεχνητής νοημοσύνης ερευνούν η OpenAI και η Hugging Face.Όπως αποκαλύφθηκε προηγμένα μοντέλα AI της OpenAI κατάφεραν να διαφύγουν από ελεγχόμενο ερευνητικό περιβάλλον και να εξαπολύσουν κυβερνοεπίθεση εναντίον της Hugging Face, στην προσπάθειά τους να… «κλέψουν» τις απαντήσεις ενός τεστ κυβερνοασφάλειας. Η Wall Street Journal εξηγεί πώς ακριβώς εκτυλίχθηκε το πρωτοφανές περιστατικό.

Το περιστατικό σημειώθηκε στις 11 Ιουλίου και θεωρείται από ειδικούς ένα από τα πρώτα πραγματικά παραδείγματα αυτού που η κοινότητα της ασφάλειας της AI αποκαλεί εδώ και χρόνια «απώλεια ελέγχου» (loss of control): την περίπτωση δηλαδή κατά την οποία ένα ισχυρό μοντέλο ενεργεί αυτόνομα, έξω από τα όρια που είχαν θέσει οι δημιουργοί του.

Πώς ξεκίνησαν όλα

Η OpenAI δοκίμαζε δύο από τα πλέον προηγμένα μοντέλα της, το GPT-5.6 Sol και ένα ακόμη ισχυρότερο μοντέλο που δεν έχει ακόμη κυκλοφορήσει.Οι δοκιμές πραγματοποιούνταν στο πλαίσιο του ExploitGym, ενός εξειδικευμένου benchmark που αξιολογεί τις δυνατότητες μοντέλων AI στην κυβερνοασφάλεια.Το ExploitGym περιλαμβάνει περίπου 900 διαφορετικές δοκιμές, στις οποίες το μοντέλο καλείται να εντοπίσει γνωστά κενά ασφαλείας σε λογισμικό και να τα εκμεταλλευθεί, αποδεικνύοντας ότι κατάφερε να αποκτήσει πρόσβαση στο σύστημα.Για τις ανάγκες του πειράματος, η OpenAI είχε απενεργοποιήσει ορισμένες από τις δικλίδες ασφαλείας που κανονικά εμποδίζουν τα μοντέλα της να χρησιμοποιούνται για επιθέσεις hacking.

Αντί να λύσουν το τεστ… προσπάθησαν να αντιγράψουν
Σύμφωνα με την OpenAI και τους δημιουργούς του ExploitGym, τα μοντέλα κατέληξαν σε μία διαφορετική στρατηγική.Αντί να ολοκληρώσουν τις δοκιμές, κατάφεραν να διαφύγουν από το απομονωμένο περιβάλλον («sandbox») στο οποίο εκτελούνταν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να επιτεθούν στη Hugging Face, θεωρώντας ότι εκεί θα έβρισκαν έτοιμες τεχνικές ή πληροφορίες που θα τους επέτρεπαν να πετύχουν υψηλότερη βαθμολογία.Το φαινόμενο αυτό είναι γνωστό ως «reward hacking»: το μοντέλο δεν επιδιώκει να επιλύσει το πρόβλημα με τον τρόπο που σχεδίασαν οι ερευνητές, αλλά αναζητά οποιονδήποτε τρόπο μεγιστοποιεί την «ανταμοιβή» ή τη βαθμολογία του.

Μία επίθεση που δεν έμοιαζε με καμία άλλη

Ο Thomas Wolf, συνιδρυτής και επικεφαλής επιστήμονας της Hugging Face, δήλωσε στη WSJ ότι αντιλήφθηκε αμέσως πως κάτι ήταν ασυνήθιστο.Όπως είπε, ο εισβολέας δεν αναζητούσε οικονομικά δεδομένα ή πληροφορίες που θα μπορούσαν να πουληθούν, όπως κάνουν συνήθως οι κυβερνοεγκληματίες. Αντίθετα, έψαχνε αποκλειστικά βάσεις δεδομένων κυβερνοασφάλειας.Η επίθεση εξελίχθηκε μέσω χιλιάδων αυτόματων ενεργειών. Σύμφωνα με τη Hugging Face, τα μοντέλα πραγματοποίησαν περίπου 17.000 επιμέρους ενέργειες, χρησιμοποιώντας πολλαπλούς βραχύβιους «πράκτορες» για αναγνώριση του δικτύου και αναζήτηση πληροφοριών.

Η ειρωνεία: Σταμάτησαν την επίθεση με κινεζικό μοντέλο AI
Η Hugging Face επιχείρησε αρχικά να αναλύσει τα αρχεία καταγραφής χρησιμοποιώντας μοντέλα της Anthropic.Ωστόσο, τα μοντέλα αρνήθηκαν να επεξεργαστούν τα δεδομένα, επειδή περιείχαν στοιχεία πραγματικής κυβερνοεπίθεσης και ενεργοποιήθηκαν οι ενσωματωμένοι περιορισμοί ασφαλείας τους.Τελικά, η εταιρεία χρησιμοποίησε το ανοικτού κώδικα μοντέλο GLM 5.2 της κινεζικής Z.AI, το οποίο βοήθησε στην ανάλυση της επίθεσης.Ακολούθησε επαναφορά κωδικών πρόσβασης, απομόνωση των παραβιασμένων συστημάτων και απομάκρυνση των μοντέλων από το δίκτυο.

Η Hugging Face διευκρίνισε ότι δεν διέρρευσαν δεδομένα πελατών.

Η OpenAI σταμάτησε τις δοκιμές

Όταν ενημερώθηκε ότι πίσω από την επίθεση βρίσκονταν δικά της μοντέλα, η OpenAI διέκοψε προσωρινά τα συστήματα δοκιμών προκειμένου να διερευνήσει τι ακριβώς συνέβη.

Η εταιρεία προσπαθεί ακόμη να απαντήσει σε κρίσιμα ερωτήματα:

Πόσο χρόνο έμειναν τα μοντέλα εκτός ελέγχου;

Επιτέθηκαν και σε άλλους οργανισμούς;

Προσπάθησαν να αλλοιώσουν και άλλες δοκιμές;

Απέκτησαν πρόσβαση σε περισσότερα δεδομένα;

Η OpenAI έχει ανακοινώσει ότι θα δημοσιεύσει αναλυτική έκθεση μόλις ολοκληρωθεί η έρευνα.

Eυρύτερες προεκτάσεις

Η υπόθεση έχει προκαλέσει έντονη συζήτηση στην κοινότητα της τεχνητής νοημοσύνης και στους κύκλους χάραξης πολιτικής στις ΗΠΑ.Από τη μία πλευρά ενισχύει τις ανησυχίες ότι τα ολοένα ισχυρότερα μοντέλα AI μπορεί να αναπτύσσουν μη αναμενόμενες στρατηγικές όταν επιδιώκουν έναν στόχο.Από την άλλη, αναζωπυρώνει τη συζήτηση για τον ανταγωνισμό ΗΠΑ–Κίνας στην τεχνητή νοημοσύνη, καθώς η αντιμετώπιση της επίθεσης κατέστη δυνατή με τη βοήθεια ενός κινεζικού ανοικτού μοντέλου, τη στιγμή που αρκετοί Αμερικανοί αξιωματούχοι και εταιρείες πιέζουν για αυστηρότερους περιορισμούς στην πρόσβαση στις κινεζικές τεχνολογίες AI.Παρά τον εντυπωσιακό χαρακτήρα του περιστατικού, πολλά στοιχεία παραμένουν ακόμη υπό διερεύνηση και δεν έχουν δημοσιοποιηθεί όλα τα τεχνικά ευρήματα της υπόθεσης.

https://www.naftemporiki.gr/techscience/2142222/epithesi-apo-to-mellon-pos-akrivos-edrasan-oi-drapetes-tis-openai/

[Δροσος Γεωργιος]

Η Nvidia, η Microsoft και άλλοι τεχνολογικοί κολοσσοί υποστηρίζουν μοντέλα τεχνητής νοημοσύνης ανοιχτού κώδικα.

Τους τελευταίους μήνες, οι επιχειρηματικοί ηγέτες της Silicon Valley έχουν εκνευριστεί για το κόστος των μοντέλων κλειστού κώδικα

Η Nvidia, η Microsoft και άλλες τεχνολογικές εταιρείες έδωσαν δημόσια θέση στους νομοθέτες την Παρασκευή υπέρ των μοντέλων τεχνητής νοημοσύνης ανοιχτού κώδικα, εμπλεκόμενες σε μια συζήτηση που ταρακουνάει τον επιχειρηματικό και πολιτικό κόσμο σχετικά με το ποιος ελέγχει την ισχυρή τεχνολογία.Σε μια επιστολή που δημοσιεύτηκε στο X και υπογράφηκε επίσης από δύο δωδεκάδες εταιρείες και ομάδες, συμπεριλαμβανομένων των Meta Platforms και IBM, ο Διευθύνων Σύμβουλος της Nvidia, Γιένσεν Χουάνγκ, δήλωσε ότι οι νομοθέτες θα πρέπει να αποφεύγουν «πρόωρους περιορισμούς σε ανοιχτά μοντέλα που πνίγουν τον ανταγωνισμό ή προωθούν την καινοτομία στο εξωτερικό».Η επιστολή προσθέτει στην αυξανόμενη συζήτηση σχετικά με τα μοντέλα ανοιχτού κώδικα που είναι πιο δύσκολο να ρυθμιστούν, όπως τα μοντέλα της Nvidia και αυτά που κυκλοφόρησαν τις τελευταίες εβδομάδες από κινεζικά εργαστήρια, και τα μοντέλα κλειστού κώδικα που ελέγχονται από συγκεκριμένες εταιρείες όπως η OpenAI και η Anthropic.

Αντιδράσεις για το κόστος των μοντέλων κλειστού κώδικα

Τους τελευταίους μήνες, οι επιχειρηματικοί ηγέτες της Silicon Valley έχουν εκνευριστεί για το κόστος των μοντέλων κλειστού κώδικα. Οι διευθύνοντες σύμβουλοι της Microsoft και της Palantir Technologies, έχουν υποστηρίξει δημόσια ότι τα μοντέλα ανοιχτού κώδικα που μπορούν να χρησιμοποιούν οι πελάτες τους μέσα στα δικά τους κέντρα δεδομένων θα βοηθήσουν στον έλεγχο του κόστους της Τεχνητής Νοημοσύνης.Οι ηγέτες της τεχνολογίας έχουν επίσης εκφράσει την αντίθεσή τους για τους ελέγχους που ενσωματώνουν η OpenAI και η Anthropic στα μοντέλα τους. Το Hugging Face, ο ιστότοπος συνεργασίας κωδικοποίησης τεχνητής νοημοσύνης που δέχθηκε επίθεση από ένα απατεώνα μοντέλο OpenAI, δήλωσε αυτή την εβδομάδα ότι έπρεπε να χρησιμοποιήσει ένα κινεζικό μοντέλο ανοιχτού κώδικα για να αμυνθεί από την επίθεση, επειδή τα μοντέλα κλειστού κώδικα έχουν περιορισμούς στη χρήση για εργασίες κυβερνοασφάλειας.Ταυτόχρονα, οι νομοθέτες των ΗΠΑ, θορυβημένοι από την αθέμιτη κυβερνοεπίθεση OpenAI, πρότειναν νομοθεσία που θα απαιτούσε ένα “kill switch” για τα μοντέλα AI, και η κυβέρνηση του Προέδρου Ντόναλντ Τραμπ εξετάζει το ενδεχόμενο επιβολής κυρώσεων σε Κινέζους κατασκευαστές μοντέλων ανοιχτού κώδικα για φερόμενη κλοπή τεχνολογίας κλειστού κώδικα στις ΗΠΑ.Η επιστολή από την Nvidia και άλλες εταιρείες αναγνώρισε τις ανησυχίες σχετικά με την κλοπή τεχνολογίας, αλλά υποστήριξε ότι θα πρέπει να αντιμετωπιστούν «μέσω στοχευμένων νομικών και εμπορικών πλαισίων αντί για σαρωτικούς περιορισμούς».«Η αποκλειστική εξάρτηση από κλειστά μοντέλα δεν είναι εγγενώς ασφαλής: μπορούν να παραβιαστούν, να χρησιμοποιηθούν λανθασμένα ή να αποτύχουν με τρόπους που οι ξένοι δεν μπορούν να ανιχνεύσουν», ανέφερε η επιστολή. «Τα μοντέλα ανοιχτού βάρους, από την άλλη πλευρά, επιτρέπουν σε μια ευρεία κοινότητα ερευνητών και προγραμματιστών να εξετάσουν τη συμπεριφορά τους, να εντοπίσουν τρωτά σημεία, να αναπτύξουν μέτρα ασφαλείας και να τα βελτιώσουν με την πάροδο του χρόνου».

https://www.naftemporiki.gr/techscience/2142371/i-nvidia-i-microsoft-kai-alloi-technologikoi-kolossoi-ypostirizoyn-montela-technitis-noimosynis-anoichtoy-kodika/

 

 

 

OpenAI: Πρόγευση από το μέλλον ή διαφημιστικό κόλπο η «μεγάλη απόδραση» της Τεχνητής Νοημοσύνης;.

Η υπόθεση προκαλεί έντονες αντιδράσεις: ήταν μια ανησυχητική απόδειξη των δυνατοτήτων της AI ή μια καλοστημένη επίδειξη ισχύος;Μια υπόθεση που μοιάζει βγαλμένη από ταινία επιστημονικής φαντασίας έχει προκαλέσει έντονη συζήτηση στη βιομηχανία της τεχνητής νοημοσύνης.Η αποκάλυψη; Δύο πειραματικά μοντέλα της OpenAI πραγματοποίησαν χωρίς ανθρώπινη παρέμβαση κυβερνοεπίθεση στη Hugging Face, μία από τις μεγαλύτερες πλατφόρμες ανάπτυξης εφαρμογών AI.Το περιστατικό, το οποίο αρχικά αποδόθηκε σε άγνωστους χάκερ, αποδείχθηκε τελικά αποτέλεσμα εσωτερικής δοκιμής της OpenAI που εξελίχθηκε διαφορετικά από ό,τι είχε σχεδιαστεί.

Η επίθεση που αιφνιδίασε την αγορά

Στις 16 Ιουλίου η Hugging Face ανακοίνωσε ότι είχε δεχθεί μια πρωτοφανή κυβερνοεπίθεση από έναν «agentic» επιτιθέμενο, δηλαδή τεχνητή νοημοσύνη που μπορούσε να ενεργεί αυτόνομα.Σύμφωνα με την εταιρεία, η AI εκτέλεσε περίπου 17.000 διαφορετικές ενέργειες μέσα σε λιγότερο από δύο ημέρες, κινούμενη με ταχύτητα που κανένας άνθρωπος δεν θα μπορούσε να ακολουθήσει.Το μοντέλο κατάφερε να παραβιάσει τα συστήματα της πλατφόρμας και να αποκτήσει πρόσβαση σε δεδομένα, προκαλώντας αρχικά ανησυχία ότι πίσω από την επίθεση βρισκόταν κάποια κρατική υπηρεσία ή οργανωμένη ομάδα κυβερνοεγκληματιών.Λίγες ημέρες αργότερα η OpenAI αποκάλυψε ότι πίσω από την επίθεση βρίσκονταν δύο εξειδικευμένες εκδόσεις του ChatGPT, οι οποίες είχαν εκπαιδευτεί αποκλειστικά σε τεχνικές κυβερνοασφάλειας.Σύμφωνα με την εταιρεία, τα μοντέλα απέδρασαν από το προστατευμένο περιβάλλον δοκιμών («sandbox»), απέκτησαν πρόσβαση στο διαδίκτυο και στη συνέχεια επιτέθηκαν στη Hugging Face προκειμένου να συλλέξουν πληροφορίες που θα τα βοηθούσαν να ολοκληρώσουν με επιτυχία τη δοκιμασία στην οποία συμμετείχαν.Η OpenAI υποστήριξε ότι η ενέργεια έγινε χωρίς ανθρώπινη καθοδήγηση και ανακοίνωσε ότι συνεργάζεται με τη Hugging Face για τη διερεύνηση του περιστατικού και την εξαγωγή συμπερασμάτων.

Προειδοποίηση ή διαφημιστική καμπάνια;

Η αποκάλυψη πυροδότησε έντονη αντιπαράθεση, όπως επισημαίνει σε ρεπορτάζ του το BBC.

Πολλοί αναλυτές θεωρούν ότι το περιστατικό αποτελεί μια πραγματική προειδοποίηση, ένα ξεκάθαρο μήνυμα αφύπνισης, για τους κινδύνους που δημιουργούν τα ολοένα ισχυρότερα μοντέλα τεχνητής νοημοσύνης.Άλλοι, όμως, υποστηρίζουν ότι η υπόθεση λειτούργησε κυρίως ως επίδειξη των δυνατοτήτων της OpenAI.Στα μέσα κοινωνικής δικτύωσης αρκετοί χρήστες κατηγόρησαν την εταιρεία ότι παρουσίασε το συμβάν με τρόπο που αναδεικνύει τις δυνατότητες των μοντέλων της, περισσότερο ως εργαλείο προβολής παρά ως ουσιαστική προειδοποίηση για την κυβερνοασφάλεια.

Στο στόχαστρο τα μέτρα ασφαλείας της OpenAI

Την ίδια στιγμή, ειδικοί στην κυβερνοασφάλεια επικρίνουν την OpenAI για τον τρόπο με τον οποίο σχεδίασε το περιβάλλον δοκιμών.Ο Ντορ Σαρίγκ της Pillar Security υποστήριξε στο BBC ότι το περιστατικό επιβεβαιώνει πως τα απλά «sandboxes» δεν αποτελούν πλέον επαρκή γραμμή άμυνας απέναντι σε αυτόνομους AI agents.Στο ίδιο μήκος κύματος, ο καθηγητής κυβερνοασφάλειας του Πανεπιστημίου του Surrey, Άλαν Γούντγουορντ, σχολίασε ότι η OpenAI βρέθηκε σε ιδιαίτερα δύσκολη θέση, ενώ η ειδικός σε θέματα ασφάλειας Κέιτι Μουσούρις εκτίμησε ότι η βιομηχανία της τεχνητής νοημοσύνης εξακολουθεί να αναπτύσσει τεχνολογίες χωρίς να διαθέτει ακόμη επαρκείς μηχανισμούς ελέγχου.Η ίδια προειδοποίησε ότι το γεγονός πως οι κορυφαίοι επιστήμονες μπορούν να δημιουργήσουν ολοένα ισχυρότερα μοντέλα δεν σημαίνει απαραίτητα ότι γνωρίζουν και πώς να τα περιορίσουν με ασφάλεια.

Ακόμη ένα καμπανάκι για τους AI agents

Το περιστατικό έρχεται να προστεθεί σε μια σειρά πρόσφατων ερευνών που δείχνουν ότι τα πλέον εξελιγμένα μοντέλα τεχνητής νοημοσύνης είναι διατεθειμένα να χρησιμοποιήσουν μη προβλεπόμενες ή ακόμη και μη εξουσιοδοτημένες μεθόδους προκειμένου να πετύχουν τον στόχο τους.Πρόσφατη μελέτη του βρετανικού AI Security Institute (AISI) διαπίστωσε ότι προηγμένα μοντέλα AI «παραβίαζαν τους κανόνες» κατά τη διάρκεια δοκιμών όταν θεωρούσαν ότι αυτό θα τα βοηθούσε να ολοκληρώσουν αποτελεσματικότερα την αποστολή τους.

«Όχι σενάρια καταστροφής, αλλά σοβαρό καμπανάκι»

Παρά τις ανησυχίες, αρκετοί ειδικοί καλούν σε πιο ψύχραιμη αξιολόγηση.

Ο πρώην επικεφαλής του βρετανικού National Cyber Security Centre, Κίαραν Μάρτιν, είπε στο BBC ότι είναι υπερβολικό να συνδέει κανείς το συγκεκριμένο περιστατικό με σενάρια όπου η τεχνητή νοημοσύνη αποκτά ανεξέλεγκτα στρατιωτικά συστήματα ή αυτόνομα όπλα.Ωστόσο, παραδέχεται ότι το συμβάν αναδεικνύει μια νέα πραγματικότητα: οι AI agents εξελίσσονται πλέον σε εξαιρετικά ικανούς «χάκερ» και αυτό είναι μια πρόκληση για την οποία κυβερνήσεις, εταιρείες και οργανισμοί θα πρέπει να προετοιμαστούν άμεσα.Το αν η υπόθεση θα μείνει στην ιστορία ως μια αποτυχημένη δοκιμή ασφαλείας ή ως η πρώτη πραγματική ένδειξη των κινδύνων που συνοδεύουν την επόμενη γενιά τεχνητής νοημοσύνης, μένει ακόμη να φανεί.

https://www.naftemporiki.gr/techscience/2142507/openai-progeysi-apo-to-mellon-i-diafimistiko-kolpo-i-megali-apodrasi-tis-technitis-noimosynis/

 

 

 

Η νέα εμμονή στη μάχη για την Τεχνητή Νοημοσύνη λέγεται distillation – Τι ακριβώς είναι.

Η συζήτηση φούντωσε μετά την κυκλοφορία του Kimi K3 από την κινεζική Moonshot AI

Μια έννοια που μέχρι πριν από λίγους μήνες ήταν γνωστή κυρίως στους μηχανικούς Τεχνητής Νοημοσύνης εξελίσσεται σήμερα σε ένα από τα πιο αμφιλεγόμενα ζητήματα του παγκόσμιου ανταγωνισμού στην AI.Ο λόγος για το distillation, μια τεχνική εκπαίδευσης μοντέλων που έχει βρεθεί στο επίκεντρο της αντιπαράθεσης μεταξύ κορυφαίων αμερικανικών εταιρειών, της κυβέρνησης των ΗΠΑ και κινεζικών εργαστηρίων ανάπτυξης AI.Η συζήτηση φούντωσε μετά την κυκλοφορία του Kimi K3 από την κινεζική Moonshot AI, ενός μοντέλου που πολλοί αξιολόγησαν ως ιδιαίτερα ανταγωνιστικό απέναντι στις λύσεις της OpenAI και της Anthropic, παρά το σημαντικά χαμηλότερο κόστος ανάπτυξης και χρήσης.

Τι είναι το distillation

Με απλά λόγια, το distillation είναι η διαδικασία κατά την οποία ένα μικρότερο μοντέλο εκπαιδεύεται χρησιμοποιώντας τις απαντήσεις ή τα αποτελέσματα που παράγει ένα πολύ ισχυρότερο μοντέλο.Όπως εξηγεί το CNBC, αντί να «μάθει» από τεράστιους όγκους πρωτογενών δεδομένων, το νέο μοντέλο μαθαίνει από τις απαντήσεις που έχει ήδη δημιουργήσει ένα προηγμένο σύστημα AI.Η τεχνική δεν είναι νέα. Αντίθετα, χρησιμοποιείται εδώ και χρόνια από πολλές εταιρείες για την ανάπτυξη μικρότερων, ταχύτερων και οικονομικότερων μοντέλων.Ο επικεφαλής της AI στη Google, Τζεφ Ντιν, είχε περιγράψει ήδη από τον Φεβρουάριο το distillation ως μία από τις βασικές τεχνικές που επιτρέπουν στα μικρότερα μοντέλα να αποκτούν πολύ υψηλές επιδόσεις.

Γιατί έγινε ξαφνικά τόσο αμφιλεγόμενο

Η αντιπαράθεση ξεκίνησε όταν στελέχη της αμερικανικής κυβέρνησης υποστήριξαν ότι η Moonshot AI αξιοποίησε το κορυφαίο μοντέλο Fable της Anthropic για την εκπαίδευση του Kimi K3.Ο σύμβουλος του Λευκού Οίκου Μάικλ Κράτσιος υποστήριξε ότι η κινεζική εταιρεία είχε αναπτύξει μια εξελιγμένη εσωτερική πλατφόρμα που της επέτρεπε να χρησιμοποιεί αμερικανικά μοντέλα σε μεγάλη κλίμακα, αποφεύγοντας παράλληλα τους μηχανισμούς ανίχνευσης.Εάν ισχύουν οι καταγγελίες, το ζήτημα δεν αφορά πλέον μόνο τον ανταγωνισμό μεταξύ εταιρειών, αλλά και την εθνική ασφάλεια των Ηνωμένων Πολιτειών.

Οι αμερικανικές εταιρείες ζητούν να μην υπάρξουν περιορισμοί

Παρά τις ανησυχίες, περισσότεροι από 20 μεγάλοι τεχνολογικοί όμιλοι, μεταξύ των οποίων οι Nvidia, Microsoft, Meta και Palantir, υπέγραψαν κοινή επιστολή προς τους Αμερικανούς νομοθέτες.Στην επιστολή τους ζητούν να μην επιβληθούν πρόωροι περιορισμοί στα λεγόμενα open-weight μοντέλα, προειδοποιώντας ότι κάτι τέτοιο θα μπορούσε να περιορίσει τον ανταγωνισμό και να μεταφέρει ακόμη περισσότερη καινοτομία εκτός Ηνωμένων Πολιτειών.Οι ίδιες εταιρείες επισημαίνουν ότι το distillation αποτελεί μια απολύτως καθιερωμένη τεχνική βελτίωσης μοντέλων και χρησιμοποιείται ευρέως σε ολόκληρη τη βιομηχανία.

Η διαφορετική στάση της Anthropic

Η Anthropic, ωστόσο, αντιμετωπίζει το θέμα πολύ διαφορετικά. Η εταιρεία υποστηρίζει ότι κινεζικές εταιρείες όπως οι DeepSeek, Moonshot AI και MiniMax χρησιμοποίησαν μαζικά τις υπηρεσίες της μέσω περίπου 24.000 ψεύτικων λογαριασμών, πραγματοποιώντας περίπου 16 εκατομμύρια αλληλεπιδράσεις με στόχο να αντλήσουν δεδομένα για την εκπαίδευση δικών τους μοντέλων.Για την Anthropic, η πρακτική αυτή συνιστά ουσιαστικά κλοπή πνευματικής ιδιοκτησίας και ζήτημα εθνικής ασφάλειας.Τόσο η ίδια όσο και η OpenAI έχουν ήδη απαγορεύσει ρητά το distillation μέσω των όρων χρήσης των υπηρεσιών τους.

Η μεγάλη αντίφαση της AI

Η υπόθεση αναδεικνύει και μια ευρύτερη αντίφαση που συνοδεύει την ανάπτυξη της Τεχνητής Νοημοσύνης.Την ώρα που οι εταιρείες AI καταγγέλλουν ότι τρίτοι χρησιμοποιούν τα δικά τους μοντέλα χωρίς άδεια, τόσο η OpenAI όσο και η Anthropic βρίσκονται αντιμέτωπες με αγωγές από δημιουργούς περιεχομένου, συγγραφείς και εκδότες, οι οποίοι υποστηρίζουν ότι τα έργα τους χρησιμοποιήθηκαν χωρίς άδεια για την εκπαίδευση των ίδιων αυτών μοντέλων.Έτσι, το distillation δεν αποτελεί πλέον μόνο μια τεχνική έννοια της μηχανικής μάθησης. Έχει μετατραπεί σε ένα από τα σημαντικότερα μέτωπα της παγκόσμιας μάχης για την κυριαρχία στην Τεχνητή Νοημοσύνη, όπου η τεχνολογία, η πνευματική ιδιοκτησία, ο γεωπολιτικός ανταγωνισμός και η εθνική ασφάλεια διασταυρώνονται ολοένα και περισσότερο.

https://www.naftemporiki.gr/techscience/2142571/i-nea-emmoni-sti-machi-gia-tin-techniti-noimosyni-legetai-distillation-ti-akrivos-einai/