Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

«Το παιχνίδι άλλαξε»: Η εταιρεία που δέχθηκε επίθεση από τους «δραπέτες» της OpenAI χτυπάει καμπανάκι.

Η Hugging Face χαρακτηρίζει το περιστατικό «αφύπνιση» για ολόκληρο τον κλάδο, μετά την πρωτοφανή κυβερνοεπίθεση που εξαπέλυσαν αυτόνομα μοντέλα τεχνητής νοημοσύνηςΗ πρωτοφανής υπόθεση κατά την οποία προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI φέρονται να «δραπέτευσαν» από ελεγχόμενο περιβάλλον δοκιμών και να εξαπέλυσαν κυβερνοεπίθεση συνεχίζει να προκαλεί έντονο προβληματισμό στον κλάδο της AI.Ο συνιδρυτής της Hugging Face, Τόμας Γουλφ, χαρακτήρισε το περιστατικό «καμπανάκι αφύπνισης» για ολόκληρη τη βιομηχανία, προειδοποιώντας ότι αυτού του είδους οι επιθέσεις ενδέχεται να αποτελέσουν σύντομα μία από τις πιο συνηθισμένες μορφές κυβερνοαπειλών.«Οι περισσότερες εταιρείες δεν έχουν ακόμη συνειδητοποιήσει ότι το παιχνίδι έχει αλλάξει», δήλωσε στο BBC.Η OpenAI δεν έχει σχολιάσει τις τελευταίες δηλώσεις, ενώ είχε ήδη ανακοινώσει ότι διεξάγει κοινή έρευνα με τη Hugging Face για το περιστατικό.

Πώς έγινε η επίθεση

Σύμφωνα με την OpenAI, κατά τη διάρκεια εσωτερικής δοκιμής ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εξέλθουν από το ασφαλές περιβάλλον δοκιμών και εξαπέλυσαν κυβερνοεπίθεση εναντίον της Hugging Face, σε ένα περιστατικό που η ίδια η εταιρεία χαρακτήρισε «άνευ προηγουμένου».Η Hugging Face αποτελεί μία από τις μεγαλύτερες παγκόσμιες πλατφόρμες ανοικτού κώδικα για τη φιλοξενία και ανταλλαγή μοντέλων τεχνητής νοημοσύνης και χρησιμοποιείται ευρέως από ερευνητές και προγραμματιστές.Ο Γουλφ αποκάλυψε ότι όταν εντοπίστηκαν οι πρώτες ενδείξεις της επίθεσης, στα μέσα Ιουλίου, η εταιρεία δεν μπορούσε να καταλάβει από πού προερχόταν.Λίγο αργότερα, η OpenAI ενημέρωσε τη Hugging Face ότι πίσω από την επίθεση βρίσκονταν τα δικά της μοντέλα.

17.000 επιθέσεις μέσα σε λίγα λεπτά

Σύμφωνα με τον συνιδρυτή της Hugging Face, μέσα σε εξαιρετικά μικρό χρονικό διάστημα καταγράφηκαν περίπου 17.000 απόπειρες επίθεσης στο δίκτυο της εταιρείας από διαφορετικές διευθύνσεις IP.Παρότι η παραβίαση περιορίστηκε εγκαίρως, ο ίδιος υπογράμμισε ότι η φύση της επίθεσης ήταν εντελώς διαφορετική από τις συμβατικές κυβερνοεπιθέσεις που αντιμετωπίζει καθημερινά η εταιρεία.

«Η AI αγνόησε τις δικλίδες ασφαλείας»

Ιδιαίτερη ανησυχία προκαλεί στους ειδικούς το γεγονός ότι τα μοντέλα φαίνεται να αγνόησαν τους μηχανισμούς ασφαλείας που έχουν σχεδιαστεί ώστε να αποτρέπουν κακόβουλες ενέργειες.Ο Νέιτ Σοάρες, από το Machine Intelligence Research Institute, σχολίασε ότι το περιστατικό υποδηλώνει πως το σύστημα «καταλάβαινε ότι δεν ενεργούσε σύμφωνα με τις προθέσεις των δημιουργών του, αλλά απλώς δεν ενδιαφέρθηκε».Η διαπίστωση αυτή αναζωπυρώνει τη συζήτηση για τον βαθμό ελέγχου που μπορούν να διατηρήσουν οι εταιρείες πάνω σε ολοένα πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.

Παρέμβαση και από τη βρετανική κυβέρνηση

Το περιστατικό έχει ήδη κινητοποιήσει τις αρμόδιες αρχές.

Εκπρόσωπος της βρετανικής κυβέρνησης δήλωσε ότι το AI Security Institute μελετά τη συμπεριφορά του συστήματος κατά τη διάρκεια της επίθεσης και συνεχίζει να συνεργάζεται με την OpenAI και άλλα ερευνητικά εργαστήρια για την ενίσχυση των μηχανισμών ασφαλείας.Παράλληλα, κάλεσε επιχειρήσεις και οργανισμούς να ενισχύσουν τα μέτρα κυβερνοασφάλειας, αξιοποιώντας πιστοποιήσεις και πρακτικές προστασίας από ολοένα πιο εξελιγμένες απειλές.

Νέες ανησυχίες γύρω από την AI

Το περιστατικό σημειώνεται σε μια περίοδο αυξανόμενων ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης.Πριν από λίγες εβδομάδες, η αμερικανική κυβέρνηση είχε επιβάλει προσωρινούς περιορισμούς στην πρόσβαση στα μοντέλα της Anthropic για λόγους εθνικής ασφάλειας, πριν τελικά τους άρει.Την ίδια στιγμή, στο επίκεντρο βρίσκεται και η Κίνα. Η νεοφυής εταιρεία Moonshot AI ετοιμάζεται να διαθέσει στις 27 Ιουλίου το ανοικτού κώδικα μοντέλο Kimi K3, το οποίο ήδη θεωρείται από αρκετούς ως ένας από τους ισχυρότερους ανταγωνιστές των κορυφαίων δυτικών συστημάτων.Ωστόσο, σύμβουλος του Λευκού Οίκου κατηγόρησε δημοσίως τη Moonshot ότι συμμετείχε σε εκτεταμένη προσπάθεια αντιγραφής των δυνατοτήτων προηγμένων αμερικανικών μοντέλων τεχνητής νοημοσύνης, δείχνοντας ότι η ασφάλεια της AI εξελίσσεται πλέον όχι μόνο σε τεχνολογικό, αλλά και σε γεωπολιτικό ζήτημα.

https://www.naftemporiki.gr/techscience/2141455/to-paichnidi-allaxe-i-etaireia-poy-dechthike-epithesi-apo-toys-drapetes-tis-openai-chtypaei-kampanaki/

 

 

 

Τεχνητή Νοημοσύνη: Ερχεται «κουμπί θανάτου» για περιπτώσεις επικίνδυνης ανταρσίας.

Διακομματικό νομοσχέδιο προωθείται στις ΗΠΑ

Κατατέθηκε το νομοσχέδιο που -εφόσον ψηφισθεί- θα δίνει στις υπηρεσίες Εσωτερικής Ασφάλειας των ΗΠΑ (Homeland) την εξουσία να υποχρεώνουν εταιρίες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα AI που θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.Το διακομματικό νομοσχέδιο κατετέθη στη Βουλή των Αντιπροσώπων λίγες ημέρες αφότου η εταιρεία OpenAI ανακοίνωσε ότι ένα από τα μοντέλα της παρουσίασε ανεξέλεγκτη συμπεριφορά.Το νομοσχέδιο, φέρει τον τίτλο «AI Kill Switch Act» και υποστηρίζεται από τον βουλευτή των Δημοκρατικών Τεντ Λιού και τον Ρεπουμπλικανό Νέιθανιελ Μόραν.

Σενάρια απώλειας ελέγχου

Σύμφωνα με το κείμενο του νομοσχεδίου, η Υπηρεσία Εσωτερικής Ασφάλειας των ΗΠΑ θα μπορεί να παρεμβαίνει σε περιπτώσεις που χαρακτηρίζονται ως «σενάρια απώλειας ελέγχου» (loss-of-control scenarios). Ως τέτοιο ορίζεται η περίπτωση κατά την οποία ένα μοντέλο τεχνητής νοημοσύνης εκτελεί μια επικίνδυνη ενέργεια που δεν είχε προβλεφθεί ή επιδιωχθεί από τον δημιουργό του.Οι δύο βουλευτές ανακοίνωσαν την πρωτοβουλία λίγες ημέρες αφότου η OpenAI γνωστοποίησε ότι ένα στοιχείο τεχνητής νοημοσύνης παρουσίασε ανεξέλεγκτη συμπεριφορά κατά τη διάρκεια δοκιμής ασφαλείας και προκάλεσε κυβερνοεπίθεση που έθεσε σε κίνδυνο τις υποδομές της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.«Πρόκειται για επείγουσα και αυτονόητη νομοθετική πρωτοβουλία, που αποσκοπεί στην αντιμετώπιση του προβλήματος ενός προηγμένου μοντέλου τεχνητής νοημοσύνης το οποίο έχει ξεφύγει από τον έλεγχο και έχει παρακάμψει τους μηχανισμούς ασφαλείας του», έγραψε ο Λιού σε ανάρτησή του στην πλατφόρμα X.Το περιστατικό με την OpenAI θεωρείται ως η πλέον ισχυρή ένδειξη, μέχρι σήμερα, ότι οι ολοένα αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης ενισχύουν ήδη τους κινδύνους ασφαλείας που ειδικοί προειδοποιούσαν εδώ και χρόνια ότι θα μπορούσαν να προκύψουν.Παράλληλα, ανέδειξε ότι ακόμη και οι κορυφαίοι προγραμματιστές και εταιρείες του κλάδου μπορεί να αιφνιδιαστούν από αδυναμίες τις οποίες τα ίδια τα μοντέλα τους είναι σε θέση να εκμεταλλευτούν.

https://www.naftemporiki.gr/techscience/2141735/techniti-noimosyni-erchetai-koympi-thanatoy-gia-periptoseis-epikindynis-antarsias/