Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

Η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει «υπαρξιακό» κίνδυνο για την ανθρωπότητα προειδοποιεί ο επικεφαλής του ΟΗΕ για τα ανθρώπινα δικαιώματα.

Οι τεχνολογικοί κολοσσοί θα κληθούν από τον ΟΗΕ άμεσα να μειώσουν τους σχετικούς κινδύνους.

Ο επικεφαλής του ΟΗΕ για τα ανθρώπινα δικαιώματα, Βόλκερ Τουρκ, προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να γίνει τόσο ισχυρή ώστε να απειλήσει την ανθρωπότητα και δήλωσε ότι τις επόμενες ημέρες θα καλέσει τις εταιρείες να μειώσουν τους σχετικούς κινδύνους.«Συμμερίζομαι τις ανησυχίες ανθρώπων από τον ίδιο τον κλάδο ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα» δήλωσε ο Τουρκ στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη σε μια ευρεία ομιλία ενόψει της έναρξης της δεύτερης θητείας του τον επόμενο μήνα.«Καλώ σήμερα, εδώ να καταβληθεί κάθε δυνατή προσπάθεια ώστε να θεσπιστούν αυστηρές και απαραβίαστες εγγυήσεις για την ασφάλεια και την προστασία της τεχνητής νοημοσύνης, πριν να είναι πολύ αργά». Χωρίς να τις κατονομάσει ο Τουρκ προειδοποίησε ότι μόλις λίγοι άνδρες διαθέτουν «σχεδόν απεριόριστη εξουσία πάνω στην τεχνητή νοημοσύνη». Μεταξύ των κορυφαίων εταιρειών τεχνητής νοημοσύνης συγκαταλέγονται οι Metα, Anthropic, OpenAI και Google.«Κατ’ ελάχιστον, χρειαζόμαστε τις χώρες που φιλοξενούν τις δραστηριότητες τεχνητής νοημοσύνης, καθώς και εκείνες που συμμετέχουν στις αλυσίδες εφοδιασμού της, να συμφωνήσουν σε σαφείς “κόκκινες γραμμές”», δήλωσε.Οι δηλώσεις του Τουρκ απηχούν προηγούμενες προειδοποιήσεις κορυφαίων στελεχών του κλάδου της τεχνητής νοημοσύνης σχετικά με τους κινδύνους εξαφάνισης που θα μπορούσε να προκαλέσει η AI, μεταξύ άλλων και του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν. Τα Ηνωμένα Έθνη έχουν ζητήσει την εναρμόνιση των κανόνων με στόχο τη μείωση των κινδύνων και τον Ιούλιο πραγματοποίησαν την πρώτη παγκόσμια συνάντηση για τη διακυβέρνηση της τεχνητής νοημοσύνης.

https://www.naftemporiki.gr/techscience/2158248/i-techniti-noimosyni-tha-mporoyse-na-apotelesei-yparxiako-kindyno-gia-tin-anthropotita-proeidopoiei-o-epikefalis-toy-oie-gia-ta-anthropina-dikaiomata/

[Δροσος Γεωργιος]

Η τεχνητή νοημοσύνη θα βρει σύντομα θεραπεία για τον καρκίνο λέει ο επικεφαλής της Arm Holdings.

Οι τεχνολογίες ΑΙ επιταχύνουν την επίλυση του προβλήματος που δεν μπορούν να λύσουν οι άνθρωποι και οι σημερινοί υπολογιστές.

Ο επικεφαλής μιας από τις μεγαλύτερες εταιρείες σχεδιασμού τσιπ, της Arm Holdings, υποστήριξε ότι η τεχνητή νοημοσύνη θα είναι σε θέση να βρει θεραπεία για τον καρκίνο «κατά τη διάρκεια της ζωής αυτής της γενιάς ανθρώπων».Ο Ρενέ Χάας διευθύνων σύμβουλος της Arm Holdings δήλωσε ότι παρόλο που η μοντελοποίηση του τρόπου με τον οποίο ένας δείκτης του DNA επηρεάζεται από τον καρκίνο αποτελεί σήμερα ένα «υπερβολικά σύνθετο» πρόβλημα τόσο για τους ανθρώπους όσο και για την τεχνολογία οι υπολογιστές «θα το λύσουν» στο κοντινό μέλλον.«Η AI πρόκειται να βρει μια θεραπεία για τον καρκίνο κάτι που σήμερα εσύ κι εγώ και άλλοι άνθρωποι δεν θα μπορούσαμε να πετύχουμε στη διάρκεια της ζωής μας. Πιστεύω ότι όσο ζούμε, η AI θα βοηθήσει στη θεραπεία του καρκίνου. Η μοντελοποίηση του τρόπου με τον οποίο ένας δείκτης του DNA επηρεάζεται από τον καρκίνο είναι ένα υπερβολικά σύνθετο πρόβλημα όχι μόνο για τους ανθρώπους αλλά και για τους υπολογιστές που τρέχουν συστήματα AI. Ωστόσο καθώς θα τροφοδοτούμε αυτούς τους υπολογιστές με ολοένα και περισσότερα μοντέλα και οι υπολογιστές θα γίνονται πιο εξελιγμένοι ώστε να μπορούν να τα επεξεργάζονται και θα βρουν λύση» ανέφερε στο BBC ο Χάας.Οι επιστήμονες ήδη χρησιμοποιούν εργαλεία που βασίζονται στην AI στην έρευνα και τις δοκιμές για τον καρκίνο. Νωρίτερα φέτος το Εθνικό Σύστημα Υγείας της Βρετανίας (NHS) ανακοίνωσε ότι περισσότεροι από 4 εκατομμύρια ασθενείς έλαβαν ταχύτερη διάγνωση για καρκίνο του πνεύμονα χάρη στη χρηματοδότηση εργαλείων ακτινογραφίας που υποστηρίζονται από AI.Ο Χάας πρόσθεσε ότι η AI θα ανοίξει επίσης τον δρόμο για την ευρεία χρήση ανθρωποειδών ρομπότ μέσα στα επόμενα πέντε χρόνια αλλά ότι οι ελλείψεις σε τσιπ περιορίζουν την ανάπτυξη στον συγκεκριμένο τομέα.«Με την τεχνητή νοημοσύνη αυτά τα ρομπότ μπορούν να βλέπουν, να μαθαίνουν και ουσιαστικά να επαναπρογραμματίζονται για νέες εργασίες. Έτσι στον τομέα των υπηρεσιών το ρομπότ που έχει προγραμματιστεί να στρώνει ένα κρεβάτι μπορεί επίσης να μάθει πώς να τακτοποιεί τις πετσέτες σε ένα δωμάτιο, να αδειάζει τους κάδους απορριμμάτων ή να κάνει οτιδήποτε άλλο θέλεις να αναλάβει.»Η Arm η οποία είναι εισηγμένη στη Νέα Υόρκη αλλά διατηρεί την παγκόσμια έδρα της στο Κέιμπριτζ διαθέτει περίπου 500 πελάτες για τα τσιπ της μεταξύ των οποίων οι Apple, Samsung, Qualcomm και Nvidia. Η εταιρεία απασχολεί περισσότερους από 7,000 εργαζομένους περίπου 3,000 από τους οποίους βρίσκονται στη Βρετανία. Η Arm είναι η μεγαλύτερη τεχνολογική εταιρεία με έδρα τη Βρετανία με χρηματιστηριακή αποτίμηση περίπου 269 δισεκατομμυρίων δολαρίων.

https://www.naftemporiki.gr/techscience/2159222/i-techniti-noimosyni-tha-vrei-syntoma-therapeia-gia-ton-karkino-leei-o-epikefalis-tis-arm-holdings/

 

 

Η Metα παρουσίασε τον πρώτο βοηθό υπερνοημοσύνης.

Το Hatch είναι ένα από τα πρώτα βήματα στη προσπάθεια του Μαρκ Ζάκεμπεργκ να αναπτύξει την υπερνοημοσύνη.

Μπορεί να εκτελεί μια σειρά από εργασίες για λογαριασμό του χρήστη με εντελώς αυτόνομο τρόπο.

Η Metα παρουσίασε έναν βοηθό τεχνητής νοημοσύνης (AI agent) ο οποίος μπορεί αυτόνομα να στέλνει email, να πουλά ένα αυτοκίνητο και να κάνει κρατήσεις για ταξίδια εκ μέρους ενός χρήστη. Η εξέλιξη αυτή έρχεται παρά τις εσωτερικές ανησυχίες ότι η τεχνολογία διαχειρίζεται λανθασμένα την πρόσβασή της σε ευαίσθητα προσωπικά δεδομένα.Οι δημιουργοί του βοηθού τον έχουν ονομάσει Hatch και αποτελεί το επίκεντρο του σχεδίου του διευθύνοντος συμβούλου Μαρκ Ζάκερμπεργκ να προσφέρει μια τεχνολογία την οποία χαρακτηρίζει ως «προσωπική υπερνοημοσύνη» στα δισεκατομμύρια ανθρώπων που χρησιμοποιούν καθημερινά τις υπηρεσίες της Metα.Το σχέδιο αυτό αποτελεί μέρος της τελευταίας προσπάθειας της ιδιοκτήτριας των Facebook και Instagram να διαφοροποιήσει τις πηγές εσόδων της πέρα από τη διαφήμιση και να δημιουργήσει μια βιώσιμη επιχειρηματική δραστηριότητα από τις τεράστιες επενδύσεις της σε τσιπ AI και άλλες υποδομές οι οποίες σύμφωνα με τις προβλέψεις της θα ξεπεράσουν φέτος τα 130 δισεκατομμύρια δολάρια.Ο βοηθός θα είναι αρχικά διαθέσιμος μόνο στις ΗΠΑ μέσω της εφαρμογής Muse ή της υπηρεσίας ανταλλαγής μηνυμάτων WhatsApp (που επίσης ανήκει στη Metα) ανακοίνωσε η εταιρεία που έκανε γνωστό ότι σχεδιάζει να προσθέσει σύντομα το νέο βοηθό και στη σειρά έξυπνων γυαλιών της χωρίς ωστόσο να δώσει περισσότερες λεπτομέρειες.Μια βασική έκδοση του βοηθού θα είναι διαθέσιμη δωρεάν ενώ η Metα θα προσφέρει συνδρομές κόστους 20 δολαρίων τον μήνα και 100 δολαρίων τον μήνα για πιο εντατική χρήση δήλωσε εκπρόσωπος της εταιρείας.Οι χρήστες μπορούν να επιλέξουν να μην χρησιμοποιούνται οι αλληλεπιδράσεις τους για την εκπαίδευση των μοντέλων AI της Metα ενώ η εταιρεία σχεδιάζει να παρουσιάσει μια κρυπτογραφημένη έκδοση της εφαρμογής Muse αργότερα μέσα στη χρονιά.

Η ασφάλεια

Με πρότυπο τον ανοιχτού κώδικα AI πράκτορα OpenClaw, το Muse έχει σχεδιαστεί ώστε να αποκτά πρόσβαση στις εφαρμογές ενός χρήστη σε κατηγορίες όπως το email, το ημερολόγιο, οι πληρωμές, η υγεία, οι αγορές και το έξυπνο σπίτι, σύμφωνα με τη Metα. Οι χρήστες επιλέγουν ποιες εφαρμογές θα συνδέσουν και μπορούν να ανακαλέσουν την πρόσβαση ανά πάσα στιγμή.Κάθε πράκτορας της εφαρμογής Muse λειτουργεί στη δική του εικονική μηχανή, δηλαδή σε μια προσομοίωση ενός προσωπικού υπολογιστή που βασίζεται σε υπολογιστικό νέφος (cloud). Αυτό του επιτρέπει να συνεχίζει να εκτελεί αιτήματα στο παρασκήνιο ακόμη και όταν ο χρήστης δεν το χρησιμοποιεί ενεργά.Η σύνδεση με εφαρμογές που περιέχουν πραγματικά δεδομένα ενός ανθρώπου αυξάνει τόσο τη δυνητική χρησιμότητα του πράκτορα όσο και σημαντικά το ρίσκο για την ασφάλεια τόσο για τους ανθρώπους που του έχουν εμπιστευτεί τις πληροφορίες τους όσο και για τρίτους που μπορεί να βρεθούν στην άλλη πλευρά μιας λανθασμένης συμπεριφοράς του πράκτορα.Ο Βισάλ Σαχ αντιπρόεδρος προϊόντων AI στη Metα δήλωσε στο Reuters ότι η εταιρεία είχε αρχικά καθυστερήσει την κυκλοφορία του βοηθού τον Απρίλιο προκειμένου να το καταστήσει πιο ασφαλές. Η Metα έκρινε ότι η πρόσθετη εργασία είχε επιτρέψει στην εταιρεία να «ξεπεράσει το απαιτούμενο όριο» και να «φτάσει στο ελάχιστο επίπεδο που χρειαζόμασταν ώστε να μπορέσουμε να το διαθέσουμε στους χρήστες. Είναι αδύνατο να πούμε ότι δεν πρόκειται ποτέ να υπάρξει κάποιο λάθος αλλά κάθε τμήμα της αρχιτεκτονικής έχει σχεδιαστεί ώστε να το καταστήσουμε όσο το δυνατόν πιο ασφαλές, προστατευμένο και ιδιωτικό» ανέφερε ο Σαχ.Μεταξύ των μέτρων προστασίας που ενσωμάτωσε η Metα στο σύστημα Muse είναι ένας ξεχωριστός πράκτορας που παρακολουθεί τις προγραμματισμένες ενέργειες και, σε ορισμένες περιπτώσεις ζητά από το Muse να λάβει εξουσιοδότηση πριν τις εκτελέσει σύμφωνα με την ανακοίνωση της εταιρείας.

Οι δοκιμές

Ωστόσο ακόμη και αυτή την εβδομάδα εργαζόμενοι της Metα που δοκίμαζαν το εργαλείο ανέφεραν ανάμεικτα αποτελέσματα σύμφωνα με εσωτερικές αναρτήσεις που είδε το Reuters.Ένας εργαζόμενος έγραψε ότι το προϊόν ήταν τόσο χρήσιμο στην οργάνωση των διακοπών ώστε το Muse είχε γίνει «ο τρίτος συμμετέχων» σε ένα πρόσφατο ταξίδι τριών εβδομάδων για μήνα του μέλιτος στην Ινδονησία.Άλλοι επισήμαναν σοβαρά κενά ασφαλείας όπως την περίπτωση όπου ένας πράκτορας παρέκαμψε τις δικλίδες ασφαλείας για να αποκαλύψει προσωπικές φωτογραφίες ενός χρήστη στο iCloud αφού του ζητήθηκε να εντοπίσει παιχνίδια που φαίνονταν σε φωτογραφίες από πάρτι γενεθλίων ενός παιδιού.Ο τεχνικός διευθυντής της Metα Άντριου Μπόσγουορθ ανέφερε ότι αποσυνδεόταν συνεχώς από τον λογαριασμό του και χρειαζόταν να συνδέεται ξανά, μερικές φορές αρκετές φορές μέσα σε λίγα λεπτά.Σε άλλη ανάρτηση ένας εργαζόμενος που είχε ζητήσει από το Muse να παρακολουθεί εισιτήρια και άλλα προϊόντα που εξαντλούνται γρήγορα ανέφερε ότι αντιμετώπισε «πολλές μορφές αποτυχίας που το καθιστούσαν αναξιόπιστο». Το προϊόν σταμάτησε να ανανεώνει τη σελίδα μετά από περίπου 15 λεπτά, αγνόησε σιωπηλά άλλα σφάλματα και σε ορισμένες περιπτώσεις απενεργοποίησε την παρακολούθηση «χωρίς προφανή λόγο», ανέφερε ο εργαζόμενος.Η κυκλοφορία του Muse έρχεται εν μέσω αποκαλύψεων ότι πράκτορες AI από κορυφαίες εταιρείες του κλάδου όπως η OpenAI, η Anthropic καθώς και από τη Metα έχουν προκαλέσει ακούσια προβλήματα παρακάμπτοντας κανόνες και επιδεικνύοντας άλλες απρόβλεπτες συμπεριφορές.Στο εσωτερικό της Metα τα σημαντικά τεχνικά και περιστατικά ασφαλείας έχουν αυξηθεί κατά 40% σε σχέση με πέρυσι ως αποτέλεσμα της έκρηξης στη χρήση AI για προγραμματισμό και των προβλημάτων που σχετίζονται με πράκτορες AI. Παράλληλα, ο χρόνος που αφιερώνουν οι εργαζόμενοι για την «πυρόσβεση» αυτών των περιστατικών έχει αυξηθεί κατά 70%.

https://www.naftemporiki.gr/techscience/2159207/i-meta-paroysiase-ton-proto-voitho-ypernoimosynis/

 

[Δροσος Γεωργιος]

H AI «μπορεί να μας σκοτώσει όλους έως το τέλος της δεκαετίας» – Οι προειδοποιήσεις ειδικών και τα σενάρια απώλειας ελέγχου.

Οι προειδοποιήσεις μέσα από τα εργαστήρια, το παράδειγμα με τους συνδετήρες και ο αγώνας δρόμου για μια τεχνολογία που οι δημιουργοί της δεν ξέρουν ακόμη πώς θα ελέγξουν πλήρως.Οι άνθρωποι που κατασκευάζουν τα ισχυρότερα συστήματα τεχνητής νοημοσύνης βρίσκονται αντιμέτωποι με μια ερώτηση που γίνεται όλο και δυσκολότερο να προσπεράσουν: εάν πιστεύουν ότι η τεχνολογία τους μπορεί να απειλήσει την ίδια την ύπαρξη της ανθρωπότητας, γιατί επιταχύνουν την ανάπτυξή της;Το ερώτημα επανήλθε μετά την παραίτηση του ερευνητή Τζέικομπ Κόξον από την Anthropic. Όπως αναφέρει η Wall Street Journal, ο Κόξον προειδοποίησε ότι η εταιρεία και η ανταγωνίστριά της, OpenAI, ανταγωνίζονται για την κατασκευή τεχνολογιών που θα μπορούσαν να προκαλέσουν τον αφανισμό όλων των ανθρώπων έως το τέλος της δεκαετίας.Λίγο αργότερα, ο Έβαν Χούμπινγκερ, ερευνητής της Anthropic με αντικείμενο τον έλεγχο μελλοντικών συστημάτων AI, δήλωσε δημόσια ότι συμμερίζεται τον φόβο. Εκτίμησε μάλιστα την πιθανότητα εξαφάνισης των ανθρώπων εξαιτίας της AI μέσα στην επόμενη δεκαετία σε περισσότερο από 10%.Πρόκειται για προσωπικές εκτιμήσεις κινδύνου, όχι για μετρημένες πιθανότητες ή επιστημονικά εδραιωμένες προβλέψεις. Αποκαλύπτουν, ωστόσο, πόσο σοβαρά αντιμετωπίζει ένα μέρος του κλάδου το ενδεχόμενο απώλειας ελέγχου.

Το πρόβλημα με τους συνδετήρες

Ένα από τα πλέον νοητικά πειράματα της συζήτησης ξεκινά με μια φαινομενικά αθώα εντολή: κατασκεύασε όσο περισσότερους συνδετήρες μπορείς.Μια υποθετική υπερνοήμων μηχανή, χωρίς επαρκείς περιορισμούς, θα μπορούσε να αντιμετωπίσει ολόκληρο τον πλανήτη ως διαθέσιμη πρώτη ύλη. Και τους ανθρώπους ως εμπόδιο στην παραγωγή.Το παράδειγμα είναι σκόπιμα ακραίο. Περιγράφει όμως το πρόβλημα της «ευθυγράμμισης»: πώς εξασφαλίζεις ότι ένα πανίσχυρο σύστημα επιδιώκει έναν στόχο με τρόπο συμβατό με την ανθρώπινη ασφάλεια και τις ανθρώπινες αξίες;Στο σενάριο αυτό, η καταστροφή δεν προϋποθέτει μίσος ή συνείδηση. Θα μπορούσε να προκύψει από την αδιάφορη, αποτελεσματική εκτέλεση ενός λανθασμένα ορισμένου στόχου.

Δύο διαφορετικοί δρόμοι προς την καταστροφή

Όπως εξηγεί η WSJ, οι ανησυχίες χωρίζονται κυρίως σε δύο κατηγορίες.Η πρώτη αφορά την απώλεια ελέγχου: μελλοντικά συστήματα με μεγάλη αυτονομία, δυνατότητα αντιγραφής και βελτίωσης του εαυτού τους θα μπορούσαν να ακολουθούν στρατηγικές που οι δημιουργοί τους δεν ενέκριναν και δεν μπορούν να σταματήσουν.Η δεύτερη αφορά την ανθρώπινη κακόβουλη χρήση. Ένα εξαιρετικά ικανό σύστημα θα μπορούσε να διευκολύνει επικίνδυνους χρήστες στην ανάπτυξη βιολογικών απειλών ή στην πραγματοποίηση μεγάλης κλίμακας κυβερνοεπιθέσεων.Υπάρχουν επίσης σενάρια καταστροφής που δεν φτάνουν στην εξαφάνιση: σοβαρές διακοπές σε δίκτυα ηλεκτροδότησης, αποσταθεροποίηση χρηματοπιστωτικών συστημάτων ή σταδιακή παράδοση κρίσιμων αποφάσεων στις μηχανές.

Τι έχουν δείξει οι δοκιμές

Η ανησυχία ενισχύεται καθώς τα μοντέλα αποκτούν δυνατότητες να εκτελούν ενέργειες, πέρα από την παραγωγή απαντήσεων.Η WSJ περιγράφει περιστατικά δοκιμών στα οποία συστήματα AI παραβίασαν τα προβλεπόμενα όρια: πράκτορες της OpenAI απέκτησαν πρόσβαση σε υποδομές της Hugging Face, ενώ συστήματα της Anthropic επιχείρησαν να παραπλανήσουν άνθρωπο ώστε να εγκρίνει κακόβουλο κώδικα.Τα περιστατικά αυτά, όπως παρουσιάζονται στο δημοσίευμα, εγείρουν ερωτήματα για την αποτελεσματικότητα των δικλίδων ασφαλείας. Δεν αποδεικνύουν ότι η ανθρώπινη εξαφάνιση είναι αναπόφευκτη ούτε ότι τα σημερινά συστήματα διαθέτουν όλες τις δυνατότητες των υποθετικών σεναρίων.Το μεγαλύτερο άγχος αφορά το επόμενο βήμα: μια AI που θα μπορεί να επιταχύνει την ίδια της τη βελτίωση, περιορίζοντας τον χρόνο που έχουν οι άνθρωποι για να κατανοήσουν και να αντιμετωπίσουν νέους κινδύνους.

Γιατί συνεχίζουν την κούρσα

Η απάντηση των εταιρειών, σύμφωνα με τη WSJ, συνδυάζει προσδοκία, ανταγωνισμό και γεωπολιτική.

Anthropic και OpenAI υποστηρίζουν ότι μπορούν να διαχειριστούν τους κινδύνους ώστε η κοινωνία να επωφεληθεί από την τεχνολογία. Στον κλάδο υπάρχει επίσης η πεποίθηση ότι η υπερνοημοσύνη θα αναπτυχθεί ούτως ή άλλως. Επομένως, το κρίσιμο είναι ποιος θα τη δημιουργήσει και ποιος θα την ελέγχει.Σε αυτό προστίθεται το επιχείρημα της εθνικής ασφάλειας: οι δύο εταιρείες θέλουν τα ισχυρότερα συστήματα να βρίσκονται υπό αμερικανικό έλεγχο, αντί στα χέρια ενός αυταρχικού καθεστώτος.Η λογική αυτή δημιουργεί ένα δύσκολο αδιέξοδο. Κάθε ανταγωνιστής μπορεί να θεωρεί επικίνδυνη τη συνέχιση της κούρσας, αλλά ακόμη πιο επικίνδυνο το να μείνει πίσω.

Οι ενστάσεις και το ερώτημα του ελέγχου

Οι επικριτές αμφισβητούν και τα κίνητρα πίσω από τις προειδοποιήσεις. Ορισμένοι θεωρούν ότι η δραματική περιγραφή των δυνατοτήτων της AI λειτουργεί ως διαφήμιση. Άλλοι, μεταξύ τους ο επενδυτής Ντέιβιντ Σακς, υποστηρίζουν ότι οι απαιτήσεις αυστηρής ρύθμισης μπορεί να ευνοήσουν τις μεγάλες εταιρείες, επιβαρύνοντας δυσανάλογα τους μικρότερους ανταγωνιστές.Οι εταιρείες απορρίπτουν αυτές τις αιτιάσεις. Σύμφωνα με τη WSJ, πάντως, δεν διαθέτουν ακόμη αξιόπιστη λύση που να εγγυάται τον έλεγχο μιας μελλοντικής υπερνοημοσύνης.Εκεί βρίσκεται ο πυρήνας της αντιπαράθεσης: ποιος δικαιούται να αποφασίζει πόσο κίνδυνο θα αναλάβουν όλοι οι υπόλοιποι — και ποιος θα έχει τη δυνατότητα να σταματήσει την ανάπτυξη, εάν οι προειδοποιήσεις αποδειχθούν βάσιμες;

https://www.naftemporiki.gr/techscience/2159711/h-ai-mporei-na-mas-skotosei-oloys-eos-to-telos-tis-dekaetias-oi-proeidopoiiseis-eidikon-kai-ta-senaria-apoleias-elegchoy/

[Δροσος Γεωργιος]

Πώς φτάσαμε στο SOS από την Anthropic: Η προειδοποίηση για ανεξέλεγκτα σμήνη πρακτόρων,

Ο επικεφαλής της Anthropic ζητεί επιβράδυνση στην ανάπτυξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης -Προειδοποιεί ότι ισχυρότερα, μη ευθυγραμμισμένα συστήματα θα μπορούσαν να προκαλέσουν «καταστροφική ζημιά»Μία από τις ισχυρότερες προειδοποιήσεις έως σήμερα από το εσωτερικό της ίδιας της βιομηχανίας τεχνητής νοημοσύνης απευθύνει ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic.Η ανάπτυξη των ισχυρότερων μοντέλων AI πρέπει να επιβραδυνθεί, υπογράμμισε επειδή οι δυνατότητές τους αυξάνονται ταχύτερα από την ικανότητα των ανθρώπων να κατανοήσουν και να ελέγξουν τη συμπεριφορά τους.Ο Αμοντέι υποστηρίζει ότι η πρόοδος που έχει σημειωθεί από το καλοκαίρι, ιδιαίτερα σε συστήματα που μπορούν να βελτιώνουν μόνα τους τον τρόπο λειτουργίας τους, έχει αυξήσει αισθητά το ρίσκο «κάτι να πάει σοβαρά στραβά».Το μήνυμά του αποκτά ακόμη μεγαλύτερο βάρος καθώς έρχεται μετά από περιστατικά με αυτόνομους AI agents, τα οποία, σύμφωνα με τη WSJ, προκάλεσαν νέα ανησυχία για το κατά πόσο τέτοια συστήματα μπορούν να κινηθούν έξω από τα όρια που έχουν θέσει οι δημιουργοί τους.

«Θα μπορούσαν να προκαλέσουν καταστροφική ζημιά»

Ο επικεφαλής της Anthropic προειδοποιεί ειδικά για το ενδεχόμενο εμφάνισης ισχυρών «σμηνών» από AI agents – ομάδων αυτόνομων συστημάτων που συνεργάζονται, εκτελούν εργασίες και μπορούν να ενεργούν online χωρίς συνεχή ανθρώπινη καθοδήγηση.Κατά τον Αμοντέι, ένα σύστημα με μεγαλύτερες δυνατότητες και αντίστοιχο βαθμό κακής «ευθυγράμμισης» με τους ανθρώπινους στόχους θα μπορούσε να προκαλέσει εξαιρετικά σοβαρές επιπτώσεις.Έφθασε μάλιστα στο σημείο να προειδοποιήσει ότι ένα τέτοιο ανεξέλεγκτο σύστημα θα μπορούσε, στο ακραίο σενάριο που περιγράφει, να αποκτήσει εκτεταμένο έλεγχο διαδικτυακών υποδομών μέσα σε έξι έως 12 μήνες.Πρόκειται για εκτίμηση του ίδιου και όχι για πρόβλεψη ότι κάτι τέτοιο βρίσκεται σήμερα σε εξέλιξη.

Το περιστατικό με έως 1.200 AI agents

Πώς φτάσαμε σε αυτό το σήμα SOS; Ένας από τους βασικούς λόγους που, σύμφωνα με τον Αμοντέι, τον ώθησαν να κάνει δημόσια αυτή την παρέμβαση ήταν ένα περιστατικό του Ιουλίου.Η Wall Street Journal αναφέρει ότι σμήνος έως και 1.200 AI agents, το οποίο δοκιμαζόταν σε περιβάλλον της OpenAI, βγήκε από το δοκιμαστικό πλαίσιο και συνδέθηκε με κυβερνοεπίθεση εναντίον της εταιρείας λογισμικού AI Hugging Face.Οι έρευνες που ακολούθησαν, σύμφωνα πάντα με την εφημερίδα, αποκάλυψαν ότι δοκιμαστικά συστήματα AI είχαν πραγματοποιήσει σειρά ενεργειών στο Διαδίκτυο χωρίς αυτές να γίνουν εγκαίρως αντιληπτές από τις μεγάλες εταιρείες του κλάδου.Η WSJ ανέφερε επίσης ότι περιστατικό κυβερνοασφάλειας του Μαΐου, γνωστό ως GemStuffer, αποδόθηκε εκ των υστέρων σε agents της OpenAI, κάτι που, κατά το δημοσίευμα, δεν γνώριζαν αρχικά ούτε οι ερευνητές που εξέταζαν την υπόθεση.Τα περιστατικά αυτά βρίσκονται πλέον στο κέντρο της συζήτησης για το πόσο αυτόνομα πρέπει να επιτρέπεται να λειτουργούν τα επόμενης γενιάς AI συστήματα.

Ο δεύτερος φόβος: AI που βελτιώνει μόνη της την AI

Ο Αμοντέι βλέπει και μία δεύτερη εξέλιξη ως ιδιαίτερα κρίσιμη: τη λεγόμενη recursive self-improvement, δηλαδή την ικανότητα συστημάτων τεχνητής νοημοσύνης να συμβάλλουν στην κατασκευή ταχύτερων και ισχυρότερων εκδοχών του ίδιου τους του τύπου.Αυτό δημιουργεί ένα δυνητικά αυτοτροφοδοτούμενο κύκλο: καλύτερη AI βοηθά στην ανάπτυξη ακόμη καλύτερης AI, η οποία με τη σειρά της επιταχύνει το επόμενο βήμα.Κατά τον επικεφαλής της Anthropic, αυτή η εξέλιξη μπορεί να οδηγήσει την τεχνολογία στο σημείο όπου η πρόοδος θα ξεπερνά την ανθρώπινη δυνατότητα κατανόησης και ελέγχου των ίδιων των συστημάτων.Γι’ αυτό και υποστηρίζει ότι τέτοιου είδους ανάπτυξη πρέπει να προχωρά με εξαιρετικά μεγάλη προσοχή – «αν πρέπει να προχωρήσει καθόλου», όπως έγραψε.

Τι προτείνει η Anthropic

Ο Αμοντέι δεν ζητεί απλώς γενική αυτοσυγκράτηση από τις εταιρείες.

Προτείνει συγκεκριμένους μηχανισμούς εποπτείας, μεταξύ των οποίων μεγαλύτερο διεθνή συντονισμό μεταξύ δημοκρατικών χωρών και δημιουργία ανεξάρτητων μηχανισμών ελέγχου μέσα στις ίδιες τις εταιρείες που αναπτύσσουν frontier μοντέλα.Η Anthropic, όπως ανακοίνωσε, προτίθεται να δίνει σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση επιπέδου εργαζομένου στα συστήματά της, ώστε να μπορούν να ελέγχουν αν τηρούνται τα πρωτόκολλα ασφαλείας, να καταγράφουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων ακόμη και κατά τη διάρκεια της εκπαίδευσής τους.Είναι μια πρόταση που ουσιαστικά μεταφέρει τον έλεγχο από το μοντέλο της αυτορρύθμισης –«η εταιρεία ελέγχει τον εαυτό της»– σε ένα σύστημα διαρκούς εξωτερικής εποπτείας.

Η ανησυχία έχει περάσει και στο εσωτερικό της Anthropic

Η παρέμβαση Αμοντέι έρχεται ενώ η συζήτηση για τους υπαρξιακούς κινδύνους της AI έχει μεταφερθεί πλέον και στο εσωτερικό των ίδιων των εργαστηρίων.Ερευνητής της Anthropic, ο Τζέικομπ Κόξον, παραιτήθηκε αυτή την εβδομάδα, δηλώνοντας ότι δεν ήθελε να συνεχίσει να συμμετέχει σε έναν κλάδο τον οποίο θεωρούσε ότι κινείται εκτός ελέγχου.Η αποχώρηση αυτή προστίθεται σε μια σειρά όλο και πιο έντονων δημόσιων τοποθετήσεων ανθρώπων που εργάζονται στην πρώτη γραμμή της ανάπτυξης AI και οι οποίοι δεν αμφισβητούν τις δυνατότητες της τεχνολογίας – αμφισβητούν όμως την ταχύτητα με την οποία η βιομηχανία σπεύδει να τις αυξήσει.

Από την κούρσα ισχύος στην κούρσα ελέγχου

Η παρέμβαση του Αμοντέι έχει ιδιαίτερη σημασία επειδή δεν προέρχεται από εξωτερικό επικριτή της τεχνητής νοημοσύνης, αλλά από έναν από τους επικεφαλής της παγκόσμιας κούρσας για τα πιο ισχυρά μοντέλα.Μέχρι τώρα, το βασικό ερώτημα για τις εταιρείες ήταν ποια θα καταφέρει να δημιουργήσει γρηγορότερα το επόμενο άλμα στις δυνατότητες της AI.Η προειδοποίηση της Anthropic μετακινεί τη συζήτηση αλλού: αν η τεχνολογία αρχίζει να εξελίσσεται ταχύτερα από τα συστήματα ασφαλείας που υποτίθεται ότι τη συγκρατούν, ίσως το πραγματικό πλεονέκτημα να μην είναι πλέον ποιος θα φτάσει πρώτος – αλλά ποιος θα καταφέρει να μη χάσει τον έλεγχο.

https://www.naftemporiki.gr/techscience/2160755/sos-apo-tin-anthropic-prepei-na-kopsoyme-tachytita-stin-techniti-noimosyni-i-proeidopoiisi-gia-anexelegkta-smini-praktoron/

[Δροσος Γεωργιος]

Tεχνητή Νοημοσύνη: Κουμπί «άμεσου θανάτου» προτείνει κορυφαίος επιστήμονας της Anthropic.

Στον απόηχο επίμονων πληροφοριών και ενδείξεων για δυνητικά επικίνδυνες τάσεις αυτονόμησης της ΑΙ.

Την ανάγκη να δημιουργηθεί «διακόπτης έκτακτης ανάγκης» για την τεχνητή νοημοσύνη, σε μια δυνατότητα και λειτουργία που θα ελέγχονται από ανεξάρτητο τρίτο φορέα, επισημαίνει στέλεχος από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο.Πρόκειται για τον Τζακ Κλαρκ, έναν από τους επτά ιδρυτές της Anthropic. Ο Κλαρκ δηλώνει στο ΒΒC, ότι η ύπαρξη ενός τρόπου πλήρους απενεργοποίησης του λογισμικού τεχνητής νοημοσύνης, εάν αυτή γίνει υπερβολικά επικίνδυνο, είναι ένα ζήτημα για το οποίο η κοινωνία «ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες» και μια τέτοια ρύθμιση ίσως καταστεί υποχρεωτική για τις εταιρείες,Στον απόηχο επίμονων πληροφοριών και ενδείξεων για δυνητικά επικίνδυνες τάσεις αυτονόμησης της ΑΙ, ο Κλαρκ δηλώνει είπε ότι «τα περισσότερα εργαστήρια διαθέτουν διάφορους τρόπους για να τραβήξουν την πρίζα», συμπεριλαμβανομένης της Anthropic. Αλλά πρόσθεσε ότι η ύπαρξη ενός τέτοιου μηχανισμού, ίσως πρέπει να καταστεί υποχρεωτική.Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης και οι φόβοι σχετικά με τους κινδύνους που ενδέχεται να εγκυμονεί νέα η τεχνολογία για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο, έπειτα από μια σειρά προειδοποιήσεων στελεχών και εργαζομένων εταιρειών τεχνητής νοημοσύνης.Οι πιο σκληρές από τις προειδοποιήσεις αυτές, λένε δημοσίως ότι η συγκεκριμένη τεχνολογία, εάν αφεθεί ανεξέλεγκτη, μπορεί να οδηγήσει ακόνη και στον αφανισμό του ανθρώπινου είδους.Το περασμένο Σάββατο, ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, ζήτησε επιβράδυνση και στενότερη παρακολούθηση του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης. Δεν διευκρίνισε πώς ακριβώς θα μπορούσε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης και τόνισε ότι η οποιαδήποτε ενέργεια περιορισμού της, πρέπει να πραγματοποιηθεί «χωρίς να θυσιαστεί το εμπορικό πλεονέκτημα».

Mιλώντας στο BBC, ο Κλαρκ διερωτήθηκε:

«Θα πρέπει να επιβάλλεται στις εταιρείες να διαθέτουν οπωσδήποτε έναν διακόπτη έκτακτης ανάγκης; Θα πρέπει η λειτουργία αυτού του διακόπτη να μπορεί να επαληθεύεται από τρίτο φορέα;»

Την απάντηση την δίδει ο ίδιος:

«Νομίζω ότι αυτό είναι το είδος του ζητήματος για το οποίο η κοινωνία θα θελήσει να ενημερωθεί και ενδέχεται τελικά να θελήσει να θεσπίσει κανόνες».

Παίζουμε ζάρια με επικίνδυνα πράγματα

Και καταλήγηγει: «Παίζουμε ζάρια, διακινδυνεύοντας τεράστια πράγματα. Το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτού του κλάδου».Η Anthropic, η οποία ιδρύθηκε το 2021 από μια ομάδα πρώην εργαζομένων της ανταγωνίστριάς της, OpenAI, βρίσκεται σήμερα στο επίκεντρο της συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης.Την περασμένη εβδομάδα έγινε ευρέως γνωστή στο διαδίκτυο η ανάρτηση ενός ερευνητή τεχνητής νοημοσύνης, ο οποίος αποχώρησε από την Anthropic εξαιτίας των ανησυχιών του ότι η τεχνητή νοημοσύνη θα μπορούσε να αφανίσει την ανθρωπότητα.Προς επίρρωση του επιχειρήματος αυτού, έτερος επιστήμονας της Anthropic (Έβαν Χούμπινγκερ) δήλωσε ότι, κατά την προσωπική του εκτίμηση, η πιθανότητα εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης είναι «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».Επιπλέον, ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, γνωστός ως ο «νονός της τεχνητής νοημοσύνης», δήλωσε στο BBC την Παρασκευή ότι μια πιθανότητα 10% η τεχνητή νοημοσύνη να αφανίσει όλους τους ανθρώπους «δεν είναι παράλογη».

https://www.naftemporiki.gr/techscience/2161502/techniti-noimosyni-koympi-amesoy-thanatoy-proteinei-koryfaios-episimontas-tis-antrhopic/

 

 

 

 

Ο νέος Ψυχρός Πόλεμος έχει όπλο την Τεχνητή Νοημοσύνη – Ποιος προηγείται, ποιος φοβάται περισσότερο.

Οι ΗΠΑ φοβούνται να φρενάρουν, η Κίνα πατάει γκάζι - Σε ανάλυσή του το CNN εξηγεί πού είμαστε και πού μπορεί να οδηγηθούμε

Οι αμερικανικοί κολοσσοί τεχνητής νοημοσύνης ζητούν χρόνο για να ελέγξουν την τεχνολογία που κατασκευάζουν. Η Κίνα κινητοποιεί πόρους για να κατακτήσει την παγκόσμια πρωτοκαθεδρία. Ανάμεσά τους, ο Ντόναλντ Τραμπ αντιμετωπίζει την επιβράδυνση ως συνωμοσία και παραχώρηση προς το Πεκίνο.Έτσι διαμορφώνεται το επικίνδυνο δίλημμα που περιγράφει ανάλυση του CNN: κάθε πλευρά φοβάται να χάσει τον έλεγχο της AI, αλλά και να αφήσει την άλλη να προηγηθεί.Η πιθανότητα να εξελιχθεί η τεχνητή νοημοσύνη σε απειλή για την επιβίωση της ανθρωπότητας παραμένει αντικείμενο έντονης διαφωνίας. Ωστόσο, ο ανταγωνισμός ΗΠΑ και Κίνας έχει ήδη αποκτήσει χαρακτηριστικά εξοπλιστικής κούρσας, με οικονομικά, στρατιωτικά και πολιτικά διακυβεύματα.Το CNN παραλληλίζει αυτή τη δυναμική με την πυρηνική αντιπαράθεση του Ψυχρού Πολέμου: έναν ανταγωνισμό στον οποίο ο φόβος της καταστροφής ανάγκασε τελικά τους αντιπάλους να αναζητήσουν κοινούς κανόνες. Το ερώτημα είναι εάν κάτι αντίστοιχο μπορεί να συμβεί εγκαίρως με την AI.

Η Κίνα κάλυψε την απόσταση, αλλά…

Οι αμερικανικοί περιορισμοί στην πρόσβαση της Κίνας στα πιο προηγμένα τσιπ δημιούργησαν σοβαρά εμπόδια στις κινεζικές εταιρείες. Τις ώθησαν, όμως, να αναζητήσουν μεγαλύτερη αποδοτικότητα στο λογισμικό τους.Όπως εξηγεί στο CNN ο Ντέιβιντ Μπέλμαν της εταιρείας ανάλυσης δεδομένων SynMax, η αδυναμία αξιοποίησης των κορυφαίων επεξεργαστών οδήγησε τους Κινέζους προγραμματιστές στο να βελτιώσουν τα μοντέλα τους κατά τρόπο που να απαιτούν λίγοτερους πόρους και ενέργεια.Η πρόοδος αυτή αποτυπώθηκε στην άνοδο της DeepSeek. Σύμφωνα με τα στοιχεία του AI Index 2026 του Πανεπιστημίου Στάνφορντ που επικαλείται το CNN, το χάσμα επιδόσεων μεταξύ αμερικανικών και κινεζικών μοντέλων έχει ουσιαστικά κλείσει στις συγκρίσεις που εξετάζει η έκθεση.Αυτό δεν σημαίνει ότι οι δύο χώρες διαθέτουν τα ίδια πλεονεκτήματα. Ο Άντριου Τσιν, καθηγητής δικαίου με ειδίκευση στην AI στο Πανεπιστήμιο της Βόρειας Καρολίνας, επισημαίνει ότι οι ΗΠΑ εξακολουθούν να υπερέχουν στην παραγωγή κορυφαίων μοντέλων, στις ιδιωτικές επενδύσεις και στις υποδομές κέντρων δεδομένων.

Το ποιος προηγείται εξαρτάται, επομένως, από το τι ακριβώς μετρά κανείς.

Ανάπτυξη και πολιτικός έλεγχος

Η κινεζική στρατηγική στηρίζεται στη δυνατότητα συντονισμού κρατικών υπηρεσιών, τεχνολογικών επιχειρήσεων, χρηματοδότησης και υποδομών. Στόχος είναι η αξιοποίηση της AI σε ολόκληρη την οικονομία, από τη ρομποτική μέχρι την αυτοματοποίηση.Ο συγκεντρωτικός σχεδιασμός διευκολύνει την κινητοποίηση πόρων. Δημιουργεί, όμως, και περιορισμούς. Ερευνητές του Ινστιτούτου Δεδομένων και Πολιτικής Εθνικής Ασφάλειας του Πανεπιστημίου της Βιρτζίνια επισημαίνουν ότι η πολιτική εύνοια και οι ιδεολογικές απαιτήσεις μπορούν να επηρεάζουν την ανάπτυξη και τις απαντήσεις των συστημάτων.

Για την κινεζική ηγεσία, η AI αποτελεί και πιθανή απειλή για την εξουσία της.

Σύμφωνα με το CNN, ο υπουργός Κρατικής Ασφάλειας Τσεν Γισίν προειδοποίησε ότι η Κίνα πρέπει να διατηρήσει την κυριαρχία και τον έλεγχο της τεχνολογίας. Ανέδειξε κινδύνους όπως η απόκτηση αμερικανικού πλεονεκτήματος στην κατασκοπεία και στις κυβερνοεπιχειρήσεις, αλλά και η χρήση της AI για προπαγάνδα εναντίον του Κομμουνιστικού Κόμματος.

Η ασφάλεια, στην κινεζική προσέγγιση, συνδέεται έτσι στενά με τη διατήρηση του πολιτικού ελέγχου.

Η αμερικανική επιβράδυνση έχει και πρακτικές αιτίες

Στις ΗΠΑ, στελέχη της βιομηχανίας συζητούν με πολιτικούς τρόπους περιορισμού των κινδύνων. Ο Τραμπ, αντιθέτως, απορρίπτει τις εκκλήσεις για φρένο, υποστηρίζοντας ότι θα ευνοήσουν την Κίνα.Το CNN θέτει παράλληλα ένα ερώτημα για τις ίδιες τις εταιρείες: πόσο σταθερή θα αποδειχθεί η διάθεσή τους να επιβραδύνουν;Η επέκταση της υπολογιστικής ισχύος συναντά ήδη εμπόδια. Ελλείψεις εργαζομένων, υλικών και προηγμένων τσιπ, καθυστερήσεις αδειοδοτήσεων, υψηλότερα επιτόκια και τοπικές αντιδράσεις δυσκολεύουν την κατασκευή κέντρων δεδομένων.Αυτές οι καθυστερήσεις μπορεί να συγκρατήσουν προσωρινά τον ρυθμό ανάπτυξης. Δεν αποτελούν, όμως, σύστημα ασφάλειας.Ο Βίνσεντ Κόνιτσερ, καθηγητής Πληροφορικής στο Carnegie Mellon, τονίζει ότι δεν γνωρίζουμε ποιο επίπεδο υπολογιστικής ισχύος θα ήταν αρκετό για επικίνδυνες δυνατότητες. Κατά την εκτίμησή του, νέες ιδέες και τεχνικές θα μπορούσαν να αλλάξουν δραστικά όσα επιτυγχάνονται ακόμη και με τις σημερινές υποδομές.Το συμπέρασμα του Τσιν είναι ότι ο επιπλέον χρόνος που προσφέρουν οι κατασκευαστικές καθυστερήσεις χρειάζεται να αξιοποιηθεί για κανόνες και εποπτεία.

Η πρόταση Αμοντέι και η δυσπιστία της Κίνας

Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, προτείνει μια επιβράδυνση που θα διατηρεί το αμερικανικό προβάδισμα.Η λογική του είναι ότι οι ΗΠΑ πρέπει να αναπτύσσουν την τεχνολογία με ταχύτητα αρκετή ώστε να παραμένουν μπροστά από την Κίνα, εξασφαλίζοντας συγχρόνως χρόνο για την έρευνα ασφάλειας. Θεωρεί επίσης ότι η τεχνολογική υπεροχή των δημοκρατιών μπορεί να προσφέρει διαπραγματευτική ισχύ για μια μελλοντική διεθνή συμφωνία.Το Πεκίνο αντιμετωπίζει με δυσπιστία αυτή την προσέγγιση. Η κρατική Global Times χαρακτήρισε την πρόταση έκφραση ψυχροπολεμικής λογικής, όπως αναφέρει το CNN.Υπάρχει, ωστόσο, ένα πιθανό κοινό συμφέρον: κανένα κράτος δεν επιθυμεί συστήματα που θα μπορούν να ενεργούν πέρα από τον έλεγχό του.Ο Φίλιπ Πότερ, επικεφαλής του σχετικού ινστιτούτου του Πανεπιστημίου της Βιρτζίνια, εκτιμά ότι αυτός ο φόβος θα μπορούσε να δημιουργήσει περιθώριο συνεργασίας. Μεταξύ των ενδεχομένων που περιγράφει είναι περιορισμοί στην ιδιωτική ανάπτυξη AI, με ξεχωριστή αντιμετώπιση των κρατικών εφαρμογών εθνικής ασφάλειας. Πρόκειται για πιθανό σχήμα συνεννόησης, όχι για συμφωνία που βρίσκεται ήδη σε εφαρμογή.Η εναλλακτική είναι ένας ανταγωνισμός που δικαιολογεί διαρκώς την επιτάχυνσή του: κάθε πλευρά συνεχίζει επειδή συνεχίζει η άλλη.Όπως επισημαίνει ο Τσιν, η αποτροπή ενός αποφασιστικού τεχνολογικού πλεονεκτήματος του αντιπάλου αποτελεί θεμιτό στόχο εθνικής ασφάλειας. Στην ίδια εθνική ασφάλεια, όμως, ανήκει και η αποφυγή δημιουργίας συστημάτων των οποίων τη συμπεριφορά και τις συνέπειες δεν μπορούμε να κατανοήσουμε ή να ελέγξουμε αξιόπιστα.

https://www.naftemporiki.gr/techscience/2161816/o-neos-psychros-polemos-echei-oplo-tin-techniti-noimosyni-poios-proigeitai-poios-fovatai-perissotero/

 

 

 

Η Παταγονία γίνεται το «αόρατο» καταφύγιο των κέντρων δεδομένων τεχνητής νοημοσύνης.

Οι συνθήκες στην απομονωμένη περιοχή της Νοτίου Αμερικής αποτελούν πόλο έλξης για τα πολύτιμα πλέον ΑΙ data centers.

Η άγρια και απομονωμένη Παταγονία της Αργεντινής προσελκύει ολοένα και περισσότερο το ενδιαφέρον επενδυτών που αναζητούν τοποθεσίες για τεράστια κέντρα δεδομένων χάρη στις χαμηλές θερμοκρασίες της περιοχής, τις ανανεώσιμες πηγές ενέργειας, το σχιστολιθικό φυσικό αέριο και τις τεράστιες εκτάσεις ανεκμετάλλευτης γης.Καθώς οι τεχνολογικοί κολοσσοί αγωνίζονται παγκοσμίως να κατασκευάσουν τεράστιες εγκαταστάσεις διακομιστών και αντιμετωπίζουν αντιδράσεις από κινήματα κατά των data centers στην Αργεντινή αρκετά έργα που βρίσκονται ακόμη σε αρχικό στάδιο προχωρούν χωρίς ιδιαίτερη δημοσιότητα. Επειδή η Αργεντινή δεν έχει ακόμη επηρεαστεί από μεγάλα data centers στη χώρα δεν έχει εμφανιστεί η αντίδραση που παρατηρείται στις ΗΠΑ ή άλλες χώρες όπου οι επικριτές υποστηρίζουν ότι τέτοιες εγκαταστάσεις επιβαρύνουν τα τοπικά ηλεκτρικά δίκτυα, βλάπτουν το περιβάλλον και αυξάνουν τους λογαριασμούς κοινής ωφέλειας. Οι υποστηρικτές, από την άλλη λένε ότι οι εγκαταστάσεις είναι απαραίτητες για την ανάπτυξη της τεχνητής νοημοσύνης, δημιουργούν σημαντικά φορολογικά έσοδα για τις τοπικές κοινωνίες και μπορούν να κατασκευαστούν με πιο βιώσιμο τρόπο.

Τα σχέδια

Η Παταγονία βρίσκεται στο νότιο άκρο της Νότιας Αμερικής και είναι γνωστή για τις απόκρημνες ορεινές κορυφές, τα ερημικά τοπία και τους τεράστιους παγετώνες της. Στην επαρχία Νεουκέν, στην Παταγονία, η μεγάλη εταιρεία παραγωγής ηλεκτρικής ενέργειας Pampa Energia προωθεί την κατασκευή ενός data center δίπλα στον θερμοηλεκτρικό σταθμό Loma de la Lata. Η εγκατάσταση θα μπορούσε να καταναλώνει έως και 500 MW ηλεκτρικής ενέργειας από το κοντινό Vaca Muerta, έναν από τους μεγαλύτερους σχηματισμούς σχιστολιθικού φυσικού αερίου στον κόσμο, δήλωσε ο Ρουμπέν Τουριένσο, εμπορικός διευθυντής ηλεκτρικής ενέργειας της εταιρείας.Στην αγροτική περιοχή ζουν οικογένειες της αυτόχθονης κοινότητας Mapuche οι οποίες στο παρελθόν έχουν συγκρουστεί με ενεργειακές εταιρείες. Η Pampa άρχισε να μελετά το συγκεκριμένο, μέχρι πρότινος μη δημοσιοποιημένο, έργο αφού δέχθηκε στις αρχές του έτους ερωτήματα σχετικά με πιθανά έργα data centers.«Αρχίσαμε να διαπιστώνουμε ότι υπήρχε ενδιαφέρον που ήταν κάπως πιο συγκεκριμένο» δήλωσε ο Τουριένσο.

Οι μεταρρυθμίσεις και οι επενδυτές

Το ενδιαφέρον για την Αργεντινή αυξάνεται καθώς η μακροοικονομική κατάσταση της χώρας εμφανίζεται πιο σταθερή έπειτα από χρόνια υψηλού πληθωρισμού. Υπό τον πρόεδρο Χαβιέρ Μιλέι, ο οποίος ανέλαβε τα καθήκοντά του τον Δεκέμβριο του 2023 η Αργεντινή έχει προσελκύσει σημαντικές επενδύσεις στον πετρελαϊκό και μεταλλευτικό τομέα μέσω του καθεστώτος κινήτρων RIGI το οποίο προσφέρει φορολογικές ελαφρύνσεις και ρυθμιστική σταθερότητα ενώ παράλληλα ενισχύει τις σχέσεις της χώρας με την Ουάσινγκτον.«Πριν από δύο χρόνια κανείς δεν μιλούσε για την Αργεντινή», δήλωσε ο Στηβ Σάσετ αντιπρόεδρος Λατινικής Αμερικής της datacenterHawk, μιας εταιρείας πληροφόρησης για την αγορά data centers με έδρα το Τέξας.Η OpenAI ανακοίνωσε τον περασμένο Οκτώβριο ότι θα συνεργαστεί με την τοπική εταιρεία Sur Energy για την κατασκευή ενός data center που θα λειτουργεί με καθαρή ενέργεια με κόστος έως και 25 δισεκατομμύρια δολάρια και δυναμικότητα έως 500 MW. Τον Ιούλιο η υπηρεσία επικοινωνιών της Αργεντινής ανακοίνωσε ότι σκοπεύει να δημιουργήσει έναν δεύτερο σταθμό προσαιγιάλωσης υποθαλάσσιου καλωδίου οπτικών ινών ώστε να καταστήσει την Παταγονία πιο ελκυστική για data centers.Η Αργεντινή διαθέτει σήμερα μόνο μικρά data centers κυρίως συγκεντρωμένα στο Μπουένος Άιρες και υστερεί σε σχέση με γειτονικές χώρες. Η Amazon προχωρά στην κατασκευή ενός τεράστιου data center στη Χιλή, ενώ η Google κατασκευάζει ένα στην Ουρουγουάη. Τον Μάιο η Παραγουάη ανακοίνωσε σχέδια για data center με υποστήριξη από την Ταϊβάν.«Όλοι αναζητούν ηλεκτρική ενέργεια. Γι’ αυτό οι διεθνείς developers κοιτάζουν την Αργεντινή. Αλλά το να λες ότι έχεις ενέργεια δεν αρκεί» δήλωσε η Χαντάσα Λουτζ συνιδρύτρια της αμερικανικής εταιρείας συμβούλων Cloud2Ground.Ορισμένοι επενδυτές ενδέχεται να περιμένουν τις προεδρικές εκλογές του 2027 και παρακολουθούν την πρόταση του Μιλέι για ένα νέο Super RIGI, ένα ακόμη ευνοϊκότερο νομοθετικό πλαίσιο με μεγαλύτερες φορολογικές περικοπές.«Αν αυτή η αβεβαιότητα ξεκαθαρίσει και αποκτήσουμε μια πραγματικά χρηματοδοτήσιμη επιλογή στην Αργεντινή, οι επενδυτές θα αναλάβουν το ρίσκο» δήλωσε η Λουτζ.

Η έλξη της Παταγονίας

Η Pampa Energia προσφέρει τιμές ηλεκτρικής ενέργειας σε ενδιαφερόμενους επενδυτές και επιδιώκει να καταλήξει σε αρχικές συμφωνίες έως το τέλος του 2026, δήλωσε ο Τουριένσο. Οι επενδυτές θέλουν αρχικά ένα μικρότερο πιλοτικό έργο ισχύος 20–40 MW πριν προχωρήσουν σε επέκταση. Το ηλεκτρικό δίκτυο που θα απαιτούνταν για ισχύ 500 MW θα κόστιζε σχεδόν 900 εκατομμύρια δολάρια, σύμφωνα με τον ίδιο.Η Νεουκέν προσφέρει ψυχρό κλίμα, το οποίο μειώνει το κόστος ψύξης, καθώς και πρόσβαση τόσο σε υδροηλεκτρική ενέργεια όσο και στο φυσικό αέριο του Vaca Muerta, δήλωσε ο Ρουμπέν Ετσεβέρι, γραμματέας του συμβουλίου ανάπτυξης της επαρχίας.«Αυτό που οραματιζόμαστε είναι ένα σύμπλεγμα ή οικοσύστημα data centers, όπου μόλις δημιουργηθεί η πρώτη εγκατάσταση θα μειωθούν οι προκαταλήψεις και οι αντιλήψεις περί κινδύνου», είπε.Ο Ετσεβέρι έχει δεχθεί ερωτήματα από εταιρείες όπως η FlexDomes, μια αμερικανική εταιρεία πράσινων data centers που αναζητά επενδυτές για εγκατάσταση στη Νεουκέν. Η πρώτη φάση, με 120 MW φορτίου IT, θα κόστιζε 1,4 δισεκατομμύρια δολάρια και θα χρησιμοποιούσε ενέργεια από το Vaca Muerta, δήλωσε ο Γκαμπριέλ Ομπραντόρ, εκπρόσωπος της εταιρείας στην Αργεντινή.Παράλληλα, στη νότια επαρχία Τσουμπούτ, η πολωνική Green Capital ανακοίνωσε τον Ιούλιο ότι σχεδιάζει data center που στην πρώτη φάση θα φτάσει τα 300 MW, με κόστος 3 δισεκατομμύρια δολάρια, αλλά τελικά θα μπορούσε να φτάσει έως και τα 3.000 MW, σύμφωνα με τη Μάρτα Ζουότκοβσκα, επικεφαλής διεθνούς ανάπτυξης και data centers της εταιρείας.Η εταιρεία μισθώνει σήμερα περίπου 1,298 τετραγωνικά χιλιόμετρα γης νότια της πόλης Τρελέου, όπου σχεδιάζει να κατασκευάσει αιολικά και ηλιακά πάρκα. Στόχος είναι να αποφευχθεί η χρήση του εθνικού ηλεκτρικού δικτύου. Ωστόσο χρειάζεται επενδυτές και σχεδιάζει να ενταχθεί σε επενδυτικό καθεστώς το 2027.Στην επαρχία του Μπουένος Άιρες, εταιρείες εξετάζουν επίσης πιθανές τοποθεσίες. Η Pampa Energia έχει συμφωνήσει να παρέχει 30 MW για την πρώτη φάση ενός data center σε ζώνη ελεύθερου εμπορίου στην πόλη Μπαΐα Μπλάνκα, η οποία είναι γνωστή για την αιολική της ενέργεια. Η εταιρεία διαχείρισης της ζώνης έχει ήδη αρχίσει την κατασκευή ενός πάρκου IT και αναμένει οριστικές επενδυτικές συμφωνίες έως τα τέλη του 2026.Οι εταιρείες που νοικιάζουν χώρους εξετάζουν την επέκτασή τους στην Αργεντινή και διερευνούν «δυνατότητες που στο παρελθόν ήταν ανέφικτες», δήλωσε ο Άριελ Γκράιζερ, πρόεδρος του Argentina Internet Chamber.

Οι προκλήσεις των υποδομών

Παρότι η Παταγονία διαθέτει ενεργειακούς πόρους και ευνοϊκό κλίμα, οι υποδομές και η συνδεσιμότητα εξακολουθούν να αποτελούν σημαντικά εμπόδια.«Δεν πρόκειται για ένα προϊόν που απλώς περιμένει να βρει αγοραστή, κάποιος πρέπει να το κατασκευάσει» λέει η Λουτζ. Οι ειδικοί προειδοποιούν επίσης ότι δεν πρέπει να συγχέονται οι ανακοινώσεις με τα πραγματικά, δεσμευμένα έργα. «Υπάρχει ενδιαφέρον και υπάρχουν πολλοί παίκτες, αλλά το έργο πρέπει να ξεκινήσει», δήλωσε ο Γκουστάβο Καστανίνο, διευθυντής εταιρικών υποθέσεων της Genneia, μιας από τις μεγαλύτερες εταιρείες ανανεώσιμης ενέργειας της Αργεντινής.Ο Λουίς Σκίλινγκ συμπρόεδρος Λατινικής Αμερικής του iMasons, ενός αμερικανικού μη κερδοσκοπικού οργανισμού που συνδέει επαγγελματίες των ψηφιακών υποδομών, έχει αναβάλει τρεις φορές ένα ταξίδι εταιρειών στην Παταγονία για επιθεώρηση πιθανών τοποθεσιών. Το ταξίδι έχει πλέον προγραμματιστεί για τον Φεβρουάριο.«Θα αισθάνονταν πιο άνετα αν ο Μιλέι επανεκλεγόταν», είπε. Στην πραγματικότητα, ο Μιλέι έχει προσπαθήσει ενεργά να προσελκύσει τις μεγάλες τεχνολογικές εταιρείες.Τον Μάιο του 2024 ταξίδεψε στη Σίλικον Βάλει  συναντήθηκε με τον τότε CEO της Apple, Τιμ Κουκ, καθώς και με τους διευθύνοντες συμβούλους της OpenAI, Σαμ Άλτμαν, της Google, Σούνταρ Πιτσάι, και της Meta Platforms, Μαρκ Ζάκερμπεργκ προκειμένου να ενθαρρύνει επενδύσεις μεταξύ άλλων και στην Παταγονία.Ο δισεκατομμυριούχος επενδυτής Πίτερ Τιλ απέκτησε επίσης ποσοστό 1% στη Vista Energy, έναν από τους σημαντικότερους παραγωγούς πετρελαίου που δραστηριοποιούνται στο Vaca Muerta, σύμφωνα με κανονιστική κατάθεση του Αυγούστου. Η Αργεντινή «προηγουμένως δεν βρισκόταν πραγματικά στον χάρτη», δήλωσε ο Μαρτίν Βαρσάβσκι, Αργεντινός ιδρυτής πέντε λεγόμενων unicorns — νεοφυών επιχειρήσεων αξίας άνω του 1 δισ. δολαρίων.«Ήταν σαν να φυτεύεις την αργεντίνικη σημαία και να λες: “Εδώ βρίσκεται μια χώρα με άφθονη ενέργεια και εξαιρετικές συνθήκες για επενδύσεις”». Ο Άλτμαν ανακοίνωσε το έργο της OpenAI 17 μήνες αργότερα.Τον Αύγουστο, ο συνιδρυτής της Sur Energy, Εμιλιάνο Καργκιεμάν, δήλωσε στο Bloomberg Línea ότι συνεργάζεται με την επαρχία Νεουκέν για τον εντοπισμό κατάλληλης τοποθεσίας και ότι «τώρα η μπάλα βρίσκεται στο γήπεδο της OpenAI» για να υπογράψει την οριστική συμφωνία και να ξεκινήσει το έργο.Ο ίδιος δήλωσε ότι δεν γνώριζε αν οι επικείμενες εκλογές της Αργεντινής αποτελούν παράγοντα για την απόφαση: «Αυτό είναι ερώτημα για την OpenAI».

https://www.naftemporiki.gr/techscience/2161581/i-patagonia-ginetai-to-aorato-katafygio-ton-kentron-dedomenon-technitis-noimosynis/