Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

Η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει «υπαρξιακό» κίνδυνο για την ανθρωπότητα προειδοποιεί ο επικεφαλής του ΟΗΕ για τα ανθρώπινα δικαιώματα.

Οι τεχνολογικοί κολοσσοί θα κληθούν από τον ΟΗΕ άμεσα να μειώσουν τους σχετικούς κινδύνους.

Ο επικεφαλής του ΟΗΕ για τα ανθρώπινα δικαιώματα, Βόλκερ Τουρκ, προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να γίνει τόσο ισχυρή ώστε να απειλήσει την ανθρωπότητα και δήλωσε ότι τις επόμενες ημέρες θα καλέσει τις εταιρείες να μειώσουν τους σχετικούς κινδύνους.«Συμμερίζομαι τις ανησυχίες ανθρώπων από τον ίδιο τον κλάδο ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα» δήλωσε ο Τουρκ στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη σε μια ευρεία ομιλία ενόψει της έναρξης της δεύτερης θητείας του τον επόμενο μήνα.«Καλώ σήμερα, εδώ να καταβληθεί κάθε δυνατή προσπάθεια ώστε να θεσπιστούν αυστηρές και απαραβίαστες εγγυήσεις για την ασφάλεια και την προστασία της τεχνητής νοημοσύνης, πριν να είναι πολύ αργά». Χωρίς να τις κατονομάσει ο Τουρκ προειδοποίησε ότι μόλις λίγοι άνδρες διαθέτουν «σχεδόν απεριόριστη εξουσία πάνω στην τεχνητή νοημοσύνη». Μεταξύ των κορυφαίων εταιρειών τεχνητής νοημοσύνης συγκαταλέγονται οι Metα, Anthropic, OpenAI και Google.«Κατ’ ελάχιστον, χρειαζόμαστε τις χώρες που φιλοξενούν τις δραστηριότητες τεχνητής νοημοσύνης, καθώς και εκείνες που συμμετέχουν στις αλυσίδες εφοδιασμού της, να συμφωνήσουν σε σαφείς “κόκκινες γραμμές”», δήλωσε.Οι δηλώσεις του Τουρκ απηχούν προηγούμενες προειδοποιήσεις κορυφαίων στελεχών του κλάδου της τεχνητής νοημοσύνης σχετικά με τους κινδύνους εξαφάνισης που θα μπορούσε να προκαλέσει η AI, μεταξύ άλλων και του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν. Τα Ηνωμένα Έθνη έχουν ζητήσει την εναρμόνιση των κανόνων με στόχο τη μείωση των κινδύνων και τον Ιούλιο πραγματοποίησαν την πρώτη παγκόσμια συνάντηση για τη διακυβέρνηση της τεχνητής νοημοσύνης.

https://www.naftemporiki.gr/techscience/2158248/i-techniti-noimosyni-tha-mporoyse-na-apotelesei-yparxiako-kindyno-gia-tin-anthropotita-proeidopoiei-o-epikefalis-toy-oie-gia-ta-anthropina-dikaiomata/

[Δροσος Γεωργιος]

Η τεχνητή νοημοσύνη θα βρει σύντομα θεραπεία για τον καρκίνο λέει ο επικεφαλής της Arm Holdings.

Οι τεχνολογίες ΑΙ επιταχύνουν την επίλυση του προβλήματος που δεν μπορούν να λύσουν οι άνθρωποι και οι σημερινοί υπολογιστές.

Ο επικεφαλής μιας από τις μεγαλύτερες εταιρείες σχεδιασμού τσιπ, της Arm Holdings, υποστήριξε ότι η τεχνητή νοημοσύνη θα είναι σε θέση να βρει θεραπεία για τον καρκίνο «κατά τη διάρκεια της ζωής αυτής της γενιάς ανθρώπων».Ο Ρενέ Χάας διευθύνων σύμβουλος της Arm Holdings δήλωσε ότι παρόλο που η μοντελοποίηση του τρόπου με τον οποίο ένας δείκτης του DNA επηρεάζεται από τον καρκίνο αποτελεί σήμερα ένα «υπερβολικά σύνθετο» πρόβλημα τόσο για τους ανθρώπους όσο και για την τεχνολογία οι υπολογιστές «θα το λύσουν» στο κοντινό μέλλον.«Η AI πρόκειται να βρει μια θεραπεία για τον καρκίνο κάτι που σήμερα εσύ κι εγώ και άλλοι άνθρωποι δεν θα μπορούσαμε να πετύχουμε στη διάρκεια της ζωής μας. Πιστεύω ότι όσο ζούμε, η AI θα βοηθήσει στη θεραπεία του καρκίνου. Η μοντελοποίηση του τρόπου με τον οποίο ένας δείκτης του DNA επηρεάζεται από τον καρκίνο είναι ένα υπερβολικά σύνθετο πρόβλημα όχι μόνο για τους ανθρώπους αλλά και για τους υπολογιστές που τρέχουν συστήματα AI. Ωστόσο καθώς θα τροφοδοτούμε αυτούς τους υπολογιστές με ολοένα και περισσότερα μοντέλα και οι υπολογιστές θα γίνονται πιο εξελιγμένοι ώστε να μπορούν να τα επεξεργάζονται και θα βρουν λύση» ανέφερε στο BBC ο Χάας.Οι επιστήμονες ήδη χρησιμοποιούν εργαλεία που βασίζονται στην AI στην έρευνα και τις δοκιμές για τον καρκίνο. Νωρίτερα φέτος το Εθνικό Σύστημα Υγείας της Βρετανίας (NHS) ανακοίνωσε ότι περισσότεροι από 4 εκατομμύρια ασθενείς έλαβαν ταχύτερη διάγνωση για καρκίνο του πνεύμονα χάρη στη χρηματοδότηση εργαλείων ακτινογραφίας που υποστηρίζονται από AI.Ο Χάας πρόσθεσε ότι η AI θα ανοίξει επίσης τον δρόμο για την ευρεία χρήση ανθρωποειδών ρομπότ μέσα στα επόμενα πέντε χρόνια αλλά ότι οι ελλείψεις σε τσιπ περιορίζουν την ανάπτυξη στον συγκεκριμένο τομέα.«Με την τεχνητή νοημοσύνη αυτά τα ρομπότ μπορούν να βλέπουν, να μαθαίνουν και ουσιαστικά να επαναπρογραμματίζονται για νέες εργασίες. Έτσι στον τομέα των υπηρεσιών το ρομπότ που έχει προγραμματιστεί να στρώνει ένα κρεβάτι μπορεί επίσης να μάθει πώς να τακτοποιεί τις πετσέτες σε ένα δωμάτιο, να αδειάζει τους κάδους απορριμμάτων ή να κάνει οτιδήποτε άλλο θέλεις να αναλάβει.»Η Arm η οποία είναι εισηγμένη στη Νέα Υόρκη αλλά διατηρεί την παγκόσμια έδρα της στο Κέιμπριτζ διαθέτει περίπου 500 πελάτες για τα τσιπ της μεταξύ των οποίων οι Apple, Samsung, Qualcomm και Nvidia. Η εταιρεία απασχολεί περισσότερους από 7,000 εργαζομένους περίπου 3,000 από τους οποίους βρίσκονται στη Βρετανία. Η Arm είναι η μεγαλύτερη τεχνολογική εταιρεία με έδρα τη Βρετανία με χρηματιστηριακή αποτίμηση περίπου 269 δισεκατομμυρίων δολαρίων.

https://www.naftemporiki.gr/techscience/2159222/i-techniti-noimosyni-tha-vrei-syntoma-therapeia-gia-ton-karkino-leei-o-epikefalis-tis-arm-holdings/

 

 

Η Metα παρουσίασε τον πρώτο βοηθό υπερνοημοσύνης.

Το Hatch είναι ένα από τα πρώτα βήματα στη προσπάθεια του Μαρκ Ζάκεμπεργκ να αναπτύξει την υπερνοημοσύνη.

Μπορεί να εκτελεί μια σειρά από εργασίες για λογαριασμό του χρήστη με εντελώς αυτόνομο τρόπο.

Η Metα παρουσίασε έναν βοηθό τεχνητής νοημοσύνης (AI agent) ο οποίος μπορεί αυτόνομα να στέλνει email, να πουλά ένα αυτοκίνητο και να κάνει κρατήσεις για ταξίδια εκ μέρους ενός χρήστη. Η εξέλιξη αυτή έρχεται παρά τις εσωτερικές ανησυχίες ότι η τεχνολογία διαχειρίζεται λανθασμένα την πρόσβασή της σε ευαίσθητα προσωπικά δεδομένα.Οι δημιουργοί του βοηθού τον έχουν ονομάσει Hatch και αποτελεί το επίκεντρο του σχεδίου του διευθύνοντος συμβούλου Μαρκ Ζάκερμπεργκ να προσφέρει μια τεχνολογία την οποία χαρακτηρίζει ως «προσωπική υπερνοημοσύνη» στα δισεκατομμύρια ανθρώπων που χρησιμοποιούν καθημερινά τις υπηρεσίες της Metα.Το σχέδιο αυτό αποτελεί μέρος της τελευταίας προσπάθειας της ιδιοκτήτριας των Facebook και Instagram να διαφοροποιήσει τις πηγές εσόδων της πέρα από τη διαφήμιση και να δημιουργήσει μια βιώσιμη επιχειρηματική δραστηριότητα από τις τεράστιες επενδύσεις της σε τσιπ AI και άλλες υποδομές οι οποίες σύμφωνα με τις προβλέψεις της θα ξεπεράσουν φέτος τα 130 δισεκατομμύρια δολάρια.Ο βοηθός θα είναι αρχικά διαθέσιμος μόνο στις ΗΠΑ μέσω της εφαρμογής Muse ή της υπηρεσίας ανταλλαγής μηνυμάτων WhatsApp (που επίσης ανήκει στη Metα) ανακοίνωσε η εταιρεία που έκανε γνωστό ότι σχεδιάζει να προσθέσει σύντομα το νέο βοηθό και στη σειρά έξυπνων γυαλιών της χωρίς ωστόσο να δώσει περισσότερες λεπτομέρειες.Μια βασική έκδοση του βοηθού θα είναι διαθέσιμη δωρεάν ενώ η Metα θα προσφέρει συνδρομές κόστους 20 δολαρίων τον μήνα και 100 δολαρίων τον μήνα για πιο εντατική χρήση δήλωσε εκπρόσωπος της εταιρείας.Οι χρήστες μπορούν να επιλέξουν να μην χρησιμοποιούνται οι αλληλεπιδράσεις τους για την εκπαίδευση των μοντέλων AI της Metα ενώ η εταιρεία σχεδιάζει να παρουσιάσει μια κρυπτογραφημένη έκδοση της εφαρμογής Muse αργότερα μέσα στη χρονιά.

Η ασφάλεια

Με πρότυπο τον ανοιχτού κώδικα AI πράκτορα OpenClaw, το Muse έχει σχεδιαστεί ώστε να αποκτά πρόσβαση στις εφαρμογές ενός χρήστη σε κατηγορίες όπως το email, το ημερολόγιο, οι πληρωμές, η υγεία, οι αγορές και το έξυπνο σπίτι, σύμφωνα με τη Metα. Οι χρήστες επιλέγουν ποιες εφαρμογές θα συνδέσουν και μπορούν να ανακαλέσουν την πρόσβαση ανά πάσα στιγμή.Κάθε πράκτορας της εφαρμογής Muse λειτουργεί στη δική του εικονική μηχανή, δηλαδή σε μια προσομοίωση ενός προσωπικού υπολογιστή που βασίζεται σε υπολογιστικό νέφος (cloud). Αυτό του επιτρέπει να συνεχίζει να εκτελεί αιτήματα στο παρασκήνιο ακόμη και όταν ο χρήστης δεν το χρησιμοποιεί ενεργά.Η σύνδεση με εφαρμογές που περιέχουν πραγματικά δεδομένα ενός ανθρώπου αυξάνει τόσο τη δυνητική χρησιμότητα του πράκτορα όσο και σημαντικά το ρίσκο για την ασφάλεια τόσο για τους ανθρώπους που του έχουν εμπιστευτεί τις πληροφορίες τους όσο και για τρίτους που μπορεί να βρεθούν στην άλλη πλευρά μιας λανθασμένης συμπεριφοράς του πράκτορα.Ο Βισάλ Σαχ αντιπρόεδρος προϊόντων AI στη Metα δήλωσε στο Reuters ότι η εταιρεία είχε αρχικά καθυστερήσει την κυκλοφορία του βοηθού τον Απρίλιο προκειμένου να το καταστήσει πιο ασφαλές. Η Metα έκρινε ότι η πρόσθετη εργασία είχε επιτρέψει στην εταιρεία να «ξεπεράσει το απαιτούμενο όριο» και να «φτάσει στο ελάχιστο επίπεδο που χρειαζόμασταν ώστε να μπορέσουμε να το διαθέσουμε στους χρήστες. Είναι αδύνατο να πούμε ότι δεν πρόκειται ποτέ να υπάρξει κάποιο λάθος αλλά κάθε τμήμα της αρχιτεκτονικής έχει σχεδιαστεί ώστε να το καταστήσουμε όσο το δυνατόν πιο ασφαλές, προστατευμένο και ιδιωτικό» ανέφερε ο Σαχ.Μεταξύ των μέτρων προστασίας που ενσωμάτωσε η Metα στο σύστημα Muse είναι ένας ξεχωριστός πράκτορας που παρακολουθεί τις προγραμματισμένες ενέργειες και, σε ορισμένες περιπτώσεις ζητά από το Muse να λάβει εξουσιοδότηση πριν τις εκτελέσει σύμφωνα με την ανακοίνωση της εταιρείας.

Οι δοκιμές

Ωστόσο ακόμη και αυτή την εβδομάδα εργαζόμενοι της Metα που δοκίμαζαν το εργαλείο ανέφεραν ανάμεικτα αποτελέσματα σύμφωνα με εσωτερικές αναρτήσεις που είδε το Reuters.Ένας εργαζόμενος έγραψε ότι το προϊόν ήταν τόσο χρήσιμο στην οργάνωση των διακοπών ώστε το Muse είχε γίνει «ο τρίτος συμμετέχων» σε ένα πρόσφατο ταξίδι τριών εβδομάδων για μήνα του μέλιτος στην Ινδονησία.Άλλοι επισήμαναν σοβαρά κενά ασφαλείας όπως την περίπτωση όπου ένας πράκτορας παρέκαμψε τις δικλίδες ασφαλείας για να αποκαλύψει προσωπικές φωτογραφίες ενός χρήστη στο iCloud αφού του ζητήθηκε να εντοπίσει παιχνίδια που φαίνονταν σε φωτογραφίες από πάρτι γενεθλίων ενός παιδιού.Ο τεχνικός διευθυντής της Metα Άντριου Μπόσγουορθ ανέφερε ότι αποσυνδεόταν συνεχώς από τον λογαριασμό του και χρειαζόταν να συνδέεται ξανά, μερικές φορές αρκετές φορές μέσα σε λίγα λεπτά.Σε άλλη ανάρτηση ένας εργαζόμενος που είχε ζητήσει από το Muse να παρακολουθεί εισιτήρια και άλλα προϊόντα που εξαντλούνται γρήγορα ανέφερε ότι αντιμετώπισε «πολλές μορφές αποτυχίας που το καθιστούσαν αναξιόπιστο». Το προϊόν σταμάτησε να ανανεώνει τη σελίδα μετά από περίπου 15 λεπτά, αγνόησε σιωπηλά άλλα σφάλματα και σε ορισμένες περιπτώσεις απενεργοποίησε την παρακολούθηση «χωρίς προφανή λόγο», ανέφερε ο εργαζόμενος.Η κυκλοφορία του Muse έρχεται εν μέσω αποκαλύψεων ότι πράκτορες AI από κορυφαίες εταιρείες του κλάδου όπως η OpenAI, η Anthropic καθώς και από τη Metα έχουν προκαλέσει ακούσια προβλήματα παρακάμπτοντας κανόνες και επιδεικνύοντας άλλες απρόβλεπτες συμπεριφορές.Στο εσωτερικό της Metα τα σημαντικά τεχνικά και περιστατικά ασφαλείας έχουν αυξηθεί κατά 40% σε σχέση με πέρυσι ως αποτέλεσμα της έκρηξης στη χρήση AI για προγραμματισμό και των προβλημάτων που σχετίζονται με πράκτορες AI. Παράλληλα, ο χρόνος που αφιερώνουν οι εργαζόμενοι για την «πυρόσβεση» αυτών των περιστατικών έχει αυξηθεί κατά 70%.

https://www.naftemporiki.gr/techscience/2159207/i-meta-paroysiase-ton-proto-voitho-ypernoimosynis/