Τεχνητή Νοημοσύνη.

[Δροσος Γεωργιος]

Τεχνητή Νοημοσύνη: 6 τρόποι για να επαληθεύετε τις απαντήσεις που σας δίνει.

Ο πειρασμός για γρήγορες λύσεις στις επιχειρήσεις και την καθημερινότητα είναι μεγάλος, όμως οι λανθασμένες απαντήσεις σε θέματα υψηλής σημασίας επιφέρουν σοβαρότατες συνέπειες

 Η Τεχνητή Νοημοσύνη αποτελεί ένα πανίσχυρο, δωρεάν εργαλείο που προσφέρει άμεση πρόσβαση στην παγκόσμια γνώση. Ο πειρασμός για γρήγορες λύσεις στις επιχειρήσεις και την καθημερινότητα είναι μεγάλος, όμως οι λανθασμένες απαντήσεις σε θέματα υψηλής σημασίας επιφέρουν σοβαρότατες συνέπειες. Μια πρόσφατη έρευνα αποκαλύπτει ότι σχεδόν οι μισές απαντήσεις των δημοφιλών μοντέλων περιέχουν σημαντικά σφάλματα ή κατασκευασμένες πηγές, παραπλανώντας ακόμη και κορυφαίες εταιρείες.Εκ πρώτης όψεως, η Τεχνητή Νοημοσύνη μοιάζει με μια πανίσχυρη μηχανή αναζήτησης, καθώς εντοπίζει και συνοψίζει γρήγορα πληροφορίες για κάθε θέμα. Διαφέρει όμως ριζικά από τα παραδοσιακά συστήματα αναζήτησης. Η Πραγκάτι Αβάστι, επίκουρη καθηγήτρια στο Πανεπιστήμιο Ντρέξελ, εξηγεί ότι τα μοντέλα Τεχνητής Νοημοσύνης δημιουργούν κείμενο προβλέποντας στατιστικά τις πιθανές λέξεις, με βάση μοτίβα από την εκπαίδευσή τους.«Η Τεχνητή Νοημοσύνη μπορεί να παράγει μια απάντηση που ακούγεται έγκυρη, έχει άψογη ροή, αλλά να είναι εντελώς λανθασμένη», επισημαίνει η Αβάστι.Το ποσοστό ακρίβειας των απαντήσεων παραμένει ανοιχτό ζήτημα και εξαρτάται από πολλούς παράγοντες, σημειώνει το Forbes. Τουλάχιστον το 45% των απαντήσεων σε έρευνα του BBC και της Ευρωπαϊκής Ένωσης Ραδιοτηλεόρασης παρουσίασε ένα σημαντικό πρόβλημα. Η μελέτη βασίστηκε σε στοιχεία από 22 οργανισμούς μέσων ενημέρωσης. Διαπιστώθηκε ότι το 31% των περιπτώσεων εμφάνιζε ελλιπή, παραπλανητική ή λανθασμένη αναφορά στις πηγές.

Επιπλέον, το 20% των απαντήσεων περιείχε σοβαρά λάθη ακρίβειας, όπως ξεπερασμένες πληροφορίες ή φανταστικές λεπτομέρειες.

Τα συνηθισμένα σφάλματα

Τα τυπικά λάθη της Τεχνητής Νοημοσύνης περιλαμβάνουν παραπληροφόρηση, ξεπερασμένες ειδήσεις και ψευδαισθήσεις (hallucinations).

Επίσης, εμφανίζονται επικαλύψεις, παραλείψεις στοιχείων, κατασκευασμένες αναφορές ή ανάμειξη αληθινών και ψευδών γεγονότων. Τα λανθασμένα αυτά αποτελέσματα ξεγελούν ακόμη και τις πιο σχολαστικές επιχειρήσεις.

Για παράδειγμα, σύμφωνα με τους New York Times, η κορυφαία δικηγορική εταιρεία της Wall Street Sullivan & Cromwell υπέβαλε στο δικαστήριο έγγραφα με εντελώς φανταστικές νομικές υποθέσεις, τις οποίες είχε κατασκευάσει η AI.Τα μοντέλα βασίζονται αποκλειστικά σε δεδομένα εκπαίδευσης, γεγονός που καθιστά τις απαντήσεις τους ευάλωτες. Αν τα δεδομένα δεν έχουν ανανεωθεί, οι πληροφορίες πέρα από ένα χρονικό σημείο απλώς δεν υπάρχουν. Επιπλέον, οι πληροφορίες ίσως να μην καλύπτουν την εξειδικευμένη γνώση που αναζητά ο χρήστης. Το σύστημα μπορεί να παραδεχτεί την έλλειψη στοιχείων, αλλά ο πραγματικός κίνδυνος υπάρχει όταν ο χρήστης δεν γνωρίζει αυτούς τους περιορισμούς.Όταν η Τεχνητή Νοημοσύνη χρησιμοποιεί πηγές από έγκυρα επιστημονικά περιοδικά, η απάντηση αποκτά μια ψευδή αίσθηση αυθεντίας. Στην πραγματικότητα, το μοντέλο συνθέτει στατιστικά μοτίβα και δεν αξιολογεί το περιεχόμενο. Τέλος, ελλοχεύει ο κίνδυνος να μπερδευτούν τα συμφραζόμενα, δηλαδή να αναμειχθούν ακατάλληλα άσχετα μεταξύ τους ευρήματα.

Το θετικό είναι ότι ο εντοπισμός των λανθασμένων αποτελεσμάτων παραμένει εφικτός, αν και απαιτείται ιδιαίτερη προσοχή και χρόνος για τον έλεγχο των απαντήσεων.

Ποια είναι τα 6 βήματα ελέγχου για την εγκυρότητα των απαντήσεων;

1. Πλάγια Ανάγνωση: Διασταύρωση Πηγών

Οι χρήστες δεν πρέπει ποτέ να δέχονται τις απαντήσεις της Τεχνητής Νοημοσύνης ως μοναδική πηγή. Σύμφωνα με οδηγίες του Πανεπιστημίου Texas A&M Corpus Christi, η τεχνική της πλάγιας ανάγνωσης επιβάλλει αυτόνομη έρευνα για την επαλήθευση των στοιχείων. Για παράδειγμα, το άνοιγμα μιας νέας καρτέλας για αναζήτηση στο Google ή στο Google Scholar βοηθά να εντοπιστεί ποιος πραγματικά επιβεβαιώνει τις πληροφορίες.

2. Αμφισβήτηση Απαντήσεων

Η κριτική στάση απέναντι στις απαντήσεις ενός μοντέλου είναι απαραίτητη. Η διαδικασία μοιάζει με τη συζήτηση με έναν συνάδελφο, καθώς η επεξεργασία φυσικής γλώσσας επιτρέπει διευκρινιστικές ερωτήσεις για τις πηγές των πληροφοριών. Η Λόρι Κιν Κότσερ, διευθύνουσα σύμβουλος της Different Day, συμβουλεύει την αντίστροφη προσέγγιση: να ζητάτε από την Τεχνητή Νοημοσύνη να υποστηρίξει την αντίθετη θέση ή να εντοπίσει αδυναμίες στα επιχειρήματά της.

3. Επανάληψη και Σύγκριση

Η εξέταση μιας μόνο απάντησης δεν αρκεί. Η υποβολή του ίδιου ερωτήματος σε διαφορετικά συστήματα βοηθά στον έλεγχο των δεδομένων. Ο Σρούτι Τιουάρι, επικεφαλής προϊόντων τεχνητής νοημοσύνης στην Dell Technologies, εξηγεί ότι τα ChatGPT, Claude και Gemini έχουν εκπαιδευτεί σε διαφορετικές βάσεις δεδομένων. Η συμφωνία των μοντέλων προσφέρει μεγαλύτερη σιγουριά, ενώ οι αποκλίσεις δείχνουν πού χρειάζεται έρευνα. Παράλληλα, η υποβολή της ερώτησης με διαφορετικούς τρόπους στο ίδιο μοντέλο ελέγχει τη συνέπειά του. Αν οι λεπτομέρειες αλλάζουν, το σύστημα απλώς μαντεύει.

4. Έλεγχος Επικαιρότητας

Τα μοντέλα Τεχνητής Νοημοσύνης σταματούν να ενημερώνονται μετά την ολοκλήρωση της εκπαίδευσής τους. Η διακοπή αυτή μπορεί να μετρά μήνες ή έτη, εμποδίζοντας την παροχή πρόσφατων δεδομένων. Η ερώτηση προς το ίδιο το σύστημα για αλλαγές μετά τον τελευταίο γύρο εκπαίδευσης κρίνεται απαραίτητη, ειδικά για στατιστικά στοιχεία ή ειδήσεις. Η δοκιμή της ερώτησης σε διαφορετικά μοντέλα βοηθά στον εντοπισμό νεότερων ενημερώσεων.

5. Έλεγχος Παραπομπών

Η αναζήτηση των πηγών και ο έλεγχος των παραπομπών είναι απαραίτητα βήματα. Ο Ντόιλ Άλμπι, διευθύνων σύμβουλος στην Prolexity, τονίζει ότι πρέπει να επιβεβαιώνεται αν το άρθρο αναφέρει όσα ισχυρίζεται η Τεχνητή Νοημοσύνη. Παράλληλα, ο Σαχίλ Ντάτα, μεταδιδακτορικός επιστήμονας στο Νοσοκομείο Παίδων Nationwide, προειδοποιεί ότι το σύστημα κατασκευάζει συχνά ψεύτικες αναφορές. Αυτές δανείζονται ονόματα γνωστών συγγραφέων ή περιοδικών, αλλά δεν υπάρχουν σε βάσεις δεδομένων όπως το PubMed.

6. Εμπιστευτείτε το ένστικτό σας

Η ανθρώπινη διαίσθηση χρησιμεύει ως κίνητρο για περαιτέρω έρευνα, ειδικά όταν βασίζεται σε προϋπάρχουσα γνώση. Ακόμη όμως και σε άγνωστα θέματα, υπάρχουν ενδείξεις σφαλμάτων. Για παράδειγμα, μια λανθασμένη απάντηση παρουσιάζει συχνά υπερβολική βεβαιότητα, χωρίς καμία επιφύλαξη. Παράλληλα, τα εσφαλμένα κείμενα τείνουν να επαναλαμβάνουν κουραστικά τα ίδια σημεία. Όταν μια απάντηση ξενίζει τον χρήστη, η επιστροφή στα προηγούμενα βήματα ελέγχου κρίνεται απαραίτητη.

https://www.naftemporiki.gr/techscience/2116249/techniti-noimosyni-min-vasizeste-se-oti-leei-6-tropoi-gia-na-epalitheyete-tis-apantiseis/

[Δροσος Γεωργιος]

Η τεχνητή νοημοσύνη ως υποδομή κοινής ωφέλειας: Όροι και προϋποθέσεις,

Άρθρο στο Παρατηρητήριο Βιώσιμης Ανάπτυξης του Ινστιτούτου ΕΝΑ

Η συζήτηση για την Τεχνητή Νοημοσύνη (ΤΝ) δεν αφορά πλέον μόνο τις εφαρμογές της ούτε αποκλειστικά τις επιπτώσεις των κέντρων δεδομένων (data centers) στην ενέργεια, το περιβάλλον και τον χώρο. Επεκτείνεται ολοένα και περισσότερο στους όρους πρόσβασης, χρήσης και ανάπτυξης της ίδιας της τεχνολογίας. Το κρίσιμο ερώτημα δεν είναι πλέον μόνο πού εγκαθίστανται οι ψηφιακές υποδομές και με ποιους ενεργειακούς όρους λειτουργούν, αλλά ποιος ελέγχει τις θεμελιώδεις προϋποθέσεις ανάπτυξης και αξιοποίησης της ΤΝ, και ποιοι τελικά ωφελούνται από αυτήν.Η υπολογιστική ισχύς και τα δεδομένα αναδεικνύονται σε κρίσιμους πόρους, ενώ τα μοντέλα και οι αλγόριθμοι, μαζί με τις ψηφιακές υποδομές που τα υποστηρίζουν, όπως το νέφος (cloud), τα δίκτυα, το λογισμικό και τα τεχνικά πρότυπα, συγκροτούν ένα νέο πεδίο οικονομικής, τεχνολογικής και γεωπολιτικής ισχύος. Μέσα σε αυτό το πλαίσιο, η ανάπτυξη της ΤΝ συνδέεται άμεσα με ζητήματα δημοκρατικού ελέγχου, στρατηγικής αυτονομίας και δημόσιου συμφέροντος.Σε αυτό το πλαίσιο, η ρύθμιση της ΤΝ είναι αναγκαία συνθήκη, επειδή θέτει όρια, οργανώνει την εποπτεία και προστατεύει δικαιώματα. Δεν συνιστά ωστόσο και ικανή συνθήκη για την ανάπτυξη ενός μοντέλου ΤΝ με δημοκρατικούς όρους πρόσβασης και αξιοποίησης. Η ΤΝ δεν είναι απλώς μια κατηγορία εφαρμογών ή αλγορίθμων, αλλά ένα οικοσύστημα που πρέπει να οργανωθεί με όρους που να διασφαλίζουν τη δυνατότητα παραγωγής κοινωνικού οφέλους.Οι υποδομές που στηρίζουν αυτό το οικοσύστημα αποκτούν συνεπώς χαρακτηριστικά κοινής ωφέλειας, επειδή επηρεάζουν ολοένα και περισσότερο την παραγωγική δραστηριότητα, τη δημόσια διοίκηση, την υγεία, την εκπαίδευση, την έρευνα, την εργασία και τη δημοκρατία εν γένει. Όπως η ενέργεια, οι τηλεπικοινωνίες, η ύδρευση, οι μεταφορές και άλλες κρίσιμες υποδομές συνδέθηκαν με ζητήματα καθολικής πρόσβασης, συνέχειας, ασφάλειας και δημόσιου ελέγχου, έτσι και οι υποδομές της ΤΝ θέτουν σήμερα ζητήματα που αφορούν το δημόσιο και κοινωνικό συμφέρον. Η αναλογία αυτή δεν σημαίνει ότι πρέπει να ταυτιστούν μηχανικά με τις κλασικές υπηρεσίες κοινής ωφέλειας. Σημαίνει όμως ότι δεν μπορούν να παραμείνουν οργανωμένες με βάση αποκλειστικά ιδιωτικοοικονομικούς όρους ή τις επιταγές του γεωπολιτικού ανταγωνισμού. Αντιθέτως, αναδεικνύεται η ανάγκη να εξεταστούν ως πεδίο ειδικών υποχρεώσεων που υπηρετούν το δημόσιο συμφέρον.Το σημερινό μοντέλο ανάπτυξης της ΤΝ χαρακτηρίζεται από έντονη συγκέντρωση. Αυτό δημιουργεί ένα νέο πεδίο ανισότητας, αφού πανεπιστήμια, δημόσιοι φορείς, ερευνητικά κέντρα και ΜμΕ συχνά δεν διαθέτουν τους αναγκαίους πόρους για να αναπτύξουν, να προσαρμόσουν ή να ελέγξουν συστήματα ΤΝ με δικούς τους όρους. Το καίριο ζήτημα δεν είναι μόνο η άνιση πρόσβαση, αλλά και η υποαξιοποίηση της ΤΝ με όρους δημόσιας αξίας και κοινωνικής καινοτομίας. Όταν η ΤΝ οργανώνεται αποκλειστικά ως αγορά υπηρεσιών, δεν αναπτύσσεται κατ’ ανάγκη εκεί όπου υπάρχει η μεγαλύτερη κοινωνική ανάγκη, αλλά εκεί όπου μεγιστοποιείται η βραχυπρόθεσμη εταιρική κερδοφορία. Έτσι, η τεχνολογική πρόοδος μπορεί να επιταχύνει εμπορικά μοντέλα ταχείας και υψηλής κερδοφορίας, χωρίς να κατευθύνεται επαρκώς σε τομείς βιώσιμης ανάπτυξης όπως η δημόσια υγεία, η κλιματική προσαρμογή, η πολιτική προστασία, η ενεργειακή φτώχεια, η αγροδιατροφή, οι δημόσιες υπηρεσίες ή η στήριξη μικρότερων παραγωγικών φορέων.

4 άξονες

Από αυτή τη σκοπιά, οι όροι ενός νέου κοινωνικού συμβολαίου για τη δημοκρατική ΤΝ μπορούν να διαρθρωθούν γύρω από τέσσερις άξονες:

Πρώτον, τη δημόσια και κοινωφελή πρόσβαση σε υπολογιστική ισχύ και κρίσιμες ψηφιακές υποδομές.

Δεύτερον, τη δημοκρατική διακυβέρνηση των δεδομένων ως κοινωνικά παραγόμενου πόρου.

Τρίτον, την κατοχύρωση δικαιωμάτων και λογοδοσίας απέναντι σε αλγοριθμικές αποφάσεις.

Τέταρτον, τη συγκρότηση θεσμών που κατανέμουν αρμοδιότητες και ευθύνες σε ευρωπαϊκό, εθνικό και τοπικό επίπεδο.

Η κοινωφελής πρόσβαση σε υπολογιστική ισχύ είναι κρίσιμη, γιατί χωρίς αυτήν πανεπιστήμια, ερευνητικοί φορείς, δημόσιες υπηρεσίες και ΜμΕ δεν μπορούν να αναπτύξουν, να προσαρμόσουν ή να ελέγξουν συστήματα ΤΝ με δικούς τους όρους. Η υπολογιστική ισχύς δεν πρέπει να αντιμετωπίζεται μόνο ως εμπορική υπηρεσία, αλλά και ως κρίσιμη δυνατότητα παραγωγής κοινωνικής αξίας και καινοτομίας.Η δημοκρατική διακυβέρνηση των δεδομένων πρέπει να απαντά στο ποιος συλλέγει δεδομένα, ποιος τα επεξεργάζεται, για ποιον σκοπό, με ποιον έλεγχο και με ποιο κοινωνικό αντάλλαγμα. Σε αυτή την κατεύθυνση κινούνται ο Ευρωπαϊκός Κανονισμός για τη Διακυβέρνηση Δεδομένων (Data Governance Act), με κανόνες για την επαναχρησιμοποίηση προστατευμένων δεδομένων που κατέχονται από δημόσιους φορείς και τη διαμεσολάβηση δεδομένων, και ο Ευρωπαϊκός Κανονισμός για τα Δεδομένα (Data Act), που ενισχύει τη δίκαιη πρόσβαση και χρήση δεδομένων.Παράλληλα, η δημοκρατική ΤΝ αφορά τα δικαιώματα των ανθρώπων που επηρεάζονται από αλγοριθμικές αποφάσεις. Ο ευρωπαϊκός κανονισμός για την ΤΝ (AI Act) προβλέπει σε ορισμένες περιπτώσεις, δικαίωμα επεξήγησης, δηλαδή τη δυνατότητα του προσώπου που επηρεάζεται να ενημερωθεί με σαφή τρόπο για τον ρόλο που είχε το σύστημα ΤΝ στη λήψη μιας απόφασης με σημαντικές συνέπειες για το ίδιο. Για παράδειγμα, τέτοιες αποφάσεις μπορούν να αφορούν την πρόσβαση στην εκπαίδευση, την πρόσληψη ή αξιολόγηση εργαζομένων, την πρόσβαση σε βασικές δημόσιες ή ιδιωτικές υπηρεσίες ή την απονομή δικαιοσύνης.Για να μετατραπούν οι αρχές αυτές σε εφαρμόσιμη πολιτική, χρειάζονται ωστόσο θεσμοί που κατανέμουν αρμοδιότητες και ευθύνες σε ευρωπαϊκό, εθνικό και τοπικό επίπεδο, καθώς και μηχανισμοί λογοδοσίας, παρακολούθησης και δημόσιου ελέγχου.Με αυτή την έννοια, το κοινωνικό συμβόλαιο για τη δημοκρατική ΤΝ έχει και «όρους» και «συμβαλλόμενους». Οι όροι είναι η πρόσβαση, η διαφάνεια, η λογοδοσία, η προστασία δικαιωμάτων, η κοινωνική ανταποδοτικότητα και η δίκαιη κατανομή κόστους και οφέλους. Οι συμβαλλόμενοι δεν είναι μόνο το κράτος και οι μεγάλες τεχνολογικές επιχειρήσεις, αλλά και οι πολίτες, οι εργαζόμενοι, τα πανεπιστήμια, οι ερευνητικοί φορείς, οι ΜμΕ, οι τοπικές κοινωνίες και οι θεσμοί δημοκρατικού ελέγχου. Το νέο κοινωνικό συμβόλαιο δεν σημαίνει άρνηση της καινοτομίας. Σημαίνει ότι η καινοτομία πρέπει να ενταχθεί σε ένα πλαίσιο δικαιοσύνης, δημοκρατικής λειτουργίας και στρατηγικής αυτονομίας. Η ΤΝ δεν πρέπει να είναι προνόμιο των λίγων ούτε υποδομή που η κοινωνία χρηματοδοτεί έμμεσα, με δεδομένα, ενέργεια, νερό, δημόσιες υποδομές και ανθρώπινη εργασία, χωρίς αντίστοιχο κοινωνικό έλεγχο και λογοδοσία. Πρέπει, συνεπώς, να αντιμετωπιστεί ως μια υποδομή με χαρακτηριστικά κοινής ωφέλειας, η οποία θα υπηρετεί στόχους δημόσιου και κοινωνικού συμφέροντος: προσβάσιμη σε όλους, παντού, σήμερα και στο μέλλον.

Κώστας Μυλωνάς

* Research Engineer – Energy Systems, MSc Energy Science & Technology – Άρθρο στο Παρατηρητήριο Βιώσιμης Ανάπτυξης του Ινστιτούτου ΕΝΑ

Το επεξεργάστηκε 15 ώρες πριν ο Δροσος Γεωργιος