Άνθρωποι και τεχνητή νοημοσύνη στη μάχη των μέσων κοινωνικής δικτύωσης ενάντια στην παραπληροφόρηση

By | February 12, 2024

Ο Jonathan Freger είναι συνιδρυτής και CTO του WebPurifyκορυφαία υπηρεσία εποπτείας περιεχομένου.

Οι πληροφορίες είναι το πιο πολύτιμο κοινωνικό μας νόμισμα και όσοι έχουν την ικανότητα να τις ελέγχουν έχουν μεγάλη εξουσία στο τι πιστεύουν οι άνθρωποι και στο πώς συμπεριφέρονται. Γι’ αυτό πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το Facebook, όπου 3 στους 10 Αμερικανούς ενήλικες λαμβάνουν τακτικά τα νέα τους, έχουν την ευθύνη να παρέχουν ακριβείς πληροφορίες.

Περιπλέκοντας αυτή την προσπάθεια είναι η ραγδαία αύξηση της παραπληροφόρησης και της παραπληροφόρησης. Αν και και οι δύο είναι ψευδείς ή παραπλανητικές γνώσεις που μοιράζονται μια κοινωνική ομάδα, η παραπληροφόρηση διαδίδεται ακούσια, ενώ η παραπληροφόρηση διαδίδεται με κακόβουλη πρόθεση.

Ψεύτικες αφηγήσεις διαδόθηκαν πολύ πριν από την εμφάνιση των μέσων κοινωνικής δικτύωσης: η πρώτη αμερικανική αποικιακή εφημερίδα περιείχε μια ψευδή ιστορία για να απαξιώσει τον Γάλλο μονάρχη Λουδοβίκο ΙΔ’. Ωστόσο, η άνοδος των διαδικτυακών κοινωνικών πλατφορμών επέτρεψε στα ψέματα να εξαπλωθούν πολύ πιο γρήγορα και να διαρκέσουν περισσότερο. Η επιμονή τους αποδεικνύεται από τις παραμορφωμένες αφηγήσεις ότι η Cambridge Analytica κατάφερε να στοχοποιήσει τους χρήστες του Facebook ενόψει των προεδρικών εκλογών του 2016 και την «infodemic» της παραπληροφόρησης για το εμβόλιο Covid-19 που διαδόθηκε στο απόγειο της πανδημίας.

Αυτά τα παραδείγματα αποδεικνύουν ότι οι άνθρωποι είναι εύκολα επιρρεπείς σε παραπληροφόρηση που διαιωνίζεται από αλγόριθμους, αλλά είναι επίσης κρίσιμα για να την σταματήσουν. Καθώς η τεχνητή νοημοσύνη βοηθά όλο και περισσότερο στον πολλαπλασιασμό ψευδών ισχυρισμών, η ευρεία πρόσβαση σε ακριβείς πληροφορίες είναι πιο δύσκολη. Για να διατηρηθεί η αλήθεια σε αυτό το επίμαχο εκλογικό έτος και μετά, οι πλατφόρμες πρέπει να αξιοποιήσουν τους ανθρώπους για να καταπολεμήσουν τα γνωστά ψέματα και να προετοιμαστούν για απρόβλεπτες εκρήξεις παραπληροφόρησης.

Αντιμετώπιση παλαιών και νέων προκλήσεων παραπληροφόρησης

Ο μετριασμός της παραπληροφόρησης στις κοινωνικές πλατφόρμες είναι μια λεπτή ισορροπία και οι νέες τεχνολογίες που βασίζονται σε τεχνητή νοημοσύνη ανατρέπουν την ισορροπία.

Πρώτον, για όποιος παραπληροφόρηση, οι πλατφόρμες πρέπει να εντοπίσουν και να επαληθεύσουν εάν είναι πραγματικά ψευδείς. Αν και αυτό μπορεί να φαίνεται εύκολο με την πρώτη ματιά, η ραγδαία αλλαγή αφηγήσεων για ένα γεγονός μπορεί να δυσκολέψει τον προσδιορισμό της αλήθειας σε πραγματικό χρόνο. Ακόμη και τα κυρίαρχα μέσα ενημέρωσης μπορούν να χαρακτηρίσουν εσφαλμένα κρίσιμες λεπτομέρειες σχετικά με τις έκτακτες ειδήσεις.

Δεύτερον, μόλις ανακαλυφθεί το ψέμα, υπάρχουν μειονεκτήματα σε κάθε τρόπο που οι πλατφόρμες μπορούν να το προσεγγίσουν. Η παραπληροφόρηση τείνει να τυγχάνει της μεγαλύτερης αλγοριθμικής προσοχής τις πρώτες ώρες μετά τη δημοσίευσή της, αλλά εάν οι πλατφόρμες την αφαιρέσουν αμέσως από όλους τους ιστότοπους, θα μπορούσαν να αντιμετωπίσουν κατηγορίες για λογοκρισία και παραβιάσεις της ελευθερίας του λόγου. Εάν διατηρήσουν τη δημοσίευση, ωστόσο, θα μπορούσε να δώσει στους χρήστες την ευκαιρία να αντικρούσουν τους ισχυρισμούς τους, επιτρέποντάς της να εξαπλωθεί περαιτέρω. Συχνά η ικανότητα λήψης αποφάσεων έρχεται πολύ αργά, καθώς συνήθως υπάρχει μια σημαντική καθυστέρηση μεταξύ της ώρας εμφάνισης των πληροφοριών και της άφιξης του ελέγχου των γεγονότων.

Τώρα, τα εργαλεία AI χειροτερεύουν καθέναν από αυτούς τους παράγοντες.

Πρώτον, το GenAI είναι σε θέση να δημιουργεί νέες εκδόσεις παλιών ψευδών αφηγήσεων, να τις πολλαπλασιάζει και να τις διαδίδει γρήγορα στον Ιστό. Υπήρξε ανησυχητική αύξηση των αναξιόπιστων ειδησεογραφικών τοποθεσιών που δημιουργούνται από τεχνητή νοημοσύνη (UAIN), οι οποίοι δημοσιεύουν συνεχώς άρθρα γραμμένα κυρίως από bots και μπορούν εύκολα να επιλεγούν για κακόβουλους σκοπούς. Ο οργανισμός παρακολούθησης των μέσων NewsGuard έχει εντοπίσει περισσότερους από 600 UAIN που εργάζονται συνεχώς για τη δημιουργία νέων ψευδών που απαιτούν επαλήθευση.

Οι κακοί ηθοποιοί μπορούν επίσης να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να δημιουργήσουν πειστικές ψεύτικες εικόνες ήχου και βίντεο, όπως ψεύτικες φωτογραφίες του πρώην προέδρου Τραμπ να αγκαλιάζει τον Δρ Άντονι Φάουτσι ή ένα βίντεο του Προέδρου Μπάιντεν που υποτιμά ένα τρανς άτομο. Αυτό κάνει την άμεση επαλήθευση πιο δύσκολη ακόμη και για τους πιο απαιτητικούς θεατές. Αν και είναι δύσκολο να προβλεφθεί πώς θα εξελιχθούν τα εκκολαπτόμενα εργαλεία τεχνητής νοημοσύνης για να ενισχύσουν περαιτέρω την παραπληροφόρηση, οι πλατφόρμες πρέπει να προετοιμαστούν για να αντιμετωπίσουν αυτές τις νέες απειλές.

Πώς οι πλατφόρμες και οι χρήστες μπορούν να καταπολεμήσουν την παραπληροφόρηση

Για να ανταποκριθούν στις νέες προκλήσεις της συγκράτησης της παραπληροφόρησης, οι πλατφόρμες πρέπει να χρησιμοποιούν νέες στρατηγικές που όχι μόνο στρέφουν την τεχνολογία AI εναντίον της, αλλά και χρησιμοποιούν τους ανθρώπους προς όφελός τους.

Οι νέες προσεγγίσεις ελέγχου της τεχνητής νοημοσύνης περιλαμβάνουν την εργασία με εργαλεία ελέγχου γεγονότων που βασίζονται σε τεχνητή νοημοσύνη, όπως το Factinsect, για σύγκριση αξιώσεων με τεκμηριωμένα δεδομένα. Η τεχνητή νοημοσύνη δοκιμάζεται επίσης για τον εντοπισμό μοναδικών μοτίβων στον τρόπο με τον οποίο διαδίδεται η παραπληροφόρηση. Εν τω μεταξύ, κορυφαία εργαλεία τεχνητής νοημοσύνης όπως το AI or Not και το Sentinel μπορούν να καθορίσουν εάν μια εικόνα ή ένα βίντεο έχει τροποποιηθεί, αλλά και πάλι δεν μπορούν να εντοπίσουν όλα τα ψεύτικα.

Για να επιτευχθεί μια πιο αποτελεσματική απόκριση με χρήση τεχνητής νοημοσύνης, οι πλατφόρμες θα μπορούσαν να προσφέρουν διορθώσεις σε πραγματικό χρόνο σε παραπληροφόρηση με υψηλή αναφορά αλλά κοσμική, όπως τα ψευδή tweets σχετικά με την αλλαγή των ημερομηνιών εκλογών που παρατηρήθηκαν στις εκλογές του 2020. επηρεάζουν τους περισσότερους ανθρώπους.

Ωστόσο, αν και αποτελεσματικά σε ορισμένες περιπτώσεις, τα εργαλεία τεχνητής νοημοσύνης δεν μπορούν να ερμηνεύσουν τις γκρίζες περιοχές ή να αναλύσουν διαφορετικές απόψεις. Επομένως, οι πλατφόρμες πρέπει να απασχολούν ανθρώπους για να ερμηνεύουν αυτό που δεν μπορεί να γίνει με την τεχνητή νοημοσύνη.

Οι έλεγχοι στοιχείων από τρίτους θα είναι ουσιαστικοί για την παροχή αμερόληπτων, ειδικών αξιολογήσεων νέων αφηγήσεων και προειδοποιητικών πλατφορμών για τις εξελισσόμενες απειλές. Οι αναθεωρητές ανθρώπινου περιεχομένου μπορούν επίσης να εργαστούν παράλληλα με εργαλεία τεχνητής νοημοσύνης, χρησιμοποιώντας τα για να επισημαίνουν πιο περίπλοκες υποθέσεις για τελική απόφαση.

Το συχνά ξεχασμένο ανθρώπινο στοιχείο είναι οι ίδιοι οι χρήστες της πλατφόρμας. Η έρευνα δείχνει ότι μια παρέμβαση στον ψηφιακό γραμματισμό βοήθησε τους Αμερικανούς να διακρίνουν καλύτερα τις ψευδείς πληροφορίες. Επομένως, οι πλατφόρμες πρέπει να επισημαίνουν την αξιοπιστία μιας πηγής και την πιθανή τροποποίηση της τεχνητής νοημοσύνης για να βοηθήσουν τους χρήστες να αποφασίσουν μόνοι τους την αλήθεια. Η Meta, για παράδειγμα, έχει ήδη αρχίσει να απαιτεί από τις πολιτικές διαφημίσεις που προβάλλονται στην πλατφόρμα να αποκαλύπτουν εμφανώς εάν χρησιμοποιούν τεχνητή νοημοσύνη.

Χτίζοντας αντίσταση στην παραπληροφόρηση

Το 2023, μια σειρά απολύσεων έπληξε ομάδες που ασχολούνται άμεσα με την παραπληροφόρηση στις πλατφόρμες κοινωνικής δικτύωσης, αλλά τώρα απέχει πολύ από το να περικοπεί το προσωπικό σε αυτόν τον τομέα. Αντίθετα, οι πλατφόρμες μέσων κοινωνικής δικτύωσης πρέπει να προσλάβουν το κατάλληλο αξιόπιστο και ασφαλές προσωπικό για να προετοιμαστούν για την επίθεση ψευδών εκλογικών ιστοριών και άλλων απροσδόκητων απατών.

Σε ένα ψηφιακό τοπίο που ολοένα και περισσότερο εμποτίζεται με AI, οι άνθρωποι είναι το κλειδί για την οικοδόμηση αντίστασης στην παραπληροφόρηση. Με τους ανθρώπους να βοηθούν στο διαχωρισμό της αλήθειας από τη φαντασία, οι πλατφόρμες μπορούν να προστατεύσουν τόσο την ελευθερία του λόγου όσο και τις πληροφορίες που απαιτούνται για τη διατήρηση του εθνικού λόγου.


Το Τεχνολογικό Συμβούλιο Forbes είναι μια κοινότητα μόνο με πρόσκληση για CIO, CTO και στελέχη τεχνολογίας παγκόσμιας κλάσης. Είμαι κατάλληλος;


Leave a Reply

Your email address will not be published. Required fields are marked *