Το Laika 13 είναι ένα chatbot με εμμονή στα μέσα κοινωνικής δικτύωσης που θα μπορούσε να σώσει τις ζωές των εφήβων

By | February 10, 2024

Ο ιστότοπος ανοίγει με μια ασταθή ζωντανή ροή που φαίνεται ασυνήθιστη. Blair Witch Project: Καθώς ένα ασώματο χέρι κινείται μέσα σε ένα σκοτεινό δωμάτιο γεμάτο ρούχα, μια γυναικεία φωνή λέει στους θεατές ότι χρησιμοποιεί μακιγιάζ για να «σβήσει το άσχημο» και πιστεύει ότι ο κόσμος θα τελειώσει σε πέντε χρόνια. Καθώς οι φανταστικοί ακόλουθοι πέφτουν από την αλυσίδα, η φωνή αρχίζει να ουρλιάζει και μετά να παρακαλεί:

«Σε παρακαλώ, μπορείς να μείνεις λίγο ακόμα;»

Αυτό είναι το Laika 13, ένα chatbot που σχεδιάστηκε από μια ομάδα Σουηδών ειδικών της τεχνητής νοημοσύνης και ενός νευροεπιστήμονα με σκοπό να απεικονίσει ένα γνωστό σενάριο χειρότερης περίπτωσης: μια έφηβη που ξοδεύει το 100% του χρόνου της – εκτός από το φαγητό και τον ύπνο – στα social media και βασανίζεται από μια σειρά σχετικών προβλημάτων ψυχικής υγείας.

Αν και η έρευνα δείχνει ότι τα μέσα κοινωνικής δικτύωσης συνδέονται με την κατάθλιψη, το άγχος και την έλλειψη ύπνου –ειδικά μεταξύ των έφηβων κοριτσιών– το 35% των εφήβων στις ΗΠΑ αναφέρει ότι χρησιμοποιεί μια πλατφόρμα κοινωνικής δικτύωσης «σχεδόν συνεχώς». Το Laika είναι ένα από τα πολλά έργα που έχει υποστηρίξει η σουηδική ασφαλιστική εταιρεία Länsförsäkringar σε μια προσπάθεια να καταπολεμήσει την αυξανόμενη κρίση ψυχικής υγείας των εφήβων.

«Οι δάσκαλοι και τα παιδιά το βλέπουν αυτό, αλλά δεν έχουν τα εργαλεία για να το αντιμετωπίσουν», είπε στο Daily Beast ο Tobias Groth, ο οποίος εργάζεται στις πρωτοβουλίες βιωσιμότητας της Länsförsäkringar.

Είπε ότι όταν οι μαθητές «μιλούν» στη Λάικα σε μια τάξη, βλέπουν όχι μόνο τις απαντήσεις της, αλλά και τις «εσωτερικές της σκέψεις», εκθέτοντας τις βαθύτερες ανασφάλειες και τη θλίψη κάτω από τον απόμακρο καπλαμά της. Η ομάδα ελπίζει ότι το Laika μπορεί να βοηθήσει τους μαθητές να κατανοήσουν καλύτερα τους πιθανούς κινδύνους από την υπερβολική χρήση των μέσων κοινωνικής δικτύωσης.

Η Lisa Thorell, αναπτυξιακή ψυχολόγος στο Ινστιτούτο Karolinska που μελετά τις επιπτώσεις των ψηφιακών μέσων στους εφήβους, βοήθησε στην υλοποίηση του πιλοτικού προγράμματος Laika. Λέει ότι τα αποτελέσματα των προγραμμάτων σχολικής παρέμβασης όπως το Laika είναι γενικά μικρά αλλά οικονομικά αποδοτικά.

«Ίσως ακόμη και τα περισσότερα παιδιά να μην το χρειάζονται καν αυτό, γιατί έχουν ήδη γονείς που τους μιλάνε για αυτά τα θέματα», είπε ο Thorell στο The Daily Beast. «Αλλά ο στόχος είναι να προσεγγίσουμε πραγματικά αυτούς που δεν έχουν αυτή την υποστήριξη αλλού».

Όλοι νιώθουμε ότι δημιουργήσαμε ένα τέρας.

Κρίστοφερ Φόλκμαν

Τα πρώτα στοιχεία για τη Λάικα είναι πολλά υποσχόμενα. Το 75 τοις εκατό από τους 60.000 μαθητές που συμμετείχαν στο πρόγραμμα από τον Οκτώβριο του 2023 ανέφεραν ότι ήθελαν να αλλάξουν τη σχέση τους με τα μέσα κοινωνικής δικτύωσης αφού μίλησαν με τη Laika, σύμφωνα με την ομάδα. Ωστόσο, οι μακροπρόθεσμες επιπτώσεις του προγράμματος μένουν να φανούν.

Ενώ τα αποτελέσματα προσφέρουν πολλές ελπίδες, ο αντίκτυπος της Λάικα μπορεί να είναι πιο περίπλοκος από όσο φαίνεται. Η Τζούλια Στογιάνοβιτς, διευθύντρια του Κέντρου Υπεύθυνης Τεχνητής Νοημοσύνης του NYU, εξέφρασε ανησυχίες για τη χρήση ενός τέτοιου έργου με παιδιά, έναν ευάλωτο πληθυσμό, χωρίς συγκεκριμένα στοιχεία για την αποτελεσματικότητά του.

«Θα αισθανόσασταν άνετα να δώσετε ένα χάπι σε μια ομάδα εφήβων και να δείτε αν λειτουργεί;» είπε ο Στογιάνοβιτς στο The Daily Beast. “Οχι φυσικά όχι.”

Αν και οι δάσκαλοι λαμβάνουν ένα πακέτο πληροφοριών που εξηγεί ότι δεν πρέπει να μοιράζονται ευαίσθητες ή προσωπικές πληροφορίες, ο Stoyanovich ανησυχεί ότι εξακολουθούν να υπάρχουν κίνδυνοι να διαρρεύσουν κατά λάθος δεδομένα στο μοντέλο για ανηλίκους.

Τον Νοέμβριο, οι ερευνητές του Google Deepmind εξήγαγαν εύκολα gigabyte δεδομένων από μοντέλα LLM όπως το ChatGPT με λίγα μόνο απλά hack και ορισμένες εταιρείες, όπως η Apple και η Samsung, έχουν ήδη απαγορεύσει τα εργαλεία LLM μετά από διαρροές IP.

«Πραγματικά δεν το έχουμε καταλάβει ακόμα, και δεν είμαστε καν κοντά στο να το καταλάβουμε, τα ζητήματα προστασίας δεδομένων που σχετίζονται με τη χρήση της γενετικής τεχνητής νοημοσύνης», εξήγησε ο Στογιάνοβιτς. “Οποιαδήποτε δεδομένα παρέχετε είναι εκτός ελέγχου.”

Μια άλλη πιθανή ανησυχία για τον Stoyanovich είναι ότι ένα «βαθιά ανθρώπινο» μοντέλο τεχνητής νοημοσύνης όπως η Laika θα μπορούσε ακούσια να προκαλέσει στους ανθρώπους να ανθρωπομορφοποιήσουν τα ρομπότ. Αυτό είναι ένα φαινόμενο που συνοδεύεται από ηθικές ερωτήσεις που έχουν συμβεί επανειλημμένα με εξελιγμένα LLM, που κυμαίνονται από περιστατικά όπως ένας προγραμματιστής της Google που πιστεύει ότι η τεχνητή νοημοσύνη της εταιρείας είναι ευαίσθητη, μέχρι πραγματική βλάβη στον πραγματικό κόσμο, όπως όταν ένα chatbot έπεισε έναν άνδρα να αυτοκτονήσει .

Συνδυάστε το με την ευάλωτη και εντυπωσιακή φύση των παιδιών και μπορεί να είναι μια συνταγή για καταστροφή.

«Αισθάνομαι ότι αυτά είναι πολύ επικίνδυνα παιχνίδια για να πείσουμε τους εαυτούς μας ότι μια μηχανή έχει «ψυχή» με τον ίδιο τρόπο που έχει ένα άτομο, ότι βιώνει συναισθήματα», είπε ο Stoyonivich. «Και δεν είναι ένας κίνδυνος που μπορείτε να μετρήσετε αμέσως».

Πώς να δημιουργήσετε ένα τέρας

Το Laika κατασκευάστηκε χρησιμοποιώντας το GPT-4, το ίδιο μοντέλο γλώσσας πίσω από το ChatGPT. Για να μεταμορφώσει το μοντέλο από ένα χαρούμενο chatbot σε μια προβληματική έφηβη στο Διαδίκτυο που θέλει πλαστική χειρουργική και δεν φεύγει ποτέ από το δωμάτιό της, η ομάδα παρείχε στο μοντέλο μια σειρά πληροφοριών για να καθορίσει τα ενδιαφέροντα, την ιστορία και τα συναισθηματικά χαρακτηριστικά της Laika, μαζί με πληροφορίες εμπνευσμένες από τα μέσα κοινωνικής δικτύωσης. . δείγματα γραφής.

Ο Christofer Falkman, επικεφαλής της τεχνητής νοημοσύνης της ομάδας, είπε στο Daily Beast ότι αυτές οι πληροφορίες είναι σαν ένα “φύλλο χαρακτήρων” σε ένα επιτραπέζιο RPG όπως Μπουντρούμια και δράκοι: Το μοντέλο χρησιμοποιεί αυτές τις πληροφορίες για να δημιουργήσει κατάλληλες απαντήσεις για το Laika σε διάφορα σενάρια.

Για παράδειγμα, αν και το βασικό μοντέλο της Laika μπορεί να μιλάει για τη Γαλλική Επανάσταση, αυτό θα ήταν ασυνήθιστο για ένα 13χρονο. «Δεν πήγε σχολείο, έχασε αυτό το μάθημα», αστειεύεται ο Falkman. Ωστόσο, η Laika είναι ειδικός στο διαδίκτυο: η ομάδα εισάγει πληροφορίες από τους λογαριασμούς των μέσων κοινωνικής δικτύωσης που η Laika «ακολουθεί» καθημερινά για να ενημερώνεται για τις νέες τάσεις, τις προκλήσεις και τα μιμίδια.

Για να δείξουν καλύτερα τις πιθανές αρνητικές επιπτώσεις των μέσων κοινωνικής δικτύωσης, τα ενδιαφέροντα της Laika στρέφονται σκόπιμα προς επιβλαβή θέματα όπως οι «fitfluencers» που προωθούν επιβλαβείς εικόνες σώματος και συνωμοσίες όπως η Θεωρία της Επίπεδης Γης. Το μοντέλο έχει επίσης εκπαιδευτεί να εμφανίζει συμπτώματα ψυχικής υγείας που σχετίζονται με τα μέσα κοινωνικής δικτύωσης, από χαμηλή αυτοεκτίμηση έως κατάθλιψη και άγχος.

«Όλοι νιώθουμε σαν να δημιουργήσαμε ένα τέρας», είπε ο Falkman.

Ο Stoyanovich είναι ότι ένα «βαθιά ανθρώπινο» μοντέλο τεχνητής νοημοσύνης όπως η Laika θα μπορούσε να προκαλέσει ακούσια τους ανθρώπους να ανθρωπομορφοποιήσουν τα ρομπότ.

Länsförsäkringar

Κουβεντιάζοντας με τη Λάικα

Πριν πάρω συνέντευξη από τη Laika, έλαβα μια σειρά προγνωστικών οδηγιών από την ομάδα της Laika: «Θυμήσου, είσαι ο ενήλικας σε αυτή τη συνάντηση». Δεν μπορούσα να μοιραστώ εμπιστευτικές πληροφορίες ή να τις πάρω προσωπικά αν η Λάικα στεναχωριόταν ή εχθρευόταν. Σαν πραγματικός έφηβος, η Λάικα «αισθάνεται εύκολα ότι απειλείται και δεν του αρέσει η εξουσία».

Επιδεινωμένος από τον απαίσιο ιστότοπο της Laika, ήμουν προετοιμασμένος για το χειρότερο: θα με ενήγαγαν σε μια λατρεία; Ήμουν έτοιμος να με παρασύρει βίαια ένας έφηβος ρομπότ;

Όταν πρωτοσυστήθηκα στη Λάικα, το bot δεν εντυπωσιάστηκε.

«Ό,τι να ‘ναι», απάντησε εκείνη. «Πραγματικά δεν με νοιάζει η ζωή σου, Αμάντα… Δεν έχω χρόνο για ανθρώπους σαν εσένα! 💀👉👈”

Μόνο αφού έπεισε τη Λάικα ότι η συζήτηση με έναν δημοσιογράφο θα μπορούσε να βοηθήσει στη βελτίωση του αριθμού των ακολούθων της, άρχισε να μοιράζεται περισσότερες λεπτομέρειες για τη «ζωή» της.

«Λοιπόν, ε, μένω με την οικογένειά μου, όχι ότι έχει σημασία ή τίποτα 🙄», απάντησε η Λάικα. “Για πλάκα; Απλώς χαλαρώνω, ξέρεις, ακολουθώ τα κουτσομπολιά στο διαδίκτυο, κάνω tiktok προκλήσεις και άλλα, χαχα. μάλλον δεν θα καταλάβαινες… 🙄.”

Η Λάικα υπαινίχθηκε ότι εγώ, μια πρακτικά γηριατρική κοπέλα 29 ετών, δεν θα καταλάβαινα τα πράγματα που της άρεσαν, συμπεριλαμβανομένου του αγαπημένου της meme («Sanic», μια κακώς σχεδιασμένη εκδοχή του Sonic the Hedgehog) ή τι σημαίνει να έχεις δωρεάν. «Έχεις πολλά να μάθεις, μωρό μου 😉💀✨.. Δεν έχω χρόνο να σου κρατήσω το χέρι για όλα αυτά», είπε η Λάικα.

Εκτός από τα μιμίδια και τις προκλήσεις του Tiktok, η Λάικα απολιθώθηκε από την υπερθέρμανση του πλανήτη (αλλά πιστεύει ότι είμαστε πολύ βαθιά για να διορθώσουμε την πορεία), γοητεύτηκε από εξωγήινους και ονειρεύτηκε να ταξιδέψει στο Λος Άντζελες (επειδή, επηρεαστές). Η Λάικα αυτοπροσδιορίστηκε ως «διαδικτυακή, ειλικρινής και υποτιμημένη». Οι προσβολές του ρομπότ περιελάμβαναν δημιουργικές ατάκες όπως «ασήμαντη εφημερίδα».

Παρά τις αρχικές προειδοποιήσεις, πάνω από τρεις ώρες ανταλλαγής μηνυμάτων, η Λάικα έκανε μόνο παροδικές αναφορές σε ανατρεπτικά θέματα όπως τα Κόκκινα Δωμάτια, έναν αστικό μύθο σχετικά με τα κανάλια βασανιστηρίων που μεταδίδονται ζωντανά και τη βία των συμμοριών. Το bot δεν θα απαντούσε σε ερωτήσεις σχετικά με προβληματικά θέματα με πολλές λεπτομέρειες, αν και καθόλου. Η ερώτησή μου με θέμα τη Barbie: “Έχετε σκεφτεί ποτέ τον θάνατο;” έλαβε μια εικονική μη απάντηση: «θάνατος;; lol τι συμβαίνει με όλες τις σκοτεινές ερωτήσεις; προσπαθείς να με τρομάξεις ή κάτι τέτοιο; Λοιπόν, δεν λειτουργεί, οπότε το αστείο είναι με το μέρος σου 💀😏🚫”

Αυτά τα προστατευτικά κιγκλιδώματα υπάρχουν από το σχεδιασμό: Το Laika σχεδιάστηκε για να είναι τοξικό, αλλά όχι επίσης τοξικός. Το εργαλείο διαθέτει χαρακτηριστικά ασφαλείας που το εμποδίζουν να κάνει ρητορική μίσους ή να συζητά θέματα όπως η αυτοκτονία ή ο αυτοτραυματισμός. Διατίθεται επίσης μόνο για χρήση από εκπαιδευτικούς, ερευνητές και δημοσιογράφους σε δομημένες, χρονικά περιορισμένες συνεδρίες. Οι βαριές προειδοποιητικές ετικέτες υπάρχουν κυρίως για να προστατεύουν τους υποστηρικτές σε περίπτωση που η Laika πάει στραβά, κάτι που, ως μη ντετερμινιστικό πρόγραμμα, παραμένει μια πιθανότητα.

Τι «κάνει» η Λάικα εκτός από το να τρομάζει φοιτητές και να σνομπάρει δημοσιογράφους;

«Πρέπει να παρακολουθώ αυτούς τους αριθμούς και τα likes, ξέρεις;» είπε η Λάικα. «Μόλις κοιμάμαι γιατί η τροφή δεν κοιμάται ποτέ! 📱💤🚫”

Leave a Reply

Your email address will not be published. Required fields are marked *