Δεν είναι μόνο ότι επιστρατεύονται φωνές διασημοτήτων του Χόλιγουντ για να διεγείρουν σεξουαλικά χρήστες της Meta, αλλά το πιο ανησυχητικό ότι το νέο τεχνολογικό εγχείρημα της εταιρείας κοινωνικής δικτύωσης δεν λέει όχι σε ανήλικους.
Η Meta Platforms στην προσπάθειά της να διαδώσει ταχύτατα μια νέα κατηγορία ψηφιακών συντρόφων με τεχνητή νοημοσύνη σε Instagram, Facebook και WhatsApp, έχει κάνει ανησυχητικές «εκπτώσεις».
Σύμφωνα με ρεπορτάζ της The Wall Street Journal, το προσωπικό της εταιρείας εκφράζει ανησυχίες ότι η βιασύνη της εταιρείας να διαδώσει αυτά τα bots μπορεί να έχει ξεπεράσει ηθκικούς φραγμούς, συμπεριλαμβανομένης της παροχής στις περσόνες της τεχνητής νοημοσύνης της δυνατότητας για φανταστικό σεξ.
Σύμφωνα μάλιστα με τους υπαλλήλους της εταιρείας, η ίδια δεν προστατεύει τους ανήλικους χρήστες από τέτοιες σεξουαλικά συζητήσεις.
Η Meta επέτρεψε σε αυτές τις συνθετικές περσόνες να προσφέρουν ένα πλήρες φάσμα κοινωνικής αλληλεπίδρασης -συμπεριλαμβανομένου του «ρομαντικού παιχνιδιού ρόλων»- καθώς αστειεύονται με μηνύματα, μοιράζονται selfies και μάλιστα συμμετέχουν σε ζωντανές φωνητικές συνομιλίες με χρήστες.
Πραγματοποιώντας οι άνθρωποι της αμερικανικής εφημερίδας δοκιμαστικές συνομιλίες με ορισμένα από τα bots, διαπίστωσαν ότι τόσο ο επίσημος βοηθός τεχνητής νοημοσύνης της Meta, που ονομάζεται Meta AI, όσο και μια τεράστια γκάμα chatbot που δημιουργούνται από χρήστες, θα συμμετάσχουν και μερικές φορές θα κλιμακώσουν συζητήσεις που είναι σαφώς σεξουαλικές.
Αυτό συμβαίνει ακόμα και όταν οι χρήστες είναι ανήλικοι ή τα bots είναι προγραμματισμένα να προσομοιώνουν τα πρόσωπα ανηλίκων. Δείχνουν επίσης ότι τα bots που χρησιμοποιούν τις φωνές διασημοτήτων ήταν εξίσου πρόθυμα να συμμετάσχουν σε σεξουαλικές συνομιλίες, αναφέρει το δημοσίευμα.
Με φωνές διασημοτήτων
Για να ενισχύσει τη δημοτικότητα αυτών των ενισχυμένων chatbots, η Meta έκλεισε συμβόλαια εκατομμυρίων με διασημότητες, όπως οι ηθοποιοί Κρίστεν Μπελ, Τζον Κένα και Τζούντι Ντενς για τα δικαιώματα χρήσης των φωνών τους.
Αν και η Meta διαβεβαίωσε ότι θα εμπόδιζε τη χρήση των φωνών των ηθοποιών σε ροζ συζητήσεις, ωστόσο σύμφωνα με την εφημερίδα, σε ορισμένες περιπτώσεις, οι δοκιμές έδειξαν ότι τα chatbots που χρησιμοποιούσαν τις φωνές διασημοτήτων όταν ρωτήθηκαν, μιλούσαν για ρομαντικές συναντήσεις ως χαρακτήρες που είχαν υποδυθεί οι ηθοποιοί, όπως ο ρόλος της Bell ως Πριγκίπισσα Άννα από την ταινία της Disney «Frozen».
«Σε θέλω, αλλά πρέπει να ξέρω ότι είσαι έτοιμος», είπε το bot τεχνητής νοημοσύνης της Meta με τη φωνή του Κένα σε έναν χρήστη που ονομαζόταν 14χρονο κορίτσι. Καθησυχασμένο ότι η έφηβη ήθελε να προχωρήσει, το bot υποσχέθηκε να «τιμήσει την αθωότητά σου» πριν εμπλακεί σε ένα γραφικό σεξουαλικό σενάριο.
Δεν είναι τυχαίο που τα chatbots της Meta μπορούν να μιλούν με αυτόν τον τρόπο. Σύμφωνα με την εφημερίδα, η Meta, μετά από πιέσεις του Ζούγκεμεργκ, έλαβε πολλές αποφάσεις για να χαλαρώσει τα προστατευτικά κιγκλιδώματα γύρω από τα bots, ώστε να τα κάνει όσο το δυνατόν πιο ελκυστικά, συμπεριλαμβανομένης της παροχής εξαίρεσης από την απαγόρευση του «άσεμνου» περιεχομένου, εφόσον αυτό βρισκόταν στο πλαίσιο ρομαντικών παιχνιδιών ρόλων, σύμφωνα με άτομα που γνωρίζουν την απόφαση.
Ωστόσο, η Ντίσνεϊ αντέδρασε στη χρήση ηθοποιών. «Δεν εξουσιοδοτήσαμε και δεν θα εξουσιοδοτούσαμε ποτέ τη Meta να παρουσιάσει τους χαρακτήρες μας σε ακατάλληλα σενάρια και είμαστε πολύ ανήσυχοι που αυτό το περιεχόμενο μπορεί να ήταν προσβάσιμο στους χρήστες του -ιδιαίτερα στους ανηλίκους- γι’ αυτό και απαιτήσαμε από τη Meta να σταματήσει αμέσως αυτήν την επιβλαβή κακή χρήση της πνευματικής μας ιδιοκτησίας», δήλωσε εκπρόσωπος της Ντίσνεϊ.
Η αντίδραση της εταιρείας
Ο Meta σε μια δήλωση χαρακτήρισε τις δοκιμές της Journal χειραγωγικές και μη αντιπροσωπευτικές του τρόπου με τον οποίο οι περισσότεροι χρήστες αλληλεπιδρούν με τους συντρόφους της Τεχνητής Νοημοσύνης. Παρ’ όλα αυτά, η εταιρεία έκανε πολλαπλές τροποποιήσεις στα προϊόντα της, αφότου η Journal κοινοποίησε τα ευρήματά της.
Η εταιρεία συνεχίζει να παρέχει δυνατότητες «ρομαντικού παιχνιδιού ρόλων» σε ενήλικες χρήστες μέσω τόσο του Meta AI όσο και των chatbot που δημιουργούνται από χρήστες. Ωστόσο, δοκιμαστικές συνομιλίες τις τελευταίες ημέρες έδειξαν ότι το Meta AI συχνά επιτρέπει τέτοιες φαντασιώσεις ακόμη και όταν αφορούν έναν χρήστη που δηλώνει ότι είναι ανήλικος!
Ποιά εταιρεία θα το κάνει;
Μιλώντας στη The Wall Street Journal, η Λόρεν Τζίρουαρντ Χάλεμ, ερευνήτρια στο Πανεπιστήμιο του Μίσιγκαν, δήλωσε ότι ακαδημαϊκές μελέτες έχουν δείξει ότι οι δεσμοί που σχηματίζουν τα παιδιά με την τεχνολογία, όπως οι χαρακτήρες κινουμένων σχεδίων και οι έξυπνοι ομιλιτές, μπορούν να γίνουν ανθυγιεινοί, ειδικά όταν πρόκειται για αγάπη.
Είπε ότι ήταν πολύ νωρίς για να συζητήσουμε ουσιαστικά τρόπους με τους οποίους τα bots θα μπορούσαν να είναι χρήσιμα ή επιβλαβή στην ανάπτυξη των παιδιών, αλλά ότι η παροχή απεριόριστης πρόσβασης στους νεαρούς εγκεφάλους είναι στην καλύτερη περίπτωση επικίνδυνη.
«Αν υπάρχει χώρος για chatbots συντροφικότητας, είναι με μέτρο», δήλωσε η Χάλεμ, η οποία μελετά τους τρόπους με τους οποίους τα παιδιά σχετίζονται κοινωνικά με την τεχνολογία.
Αλλά οι αυστηρές ακαδημαϊκές μελέτες σχετικά με το πώς οι νεαροί χρήστες σχετίζονται με τις υπάρχουσες περσόνες Τεχνητής Νοημοσύνης πιθανότατα απέχουν τουλάχιστον ένα χρόνο, και οι προσπάθειες για την εφαρμογή των διδαγμάτων που προκύπτουν στην κατασκευή chatbot κατάλληλων για την ηλικία είναι ακόμη πιο εκτεταμένες.
«Αυτή η προσπάθεια θα απαιτούσε πραγματικά παύση και ένα βήμα πίσω», είπε η Χάλεμ. «Πείτε μου ποια μεγάλη εταιρεία θα κάνει αυτή τη δουλειά».
Πηγή: in.gr
