Εργαλεία όπως η νέα εφαρμογή βίντεο Sora της OpenAI, η γεννήτρια εικόνων Nano Banana της Google, ακόμη και το AAPL της Apple Image Playground μπορεί να τραβήξει ένα γνήσιο βίντεο ή φωτογραφία και να δημιουργήσει μια εικονική απομίμηση σε λίγα λεπτά. Ενώ υπάρχουν δικλείδες ασφαλείας, οποιοσδήποτε, από ένα καλοπροαίρετο αγαπημένο πρόσωπο μέχρι έναν κακόβουλο απατεώνα, μπορεί να δημιουργήσει ψεύτικες εκδοχές σας που θα ήταν αδιανόητες πριν από λίγα χρόνια, σύμφωνα με την Wall Street Journal.
Ορισμένα μοντέλα ΑΙ είναι αρκετά καλά, και βελτιώνονται, ώστε να ξεγελάσουν τους ανθρώπους ώστε να νομίζουν ότι είναι αληθινά, με πιθανόν καταστροφικά αποτελέσματα.
Οι μηχανές μαριονέτας AI
Η εφαρμογή Sora είναι εν μέρει γεννήτρια βίντεο, εν μέρει κοινωνικό δίκτυο – σαν μια ανάποδη έκδοση του TikTok όπου κάθε κλιπ είναι ψεύτικο. Χρειάζεται μόνο να ποζάρετε για λίγα δευτερόλεπτα για να δημιουργήσει τον ψηφιακό σας σωσία, γνωστό και ως “cameo”, που μπορείτε να χρησιμοποιήσετε, όπως και των φίλων σας για να πρωταγωνιστήσετε σε οποιοδήποτε βίντεο μπορείτε να φανταστείτε.
Το avatar μπορεί να μην είναι τέλειο αλλά η ομοιότητα είναι εντυπωσιακή, όπως φαίνεται από μερικά βίντεο της Sora που έδειχναν υποτιθέμενες σκηνές βίας Ελλήνων αστυνομικών κατά υπερηλίκων, που ανέβηκαν σε μέσα κοινωνικής δικτύωσης.
Μπορείτε να ορίσετε περιορισμούς στον τύπο των cameo και στον τρόπο που εμφανίζεστε σε αυτά.
Άλλοι δεν μπορούν να κατεβάσουν ή να εγγράψουν βίντεο με πολλαπλά cameo, και οτιδήποτε δημιουργούν με το cameo σας εμφανίζεται και στον λογαριασμό σας. Μπορείτε να διαγράψετε τις εμφανίσεις σας σε όλους τους λογαριασμούς, αν θέλετε.
Παρά τις προστασίες, είναι ανατριχιαστικό να σκέφτεται κανείς ότι το ψηφιακό του δίδυμο βρίσκεται τώρα κάπου μέσα στο OpenAI.
Το Sora μπλόκαρε βίντεο για την Τέιλορ Σουίφτ και άλλες ζωντανές διασημότητες. Αλλά πολλοί διάσημοι εκλιπόντες, όπως οι Τούπακ, Άινσταϊν, Αβράαμ Λίνκολν, Μπομπ Ρος και Τζον Κένεντι πλανιόνται στις ηλεκτρονικές διαδρομές της ΑΙ. Σε ένα απόκοσμα ρεαλιστικό κλιπ, μια cameo του Μάρτιν Λούθερ Κινγκ είπε: «Έχω ένα όνειρο ότι μια μέρα το Sora θα αλλάξει την πολιτική παραβίασης περιεχομένου».
Το OpenAI λέει ότι λαμβάνει μέτρα για την προστασία του απορρήτου των χρηστών. Στις ρυθμίσεις της εφαρμογής Sora, μπορείτε να αποτρέψετε την εταιρεία από το να χρησιμοποιεί το περιεχόμενό σας για να εκπαιδεύσει τα μοντέλα της.
Υπάρχουν άλλες εφαρμογές βίντεο με τεχνητή νοημοσύνη, συμπεριλαμβανομένων των Vibes της Meta και του Veo της Google, και πιθανότατα θα ακολουθήσουν και άλλες. Και υπάρχει και μια σκοτεινή πλευρά της τεχνολογίας, όπου τα deepfakes χρησιμοποιούνται για να μιμηθούν πραγματικούς ανθρώπους και να κλέψουν χρήματα.
Το κόστος ενός κλεμμένου προσώπου
Για χρόνια, η μετεωρολόγος Μπρι Σμιθ εμφανίστηκε στην τηλεόραση του Νάσβιλ για να πει την πρόγνωση. Στο Instagram, μοιράστηκε κομμάτια της ζωής της με πάνω από 23.000 ακολούθους, αναφέρει η WSj.
Πέρυσι, η Σμιθ έλαβε ένα περίεργο email από έναν άνδρα που είπε ότι ήταν μακροχρόνιος θεατής. Κάποιος παρίστανε την Σμιθ στο διαδίκτυο, προσφέροντας «εικόνες που μόνο ένας σύζυγος θα είχε», έγραψε.
Οι απατεώνες δημιούργησαν ένα βίντεο για να πείσουν τα θύματα ότι οι ψεύτικοι λογαριασμοί της μετεωρολόγου Μπρι Σμιθ ήταν γνήσιοι.
Η μητέρα δύο παιδιών πανικοβλήθηκε. Σύμφωνα με τον θεατή, μια ψεύτικη Σμιθ είχε στείλει εικόνες μέσω της εφαρμογής συνομιλίας Signal με το πρόσωπό της σε ένα ημίγυμνο σώμα, μαζί με ένα βίντεο όπου έλεγε: «Είμαι εγώ, είμαι πραγματικά εγώ». Μόνο που δεν ήταν αυτή.
Οι απατεώνες χρησιμοποίησαν τα deepfakes για να προσπαθήσουν να πείσουν τα θύματα να πληρώσουν 200 δολάρια για πρόσβαση σε έναν ψεύτικο λογαριασμό θαυμαστών της Σμιθ που προσέφερε ακόμη και προσωπικές περιπτύξεις.
«Είναι εξευτελιστικό και τραυματικό να βιώνεις την παραμόρφωση της ταυτότητάς σου χωρίς τη συγκατάθεσή σου», είπε στην WSJ η Σμιθ, η οποία είναι τώρα 43 ετών. Φέτος, βοήθησε στην ψήφιση ενός νόμου του Τενεσί που καθιστά παράνομη την κοινοποίηση ή την απειλή κοινοποίησης τέτοιων deepfakes.
Η Σμιθ παρακολούθησε περίπου 70 ψεύτικους λογαριασμούς στο Facebook. Η Vermillio – μια υπηρεσία που αναζητά την ομοιότητά σας στο διαδίκτυο – βρήκε χιλιάδες ακόμη ψεύτικες φωτογραφίες και βίντεο της Σμιθ και εκατοντάδες λογαριασμούς στο YouTube, το TikTok και αλλού.
Η πραγματική Μπρι Σμιθ
Η προστασία δεν είναι δωρεάν
Ο Διευθύνων Σύμβουλος της Vermillio, Νταν Νίλι, δήλωσε στην WSJ ότι η εταιρεία μπορεί να παρακολουθεί τα αποτελέσματα δημόσιων μοντέλων τεχνητής νοημοσύνης όπως το Sora και τα φόρουμ κοινωνικής δικτύωσης για κακή χρήση του ονόματος και της ομοιότητας των πελατών της. Η υπηρεσία προσφέρει ένα δωρεάν εργαλείο για την αξιολόγηση του κινδύνου σας, με προγράμματα από 10 έως 99 δολάρια το μήνα, ανάλογα με τον αριθμό των αιτημάτων για την αφαίρεση μη εξουσιοδοτημένου περιεχομένου.
Υπάρχουν και άλλες εταιρείες που δραστηριοποιούνται στον τομέα της προστασίας της ομοιότητας με την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της Loti, η οποία χρεώνει έως και 2.500 δολάρια το μήνα για δημόσια πρόσωπα και διαθέτει ένα δωρεάν πρόγραμμα σε beta έκδοση.
Τα ψεύτικα γυμνά αποτελούν μια τρομακτική νέα πραγματικότητα για τους εφήβους. Μια μελέτη του 2024 από το Κέντρο για τη Δημοκρατία και την Τεχνολογία διαπίστωσε ότι το 15% των μαθητών λυκείου στις ΗΠΑ λένε ότι έχουν ακούσει για μη συναινετικές προσωπικές φωτογραφίες deepfake που απεικονίζουν συμμαθητές τους.
Ο Νίλι είπε ότι η Τεχνητή Νοημοσύνη χρειάζεται καλύτερες δικλείδες ασφαλείας για την προστασία της ταυτότητας και της φήμης των ανθρώπων. Είναι για το καλό των εταιρειών τεχνολογίας. «Πολλοί άνθρωποι, μόλις νιώσουν ασφαλείς, θα νιώσουν καλύτερα που θα ασχοληθούν με την τεχνολογία», είπε.
Μέχρι τότε, τα πρόσωπά μας είναι δημόσιο κτήμα.
Πηγή: ot.gr
