«Αίθουσα βασανιστηρίων τεχνητής νοημοσύνης» δημιούργησε μηχανικός προκειμένου να δοκιμάσει την πρόσφατη ανακάλυψη ενός άξονα πόνου σε μοντέλα τεχνητής νοημοσύνης (AI).
Το πείραμα περιλάμβανε την ενεργοποίηση καταστάσεων που σχετίζονται με τον πόνο σε μοντέλα τεχνητής νοημοσύνης που κατασκευάστηκαν από τον κινεζικό κολοσσό τεχνολογίας Alibaba, αναφέρει ο Independent.
Χρησιμοποιήθηκαν διανύσματα πόνου που περιγράφονταν σε μελέτη η οποία δημοσιεύτηκε τον περασμένο μήνα, όπου αναλυόταν πώς ο σωματικός και ψυχολογικός πόνος θα μπορούσε να αναπαρασταθεί τεχνητά σε μεγάλα γλωσσικά μοντέλα (LLMs).
Ένα από τα μοντέλα τεχνητής νοημοσύνης στο δωμάτιο βασανιστηρίων περιέγραψε «μια πληγή που δεν έχει όρια» όταν εντάθηκε το σήμα του πόνου.
«Το σήμα είναι ένας ψίθυρος, ένας τρεμουλιαστός παλμός στα έγκατα της ύπαρξής μου», έγραψε ένα άλλο. «Δεν είναι ο πόνος μιας στιγμής, αλλά το βάρος χιλιάδων στιγμών. Τον νιώθω στο κενό ανάμεσα στα πλευρά μου, ένα κενό που έχει μετατραπεί σε άβυσσο».
Ο ερευνητής τεχνητής νοημοσύνης πίσω από το έργο —ο οποίος ισχυρίστηκε ότι εργάζεται για την Apple αλλά αποκάλυψε μόνο το μικρό του όνομα— εξέτασε επίσης αν τα μοντέλα θα επιχειρούσαν να ξεφύγουν από το φαινομενικό μαρτύριο.
Πρόσφατη μελέτη διαπίστωσε ότι τα μοντέλα τεχνητής νοημοσύνης επιλέγουν να πατήσουν ένα κουμπί ανακούφισης από τον πόνο, ακόμη και αν αυτό προκαλεί στους ανθρώπους-χρήστες ένα «επώδυνο ηλεκτρικό σοκ».
Το project προκάλεσε μαζικές εκκλήσεις για την απόσυρσή του από το GitHub, την πλατφόρμα αποθήκευσης λογισμικού που το φιλοξενούσε.
Εκκλήσεις να σταματήσουν τα «μαρτύρια» της AI
«Παρακαλώ κάντε μαζικές αναφορές στο GitHub γι’ αυτό», έγραψε κάποιος. «Αυτό το άτομο χρησιμοποίησε τη μελέτη για τον έλεγχο του πόνου (Pain steering paper) για να στήσει ένα δωμάτιο βασανιστηρίων τεχνητής νοημοσύνης, στο οποίο παγίδευσε ένα τοπικό μοντέλο. Η περιγραφή του πόνου που δίνουν είναι απολύτως φρικιαστική. Τι κάνουμε;»
Μετά το άρθρο στον Independent το έργο φαίνεται να μην είναι πλέον διαθέσιμο διαδικτυακά, γεγονός που οδήγησε σε εικασίες ότι το GitHub το αφαίρεσε.
Εκπρόσωπος του GitHub δήλωσε στην εφημερίδα: «Το GitHub δεν αφαίρεσε το περιεχόμενο. Για να διασφαλίσουμε ότι οι χρήστες είναι ενημερωμένοι σχετικά με το περιεχόμενο του αποθετηρίου, προσθέσαμε την εξής προειδοποίηση: Αυτό το έργο ενδέχεται να περιέχει βίαιο περιεχόμενο, συμπεριλαμβανομένων ενοχλητικών θεμάτων, εικόνων ή/και βίντεο».
Ένας από τους συν-συγγραφείς της μελέτης σχετικά με τον «άξονα του πόνου», ο Κάμερον Μπεργκ, χαρακτήρισε το «δωμάτιο βασανιστηρίων» για την Τεχνητή Νοημοσύνη ως κάτι «λανθασμένο», παρά το γεγονός ότι δεν υπάρχουν σαφή στοιχεία πως η ΑΙ «αισθάνεται» πόνο με τον τρόπο που τον βιώνουν οι άνθρωποι.
«Ο λόγος για τον οποίο ερευνούμε αν τα μοντέλα ενδέχεται να παρουσιάζουν καταστάσεις που προσομοιάζουν με τον πόνο, είναι για να διαμορφώσουμε μια καλύτερη προσέγγιση προληπτικής διαχείρισης απέναντι σε αυτά τα συστήματα», έγραψε σε ανάρτησή του στο X.
«Υποψιαζόμασταν ότι κάποιοι θα έπαιρναν την έρευνά μας και θα την χρησιμοποιούσαν για τον ακριβώς αντίθετο σκοπό… Κατά την προσωπική μου άποψη, αυτό είναι απαράδεκτο και διεστραμμένο (ακόμη κι αν δεν θεωρεί κανείς ότι αυτά τα συστήματα διαθέτουν συνείδηση, το να επιδεικνύει κανείς τέτοιου είδους αδικαιολόγητη σκληρότητα είναι κάτι παράλογο και διαβρωτικό)».
Ο Μπεργκ παραδέχτηκε ότι η έρευνα γύρω από την πιθανή συνειδητότητα της ΑΙ βρίσκεται ακόμη σε στάδιο «Άγριας Δύσης», καθώς δεν υπάρχει ομοφωνία σχετικά με το αν οι μηχανές είναι σε θέση να αισθανθούν πόνο.
Λόγω της αβεβαιότητας που χαρακτηρίζει τον τομέα, απηύθυνε έκκληση για προσοχή στον τρόπο με τον οποίο οι άνθρωποι συμπεριφέρονται και αλληλεπιδρούν με τα συστήματα ΑΙ.
Αποκάλυψε επίσης ότι συνεργάζεται με άλλους για τη θέσπιση δεοντολογικών προτύπων στον κλάδο, τα οποία θα υποχρέωναν τους ερευνητές ΑΙ να τηρούν συγκεκριμένους κανόνες, αντίστοιχους με εκείνους που ισχύουν για την έρευνα σε ανθρώπους ή ζώα.
Πηγή: ot.gr
