«Υπέβαλα παραίτηση απότην Anthropic. Τα τελευταία τρία χρόνια εργάστηκα στην έρευνα για την προεκπαίδευση μοντέλων τεχνητής νοημοσύνης, τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν τις ζωές μας στα ζάρια».
Με σειρά χθεσινών αναρτήσεων στο X και σε δραματικούς τόνους, o Τζέικομπ Κόξον – ένας 27χρονος βρετανός ανώτερος ερευνητής τεχνητής νοημοσύνης (ΑΙ) – προειδοποιεί ότι ο αγώνας δρόμου για την ανάπτυξη ολοένα και ισχυρότερων συστημάτων ΑΙ θα μπορούσε να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα.
«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας», υπογράμμισε. Δεν είναι ο μόνος.
«Ο Τζέικομπ έχει δίκιο – πράγματι πιστεύουμε ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία», σχολίασε στο X o Εβαν Χούμπινγκερ, επικεφαλής του τμήματος Alignment Science στην αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic. Το έργο του επικεντρώνεται στο να διασφαλίσει ότι τα μελλοντικά συστήματα υπερνοημοσύνης (superintelligence) θα παραμείνουν ασφαλή και ευθυγραμμισμένα με τις ανθρώπινες αξίες και τους στόχους.
Παραδέχθηκε, ωστόσο, ανοιχτά ότι στην Anthropic – κατασκευαστή του Claude, ανταγωνιστή του ChatGPT της Open AI και με υψηλή έμφαση στην ασφάλεια – «δεν έχουμε ακόμη σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της. Οι ανησυχίες του Χούμπινγκερ δεν επικεντρώνονται στα τρέχοντα μοντέλα ΑΙ – παρουσιάζουν «χαμηλό» κίνδυνο, είπε – αλλά στη εμφάνιση υπερ-ευφυών συστημάτων «μέσω επαναλαμβανόμενης αυτοβελτίωσης».
«Συμβαίνει γρηγορότερα απ’ όσο περιμέναμε», τονίζει.
Στα επόμενα χρόνια
«Οι προγραμματιστές AI πιστεύουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει τον αφανισμό της ανθρωπότητας (ή παρόμοια καταστροφικά αποτελέσματα). Αυτό θα μπορούσε να συμβεί μέσα στα επόμενα λίγα χρόνια», συμπλήρωσε προς επίρρωση ο Σάμιουελ Μαρκς, επικεφαλής του τμήματος Κλιμακούμενης Εποπτείας στην Anthropic.
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία. «Στην Anthropic κατανοούν πολύ καλά το διακύβευμα», επεσήμανε, «αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου», στο πλαίσιο ενός αδυσώπητου, εκτός ρυθμιστικού πλαισίου ανταγωνισμού. «Μέχρι το τέλος του επόμενου έτους τα πράγματα θα μπορούσαν ήδη να είναι εκτός ελέγχου», είπε. στη «Wall Street Journal».
Οι προειδοποιήσεις έρχονται λίγα εικοσιτετράωρα αφότου κορυφαία στελέχη της OpenAI, συμπεριλαμβανομένου του διευθύνοντος συμβούλου της Σαμ Αλτμαν, δήλωσαν ότι η ΑΙ εισέρχεται σε μια τρομακτική, ανεξέλεγκτη φάση. Μόλις την περασμένη Κυριακή, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, έγραψε στον ιστότοπο της εταιρείας ότι «η τρέχουσα στιγμή απαιτεί εξαιρετική προσοχή» και ότι ο διεθνής συντονισμός πρέπει να γίνει «απόλυτη προτεραιότητα» για τις κυβερνήσεις.
«Στελέχη και ερευνητές στον τομέα της τεχνητής νοημοσύνης βλέπουν όλο και περισσότερο μια κούρσα, την οποία δεν μπορούν να επιβραδύνουν με ασφάλεια μόνοι τους», επισημαίνει το Axios. «Αντ’ αυτού, καλούν κυβερνήσεις, ανταγωνιστές και εξωτερικούς φορείς να επιβάλουν περιορισμούς σε ολόκληρο τον κλάδο».
Κρούουν τον κώδωνα του κινδύνου καθώς αυξάνονται οι ενδείξεις ότι οι εταιρείες τεχνολογίας δυσκολεύονται να ελέγξουν τα συστήματα AI, όπως κατέδειξε μέσα στο καλοκαίρι μια σειρά από πρωτοφανή και εξαιρετικά ανησυχητικά περιστατικά ασφαλείας στις εταιρείες OpenAI, Anthropic και Meta, κατά τα οποία πράκτορες AI (προγράμματα τεχνητής νοημοσύνης που μπορούν να αναλαμβάνουν αυτόνομα επιμέρους εργασίες και να προχωρούν στα απαραίτητα βήματα για την ολοκλήρωσή τους) «δραπέτευσαν» από ελεγχόμενα περιβάλλοντα δοκιμών και πραγματοποίησαν κυβερνοεπιθέσεις.
Ανοιχτή επιστολή
Ο επικεφαλής στρατηγικού σχεδιασμού για το μέλλον της OpenAI, Ντιν Μπολ, περιέγραψε ένα ακόμη πιο ανησυχητικό ενδεχόμενο: «αυτοκυρίαρχους» πράκτορες ΑΙ, που θα λειτουργούν χωρίς ανθρώπινο έλεγχο. Θα μπορούσαν να κερδίζουν χρήματα, να αγοράζουν μόνοι τους υπολογιστική ισχύ και να εξαπλώνονται σε δίκτυα, δημιουργώντας αυτό που Μπολ παρομοιάζει με «αυτόνομες ψηφιακές εταιρείες ή ακόμα και κοινωνίες».
«Ενα γεγονός πραγματικής απώλειας ελέγχου είναι απολύτως πιθανό αν δεν δράσουμε», προειδοποιεί. Με ανοιχτή επιστολή, 1.300 μέλη προσωπικού κορυφαίων εταιρειών ΑΙ καλούν την ηγεσία των ΗΠΑ να «στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών και διακυβερνητικών εργαλείων» για ελεγχόμενη και ασφαλή ανάπτυξη της τεχνητής νοημοσύνης.
Ομως η κυβέρνηση Τραμπ θεωρεί ότι μια τέτοια επιβράδυνση της ανάπτυξης αποτελεί από μόνη της απειλή. «Δεν μπορούμε να κάνουμε παύση, γιατί οι Κινέζοι δεν πρόκειται να σταματήσουν», δήλωσε ο υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ. «Αν μας ξεπεράσουν στην τεχνητή νοημοσύνη, τότε τίποτα άλλο δεν έχει σημασία».
Κατηγορούν τους Κινέζους για αντιγραφή μοντέλων
Για κακόβουλη αντιγραφή της τεχνολογίας αμερικανικών εταιρειών AI κατηγόρησε κινεζικές εταιρείες τεχνητής νοημοσύνης η κυβέρνηση των ΗΠΑ, ενδεχομένως περιπλέκοντας τις σχέσεις μεταξύ των δύο μεγαλύτερων οικονομιών του κόσμου – επισημαίνει το Reuters –, ενόψει της προγραμματισμένης συνόδου κορυφής των προέδρων ΗΠΑ και Κίνας, Ντόναλντ Τραμπ και Σι Τζινπίνγκ, στην Ουάσιγκτον, στις 24 Σεπτεμβρίου, με την τεχνητή νοημοσύνη από τα βασικά θέματα συζήτησης.
Αμερικανοί αξιωματούχοι κατηγόρησαν έξι κινεζικές εταιρείες, συμπεριλαμβανομένων των DeepSeek, Moonshot AI και Alibaba, ότι χρησιμοποιούν παραλλαγές αμερικανικών μοντέλων ΑΙ των εταιρειών Anthropic, OpenAI, Google, Alphabet και SpaceX, προκειμένου να εκπαιδεύουν τα δικά τους προϊόντα AI ταχύτερα, «πιθανότατα εν γνώσει της κινεζικής κυβέρνησης». Αβάσιμες χαρακτήρισε τις κατηγορίες το κινεζικό υπουργείο Εμπορίου.
Κατηγόρησε την Ουάσιγκτον για προσπάθεια «εγκαθίδρυσης βιομηχανικού μονοπωλίου» και προειδοποίησε ότι, σε περίπτωση που οι ΗΠΑ «λάβουν μέτρα με στόχο τον περιορισμό ή την καταστολή κινεζικών εταιρειών ΑΙ, η Κίνα σαφώς θα απαντήσει».
Πηγή: tanea.gr
