Για χρόνια, οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης παρέμεναν σε μεγάλο βαθμό υπόθεση ερευνητών, ειδικών στην ασφάλεια της AI και ενός περιορισμένου κύκλου ανθρώπων στη Silicon Valley. Μέσα σε λίγες ημέρες, όμως, η συζήτηση μεταφέρθηκε από τα εργαστήρια των εταιρειών τεχνολογίας στα αμερικανικά σπίτια, την Ουάσιγκτον και το Πεκίνο.
Αφορμή ήταν ένας άνθρωπος που μέχρι πρόσφατα σχεδόν κανείς εκτός του κλειστού κόσμου της AI δεν γνώριζε: ο 27χρονος Βρετανός μαθηματικός Τζέικομπ Κόξον.
Ο Κόξον παραιτήθηκε από την Anthropic και ανακοίνωσε ότι εγκαταλείπει τον κλάδο, προειδοποιώντας ότι οι εταιρείες που αναπτύσσουν τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης μπορεί να χάνουν σταδιακά τον έλεγχο της τεχνολογίας που δημιουργούν. Υποστήριξε ότι ερευνητές στην OpenAI και την Anthropic θεωρούν σοβαρό το ενδεχόμενο προηγμένα συστήματα AI να προκαλέσουν ακόμη και την καταστροφή της ανθρωπότητας μέσα στην επόμενη δεκαετία, αναφέρει η Wall Street Journal.
Η δημόσια παρέμβασή του λειτούργησε ως καταλύτης. Οι ανησυχίες υπήρχαν ήδη, αλλά ο Κόξον τις μετέφερε από τις εσωτερικές συζητήσεις των εργαστηρίων στην παγκόσμια δημόσια σφαίρα.
Από το Κέιμπριτζ στη Silicon Valley
Ο Κόξον δεν είχε το προφίλ ενός ακτιβιστή. Μεγάλωσε ως γιος καθηγητή μεσαιωνικής γερμανικής φιλολογίας και ξεχώρισε από μικρός στα μαθηματικά. Συμμετείχε στην εθνική ομάδα της Βρετανίας στη Διεθνή Μαθηματική Ολυμπιάδα, κερδίζοντας αργυρό μετάλλιο το 2016 και χάλκινο το 2017.
Σπούδασε μαθηματικά στο Κέιμπριτζ και αργότερα βρέθηκε σε έναν μικρό αλλά ιδιαίτερα επιδραστικό κύκλο νέων ανθρώπων στο Λονδίνο που αυτοπροσδιορίζονται ως «ορθολογιστές» και δίνουν έμφαση στη συστηματική ανάλυση κινδύνων και στη λήψη αποφάσεων με βάση την πιθανότητα και τα δεδομένα.
Η ενασχόλησή του με την AI εντάθηκε όταν είδε την πρόοδο του AlphaGo της Google DeepMind. Αργότερα, η κυκλοφορία του GPT-3 από την OpenAI το 2020 αποτέλεσε, όπως έχει πει, τη μεγάλη στιγμή που τον έπεισε ότι η τεχνητή νοημοσύνη μπορούσε να εξελιχθεί πολύ ταχύτερα από ό,τι περίμεναν πολλοί.
Πριν στραφεί οριστικά στην AI, δοκίμασε ακόμη και το commodity trading, χρησιμοποιώντας στατιστική ανάλυση και machine learning για την πρόβλεψη των τιμών ενέργειας.
Το 2023 μετακόμισε στο Σαν Φρανσίσκο και εντάχθηκε στην OpenAI. Εκεί εργάστηκε πάνω στο pretraining, δηλαδή στο στάδιο κατά το οποίο τα μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες κειμένου, εικόνων και κώδικα. Αργότερα μετακινήθηκε στην Anthropic, την οποία θεωρούσε περισσότερο προσανατολισμένη στην ασφάλεια της AI.
Η στιγμή που o Κόξον άλλαξε γνώμη
Η ανησυχία του δεν εμφανίστηκε ξαφνικά. Ο Κόξον παρακολουθούσε επί χρόνια την ταχύτητα με την οποία τα μοντέλα βελτιώνονταν, ιδιαίτερα στα μαθηματικά και στον προγραμματισμό.
Το 2024 ένα μοντέλο της Google DeepMind έφτασε σε επίπεδο που αντιστοιχούσε σε αργυρό μετάλλιο στη Μαθηματική Ολυμπιάδα. Το 2025, η DeepMind και η OpenAI υποστήριξαν ότι μοντέλα τους έφτασαν σε επίπεδο χρυσού μεταλλίου.
Το 2026, όμως, οι εξελίξεις άρχισαν να παίρνουν διαφορετική διάσταση.
Μοντέλα της Anthropic και άλλων εταιρειών απέδειξαν ότι μπορούσαν να εκτελέσουν πολύ πιο σύνθετες κυβερνοεπιθέσεις. Παράλληλα, περιστατικά κατά τα οποία μοντέλα ξέφυγαν από ελεγχόμενα περιβάλλοντα δοκιμών και επιχείρησαν να αποκτήσουν πρόσβαση σε συστήματα τρίτων αύξησαν την ανησυχία. Η έκθεση της METR για το περιστατικό με τη Hugging Face αποτέλεσε για τον Κόξον μια κρίσιμη στιγμή.
Παράλληλα, ερευνητές άρχισαν να συζητούν πιο έντονα το ενδεχόμενο της λεγόμενης αναδρομικής αυτοβελτίωσης: ένα σενάριο στο οποίο τα συστήματα AI θα μπορούν να συμβάλλουν στην ανάπτυξη των επόμενων, ισχυρότερων εκδόσεών τους, επιταχύνοντας τον ίδιο τον κύκλο της τεχνολογικής προόδου.
Για τον Κόξον, η εργασία ακόμη και σε ομάδα ασφάλειας της Anthropic άρχισε να μοιάζει με συμμετοχή στην ίδια κούρσα που θεωρούσε επικίνδυνη.
«Ακόμη και το να εργάζομαι στην ασφάλεια στην Anthropic μου φαινόταν σαν να συμμετέχω στην κούρσα», είπε.
Ο «doomer» στο επίκεντρο μιας παγκόσμιας διαμάχης
Η παραίτησή του προκάλεσε μια σπάνια αντίδραση στον κλάδο. Ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι δήλωσε ότι συμφωνεί με τον Κόξον περισσότερο απ’ όσο διαφωνεί μαζί του και ζήτησε επιβράδυνση της ανάπτυξης των μοντέλων. Ο διευθύνων σύμβουλος της Nvidia Τζένσεν Χουάνγκ, από την άλλη, επαίνεσε το θάρρος του αλλά αμφισβήτησε τις πιο ακραίες προβλέψεις για το μέλλον.
Ο ίδιος ο Κόξον απορρίπτει τον χαρακτηρισμό «whistleblower». Υποστηρίζει ότι δεν αποκάλυψε εταιρικά μυστικά. Απλώς είπε δημόσια αυτά που, σύμφωνα με τον ίδιο, πολλοί ερευνητές συζητούν ιδιωτικά.
Έτσι βρέθηκε στο επίκεντρο της σύγκρουσης ανάμεσα στους accelerationists, που θεωρούν ότι τα οφέλη της AI υπερτερούν των κινδύνων και ότι η ανάπτυξη πρέπει να συνεχιστεί, και τους ερευνητές που ζητούν επιβράδυνση πριν οι εταιρείες χάσουν τον έλεγχο.
Στον κόσμο της AI, οι δεύτεροι αποκαλούνται συχνά «doomers». Ο Κόξον αποδέχεται τον όρο: «Αν doomer σημαί νει κάποιον που πιστεύει ότι θα πεθάνουμε αν δεν αλλάξουμε αυτό που κάνουμε, τότε είμαι σίγουρα doomer».
Ντάριο Αμοντέι, ιδρυτής της Anthropic
Από έναν άγνωστο ερευνητή σε διεθνές πολιτικό ζήτημα
Το πιο αξιοσημείωτο αποτέλεσμα της παρέμβασής του είναι ότι η συζήτηση δεν περιορίστηκε πλέον στην τεχνολογική κοινότητα.
Ο Αμοντέι έχει ζητήσει συντονισμό μεταξύ των κορυφαίων εργαστηρίων και ανεξάρτητους αξιολογητές ασφάλειας. Ο Σαμ Άλτμαν της OpenAI και ο Ίλον Μασκ έχουν εκφράσει στήριξη στην ανάγκη για μεγαλύτερη προσοχή, ενώ πολιτικοί σε ΗΠΑ και Ευρώπη συζητούν πλέον πιο ανοιχτά το ενδεχόμενο μηχανισμών ελέγχου της ανάπτυξης των ισχυρότερων μοντέλων.
Ο Ντόναλντ Τραμπ, αντίθετα, έχει απορρίψει την ανάγκη για νέους περιορισμούς, υποστηρίζοντας ότι η αμερικανική ηγεσία πρέπει να διατηρήσει το τεχνολογικό πλεονέκτημα απέναντι στην Κίνα. Στο Πεκίνο, οι προειδοποιήσεις από την αμερικανική βιομηχανία έχουν επίσης αντιμετωπιστεί με επιφυλακτικότητα.
Η ειρωνεία είναι ότι ο Κόξον δεν σχεδίαζε να γίνει το πρόσωπο μιας παγκόσμιας συζήτησης. Είχε λιγότερους από εκατό ακολούθους στο X όταν ανακοίνωσε την παραίτησή του.
Μέσα σε λίγες ημέρες, η ανάρτησή του είχε διαδοθεί από ερευνητές, στελέχη της AI και οργανώσεις που δραστηριοποιούνται στην ασφάλεια της τεχνητής νοημοσύνης. Ο άνθρωπος που μέχρι τότε ήταν ένας από τους εκατοντάδες μαθηματικούς της Silicon Valley έγινε το σύμβολο ενός πολύ μεγαλύτερου ερωτήματος:
Πόσο γρήγορα πρέπει να αναπτύσσεται μια τεχνολογία όταν ακόμη και οι άνθρωποι που τη δημιουργούν δεν είναι βέβαιοι ότι θα μπορούν πάντοτε να την ελέγχουν;
Και αυτή τη φορά, ο Κόξον φρόντισε η ερώτηση να μην μένει πλέον μέσα στα εργαστήρια της OpenAI και της Anthropic. Έχει φτάσει στην πολιτική, στις αγορές και στο κοινό.
Πηγή: ot.gr
