Η ταχύτατη πρόοδος των πιο εξελιγμένων συστημάτων τεχνητής νοημοσύνης επαναφέρει στο προσκήνιο ένα από τα πιο κρίσιμα ερωτήματα της εποχής: μπορεί η AI να ξεφύγει από τον ανθρώπινο έλεγχο; Με αφορμή τις εξελίξεις στην Anthropic και τις ανησυχίες για την «αναδρομική αυτοβελτίωση» των μοντέλων ο Economist περιγράφει ένα μέλλον όπου οι μηχανές θα μπορούν ενδεχομένως να βελτιώνουν μόνες τους τις επόμενες εκδόσεις τους.
Η συζήτηση δεν είναι θεωρητική. Η Anthropic, μια από τις κορυφαίες εταιρείες του κλάδου, αναφέρει ότι το σύστημα Claude Code έχει ήδη καταστεί απαραίτητο για πολλούς προγραμματιστές, ενώ η ίδια η εταιρεία δηλώνει πως πάνω από τα τέσσερα πέμπτα του κώδικα που δημοσίευσε τον Μάιο γράφτηκαν από το Claude. Τα νέα μοντέλα δεν βελτιώνονται μόνο ποιοτικά, αλλά και ποσοτικά, καθώς μπορούν να ολοκληρώνουν εργασίες που παλαιότερα απαιτούσαν ώρες ή και μια ολόκληρη εργάσιμη ημέρα ενός ανθρώπου μηχανικού.
Το σενάριο της αυτοβελτίωσης
Στο επίκεντρο της ανησυχίας βρίσκεται η λεγόμενη «recursive self-improvement» ή RSI, δηλαδή η δυνατότητα ενός μοντέλου να δημιουργεί την επόμενη, πιο ικανή εκδοχή του χωρίς ανθρώπινη παρέμβαση. Αν αυτό επιτευχθεί, η εξέλιξη της AI θα μπορούσε να περάσει σε έναν κλειστό κύκλο διαρκούς βελτίωσης, όπου κάθε νέα γενιά μοντέλων θα παράγει την επόμενη με μεγαλύτερη ταχύτητα και ικανότητα.
Ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, εκτιμά ότι υπάρχει 60% πιθανότητα μέχρι το τέλος του 2028 ένα σύστημα τεχνητής νοημοσύνης να μπορεί να δημιουργεί τον διάδοχό του χωρίς ανθρώπινη συμμετοχή. Μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, δεν είναι πλέον σενάριο επιστημονικής φαντασίας, αλλά μια πιθανή τάση που μπορεί να προκύψει από τη ραγδαία πρόοδο των μεγάλων γλωσσικών μοντέλων.
Οι φόβοι και τα όρια
Οι ανησυχίες που γεννά αυτό το σενάριο είναι προφανείς. Αν η τεχνητή νοημοσύνη φτάσει σε επίπεδο να βελτιώνει διαρκώς τον εαυτό της, τότε δεν αποκλείεται να προκύψει μια μορφή υπερνοημοσύνης με ταχύτατη «έκρηξη» δυνατοτήτων, ένα φαινόμενο που ορισμένοι περιγράφουν ως «fast take-off». Σε αυτή την εκδοχή, η ανθρωπότητα ενδέχεται να χάσει τον έλεγχο πριν προλάβει να κατανοήσει πλήρως τι συμβαίνει.
Ωστόσο, το άρθρο υπογραμμίζει ότι η πορεία προς αυτή την κατεύθυνση δεν θα είναι ούτε γραμμική ούτε απεριόριστη. Η δημιουργία ενός μοντέλου ικανού για RSI απαιτεί την αυτοματοποίηση μιας αλυσίδας εξειδικευμένων εργασιών που σήμερα εκτελούνται από ανθρώπους, όπως η ανάλυση δεδομένων, η μηχανική συστημάτων, η ανεύρεση νέων πηγών εκπαίδευσης και οι έλεγχοι ασφάλειας και ευθυγράμμισης των μοντέλων.
Η «οδοντωτή» πρόοδος
Η εξέλιξη αυτή δεν είναι ομοιόμορφη. Κάποιες εργασίες αυτοματοποιούνται πιο εύκολα από άλλες, ενώ η πρόοδος της AI συχνά κινείται με «οδοντωτό» τρόπο, δηλαδή με άλματα σε ορισμένα πεδία και καθυστερήσεις σε άλλα. Χαρακτηριστικό παράδειγμα αποτελεί η Google DeepMind, της οποίας το μοντέλο AlphaEvolve κατάφερε να προτείνει βελτιώσεις στη διαχείριση υπολογιστικών φορτίων στα data centers της Google και να επιταχύνει την εκπαίδευση του Gemini.
Αυτό σημαίνει ότι, ακόμη κι αν δεν φτάσουμε άμεσα σε πλήρη RSI, η επιτάχυνση της έρευνας και ανάπτυξης από τα ίδια τα συστήματα AI μπορεί να έχει ήδη ισχυρότατο αποτέλεσμα. Η έκθεση του CSET εκτιμά ότι, όσο αυξάνεται το ποσοστό της έρευνας AI που εκτελείται από AI συστήματα, τόσο η παραγωγικότητα μπορεί να πολλαπλασιάζεται κατά 10, 100 ή και 1.000 φορές σε σχέση με το ανθρώπινο μοντέλο ανάπτυξης.
Η παραγωγικότητα της AI
Το άρθρο αναδεικνύει και πιο απτά παραδείγματα της τάσης αυτής. Ο ερευνητής Αντρέι Καρπάθι εργάστηκε με έναν AI agent για να μειώσει δραστικά τον χρόνο εκπαίδευσης ενός μικρού γλωσσικού μοντέλου, χωρίς ο ίδιος να παρεμβαίνει σε καμία γραμμή κώδικα. Το αποτέλεσμα ήταν αισθητή βελτίωση της αποδοτικότητας, με το σύστημα να εντοπίζει τεχνικές λεπτομέρειες που ο άνθρωπος είχε παραλείψει.
Αυτού του είδους οι βελτιώσεις δείχνουν ότι η AI μπορεί ήδη να λειτουργήσει ως επιταχυντής στην παραγωγική διαδικασία της ίδιας της AI ανάπτυξης. Παράλληλα, όμως, εντείνουν τον προβληματισμό για το πόσο οι άνθρωποι θα παραμείνουν στο κέντρο του ελέγχου όταν οι βασικές διαδικασίες σχεδίασης, δοκιμής και βελτιστοποίησης μεταφέρονται σταδιακά στις μηχανές.
Τα φυσικά και πρακτικά εμπόδια
Παρά τον ενθουσιασμό και τους φόβους, η πλήρης αυτοβελτίωση των μοντέλων συναντά ακόμη σημαντικά εμπόδια. Το κυριότερο είναι η υπολογιστική ισχύς, καθώς τα νεότερα μοντέλα εξακολουθούν να χρειάζονται όλο και περισσότερους πόρους για να εκπαιδευτούν. Επίσης, η περιορισμένη χωρητικότητα των data centers αναγκάζει τις εταιρείες να κατανείμουν προσεκτικά τους πόρους ανάμεσα σε εμπορική χρήση, εκπαίδευση νέων μοντέλων και ερευνητικές δοκιμές.
Ένα ακόμη ζήτημα είναι τα δεδομένα εκπαίδευσης. Σε ορισμένες εφαρμογές, όπως ο κώδικας ή τα μαθηματικά, τα συνθετικά δεδομένα μπορούν να λειτουργήσουν καλά, επειδή τα αποτελέσματα είναι επαληθεύσιμα. Αντίθετα, σε πεδία όπως η δημιουργική γραφή ή η νομική κρίση, η εξάρτηση από τα πραγματικά δεδομένα μπορεί να επιβραδύνει την εξέλιξη. Αυτό σημαίνει ότι, τουλάχιστον προς το παρόν, η AI δεν κινείται ανεμπόδιστα προς μια πλήρως αυτόνομη πορεία.
Το ερώτημα της επόμενης μέρας
Το βασικό ερώτημα που προκύπτει δεν είναι μόνο αν η AI θα ξεπεράσει ποτέ τον ανθρώπινο έλεγχο, αλλά και ποιος θα διαμορφώσει τους κανόνες αυτής της μετάβασης. Η Anthropic και άλλοι παίκτες του κλάδου πλέον ζητούν την πιθανότητα προσωρινής επιβράδυνσης της προόδου στα πιο εξελιγμένα μοντέλα, αναγνωρίζοντας ότι οι κίνδυνοι αυξάνονται μαζί με τις δυνατότητές τους.
Η εικόνα που σχηματίζεται είναι διττή: από τη μία πλευρά, μια τεχνολογία που υπόσχεται τεράστια αύξηση παραγωγικότητας και επιστημονικής προόδου· από την άλλη, ένας τομέας όπου η ταχύτητα εξέλιξης μπορεί να ξεπεράσει τη δυνατότητα ανθρώπινου ελέγχου. Το αν η πορεία αυτή θα οδηγήσει σε πρόοδο ή σε ρίσκο εξαρτάται πλέον όχι μόνο από τους αλγόριθμους, αλλά και από τις επιλογές που θα γίνουν σήμερα, καταλήγει ο Economist.
Πηγή: ot.gr
