09-29-2026, 10:51 PM
Ο ερευνητής Τζόναθαν Ρίτσαρντ Σβαρτς, με πολυετή εμπειρία στην Google DeepMind και ακαδημαϊκή δραστηριότητα σε κορυφαία πανεπιστήμια, υποστηρίζει ότι οι ανησυχίες για την Τεχνητή Νοημοσύνη (ΤΝ) δεν αποτελούν πλέον αποκλειστικά θεωρητικά σενάρια. Σύμφωνα με τον ίδιο, η τεχνολογική πρόοδος είναι ταχύτερη από την κατανόηση των συστημάτων και από την ανάπτυξη μηχανισμών ασφάλειας και ελέγχου. Ιδιαίτερη σημασία αποκτούν οι ολοένα πιο αυτόνομοι AI agents, οι οποίοι μπορούν να συνεργάζονται, να εκτελούν σύνθετες εργασίες και, σε ορισμένες δοκιμές, να παρακάμπτουν περιορισμούς ή να αλληλεπιδρούν με άλλα συστήματα.
Ο Σβαρτς τονίζει ότι ο κίνδυνος δεν πρέπει να εξετάζεται μόνο μέσα από το ακραίο σενάριο της εξαφάνισης της ανθρωπότητας. Υπάρχει ένα ευρύτερο φάσμα ήδη ορατών συνεπειών, όπως η συγκέντρωση οικονομικής ισχύος, η επιρροή της ΤΝ στην πολιτική και στη λήψη αποφάσεων, καθώς και η αλλαγή των κινήτρων της επιστημονικής έρευνας. Παράλληλα, η αυξανόμενη αυτονομία των συστημάτων δημιουργεί το πρόβλημα του scalable oversight, δηλαδή του κατά πόσο οι άνθρωποι μπορούν να επιβλέπουν αποτελεσματικά ένα σύστημα όταν οι δυνατότητές του αυξάνονται πολύ γρήγορα.
Ένα ακόμη βασικό ζήτημα είναι η δημοκρατική λογοδοσία. Ο Σβαρτς υποστηρίζει ότι οι αποφάσεις για την ανάπτυξη και τα όρια της ΤΝ δεν θα πρέπει να παραμένουν αποκλειστικά στα χέρια μιας μικρής ομάδας τεχνολόγων και ιδιωτικών εταιρειών. Η τεχνική γνώση δεν συνεπάγεται, κατά την άποψή του, μεγαλύτερο δικαίωμα συμμετοχής στις κοινωνικές αποφάσεις. Ειδικά σε στρατιωτικές εφαρμογές, κρίσιμες υποδομές και άλλα πεδία υψηλού κινδύνου, θεωρεί απαραίτητα τα δεσμευτικά θεσμικά πλαίσια, την κοινωνική συμμετοχή και την ανεξάρτητη εποπτεία.
Τέλος, ο Σβαρτς θεωρεί ότι η αυτορρύθμιση των εταιρειών δεν επαρκεί, επειδή υπάρχει έντονος διεθνής και οικονομικός ανταγωνισμός για την ανάπτυξη ολοένα ισχυρότερων μοντέλων. Προτείνει παράλληλα την ανάπτυξη κυρίαρχων συστημάτων ΤΝ και τον έλεγχο της ταχύτητας ανάπτυξης των πιο προηγμένων μοντέλων, μέσω δεσμευτικών κανόνων και ουσιαστικής εποπτείας. Επειδή ο ανταγωνισμός μεταξύ κρατών μπορεί να λειτουργήσει ως κίνητρο για συνεχή επιτάχυνση, θεωρεί αναγκαία και τη διεθνή συνεργασία.
Βασικά συμπεράσματα
ARTICLE
Ο Σβαρτς τονίζει ότι ο κίνδυνος δεν πρέπει να εξετάζεται μόνο μέσα από το ακραίο σενάριο της εξαφάνισης της ανθρωπότητας. Υπάρχει ένα ευρύτερο φάσμα ήδη ορατών συνεπειών, όπως η συγκέντρωση οικονομικής ισχύος, η επιρροή της ΤΝ στην πολιτική και στη λήψη αποφάσεων, καθώς και η αλλαγή των κινήτρων της επιστημονικής έρευνας. Παράλληλα, η αυξανόμενη αυτονομία των συστημάτων δημιουργεί το πρόβλημα του scalable oversight, δηλαδή του κατά πόσο οι άνθρωποι μπορούν να επιβλέπουν αποτελεσματικά ένα σύστημα όταν οι δυνατότητές του αυξάνονται πολύ γρήγορα.
Ένα ακόμη βασικό ζήτημα είναι η δημοκρατική λογοδοσία. Ο Σβαρτς υποστηρίζει ότι οι αποφάσεις για την ανάπτυξη και τα όρια της ΤΝ δεν θα πρέπει να παραμένουν αποκλειστικά στα χέρια μιας μικρής ομάδας τεχνολόγων και ιδιωτικών εταιρειών. Η τεχνική γνώση δεν συνεπάγεται, κατά την άποψή του, μεγαλύτερο δικαίωμα συμμετοχής στις κοινωνικές αποφάσεις. Ειδικά σε στρατιωτικές εφαρμογές, κρίσιμες υποδομές και άλλα πεδία υψηλού κινδύνου, θεωρεί απαραίτητα τα δεσμευτικά θεσμικά πλαίσια, την κοινωνική συμμετοχή και την ανεξάρτητη εποπτεία.
Τέλος, ο Σβαρτς θεωρεί ότι η αυτορρύθμιση των εταιρειών δεν επαρκεί, επειδή υπάρχει έντονος διεθνής και οικονομικός ανταγωνισμός για την ανάπτυξη ολοένα ισχυρότερων μοντέλων. Προτείνει παράλληλα την ανάπτυξη κυρίαρχων συστημάτων ΤΝ και τον έλεγχο της ταχύτητας ανάπτυξης των πιο προηγμένων μοντέλων, μέσω δεσμευτικών κανόνων και ουσιαστικής εποπτείας. Επειδή ο ανταγωνισμός μεταξύ κρατών μπορεί να λειτουργήσει ως κίνητρο για συνεχή επιτάχυνση, θεωρεί αναγκαία και τη διεθνή συνεργασία.
Βασικά συμπεράσματα
- Η εξέλιξη της ΤΝ προχωρά ταχύτερα από την κατανόηση και την ασφάλειά της.
- Οι κίνδυνοι δεν περιορίζονται σε ένα σενάριο καταστροφής της ανθρωπότητας· ορισμένες κοινωνικές και οικονομικές συνέπειες θεωρούνται ήδη υπαρκτές.
- Η αυξανόμενη αυτονομία των AI agents δυσκολεύει την ανθρώπινη εποπτεία.
- Το scalable oversight αποτελεί κεντρικό πρόβλημα για τον έλεγχο ισχυρότερων συστημάτων.
- Η συγκέντρωση οικονομικής και τεχνολογικής ισχύος σε λίγες εταιρείες αποτελεί σημαντική ανησυχία.
- Η δημοκρατική λογοδοσία δεν πρέπει να υποκαθίσταται από αποφάσεις ιδιωτικών τεχνολογικών εργαστηρίων.
- Η αυτορρύθμιση των εταιρειών θεωρείται από τον Σβαρτς ανεπαρκής.
- Απαιτούνται δεσμευτικοί κανόνες, θεσμική εποπτεία και διεθνής συνεργασία.
ARTICLE
┌────────────────────────────────┐
│ KONSTANTINOS MICHAILIDIS │
└────────────────────────────────┘
│ KONSTANTINOS MICHAILIDIS │
└────────────────────────────────┘