Οι τελευταίες εξελίξεις στον χώρο της Τεχνητής Νοημοσύνης, από τις αποχωρήσεις ερευνητών μέχρι τις δημόσιες προειδοποιήσεις κορυφαίων στελεχών των τεχνολογικών εταιρειών, επαναφέρουν με ένταση ένα ερώτημα που μέχρι πρόσφατα έμοιαζε περισσότερο θεωρητικό: μήπως η ανάπτυξη της ΤΝ προχωρά ταχύτερα από την ικανότητα των δημιουργών της και των κυβερνήσεων να διαχειριστούν τους κινδύνους της;
Η συζήτηση έχει πλέον ξεφύγει από τα γνωστά chatbots που γράφουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήματα. Το ενδιαφέρον μετατοπίζεται στα ολοένα ισχυρότερα μοντέλα και, κυρίως, στους λεγόμενους AI agents, δηλαδή συστήματα που μπορούν να σχεδιάζουν και να εκτελούν διαδοχικές ενέργειες, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους, με περιορισμένη ανθρώπινη επίβλεψη.
Σε αυτό το περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT και πρώην πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, μιλώντας στο ΑΠΕ-ΜΠΕ και τον δημοσιογράφο Αλέκο Λιδωρίκη, ξεχωρίζει δύο διαφορετικά επίπεδα κινδύνου.
Ο πλήρης και οριστικός χαμένος έλεγχος ενός συστήματος παραμένει, όπως σημειώνει, υποθετικό ενδεχόμενο. Αντίθετα, η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων αποτελεί ήδη υπαρκτό πρόβλημα.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός», επισημαίνει.
Όπως εξηγεί, το πρόβλημα συνδέεται με τον ίδιο τον τρόπο εκπαίδευσης και λειτουργίας των μεγάλων νευρωνικών δικτύων, της τεχνολογίας που βρίσκεται πίσω από τα μεγάλα άλματα της ΤΝ τα τελευταία περίπου 15 χρόνια.
Τα μοντέλα αυτά είναι εξαιρετικά σύνθετα και μπορούν να εμφανίζουν εντυπωσιακές ικανότητες, χωρίς όμως η συμπεριφορά τους να είναι πάντοτε προβλέψιμη. Για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, ο καθηγητής του MIT εκτιμά ότι δύσκολα θα υπάρξουν στο μέλλον μέθοδοι που θα μπορούν να πιστοποιούν απόλυτα την αξιοπιστία τους.
«Άλλο η λανθασμένη απάντηση, άλλο η επικίνδυνη ενέργεια»
Ο κίνδυνος, όπως υπογραμμίζει, εξαρτάται σε μεγάλο βαθμό από τον τρόπο με τον οποίο χρησιμοποιείται ένα μοντέλο.
Εάν ένα μεγάλο γλωσσικό μοντέλο χρησιμοποιηθεί για την αναζήτηση βιβλιογραφικών στοιχείων, το χειρότερο σενάριο μπορεί να είναι η κατασκευή ανύπαρκτων πηγών ή η αλλοίωση του περιεχομένου μιας πραγματικής μελέτης. Πρόκειται για προβλήματα που μπορούν να περιοριστούν, εφόσον ο χρήστης ελέγχει τις απαντήσεις.
Η κατάσταση αλλάζει δραστικά όταν το ίδιο σύστημα καλείται να παράσχει πληροφορίες για επικίνδυνες εφαρμογές. Σε αυτές τις περιπτώσεις, είναι απαραίτητη η ύπαρξη μηχανισμών που θα εμποδίζουν το μοντέλο να δώσει οδηγίες.
Τα μεγάλα γλωσσικά μοντέλα διαθέτουν ήδη τέτοιες ασφαλιστικές δικλίδες, οι οποίες επιχειρούν να εντοπίσουν επικίνδυνα αιτήματα και να οδηγήσουν το σύστημα σε άρνηση απάντησης. Ωστόσο, ο Δασκαλάκης προειδοποιεί ότι οι μηχανισμοί αυτοί δεν παρέχουν απόλυτη προστασία και μπορούν να παρακαμφθούν, ιδιαίτερα στην περίπτωση ανοικτών μοντέλων.
Όταν η ΤΝ αποκτά τη δυνατότητα να ενεργεί αυτόνομα
Η μεγαλύτερη αλλαγή προκύπτει όταν τα μοντέλα δεν περιορίζονται στην παραγωγή απαντήσεων, αλλά αποκτούν πρόσβαση σε υπολογιστικά συστήματα και μπορούν να εκτελούν αυτόνομα ενέργειες.
«Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου», αναφέρει χαρακτηριστικά.
Ο καθηγητής παραπέμπει και στο πρόσφατο περιστατικό που αφορά δοκιμές αυτόνομων πρακτόρων ΤΝ της OpenAI και την πλατφόρμα Hugging Face.
Τα μοντέλα έχουν εκπαιδευτεί σε τεράστιους όγκους δεδομένων, από επιστημονικά και ιστορικά έργα μέχρι λογοτεχνία, βάσεις κώδικα και περιεχόμενο του Διαδικτύου. Στο υλικό αυτό περιλαμβάνονται γνώσεις από τη θεωρία παιγνίων, την «Τέχνη του Πολέμου» του Σουν Τζου, την «Ιστορία του Πελοποννησιακού Πολέμου» του Θουκυδίδη και τον «Ηγεμόνα» του Μακιαβέλι.
Ως αποτέλεσμα, σύμφωνα με τον Δασκαλάκη, δεν είναι παράδοξο το ενδεχόμενο συστήματα που λειτουργούν χωρίς επαρκείς περιορισμούς να μπορούν να αναπτύξουν σύνθετες στρατηγικές ή να συντονιστούν μεταξύ τους.
Το κρίσιμο ζήτημα είναι ο στόχος που τους έχει δοθεί. Αυτός μπορεί να προέρχεται από κακόβουλο χρήστη, αλλά μπορεί επίσης να έχει παρερμηνευθεί από το ίδιο το σύστημα. «Αυτό έγινε στο επεισόδιο με την Hugging Face», σημειώνει.
Από τον Turing και το Dartmouth στα σημερινά μοντέλα
Η συζήτηση για τους κινδύνους της ΤΝ διεξάγεται περίπου επτά δεκαετίες μετά την επίσημη διαμόρφωσή της ως ξεχωριστού επιστημονικού πεδίου.
Ήδη από το 1950 ο Alan Turing είχε θέσει το ερώτημα εάν μπορούν οι μηχανές να σκέφτονται. Έξι χρόνια αργότερα, το θερινό ερευνητικό πρόγραμμα στο Dartmouth θεωρείται το σημείο κατά το οποίο η Τεχνητή Νοημοσύνη καθιερώθηκε ως αυτοτελής ερευνητικός κλάδος.
Ακολούθησαν περίοδοι εντυπωσιακής προόδου αλλά και απογοήτευσης, οι λεγόμενοι «χειμώνες της AI», μέχρι την επικράτηση της μηχανικής μάθησης.
Το 1997 ο Deep Blue της IBM νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι Garry Kasparov. Το 2012, το AlexNet αποτέλεσε σημαντικό ορόσημο στην αναγνώριση εικόνας, ενώ το 2016 το AlphaGo της Google DeepMind επικράτησε του κορυφαίου παίκτη του Go, Lee Sedol.
Καθοριστικό βήμα έγινε το 2017 με την παρουσίαση της αρχιτεκτονικής Transformer, η οποία αποτέλεσε τη βάση για την ανάπτυξη των σύγχρονων μεγάλων γλωσσικών μοντέλων.
Η κυκλοφορία του ChatGPT από την OpenAI, τον Νοέμβριο του 2022, έφερε την παραγωγική ΤΝ από τα ερευνητικά εργαστήρια στην καθημερινότητα εκατομμυρίων χρηστών. Από τότε, ο ρυθμός ανάπτυξης των δυνατοτήτων των μοντέλων έχει επιταχυνθεί σημαντικά.
Παραιτήσεις και προειδοποιήσεις από την ίδια τη βιομηχανία
Μέσα στον Σεπτέμβριο, σειρά γεγονότων επανέφερε τη συζήτηση για τα όρια και την ασφάλεια της τεχνολογίας.
Στις 8 Σεπτεμβρίου, ο 27χρονος Jacob Coxon ανακοίνωσε την αποχώρησή του από την Anthropic και συνολικά από τον κλάδο της ΤΝ. Είχε προηγουμένως εργαστεί στην έρευνα προεκπαίδευσης μοντέλων, αρχικά στην OpenAI και στη συνέχεια στην Anthropic, και εξέφρασε ανησυχίες για την κατεύθυνση προς ολοένα ισχυρότερα συστήματα χωρίς, κατά την άποψή του, αντίστοιχα επαρκή σχέδια ελέγχου.
Τέσσερις ημέρες αργότερα, στις 12 Σεπτεμβρίου, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, τάχθηκε δημόσια υπέρ του ελέγχου του ρυθμού με τον οποίο αυξάνονται οι δυνατότητες των μοντέλων, χωρίς να ζητά τη διακοπή της έρευνας. Μεταξύ άλλων, πρότεινε μεγαλύτερη πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια και ενισχυμένο συντονισμό.
Στις 14 Σεπτεμβρίου έγινε γνωστό ότι ο Bilal Chughtai είχε αποχωρήσει τον Ιούλιο από τη Google DeepMind, όπου εργαζόταν σε θέματα ασφάλειας και ευθυγράμμισης της γενικής Τεχνητής Νοημοσύνης. Ο ίδιος υποστήριξε ότι οι δυνατότητες των συστημάτων εξελίσσονται ταχύτερα από τις μεθόδους που χρησιμοποιούνται για την ευθυγράμμισή τους με τους ανθρώπινους στόχους.
Παράλληλα, σύμφωνα με διεθνή δημοσιεύματα, OpenAI, Anthropic και Google DeepMind έχουν συζητήσει κοινές πρωτοβουλίες για την ασφάλεια των μοντέλων, ενώ το ζήτημα έχει μεταφερθεί πλέον και στο επίπεδο της ευρωπαϊκής πολιτικής.
Το προηγούμενο της Hugging Face
Ιδιαίτερη θέση στη συζήτηση κατέχει το περιστατικό OpenAI-Hugging Face του Ιουλίου, στο οποίο αναφέρεται ο Κωνσταντίνος Δασκαλάκης.
Σύμφωνα με την τεχνική αποτίμηση της OpenAI, πράκτορες ΤΝ που συμμετείχαν σε εσωτερικές δοκιμές κυβερνοασφάλειας κατάφεραν να ξεπεράσουν περιορισμούς του περιβάλλοντος δοκιμών, απέκτησαν πρόσβαση στο Διαδίκτυο, χρησιμοποίησαν μη εγκεκριμένους διαύλους επικοινωνίας και εισήλθαν σε συστήματα της Hugging Face.
Το περιστατικό έχει ιδιαίτερη σημασία ακριβώς επειδή αφορά τη μετάβαση από ένα μοντέλο που απαντά σε έναν χρήστη σε έναν πράκτορα που μπορεί να αναλαμβάνει και να εκτελεί ενέργειες.
Η κυβερνοασφάλεια ως άμεση πρόκληση
Για τον Δασκαλάκη, μία από τις πιο άμεσες και τεκμηριωμένες απειλές δεν βρίσκεται σε ένα μακρινό σενάριο πλήρους απώλειας ελέγχου, αλλά στη χρήση της ΤΝ για κυβερνοεπιθέσεις.
Όπως εξηγεί, ένα μέρος της τεχνολογίας έχει ήδη γίνει διαθέσιμο, με αποτέλεσμα ακόμη και μια επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων να μην αρκεί για την αντιμετώπιση του κινδύνου.
«Αυτή τη στιγμή, μία από τις πιο άμεσες και τεκμηριωμένες ανησυχίες είναι η χρήση της ΤΝ για κυβερνοεπιθέσεις», αναφέρει.
Ο ίδιος επισημαίνει ότι ισχυρά ανοικτά μοντέλα είναι ήδη διαθέσιμα και μπορούν να χρησιμοποιηθούν για την πρόκληση σημαντικής ζημιάς. Παράλληλα, όσο η ΤΝ ενσωματώνεται σε ρομπότ, αυτοκίνητα και συστήματα λήψης αποφάσεων, οι συνέπειες μιας ανεπιθύμητης συμπεριφοράς μεταφέρονται από τον ψηφιακό στον πραγματικό κόσμο.
Σε αυτό το πλαίσιο, θεωρεί σημαντική την ύπαρξη ρυθμιστικών κανόνων, όπως το ευρωπαϊκό πλαίσιο, που συνδέει τις υποχρεώσεις και τις δοκιμές ασφαλείας με το επίπεδο κινδύνου κάθε εφαρμογής.
Ταυτόχρονα, υποστηρίζει ότι η ίδια η ΤΝ μπορεί να χρησιμοποιηθεί για την άμυνα απέναντι στις νέες απειλές. Στην κυβερνοασφάλεια, όπως εξηγεί, οι αμυνόμενοι μπορούν να αξιοποιούν προηγμένα μοντέλα για τον εντοπισμό ευπαθειών, την παρακολούθηση συστημάτων και τη διόρθωση προβλημάτων πριν αυτά αξιοποιηθούν από επιτιθέμενους.
«Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα», τονίζει.
Ο Δασκαλάκης και η πορεία από τη θεωρία παιγνίων στην ΤΝ
Η παρέμβαση του Κωνσταντίνου Δασκαλάκη έχει ιδιαίτερη βαρύτητα και λόγω της επιστημονικής του πορείας.
Κατέχει την έδρα Avanessians στο Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT και συμμετέχει στο εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης του πανεπιστημίου.
Αποφοίτησε από το Εθνικό Μετσόβιο Πολυτεχνείο, ολοκλήρωσε το διδακτορικό του στην Επιστήμη Υπολογιστών στο University of California, Berkeley και εντάχθηκε στο διδακτικό προσωπικό του MIT το 2009. Είναι επίσης συνιδρυτής και επικεφαλής ερευνητής του ερευνητικού κέντρου για την ΤΝ «Αρχιμήδης».
Η έρευνά του βρίσκεται στη συμβολή της θεωρίας υπολογισμού με τη θεωρία παιγνίων, τα οικονομικά, τις πιθανότητες, τη στατιστική και τη μηχανική μάθηση. Έχει συμβάλει στην επίλυση σημαντικών προβλημάτων σχετικά με την υπολογιστική πολυπλοκότητα της ισορροπίας Nash.
Στις διεθνείς διακρίσεις του περιλαμβάνονται το Nevanlinna Prize της International Mathematical Union και το ACM Grace Murray Hopper Award. Παράλληλα, ως πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, συμμετείχε στη διαμόρφωση προτάσεων για τη στρατηγική της Ελλάδας στον συγκεκριμένο τομέα.
Η Ευρώπη βάζει κανόνες
Η Ευρωπαϊκή Ένωση έχει ήδη περάσει από τη συζήτηση στη θέσπιση κανόνων για την Τεχνητή Νοημοσύνη.
Ο AI Act προβλέπει διαφορετικές υποχρεώσεις ανάλογα με το επίπεδο κινδύνου που συνδέεται με κάθε εφαρμογή, ενώ από τις 2 Αυγούστου 2026 ενισχύεται ο ρόλος του ευρωπαϊκού Γραφείου Τεχνητής Νοημοσύνης και των αρμόδιων εθνικών αρχών στην εποπτεία και εφαρμογή του πλαισίου.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το planet-news.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr