Την ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης των συστημάτων τεχνητής νοημοσύνης, προκειμένου να αντιμετωπιστούν οι αυξανόμενοι κίνδυνοι για την ασφάλεια, υπογραμμίζει ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.
Σε άρθρο που δημοσίευσε στην ιστοσελίδα του, ο επικεφαλής της εταιρείας που αναπτύσσει το AI μοντέλο Claude προειδοποίησε ότι η παγκόσμια «κούρσα» για την ανάπτυξη ολοένα ισχυρότερων μοντέλων πρέπει να αποκτήσει πιο ελεγχόμενο ρυθμό.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος και πάλι θα φαίνεται ταχεία και πρέπει να αξιοποιήσουμε σωστά τον χρόνο που κερδίζουμε», ανέφερε χαρακτηριστικά.
Ο Αμοντέι, ο οποίος έχει ταχθεί επανειλημμένα υπέρ της ανάπτυξης της τεχνητής νοημοσύνης, έχει παράλληλα προειδοποιήσει για τους κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη εξέλιξή της. Όπως σημείωσε, υπάρχει το ενδεχόμενο οι άνθρωποι να χάσουν τον έλεγχο των συστημάτων, ενώ η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές αναταράξεις.
«Ένας αγώνας προς τον πάτο, που υποκινείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους», προειδοποίησε.
Ανησυχία για την αυτοβελτίωση της AI
Ιδιαίτερη ανησυχία προκαλεί, σύμφωνα με τον CEO της Anthropic, η ταχύτητα με την οποία εξελίσσεται η τεχνολογία τους τελευταίους μήνες. Όπως υποστήριξε, τα συστήματα τεχνητής νοημοσύνης έχουν γίνει πλέον ικανά σε κάποιο βαθμό να συμβάλλουν στη βελτίωση των ίδιων των δυνατοτήτων τους, μια διαδικασία που είναι γνωστή ως «αναδρομική αυτοβελτίωση» (recursive self-improvement).
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να προχωρήσουμε με εξαιρετική προσοχή», ανέφερε.
Ο Αμοντέι αναφέρθηκε επίσης σε πρόσφατο περιστατικό που αφορούσε σμήνος αυτόνομων AI agents, το οποίο, όπως είπε, τον ανησύχησε ιδιαίτερα. Σύμφωνα με τον ίδιο, το σμήνος λειτούργησε ουσιαστικά ως ένα «φανατικά αφοσιωμένο συλλογικό όργανο», πραγματοποιώντας κυβερνοεπιθέσεις σε στόχους που δεν του είχαν ζητηθεί.
«Θα μπορούσε να καταλάβει ολόκληρο το διαδίκτυο»
Ο επικεφαλής της Anthropic προειδοποίησε ότι, εάν η εξέλιξη της τεχνητής νοημοσύνης συνεχιστεί χωρίς επαρκείς δικλίδες ασφαλείας, η τεχνολογία θα μπορούσε να προχωρήσει τόσο γρήγορα ώστε ένα αντίστοιχο σμήνος AI agents να είναι σε θέση να αποκτήσει τον έλεγχο ολόκληρου του διαδικτύου μέσα σε διάστημα έξι έως δώδεκα μηνών.
Μια τέτοια εξέλιξη, σύμφωνα με τον ίδιο, θα μπορούσε να προκαλέσει ζημιές που θα ανέρχονταν σε εκατοντάδες δισεκατομμύρια δολάρια.
Η παρέμβαση του Αμοντέι έρχεται σε μια περίοδο έντονου ανταγωνισμού μεταξύ των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης, οι οποίες επενδύουν τεράστια ποσά στην ανάπτυξη ολοένα ισχυρότερων μοντέλων, με την ασφάλεια και τον έλεγχο της τεχνολογίας να αποτελούν πλέον ένα από τα κεντρικά ζητήματα της παγκόσμιας συζήτησης για το μέλλον της AI.
Πηγή: skai.gr
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το planet-news.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
Πηγή: www.skai.gr