Ο κόσμος «ενδέχεται να μην έχει τον χρόνο» να προετοιμαστεί για τους κινδύνους ασφάλειας που θέτουν τα προηγμένα συστήματα Τεχνητής Νοημοσύνης (ΤΝ), σύμφωνα με μια κορυφαία προσωπικότητα του επιστημονικού ερευνητικού οργανισμού της βρετανικής κυβέρνησης.
Ο Ντέιβιντ Ντάλριμπλ, διευθυντής προγράμματος και ειδικός στην ασφάλεια της ΤΝ στον οργανισμό Aria, ισχυρίστηκε ότι οι άνθρωποι θα πρέπει να ανησυχούν για τις αυξανόμενες δυνατότητες της τεχνολογίας.
«Νομίζω ότι πρέπει να ανησυχούμε για συστήματα που
«Δεν αφορά κάποιο σενάριο επιστημονικής φαντασίας»
Ο Ντάλριμπλ δήλωσε ότι υπάρχει χάσμα κατανόησης μεταξύ του δημόσιου τομέα και των εταιρειών ΤΝ σχετικά με τη δύναμη των επικείμενων τεχνολογικών ανακαλύψεων. «Θα συμβούλευα ότι τα πράγματα κινούνται πολύ γρήγορα και ενδέχεται να μην έχουμε τον χρόνο να προηγηθούμε από πλευράς ασφάλειας», είπε. «Και δεν είναι επιστημονική φαντασία να προβλέψει κανείς ότι μέσα σε πέντε χρόνια οι περισσότερες οικονομικά πολύτιμες εργασίες θα εκτελούνται από μηχανές σε υψηλότερο επίπεδο ποιότητας και με χαμηλότερο κόστος από ό,τι από τους ανθρώπους».
Ο Ντάλριμπλ είπε ότι οι κυβερνήσεις δεν θα πρέπει να υποθέτουν πως τα προηγμένα συστήματα είναι αξιόπιστα. Ο οργανισμός Aria χρηματοδοτείται δημόσια αλλά είναι ανεξάρτητος από την κυβέρνηση και κατευθύνει ερευνητική χρηματοδότηση. Ο Ντάλριμπλ αναπτύσσει συστήματα για τη διασφάλιση της χρήσης της ΤΝ σε κρίσιμες υποδομές, όπως τα ενεργειακά δίκτυα. «Δεν μπορούμε να υποθέσουμε ότι αυτά τα συστήματα είναι αξιόπιστα. Η επιστήμη που θα το εξασφάλιζε απλώς δεν είναι πιθανό να υλοποιηθεί εγκαίρως, δεδομένης της οικονομικής πίεσης. Έτσι, το επόμενο καλύτερο πράγμα που μπορούμε να κάνουμε -και ίσως να προλάβουμε- είναι να ελέγξουμε και να μετριάσουμε τις αρνητικές συνέπειες», είπε.
Περιγράφοντας τις συνέπειες του να προηγείται η τεχνολογική πρόοδος της ασφάλειας ως «αποσταθεροποιήση της ασφάλειας και της οικονομίας», ο Ντάλριμπλ είπε ότι απαιτείται περισσότερη τεχνική δουλειά για την κατανόηση και τον έλεγχο των συμπεριφορών των προηγμένων συστημάτων ΤΝ. «Η πρόοδος μπορεί να παρουσιαστεί ως αποσταθεροποιητική και αυτό θα μπορούσε πράγματι να είναι καλό, κάτι που ελπίζουν πολλοί στα μεθόρια. Εγώ εργάζομαι για να πάνε τα πράγματα καλύτερα, αλλά ο κίνδυνος είναι πολύ υψηλός και ο ανθρώπινος πολιτισμός, σε γενικές γραμμές, υπνοβατεί μέσα σε αυτή τη μετάβαση».
Πειράματα αυτοαναπαραγωγής της Τεχνητής Νοημοσύνης
Τον Γενάρη, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI) της βρετανικής κυβέρνησης δήλωσε ότι οι δυνατότητες των προηγμένων μοντέλων ΤΝ «βελτιώνονται ραγδαία» σε όλους τους τομείς και ότι η απόδοση σε ορισμένους τομείς διπλασιάζεται κάθε οκτώ μήνες. Σύμφωνα με το ινστιτούτο, τα κορυφαία μοντέλα μπορούν πλέον να ολοκληρώνουν εργασίες επιπέδου μαθητευόμενου κατά μέσο όρο στο 50% των περιπτώσεων, από περίπου 10% πέρυσι. Το AISI διαπίστωσε επίσης ότι τα πιο προηγμένα συστήματα μπορούν να ολοκληρώνουν αυτόνομα εργασίες που θα απαιτούσαν πάνω από μία ώρα από έναν ανθρώπινο ειδικό.
Το ινστιτούτο δοκίμασε επίσης τα προηγμένα μοντέλα για αυτοαναπαραγωγή, ένα κρίσιμο ζήτημα ασφάλειας, καθώς περιλαμβάνει ένα σύστημα που διαδίδει αντίγραφα του εαυτού του σε άλλες συσκευές και γίνεται πιο δύσκολο να ελεγχθεί. Οι δοκιμές έδειξαν ότι δύο μοντέλα αιχμής πέτυχαν ποσοστά επιτυχίας πάνω από 60%. Ωστόσο, το AISI τόνισε ότι ένα χείριστο σενάριο είναι απίθανο σε καθημερινές συνθήκες, λέγοντας ότι οποιαδήποτε προσπάθεια αυτοαναπαραγωγής είναι «απίθανο να πετύχει στις πραγματικές συνθήκες».
Ο Ντάλριμπλ πιστεύει ότι τα συστήματα ΤΝ θα μπορούν να αυτοματοποιήσουν το ισοδύναμο μιας πλήρους ημέρας ερευνητικής και αναπτυξιακής εργασίας μέχρι τα τέλη του 2026, κάτι που θα «οδηγήσει σε περαιτέρω επιτάχυνση των δυνατοτήτων», επειδή η τεχνολογία θα μπορεί να αυτοβελτιώνεται στους μαθηματικούς και υπολογιστικούς τομείς της ανάπτυξης ΤΝ.
