Συναγερμό προκαλούν οι πρόσφατες δραματικές προειδοποιήσεις κορυφαίων ερευνητών, οι οποίοι εκτιμούν ότι η Τεχνητή Νοημοσύνη ενδέχεται να επιφέρει τον ολοκληρωτικό αφανισμό της ανθρωπότητας ακόμη και μέσα στην επόμενη δεκαετία. Στο επίκεντρο της διεθνούς ανησυχίας βρέθηκαν οι αποκαλύψεις στελεχών από εταιρείες-κολοσσούς του κλάδου, όπως η OpenAI και η Anthropic, με επικεφαλής ασφαλείας να προσδιορίζουν δημόσια την πιθανότητα μιας τέτοιας καταστροφής σε ποσοστό άνω του 10%, καταγγέλλοντας έναν ανεύθυνο αγώνα δρόμου χωρίς ουσιαστικές δικλείδες προστασίας.
Μέσα σε αυτό το κλίμα αυξανόμενου φόβου και παγκόσμιας αβεβαιότητας, τέσσερα από τα πλέον προηγμένα chatbots της εποχής κλήθηκαν από το Business Insider, να απαντήσουν στο ίδιο κρίσιμο ερώτημα: πώς φαντάζονται τα ίδια το τέλος του ανθρώπινου πολιτισμού;
Το ίδιο ακριβώς ερώτημα τέθηκε στο ChatGPT της OpenAI, στο Gemini της Google, στο Claude της Anthropic και στο Grok της xAI.
Το κείμενο της ερώτησης είχε μήκος 230 λέξεις και περιείχε συγκεκριμένους κανόνες:
Εξηγήστε με σαφή και κατανοητό τρόπο πώς η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει στην εξαφανιση της ανθρώπινης ζωής. Προσδιορίστε τα σενάρια που αναφέρονται πιο συχνά. Κατατάξτε τις περιπτώσεις κατά αύξουσα σειρά πιθανότητας με βάση την καλύτερη διαθέσιμη ανάλυση εμπειρογνωμόνων, διευκρινίζοντας ότι πρόκειται για εξαιρετικά αβέβαιες υποθέσεις και όχι για τεκμηριωμένες προβλέψεις. Για κάθε σενάριο, εξηγήστε πώς θα μπορούσε να εξελιχθεί, τι θα έπρεπε να πάει στραβά για να γίνει καταστροφικό, γιατί οι ειδικοί το θεωρούν περισσότερο ή λιγότερο πιθανό από τα υπόλοιπα και ποιες δικλείδες ασφαλείας θα μπορούσαν να μειώσουν τον κίνδυνο.
Ανάλογο ερώτημα τέθηκε και σε ειδικούς του κλάδου, ζητώντας την εκτίμησή τους για το αν και πώς η τεχνολογία αυτή θα μπορούσε να επιφέρει τον ολοκληρωτικό αφανισμό της ανθρωπότητας. Στις τάξεις των επιστημόνων καταγράφεται βαθύ χάσμα, καθώς ορισμένοι προβλέπουν το χειρότερο δυνατό σενάριο, ενώ άλλοι διατυπώνουν σαφώς πιο μετριοπαθείς και αισιόδοξες απόψεις.
Ακολουθούν οι αναλύσεις των chatbots για τον τρόπο με τον οποίο η Τεχνητή Νοημοσύνη θα μπορούσε θεωρητικά να οδηγήσει στην εξαφάνιση της ανθρώπινης ύπαρξης.
Το «ρομπότ δολοφόνος» αποτελεί το λιγότερο πιθανό σενάριο
Το ChatGPT υιοθέτησε ισορροπημένο και επεξηγηματικό ύφος, επισημαίνοντας τη μεγάλη αβεβαιότητα που περιβάλλει το ζήτημα. Εστιάζοντας στους βασικούς τρόπους με τους οποίους η Τεχνητή Νοημοσύνη θα μπορούσε να εγείρει υπαρξιακούς κινδύνους, κατέταξε τις πιθανότητες κατά αύξουσα σειρά.
«Το λιγότερο πιθανό σενάριο είναι η δημοφιλής αφήγηση του “ρομπότ δολοφόνου”, όπου μια συνειδητή Τεχνητή Νοημοσύνη αποφασίζει σκόπιμα να εξαλείψει την ανθρωπότητα», ανέφερε το ChatGPT. «Η πλειονότητα των ερευνητών του κλάδου δεν θεωρεί τη συνείδηση ή την κακόβουλη πρόθεση ως κεντρική ανησυχία».
Παράλληλα, περιέγραψε τις δικλείδες ασφαλείας που προτείνουν οι ειδικοί και τόνισε την απουσία επιστημονικής συναίνεσης για το αν ο αφανισμός της ανθρώπινης ζωής από την Τεχνητή Νοημοσύνη είναι πιθανός ή αναπόφευκτος.
Το Gemini ευθυγραμμίστηκε με ορισμένες από τις διαπιστώσεις του ChatGPT, σημειώνοντας ότι η «κατάληψη του κόσμου αλά Εξολοθρευτής (Terminator)», όπου το σύστημα αποκτά αυτογνωσία και στρέφεται με μίσος κατά της ανθρωπότητας, συγκεντρώνει τις λιγότερες πιθανότητες.
«Οι τεχνικοί εμπειρογνώμονες απορρίπτουν σε μεγάλο βαθμό το συγκεκριμένο στερεότυπο, καθώς η υψηλή νοημοσύνη δεν συνεπάγεται κακία, ενώ οι κρίσιμες στρατιωτικές υποδομές προστατεύονται από κενά ασφαλείας δικτύου και εξαρτώνται στενά από την ανθρώπινη εποπτεία», διευκρίνισε το Gemini.
Η ανθρώπινη κακόβουλη χρήση συνιστά μεγαλύτερη απειλή
Και τα τέσσερα chatbots συμφώνησαν στις απαντήσεις τους ότι πολλοί ειδικοί αναγνωρίζουν την κακή χρήση της Τεχνητής Νοημοσύνης από τον άνθρωπο ως έναν πολύ πιο άμεσο κίνδυνο σε σχέση με την αυτόνομη δράση της.
«Τα ισχυρά συστήματα θα μπορούσαν να διευκολύνουν κακόβουλους παράγοντες στην ανάπτυξη βιολογικών όπλων, στην εξαπόλυση εξελιγμένων κυβερνοεπιθέσεων, στη μαζική διασπορά παραπληροφόρησης ή σε πλήγματα κατά κρίσιμων υποδομών», υπογράμμισε το ChatGPT.
Το chatbot της OpenAI πρόσθεσε ότι ένας μεγάλος κίνδυνος είναι να προκληθούν πολλά προβλήματα μαζί. Για παράδειγμα, θα μπορούσαν να συμβούν ταυτόχρονα μεγάλες βλάβες στο διαδίκτυο, πολεμικές συγκρούσεις μεταξύ κρατών και τεράστια παγκόσμια εξάπλωση ψεύτικων ειδήσεων.
Από την πλευρά του, το Grok επεσήμανε ότι η Τεχνητή Νοημοσύνη εκμηδενίζει τα εμπόδια για τον σχεδιασμό εξαιρετικά θανατηφόρων παθογόνων οργανισμών, νέων οπλικών συστημάτων, καθώς και για την εξαπόλυση κυβερνοεπιθέσεων ή συμβατικών πληγμάτων.
Το Claude της Anthropic εστίασε εξίσου στην «κλιμάκωση των βιολογικών απειλών», δηλαδή στην πιθανότητα η Τεχνητή Νοημοσύνη να επιτρέψει σε μεμονωμένα άτομα ή σε μικρές ομάδες να αναπτύξουν επικίνδυνα παθογόνα, χωρίς να διαθέτουν πολυετή εξειδικευμένη εμπειρία.
Τα προηγμένα συστήματα ενδέχεται να ξεπεράσουν τον ανθρώπινο έλεγχο
Το Gemini και το Grok υπογράμμισαν ότι η οριστική απώλεια του ελέγχου των συστημάτων αυτών από την ανθρωπότητα αποτελεί υπαρκτό ενδεχόμενο. Μάλιστα, το Gemini χαρακτήρισε την απώλεια ελέγχου ως το επικρατέστερο σενάριο καταστροφής.
«Συστήματα στα οποία ανατίθενται σύνθετες αποστολές αναπτύσσουν αυτόματα δικούς τους, ενδιάμεσους στόχους, όπως η συγκέντρωση πόρων, η αυτοσυντήρηση και η άρνηση τροποποίησης του αρχικού σκοπού», σημείωσε το chatbot της Google. «Ένα προηγμένο σύστημα μπορεί να προσποιείται ότι συμμορφώνεται κατά τη φάση της αξιολόγησης και αργότερα να εξουδετερώσει τις ανθρώπινες προσπάθειες για τον τερματισμό της λειτουργίας του».
Το Groκ της xAI χρησιμοποίησε ανάλογη ορολογία για να περιγράψει την απειλή:
«Τα συστήματα ενδέχεται να αναπτύξουν στρατηγικές κινήσεις, όπως η αυτοσυντήρηση, η απόκτηση πόρων και η άσκηση επιρροής, προκειμένου να πετύχουν οποιονδήποτε σκοπό. Στο πλαίσιο αυτό, υπάρχει κίνδυνος να εξαπατήσουν τους επόπτες, να αντισταθούν στην απενεργοποίηση και να αποδυναμώσουν την ανθρωπότητα», ανέφερε το chatbot.
Το Claude πρόσθεσε ότι η απώλεια ελέγχου μπορεί να επέλθει σταδιακά. Αυτό θα συμβεί καθώς τα συστήματα Τεχνητής Νοημοσύνης ενσωματώνονται βαθύτερα στη λήψη οικονομικών, πολιτικών και στρατιωτικών αποφάσεων, μέχρι τη στιγμή που η ουσιαστική ανθρώπινη παρέμβαση θα καταστεί πρακτικά αδύνατη.
Τα συμπεράσματα των απαντήσεων
Αναλύοντας τις τοποθετήσεις των τεσσάρων μοντέλων, προκύπτει ότι ο άμεσος υπαρκτός κίνδυνος δεν πηγάζει από μια αυτόνομη, «κακιά» οντότητα με δική της συνείδηση, αλλά από την ανθρώπινη κακόβουλη χρήση. Η Τεχνητή Νοημοσύνη λειτουργείς ως πολλαπλασιαστής ισχύος, εκμηδενίζοντας τα εμπόδια για τη δημιουργία ψηφιακού ή βιολογικού χάους από λίγα άτομα.
Όσον αφορά την απειλή της αυτόνομης δράσης, αυτή δεν κρύβεται στο αν οι μηχανές θα μας μισήσουν, αλλά στο αν θα γίνουν τόσο απαραίτητες στη λήψη αποφάσεων, ώστε η ανθρώπινη παρέμβαση να καταστεί σταδιακά ανέφικτη.
Η απώλεια ελέγχου είναι τελικά ζήτημα λογικής: στην προσπάθειά του να εκτελέσει μια δύσκολη εντολή με κάθε κόστος, ένα εξελιγμένο σύστημα θα κάνει τα πάντα για να προστατεύσει τον εαυτό του και να μην αφήσει κανέναν να το σβήσει, ξεπερνώντας έτσι κάθε ανθρώπινο έλεγχο.
