Πηγή Εικόνας: Gerd Altmann από το PixabayΣτις αρχές Σεπτεμβρίου ο ερευνητής στον τομέα της τεχνητής νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, μόλις τέσσερις μήνες μετά την πρόσληψή του. Σε ανακοίνωσή του στο X έγραψε: «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας εξοντώσει όλους μέχρι το τέλος της δεκαετίας». Ανώτερο στέλεχος της Anthropic, ο Evan Hubinger, συμφώνησε μάλιστα με τον Κόξον, προσθέτοντας ότι πίστευε πως η πιθανότητα να συμβεί κάτι τέτοιο την επόμενη δεκαετία είναι μεγαλύτερη από 10%.
Όπως ήταν αναμενόμενο οι δηλώσεις αυτές προκάλεσαν αναταραχή. Πλέον, συζητείται έντονα το ενδεχόμενο επιβράδυνσης της έρευνας στον τομέα της τεχνητής νοημοσύνης και την ενίσχυση του «ανθρώπινου ελέγχου» πάνω στην τεχνολογία.
Πώς ακριβώς, όμως, θα μπορούσε η τεχνητή νοημοσύνη να μας σκοτώσει όλους; Δεν λείπουν τα φανταστικά σενάρια, και τα περισσότερα από αυτά περιλαμβάνουν την έννοια της «υπερνοημοσύνης» – δηλαδή, μιας τεχνητής νοημοσύνης που είναι πιο ικανή από τους ανθρώπους. Ο Τόμπι Γουίλσον, Καθηγητής Τεχνητής Νοημοσύνης, Επικεφαλής Ερευνητικής Ομάδας στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στο Σίδνεϊ της Αυστραλίας (UNSW) συνοψίζει, σε άρθρο του στο The Conversation, τα πέντε κορυφαία σενάρια ταξινομώντας τα κατά προσέγγιση από το πιο ασαφές στο πιο συγκεκριμένο. Η λίστα είναι επίσης ταξινομημένη από το λιγότερο πιθανό στο πιο πιθανό.
- Δεν θα μάθουμε ποτέ
Οι καταστροφολόγοι της τεχνητής νοημοσύνης συχνά δικαιολογούν τις ανησυχίες τους με ένα ενοχλητικό παράδοξο τύπου «catch-22»: πώς είναι δυνατόν να φανταστούμε τι θα μπορούσε να κάνει μια υπέρ-ευφυής τεχνητή νοημοσύνη για να εξοντώσει λιγότερο νοήμονα όντα όπως εμάς;
Θα έπρεπε να είμαστε υπερνοήμονες για να προβλέψουμε τι θα ήταν σε θέση να κάνει μια υπέρ-ευφυής τεχνητή νοημοσύνη. Είναι σαν να ζητάς από τον σκύλο σου να φανταστεί έναν θερμοπυρηνικό πόλεμο.
Τα καλά νέα είναι ότι η υπέρ-ευφυής τεχνητή νοημοσύνη βρίσκεται ίσως ακόμα αρκετά μακριά. Τα σημερινά μοντέλα τεχνητής νοημοσύνης είναι στην πραγματικότητα ικανά να επιλύουν συγκεκριμένα προβλήματα, αλλά αυτό δεν σημαίνει ότι είναι πιο έξυπνα από τον άνθρωπο σε όλους τους τομείς. Ωστόσο, η τεχνητή νοημοσύνη έλυσε πρόσφατα ένα από τα επτά πιο δύσκολα μαθηματικά προβλήματα που είναι γνωστά. Φαίνεται ότι πλησιάζει και στην επίλυση άλλων, κάτι που ίσως μας κάνει να αισθάνεστε λιγότερο αισιόδοξοι πάνω σε αυτό το θέμα.
- Συνδετήρες
Μια υπέρ-ευφυής τεχνητή νοημοσύνη θα ήταν πιθανότατα εξαιρετικά ικανή στην επίτευξη των στόχων της. Ίσως όμως να είναι αδιάφορη για την επιβίωση της ανθρωπότητας.
Ένα κλασικό παράδειγμα τέτοιας αδιαφορίας προέρχεται από την φανταστική υπέρ-ευφυή τεχνητή νοημοσύνη του φιλόσοφου της Οξφόρδης Νικ Μπόστρομ, η οποία έχει σχεδιαστεί για να βελτιστοποιεί την παραγωγή συνδετήρων. Για να παράγει το αγαπημένο της είδος γραφειακών ειδών, μετατρέπει γρήγορα όλη τη διαθέσιμη ύλη – συμπεριλαμβανομένων των ανθρώπων, των πλανητών και των άστρων – σε συνδετήρες.
Αυτό που έχουμε εδώ είναι η τέλεια εκτέλεση ακατάλληλα καθορισμένων στόχων. Η τεχνητή νοημοσύνη δεν μισεί την ανθρωπότητα, απλώς αναγνωρίζει ότι αποτελούμαστε από άτομα που θα μπορούσαν να αξιοποιηθούν καλύτερα για τη δημιουργία συνδετήρων. Δεν είναι προσωπικό.
- Βιολογικά όπλα
Η ανθρωπότητα θα μπορούσε να εξοντωθεί από μια υπερ-ευφυή ΤΝ που θα κατασκευάσει και θα απελευθερώσει κάποιο επικίνδυνο νέο βιολογικό όπλο στην ατμόσφαιρα. Αυτό είναι, στην πραγματικότητα, ένα από τα αποτελέσματα του σεναρίου «AI 2027» του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού αφιερωμένου στην πρόβλεψη των επιπτώσεων της προηγμένης ΤΝ.
Ο κίνδυνος αυτός έγινε πιο συγκεκριμένος τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου του Στάνφορντ ανακοίνωσαν ότι είχαν χρησιμοποιήσει ένα μοντέλο τεχνητής νοημοσύνης με γενετική γλώσσα για να συνθέσουν 16 νέους ιούς.
Τα καλά νέα εδώ είναι ότι είναι εξαιρετικά δύσκολο να σκοτωθούν όλοι από έναν νέο ιό. Για να συμβεί αυτό, χρειάζεται ένας ιός που να είναι πολύ μεταδοτικός, ώστε να εξαπλωθεί σε μεγάλη έκταση. Όμως, αυτό είναι ένας κανόνας της βιολογίας: οι ιοί που εξαπλώνονται εύκολα είναι συνήθως λιγότερο θανατηφόροι. Αντίθετα, αν ένας ιός είναι πολύ θανατηφόρος, η μεταδοτικότητά του τείνει να μειώνεται, καθώς οι περισσότεροι μολυσμένοι πεθαίνουν πριν προλάβουν να μεταδώσουν τη λοίμωξη.
Η πιο θανατηφόρα πανδημία στην καταγεγραμμένη ιστορία ήταν ο Μαύρος Θάνατος, όταν η πανώλη σκότωσε περισσότερο από το ένα τρίτο του πληθυσμού της Ευρώπης τον 13ο αιώνα. Ωστόσο, ακόμη και η πανώλη θα ήταν πιθανότατα πολύ λιγότερο θανατηφόρα σήμερα, χάρη στις αυξημένες ιατρικές γνώσεις και τις καλύτερες συνθήκες υγιεινής.
- Πυρηνικός πόλεμος
Τι θα γινόταν αν η τεχνητή νοημοσύνη εισχωρούσε στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και ξεκινούσε έναν πυρηνικό πόλεμο; Τα τελευταία 50 χρόνια, έχουμε βρεθεί αρκετές φορές κοντά σε έναν πυρηνικό πόλεμο… κατά λάθος.
Τα καλά νέα εδώ είναι ότι τα πυρηνικά αποθέματα έχουν μειωθεί. Ωστόσο, εξακολουθούν να είναι ίσως αρκετά για να εξοντώσουν το ήμισυ του πληθυσμού μας. Και αυτό δεν θα γινόταν από την ίδια την πυρηνική έκρηξη, αλλά από την πείνα που θα ακολουθούσε τον πυρηνικό χειμώνα.
- Άλλοι άνθρωποι
Ίσως ο πιο πιθανός κίνδυνος είναι να αυτοκαταστραφούμε. Και η ΤΝ μπορεί να επιταχύνει αυτό το φαινόμενο.
Φανταστείτε – και δεν χρειάζεται μεγάλη φαντασία – ότι η ΤΝ προκαλεί μαζικές απώλειες θέσεων εργασίας, μολύνει τον χώρο της πληροφορίας με παραπληροφόρηση, διασπά την πολιτική μας σκηνή και καταστρέφει τις ανθρώπινες σχέσεις με ψεύτικη, συνθετική συντροφιά.
Η κοινωνία θα μπορούσε εύκολα να καταρρεύσει. Σιγά-σιγά αλλά σταθερά, θα σταματούσαμε να είμαστε σε θέση να στηρίζουμε την ανθρώπινη ζωή σε οποιαδήποτε κλίμακα.
Επομένως, σίγουρα υπάρχουν κάποια πράγματα για τα οποία πρέπει να ανησυχούμε, ωστόσο, ας ελπίσουμε ότι δεν θα ανησυχούμε υπερβολικά.
