Πώς «Ο Εξολοθρευτής» προέβλεψε τους φόβους μας για την τεχνητή νοημοσύνη, πριν από 40 χρόνια
Με τα δολοφονικά ρομπότ του και το απατεωνίστικο σύστημα τεχνητής νοημοσύνης Skynet, «Ο Εξολοθρευτής» έχει γίνει συνώνυμο με το φάντασμα μιας μηχανικής νοημοσύνης που στρέφεται εναντίον των ανθρώπινων δημιουργών της.
Αλλά η ταινία αποτελεί μια «ανάμεικτη ευλογία». Ο φιλόσοφος Nick Bostrom, του οποίου το βιβλίο «Superintelligence» του 2014 έκανε γνωστό τον υπαρξιακό κίνδυνο της «μη ευθυγραμμισμένης τεχνητής νοημοσύνης» (τεχνητή νοημοσύνη που δεν είναι ευθυγραμμισμένη με τις ανθρώπινες αξίες και την ευημερία) παραδέχτηκε ότι η σύζυγός του «με πειράζει για τον Εξολοθρευτή και τον στρατό των ρομπότ»
Στο βιβλίο του The Road to Conscious Machines (Ο δρόμος προς τις συνειδητές μηχανές), ο ερευνητής τεχνητής νοημοσύνης Michael Woolridge πλαισιώνει ένα ολόκληρο κεφάλαιο με ένα παράπονο για «την αφήγηση του Εξολοθρευτή για την τεχνητή νοημοσύνη».
Υπάρχουν πιο πρόσφατες και πιο αληθοφανείς ταινίες με επιρροή για την τεχνητή νοημοσύνη, όπως οι Ex Machina και Her, αλλά όταν πρόκειται για τους κινδύνους της τεχνολογίας, «Ο Εξολοθρευτής» κυριαρχεί 40 χρόνια μετά την κυκλοφορία του. «Είναι σχεδόν, κατά έναν περίεργο τρόπο, πιο επίκαιρη τώρα απ' ό,τι ήταν όταν βγήκε», δήλωσε ο Cameron, ο σκηνοθέτης της ταινίας, στο The Ringer για την ταινία και το sequel της το 1991, «επειδή η τεχνητή νοημοσύνη είναι πλέον ένα υπαρκτό πράγμα που πρέπει να αντιμετωπίσουμε, ενώ τότε ήταν μια φαντασίωση».
«Κατά των όπλων και των μηχανών»
Αυτό είναι ένα μεγάλο επίτευγμα για μια ταινία που στην πραγματικότητα δεν ασχολείται ιδιαίτερα με την τεχνητή νοημοσύνη. Πρώτα απ' όλα, είναι ένα λιτό και τρομακτικό θρίλερ για έναν ασταμάτητο «άνθρωπο» που κυνηγάει μια φοβισμένη αλλά επινοητική γυναίκα. Το T-800 είναι ένας αμείλικτος δολοφόνος εμπνευσμένο από τον Michael Myers της ταινίας «Halloween».
Ο Cameron την αποκάλεσε «μια ταινία επιστημονικής φαντασίας για φόνους». Δευτερευόντως, είναι μια ταινία ταξιδιού στο χρόνο με θέμα «μοίρα εναντίον θέλησης», όπως το έθεσε ο Cameron.
Σύντομη περίληψη ταινίας
Η σύντομη περιγραφή της υπόθεσης είναι ότι κάποια στιγμή μεταξύ του 1984 και του 2029, οι ΗΠΑ εμπιστεύτηκαν ολόκληρο το αμυντικό τους σύστημα στο Skynet.
Μια μέρα, το Skynet απέκτησε υπερνοημοσύνη - ένα δικό του μυαλό - και ξεκίνησε έναν παγκόσμιο πυρηνικό πόλεμο.
Οι επιζώντες της ανθρωπότητας στη συνέχεια εξεγέρθηκαν επί δεκαετίες εναντίον του ρομποτικού στρατού της Skynet. Το 2029, η ανθρώπινη αντίσταση βρίσκεται στα πρόθυρα της νίκης χάρη στην ηγεσία του John Connor, οπότε η Skynet στέλνει ένα ρομπότ T-800 (τον Arnold Schwarzenegger) στο 1984 για να σκοτώσει τη μέλλουσα μητέρα του John, Sarah, πριν μείνει έγκυος.
Η αντίσταση απαντά στέλνοντας πίσω τον Kyle Reese για να σταματήσει το T-800 και να σώσει τη Sarah. Τελικά, ο Kyle «τα φτιάχνει» με τη Sarah και αποδεικνύεται ότι είναι ο πατέρας του John. Το μέλλον σώζεται.
«Ο Εξολοθρευτής», λοιπόν, είναι ένα θρίλερ, μια ερωτική ιστορία, μια χρονική περιπλάνηση πάνω στην ελεύθερη βούληση και μια σάτιρα για την εξάρτησή μας από την τεχνολογία. Είναι κατά των εταιρειών, κατά του πολέμου, κατά των όπλων και σε μεγάλο βαθμό κατά των μηχανών. Η τεχνολογία, από τον αυτόματο τηλεφωνητή μέχρι και το Walkman, εμπλέκεται όταν σκοτώνονται άνθρωποι σε αυτή την ταινία. Αλλά έχει πολύ λίγα να πει για την ίδια την τεχνητή νοημοσύνη.
Μία από τις πιο κερδοφόρες ταινίες
«Ο Εξολοθρευτής» έγινε μια από τις πιο κερδοφόρες ταινίες όλων των εποχών, με εισπράξεις 78,4 εκατομμυρίων δολαρίων, αλλά ο Cameron δεν περίμενε ότι θα δημιουργούσε μια πολιτιστική εμβληματική ταινία.
Έγραψε το σενάριο σε ένα άθλιο ξενοδοχείο στη Ρώμη το 1982, αφού απολύθηκε από την πρώτη του δουλειά ως σκηνοθέτης, το «Piranha II: The Spawning» και η παραγωγός του, Gale Ann Hurd, μπόρεσε να συγκεντρώσει μόνο 6,4 εκατομμύρια δολάρια.
Ο πρωταγωνιστής της ταινίας του, ένας πρώην bodybuilder με μη αποδεδειγμένο ταλέντο, δεν είχε πολλές ελπίδες. Ο Schwarzenegger είχε πει σε έναν φίλο του για «μια σ****ταινία που κάνω, θα πάρει μερικές εβδομάδες».
Ο ίδιος ο Cameron περίμενε ότι «Ο Εξολοθρευτής» θα «κατατροπωθεί» στο εισπρακτικό ταμείο από τα δύο έπη επιστημονικής φαντασίας του φθινοπώρου , το Dune του David Lynch και το «2010: The Year We Make Contact» του Peter Hyams, μια σύντομα ξεχασμένη συνέχεια του «2001: A Space Odyssey».
Όχι μόνο «Ο Εξολοθρευτής» ξεπέρασε τις επιδόσεις του «2010», αλλά το Skynet αντικατέστησε τον δολοφονικό υπολογιστή HAL 9000 του «2001» ως την κυρίαρχη εικόνα της τεχνητής νοημοσύνης που κατέληξε να γίνει κακή.
Η τεχνητή νοημοσύνη στον χρόνο
Πολύ πριν από την ύπαρξη του πεδίου της τεχνητής νοημοσύνης, οι πιθανοί κίνδυνοι της εκδηλώθηκαν με τη μορφή των ρομπότ, που δημιούργησε ο Karel Čapek στο έργο του «R.U.R.» το 1921 και έγινε δημοφιλής από την ταινία «Metropolis» του Fritz Lang το 1927.
Στο βιβλίο του για τον «Εξολοθρευτή», ο Sean French υποστηρίζει ότι η πιο αξιομνημόνευτη εικόνα της ταινίας - το T-800 να βγαίνει από τις φλόγες, με τη στολή του που λιώνει και αποκαλύπτει τον μεταλλικό ενδοσκελετό του - ήταν μια αναφορά στο φλεγόμενο ρομπότ της «Μητρόπολης».
Στη δεκαετία του 1920, ήταν αναμενόμενο ότι η νοημοσύνη των μηχανών θα περπατούσε και θα μιλούσε, όπως το τέρας του Φρανκενστάιν. Η δημοτικότητα των θανατηφόρων ρομπότ οδήγησε τον συγγραφέα επιστημονικής φαντασίας Ισαάκ Ασίμοφ, το 1942, να συντάξει τους «τρεις νόμους της ρομποτικής»: την πρώτη απόπειρα ορισμού της ηθικής τεχνητής νοημοσύνης.
Στον πραγματικό κόσμο, ο τομέας της τεχνητής νοημοσύνης ξεκίνησε επίσημα το 1956 σε ένα θερινό σχολείο στο Πανεπιστήμιο του Ντάρμουθ, το οποίο διοργάνωσαν οι επιστήμονες υπολογιστών John McCarthy (ο οποίος επινόησε τον όρο) και Marvin Minsky.
Φιλοδοξία τους ήταν να σχεδιάσουν μηχανές που θα μπορούσαν να σκέφτονται όπως οι άνθρωποι, αλλά αυτό αποδείχθηκε πολύ πιο δύσκολο από ό,τι είχαν φανταστεί. Η ιστορία της τεχνητής νοημοσύνης είναι μια ιστορία άνθισης και αποτυχίας: ένας κύκλος των λεγόμενων «εαρινών» και «χειμερινών» εποχών της τεχνητής νοημοσύνης.
Οι εκπληκτικές υποσχέσεις προσέλκυσαν την προσοχή, τη χρηματοδότηση και το ταλέντο αλλά η αποτυχία τους να υλοποιηθεί το έργο προκάλεσε την κατάρρευση και των τριών.
Η άνθιση της δεκαετίας του 1960, πριν γίνει αντιληπτή η κλίμακα των τεχνικών εμποδίων, είναι γνωστή ως η «χρυσή εποχή της τεχνητής νοημοσύνης». Η υπερβολική διαφημιστική εκστρατεία για τους «ηλεκτρονικούς εγκεφάλους» ενθουσίασε τον σκηνοθέτη Stanley Kubrick και τον συγγραφέα Arthur C. Clarke, ο οποίος ενσωμάτωσε την τεχνητή νοημοσύνη στην ταινία «2001: A Space Odyssey» του 1968 με τη μορφή του HAL 9000. Το όνομα (που σημαίνει Αλγοριθμικός Υπολογιστής με Ευρετικό Προγραμματισμό) προήλθε από τον ίδιο τον Minsky, ο οποίος είχε προσληφθεί ως σύμβουλος από τον Kubrick. Τα κόκκινα μάτια του T-800 είναι σίγουρα ένας φόρος τιμής στον HAL.
Βλέποντας το «2001» όταν ήταν παιδί, ο Cameron στράφηκε στην πορεία προς την κινηματογραφική δημιουργία.
Ο Daniel Crevier, ιστορικός της τεχνητής νοημοσύνης, αντιπαραθέτει το σενάριο του HAL (ένας κακώς προγραμματισμένος υπολογιστής πάει λάθος) με το σενάριο στο θρίλερ «Colossus» του DF Jones το 1966 (ο υπολογιστής γίνεται μια νέα μορφή ζωής που μοιάζει με θεό). Στο μυθιστόρημα του Jones, η κυβέρνηση των ΗΠΑ εμπιστεύεται απερίσκεπτα ολόκληρο τον αμυντικό μηχανισμό της στον ομώνυμο υπερυπολογιστή. Ο Colossus αποκτά συνείδηση, ενώνει τις δυνάμεις του με τον αντίστοιχο σοβιετικό και εκβιάζει την ανθρωπότητα να υποταχθεί σε μια τεχνο-δικτατορία: ή θα παραδοθεί ή θα αντιμετωπίσει πυρηνικό αφανισμό.
Το τέλος της ιστορίας
Ούτε ο HAL ούτε ο Colossus είχαν ή χρειάζονταν σώματα. Η λαμπρή καινοτομία του Cameron ήταν να συνδυάσει τον εκτός ελέγχου υπολογιστή (Skynet) με το ρομπότ δολοφόνο (T-800). Το T-800 είναι μια μορφή τεχνητής νοημοσύνης ενός και μόνο σκοπού που μπορεί να μαθαίνει από το περιβάλλον της, να λύνει προβλήματα, να εκτελεί εξελιγμένες φυσικές εργασίες και να μιμείται φωνές, αλλά δυσκολεύεται να συνομιλήσει.
Το Skynet ήταν προϊόν της «Δεύτερης Άνοιξης της Τεχνητής Νοημοσύνης». Ενώ ο Κάμερον έγραφε το σενάριο, ο Βρετανοκαναδός επιστήμονας πληροφορικής Geoffrey Hinton επανεξέταζε και αναβίωνε την έρευνα σχετικά με την προσέγγιση των νευρικών δικτύων στην τεχνητή νοημοσύνη: μοντελοποίηση της μηχανικής νοημοσύνης με βάση τους νευρώνες του ανθρώπινου εγκεφάλου. Το Skynet είναι μια τεχνητή νοημοσύνη με νευρικά δίκτυα.
Ο Hinton, ο οποίος κέρδισε φέτος το βραβείο Νόμπελ Φυσικής, έχει πρόσφατα αντιπαρατεθεί στην τεχνητή νοημοσύνη («Η διαίσθησή μου είναι: είμαστε χαμένοι. Αυτό είναι το πραγματικό τέλος της ιστορίας»), αλλά σύμφωνα με ένα αφιέρωμα του New Yorker, απόλαυσε τον «Εξολοθρευτή» το 1984: «Δεν τον ενοχλούσε που το Skynet... ήταν ένα νευρικό δίκτυο- ήταν ευχαριστημένος που είδε την τεχνολογία να παρουσιάζεται ως πολλά υποσχόμενη».
Το όνομα Skynet μπορεί επίσης να ήταν ένα αφιέρωμα στον «Πόλεμο των Άστρων» («Star Wars»).
Ξαναβλέποντας τώρα τον «Εξολοθρευτή», προκαλεί έκπληξη το γεγονός ότι η λέξη Skynet ακούγεται μόνο δύο φορές.
Σύμφωνα με τον Kyle Reese ήταν: «Νέο. Ισχυρό. Συνδεδεμένο με τα πάντα. Τον εμπιστεύονταν να διευθύνει τα πάντα. Λένε ότι έγινε έξυπνο... μια νέα τάξη νοημοσύνης. Τότε είδε όλους τους ανθρώπους ως απειλή, όχι μόνο αυτούς που ήταν στην άλλη πλευρά. Αποφάσισε τη μοίρα μας σε ένα δευτερόλεπτο... εξόντωση.»
Αυτή είναι η έκταση της αναφοράς της ταινίας στην τεχνητή νοημοσύνη. Όπως έχει πει συχνά ο Cameron, οι ταινίες «Εξολοθρευτής» αφορούν στην πραγματικότητα τους ανθρώπους και όχι τις μηχανές.
Η σύγκριση της πρώτης ταινίας με την δεύτερη
Η μεγάλη επιτυχία του 1991, το sequel «Εξολοθρευτής 2: Η Ημέρα της Κρίσης», συμπλήρωσε λίγο την ιστορία. Πηγάζει από ένα άλλο χρονικό παράδοξο: η κεντρική μονάδα επεξεργασίας και το δεξί χέρι του αρχικού Εξολοθρευτή επέζησαν από την καταστροφή του και επέτρεψαν στον επιστήμονα της Cyberdyne, Miles Bennett Dyson. Το καθήκον των ηρώων τώρα δεν είναι απλώς να σώσουν τον 10χρονο John Connor από τον T-1000 που ταξιδεύει στο χρόνο, αλλά να καταστρέψουν το Skynet όταν ήταν ακόμη αρχή.
Στον Εξολοθρευτή 2, το ρομπότ T-800 με την μορφή του Schwarzenegger είναι προστάτης και όχι κυνηγός.
Στην πρώτη ταινία, το Skynet υπερβαίνει τον προγραμματισμό του θεωρώντας όλη την ανθρωπότητα απειλή. Στη δεύτερη, λειτουργεί με βάση το προσωπικό του συμφέρον. Η αντίφαση δεν προβληματίζει τους περισσότερους θεατές, αλλά απεικονίζει μια κρίσιμη διαφωνία σχετικά με τον υπαρξιακό κίνδυνο της τεχνητής νοημοσύνης.
Ο απλός άνθρωπος είναι πιθανό να φαντάζεται την ανεξέλεγκτη τεχνητή νοημοσύνη ως επαναστατική και κακόβουλη. Όμως, ο Nick Bostrom επιμένει ότι ο πραγματικός κίνδυνος προέρχεται από τον απρόσεκτο προγραμματισμό.
Επομένως, «Ο Εξολοθρευτής» βοηθά αλλά και εμποδίζει την κατανόηση της τεχνητής νοημοσύνης: τι σημαίνει για μια μηχανή να «σκέφτεται» και πώς θα μπορούσε να πάει τρομερά λάθος.
Οι άμεσοι κίνδυνοι της τεχνητής νοημοσύνης
Πολλοί ερευνητές της τεχνητής νοημοσύνης αγανακτούν συνολικά με την εμμονή του «Εξολοθρευτή» επειδή υπερβάλλει για τον υπαρξιακό κίνδυνο της τεχνητής νοημοσύνης και υποτιμά τους πιο άμεσους κινδύνους, όπως η μαζική ανεργία, η παραπληροφόρηση και τα αυτόνομα όπλα. «Πρώτον, μας κάνει να ανησυχούμε για πράγματα για
τα οποία μάλλον δεν χρειάζεται να ανησυχούμε», γράφει ο Michael Woolridge. «Αλλά δεύτερον, αποσπά την προσοχή από τα προβλήματα που όντως δημιουργεί η τεχνητή νοημοσύνη και για τα οποία θα έπρεπε να ανησυχούμε».
Ο Cameron αποκάλυψε στο Empire ότι σχεδιάζει μια νέα ταινία «Εξολοθρευτής», η οποία θα «αποβάλει» όλα όσα ξέρουμε για τις ταινίες, αλλά θα διατηρήσει την κεντρική ιδέα των «ανίσχυρων» ανθρώπων εναντίον της τεχνητής νοημοσύνης.
Αν αυτό πραγματοποιηθεί, θα είναι συναρπαστικό να δούμε τι έχει να πει ο σκηνοθέτης για την τεχνητή νοημοσύνη τώρα που είναι κάτι για το οποίο μιλάμε και ανησυχούμε καθημερινά. Ίσως το πιο χρήσιμο μήνυμα του «Εξολοθρευτή» για τους ερευνητές της τεχνητής νοημοσύνης είναι αυτό της «βούλησης έναντι της μοίρας»: οι ανθρώπινες αποφάσεις καθορίζουν τα αποτελέσματα. Τίποτα δεν είναι αναπόφευκτο.
Πηγή: BBC