"Το επερχόμενο κύμα" του Mustafa Suleyman κρούει τον κώδωνα του κινδύνου για την Τεχνητή Νοημοσύνη

Μια, το δίχως άλλο, συναρπαστική πτυχή του βιβλίου είναι οι λεπτομέρειες σχετικά με την ανάπτυξη της DeepMind και τον ανταγωνισμό της με τον παγκόσμιο πρωταθλητή του Go. Αυτή η ματιά στα «παρασκήνια» προσφέρει μια σπάνια εικόνα των πρακτικών προκλήσεων και των επιτευγμάτων της τεχνητής νοημοσύνης.

Το βιβλίο επικεντρώνεται σε δύο τεχνολογικά κύματα. Το πρώτο είναι η Τεχνητή Νοημοσύνη, η οποία, όπως το ευρύ κοινό γνωρίζει έχει ήδη κατακτήσει την πολιτιστική φαντασία τα τελευταία δύο χρόνια. Το δεύτερο, η συνθετική βιολογία, είναι ίσως λιγότερο διαδεδομένο στις δημοφιλείς συζητήσεις για την τεχνολογία. Αμφότερες, σύμφωνα με όσα γράφει ο Suleyman, θα εγκαινιάσουν μια νέα πραγματικότητα για την ανθρωπότητα, δημιουργώντας πλούτο και πλεόνασμα που όμοια τους δεν έχουν καταγραφεί ξανά. Την ίδια στιγμή, όμως, η ταχεία εξάπλωσή τους απειλεί να δώσει τη δυνατότητα σε ένα ευρύ φάσμα κακών παραγόντων να προκαλέσουν διαταραχές, ή ακόμη και να εξαπολύσουν καταστροφές σε αφάνταστη κλίμακα, δημιουργώντας τρομερή αστάθεια. Αυτό το κύμα δημιουργεί μια ιδιαίτερα μεγάλη πρόκληση που θα καθορίσει τον εικοστό πρώτο αιώνα: το μέλλον των ανθρώπων εξαρτάται από αυτές τις τεχνολογίες και ταυτόχρονα απειλείται από αυτές.

Σύμφωνα με τον Suleyman, η τεχνητή νοημοσύνη είναι ήδη πανταχού παρούσα, με αλγόριθμους που εφαρμόζονται σε όλους τους κλάδους για τη βελτιστοποίηση και την αυτοματοποίηση της εργασίας- οι LLM* απλώς μετέφεραν αυτή την πανταχού παρούσα στη σφαίρα των προϊόντων εργασίας που βασίζονται στη γλώσσα και την εικόνα, τα οποία μέχρι σήμερα αποτελούσαν αποκλειστική αρμοδιότητα των ανθρώπων. Η ταχεία πρόοδος και η αυξανόμενη πολυπλοκότητα αυτών των μοντέλων σημαίνει ότι εισερχόμαστε σε μια φάση που ο Suleyman αποκαλεί «τεχνητή ικανή νοημοσύνη» (ACI), το σημείο στο οποίο η ΤΝ μπορεί να επιτύχει πολύπλοκους στόχους και εργασίες με ελάχιστη επίβλεψη, όπως σημειώνει ο ίδιος.

Το βιβλίο του επιτυγχάνει μια σοβαρή διερεύνηση του τι μπορεί να επιφυλάσσει το μέλλον για όλους μας. Τα διαπιστευτήρια του Suleyman για το έργο αυτό είναι καλά: ήταν, όπως προαναφέρθηκε, συνιδρυτής της DeepMind, ενώ έχει επίσης εργαστεί στον φιλανθρωπικό τομέα, στη βρετανική τοπική αυτοδιοίκηση και στην Google - όπου ασχολήθηκε με τα μεγάλα γλωσσικά μοντέλα (LLM) της εταιρείας και με το –ομολογουμένως άχαρο– έργο της προσπάθειας να πείσει τον κολοσσό της αναζήτησης να λάβει σοβαρά υπόψη του την ηθική. Παρόλο που ο συγγραφέας δεν έχει εργαστεί στον τομέα της μοριακής βιολογίας, η περιγραφή του για την αλληλουχία του DNA, την επεξεργασία γονιδίων και τον σχεδιασμό και την κατασκευή νέων γενετικών προϊόντων μαρτυρά την καλή ενημέρωσή περί του θέματος. Ο Suleyman, συγκεκριμένα, υποστηρίζει την άποψή του σύμφωνα με την οποία η τεχνητή νοημοσύνη και η υπολογιστική βιολογία είναι οι δίδυμες προκλήσεις που θα αντιμετωπίσουν σύντομα οι κοινωνίες.

Μεταφρασμένη σε όρους τεχνολογικών κυμάτων, η εξελικτική ακολουθία του συγγραφέα μοιάζει ως εξής: οι άνθρωποι χρησιμοποίησαν πρώτα την τεχνολογία για να λειτουργήσουν στον φυσικό κόσμο - τον κόσμο των ατόμων-, κατόπιν εργάστηκαν πάνω στα bits, τις μονάδες δηλαδή της πληροφορίας, και τώρα εργάζονται πάνω στη δημιουργία νέων μορφών βιολογικής ζωής. Με άλλα λόγια, πρώτα εφευρέθηκαν οι λεγόμενοι «μηχανικοί μύες» και τώρα… παίζουμε με τους εγκεφάλους μας, κάτι που σύντομα θα επεκτείνουμε και στη βιολογία μας. Όπως και να το πάρουμε, η πραγματικότητα είναι ότι βρισκόμαστε στη διαδικασία δημιουργίας τεράτων τα οποία δεν έχουμε ιδέα πώς να διαχειριστούμε.

Το πιο αναζωογονητικό χαρακτηριστικό του βιβλίου είναι ο τρόπος με τον οποίο αντιμετωπίζει με ειλικρίνεια ερωτήματα που γενικά δεν συζητούνται τόσο στην κοινωνία. Είναι όλα ερωτήματα στα οποία, προς το παρόν, δεν έχουμε απαντήσεις, οπότε οποιαδήποτε συζήτησή τους θα μας προκαλούσε, αναπόφευκτα, κατάθλιψη λόγω της εκ των πραγμάτων ανικανότητάς μας να απαντήσουμε. Έτσι τα αποφεύγουμε. Η«αποστροφή προς την απαισιοδοξία», σύμφωνα με τον συγγραφέα, είναι μια πολυτέλεια που δεν μπορούμε πλέον να αντέξουμε καθώς η τεχνολογική πρόοδος γίνεται εκθετική. Πρέπει να συνειδητοποιήσουμε ποιο το μέλλον που μπορεί να προκύψει αν δεν συμμαζέψουμε τις (ανθρώπινες και δημοκρατικές) ενέργειές μας.

Τι είναι αυτό που χρειάζεται, λοιπόν, προκειμένου να μη… βγάλουμε τα μάτια μας χρησιμοποιώντας τα ίδια μας τα χέρια; Η συμβατική απάντηση είναι η ρύθμιση, την οποία ο Σουλεϊμάν θεωρεί δικαίως ως πλήρως ανεπαρκή για την κλίμακα της πρόκλησης. Η ρύθμιση είναι το τελευταίο καταφύγιο ενός εξαντλημένου μυαλού: κάτι που λειτούργησε κάπως στο παρελθόν και έτσι ελπίζουμε ότι θα λειτουργήσει ξανά, σε ένα, όμως, εντελώς μετασχηματισμένο πλέον πλαίσιο. Αντ' αυτού, προτείνει τον «περιορισμό», έναν όρο με απόηχο από τον ψυχρό πόλεμο και τη στρατηγική του Τζορτζ Κένναν για τη διατήρηση της σοβιετικής ισχύος υπό έλεγχο στη μεταπολεμική εποχή. Κάτι τέτοιο απαιτεί μακροπρόθεσμο, υπομονετικό, σταθερό και άγρυπνο περιορισμό των επεκτατικών τάσεων του αντιπάλου.

Ο περιορισμός της τεχνολογίας, κατά τον Suleyman, πρέπει να είναι ένα πολύ πιο θεμελιώδες πρόγραμμα, μια ισορροπία δυνάμεων όχι μεταξύ ανταγωνιστικών δρώντων αλλά μεταξύ των ανθρώπων και των εργαλείων μας. Υπογραμμίζει πως πρόκειται για μια απαραίτητη προϋπόθεση για την επιβίωση του είδους μας τον επόμενο αιώνα. Ο περιορισμός περιλαμβάνει τη ρύθμιση, την καλύτερη τεχνική ασφάλεια, νέα μοντέλα διακυβέρνησης και ιδιοκτησίας, νέους τρόπους λογοδοσίας και διαφάνειας, όλα απαραίτητα (αλλά όχι επαρκή) προαπαιτούμενα για ασφαλέστερη τεχνολογία. Είναι, στην ουσία, μια συνολική κλειδαριά που ενώνει την τεχνολογία αιχμής, τις ηθικές αξίες και την κυβερνητική ρύθμιση.

Ο συγγραφέας επιμένει στην πεποίθησή του αυτή μέχρι τέλους, καταλήγοντας σε ένα σχέδιο 10 βημάτων για τον περιορισμό, το οποίο παρουσιάζει λογική και είναι εύγλωττα διατυπωμένο.

Μεταξύ άλλων, ο Suleyman προτείνει προς ώρας τα παρακάτω για τον μετριασμό του κινδύνου:

Θέσπιση σημαντικών πρωτοβουλιών: Τομείς που περιλαμβάνουν πιθανούς κινδύνους, τρωτά σημεία και ηθικές ανησυχίες που σχετίζονται με την ανάπτυξη και τη χρήση της ΤΝ.

Εφαρμογή ενδελεχούς ασφάλειας: Η χρήση στρατηγικών μέτρων πριν από την κυκλοφορία των τεχνολογιών ΤΝ στο κοινό.

Ευθύνη των ιθύνοντων: Ενθάρρυνση των εμπειρογνωμόνων ΤΝ που είναι και κριτικοί να βοηθήσουν στην καθοδήγηση των προγραμματιστών ΤΝ όσον αφορά τη χρήση ασφαλέστερων πρακτικών.

Εξισορρόπηση του οικονομικού κέρδους με τις ηθικές εκτιμήσεις: Ενσωμάτωση των ηθικών κατευθυντήριων γραμμών στις επιχειρηματικές πρακτικές για να διασφαλιστεί ότι οι τεχνολογικές εξελίξεις στην ΤΝ επιτυγχάνονται με υπευθυνότητα και διαφάνεια.

Κυβερνητική μεταρρύθμιση: Οι κυβερνήσεις πρέπει να μάθουν για την ΤΝ και να δημιουργήσουν κανόνες για τη ρύθμισή της.

Διεθνείς συμμαχίες: Ο Σουλεϊμάν υποστηρίζει σθεναρά τη διεθνή συνεργασία μεταξύ των χωρών για την αποτελεσματική εποπτεία και ρύθμιση της ανάπτυξης της ΤΝ. Αυτό θα βοηθήσει στην αποτροπή της εμφάνισης επιβλαβών τεχνολογιών ή ομάδων και θα προωθήσει την παγκόσμια ασφάλεια και προστασία.

Δύναμη των ανθρώπων: Ο συγγραφέας ενθαρρύνει τους ανθρώπους να υπερασπιστούν ενεργά τα ηθικά πρότυπα στην τεχνητή νοημοσύνη. Η συλλογική προσπάθεια θα δημιουργήσει πίεση στις εταιρείες και τους υπεύθυνους χάραξης πολιτικής να δώσουν προτεραιότητα σε αυτές τις αξίες. Όπως και να ‘χει, η ισχυρή δημόσια απαίτηση μπορεί να οδηγήσει σε μεγαλύτερο έλεγχο των πρακτικών ΤΝ.

*LLM - Large Language Model: γλωσσικό μοντέλο που αποτελείται από ένα νευρωνικό δίκτυο με πολλές παραμέτρους (συνήθως δισεκατομμύρια σταθμά ή και περισσότερα), το οποίο εκπαιδεύεται σε μεγάλες ποσότητες κειμένου που δεν έχει επισημανθεί με ετικέτες χρησιμοποιώντας αυτοεπιβλεπόμενη μάθηση.