Η ιδέα διατυπώθηκε για πρώτη φορά το 1965 από τον Βρετανό μαθηματικό και στατιστικό I. J. Good και αναπτύχθηκε πολύ αργότερα από τον Σουηδό φιλόσοφο Nick Bostrom στο βιβλίο του Superintelligence (2014).
Η συλλογιστική είναι απλή, αλλά εντυπωσιακή.
Η σχεδίαση και η βελτίωση συστημάτων τεχνητής νοημοσύνης είναι και αυτή μια πνευματική δραστηριότητα. Αν κάποτε η Τεχνητή Νοημοσύνη φτάσει σε επίπεδο γενικής νοημοσύνης συγκρίσιμο με εκείνο του ανθρώπου, ενδέχεται να αποκτήσει την ικανότητα να συμμετέχει στη βελτίωση του ίδιου της του σχεδιασμού.
Κάθε βελτιωμένη εκδοχή θα μπορούσε τότε να δημιουργεί μια ακόμη ικανότερη εκδοχή, προκαλώντας έναν ταχύ, ανατροφοδοτούμενο κύκλο — αυτό που ο Good ονόμασε «έκρηξη νοημοσύνης».
Σε ένα τέτοιο σενάριο, η μετάβαση από την ανθρώπινου επιπέδου νοημοσύνη στην Υπερνοημοσύνη (Superintelligence) θα μπορούσε να είναι εξαιρετικά γρήγορη. Όχι κατ’ ανάγκην σε χρόνια· ενδεχομένως σε εβδομάδες, ημέρες ή ακόμη και ώρες.
Και εδώ βρίσκεται το κρίσιμο σημείο.
Ο Good είχε γράψει ότι η πρώτη υπερνοήμων μηχανή θα μπορούσε να είναι «η τελευταία εφεύρεση που θα χρειαστεί ποτέ να κάνει ο άνθρωπος» — υπό την κρίσιμη προϋπόθεση ότι θα μπορούσαμε να τη διατηρήσουμε υπό έλεγχο.
Η φράση μπορεί να διαβαστεί με δύο εντελώς διαφορετικούς τρόπους.
Αν το κάνουμε σωστά, μια υπερνοημοσύνη ευθυγραμμισμένη με τις ανθρώπινες αξίες θα μπορούσε να μας βοηθήσει να αντιμετωπίσουμε προβλήματα που σήμερα φαίνονται άλυτα: ασθένειες, ενεργειακές ανάγκες, επιστημονικά αδιέξοδα, περιβαλλοντικές απειλές.
Αν όμως το κάνουμε λάθος, η «τελευταία εφεύρεση» αποκτά μια πολύ σκοτεινότερη σημασία.
Μια υπερνοημοσύνη της οποίας οι στόχοι δεν είναι πραγματικά συμβατοί με τα ανθρώπινα συμφέροντα δεν χρειάζεται να μας μισεί για να γίνει επικίνδυνη. Θα μπορούσε απλώς να αδιαφορεί για εμάς, όπως ο άνθρωπος μπορεί να καταστρέψει μια μυρμηγκοφωλιά όταν κατασκευάζει έναν δρόμο — όχι επειδή μισεί τα μυρμήγκια, αλλά επειδή αυτά βρίσκονται εμπόδιο στον σκοπό του.
Αυτό είναι, σε μεγάλο βαθμό, το πρόβλημα της λεγόμενης «ευθυγράμμισης» (AI alignment): πώς εξασφαλίζουμε ότι ένα σύστημα πολύ ισχυρότερο από εμάς θα επιδιώκει στόχους συμβατούς με τις ανθρώπινες αξίες και θα παραμένει υπό ουσιαστικό ανθρώπινο έλεγχο.
Και ίσως τελικά το σημαντικότερο ερώτημα να μην είναι πόσο έξυπνη μπορεί να γίνει η Τεχνητή Νοημοσύνη.
Το σημαντικότερο ερώτημα είναι πόσο σοφοί θα αποδειχθούμε εμείς δημιουργώντας την.
Εσείς τι πιστεύετε; Έχετε εμπιστοσύνη στην ανθρωπότητα ότι θα αναπτύξει την Τεχνητή Νοημοσύνη σωστά και υπεύθυνα;
1
