Το κείμενο αυτό ανάρτησε στο FB ο Θεοφάνης Τάσης.
Όποιος θέλει, μπορεί να υπογράψει το κείμενο αυτό στο:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Μετάφραση του κειμένου-ανοιχτής επιστολής:
Παύση γιγαντιαίων πειραμάτων τεχνητής νοημοσύνης: Ανοιχτή Επιστολή
Καλούμε όλα τα εργαστήρια Τεχνητής Νοημοσύνης να διακόψουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης που είναι ισχυρότερα από το GPT-4.
Τα συστήματα με νοημοσύνη ανταγωνιστική προς εκείνη του ανθρώπου μπορούν να προκαλέσουν βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα, όπως έχει αποδειχθεί από εκτεταμένες έρευνες και έχει αναγνωριστεί από κορυφαία εργαστήρια Τεχνητής Νοημοσύνης. Όπως αναφέρεται στις ευρέως υποστηριζόμενες αρχές της Asilomar AI Principles, η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιαστεί και να τύχει διαχείρισης με αντίστοιχη προσοχή και πόρους. Δυστυχώς, αυτό το επίπεδο σχεδιασμού και διαχείρισης δεν υφίσταται, μολονότι τους τελευταίους μήνες τα εργαστήρια τεχνητής νοημοσύνης έχουν εγκλωβιστεί σε έναν ανεξέλεγκτο αγώνα δρόμου για την ανάπτυξη και την αξιοποίηση όλο και πιο ισχυρών ψηφιακών διανοιών που κανείς -ούτε καν οι δημιουργοί τους- δεν μπορούν να κατανοήσουν, να προεξοφλήσουν ή να ελέγξουν αξιόπιστα.
Τα σύγχρονα συστήματα Τεχνητής Νοημοσύνης γίνονται πλέον ανταγωνιστικά προς τον άνθρωπο σε γενικές εργασίες και πρέπει να αναρωτηθούμε: Άραγε, θα πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες; Θα πρέπει να αυτοματοποιήσουμε όλες τις εργασίες, συμπεριλαμβανομένων και αυτών που μας ικανοποιούν; Θα πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν τελικά να μας υπερβούν ποσοτικά και διανοητικά και να μας αντικαταστήσουν; Θα πρέπει να διακινδυνεύσουμε την απώλεια ελέγχου του πολιτισμού μας; Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους επικεφαλής της τεχνολογίας. Ισχυρά συστήματα Τεχνητής Νοημοσύνης θα πρέπει να αναπτυχθούν μόνον εφόσον είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοί τους θα είναι διαχειρίσιμοι. Αυτή η βεβαιότητα πρέπει να είναι καλά δικαιολογημένη και να αυξάνεται παράλληλα με το μέγεθος των δυνητικών επιπτώσεων ενός συστήματος. Η πρόσφατη δήλωση της OpenAI σχετικά με την Τεχνητή γενική Νοημοσύνη, επισημαίνει ότι "Σε κάποιο σημείο, μπορεί να είναι σημαντικό να υπάρξει ανεξάρτητη αξιολόγηση πριν από την έναρξη της εκπαίδευσης μελλοντικών συστημάτων και, σε ό,τι αφορά τις πλέον προωθημένες προσπάθειες, να συμφωνηθεί να περιοριστεί ο ρυθμός αύξησης του υπολογιστικού δυναμικού που χρησιμοποιείται για τη δημιουργία νέων μοντέλων". Συμφωνούμε. Αυτό το σημείο είναι τώρα.
Ως εκ τούτου, καλούμε όλα τα εργαστήρια Τεχνητής Νοημοσύνης να διακόψουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης που είναι ισχυρότερα από το GPT-4. Η παύση αυτή θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους συντελεστές-κλειδιά. Εάν μια τέτοια παύση δεν μπορεί να θεσπιστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μια αναστολή ("moratorium").
Τα εργαστήρια Τεχνητής Νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτή την παύση για να αναπτύξουν και να εφαρμόσουν αμοιβαία ένα σύνολο κοινόχρηστων πρωτοκόλλων ασφαλείας για τον προηγμένο σχεδιασμό και την ανάπτυξη της Τεχνητής Νοημοσύνης, τα οποία θα ελέγχονται αυστηρά και θα επιβλέπονται από ανεξάρτητους εξωτερικούς εμπειρογνώμονες. Τα πρωτόκολλα αυτά θα πρέπει να εγγυούνται ότι τα συστήματα που τα εφαρμόζουν είναι ασφαλή πέρα από κάθε δικαιολογημένη αμφιβολία. Αυτό δεν σημαίνει παύση της ανάπτυξης της Τεχνητής Νοημοσύνης εν γένει, αλλά απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα και μεγαλύτερα απρόβλεπτα μοντέλα 'μαύρου κουτιού' με αναδυόμενες δυνατότητες.
Η έρευνα και η ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να επικεντρωθούν εκ νέου στο να καταστήσουν τα σημερινά πανίσχυρα, υπερσύγχρονα συστήματα πιο ακριβή, ασφαλή, ερμηνεύσιμα, διαφανή, ανθεκτικά, ευθυγραμμισμένα, αξιόπιστα και έννομα. Παράλληλα, οι προγραμματιστές της Τεχνητής Νοημοσύνης πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης της Τεχνητής Νοημοσύνης. Αυτά θα πρέπει να περιλαμβάνουν τουλάχιστον: νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην Τεχνητή Νοημοσύνη· εποπτεία και παρακολούθηση των εξαιρετικά ικανών συστημάτων Τεχνητής Νοημοσύνης και των μεγάλων δεξαμενών υπολογιστικών δυνατοτήτων, συστήματα προέλευσης και υδατοσήμανσης που θα βοηθούν στη διάκριση μεταξύ πραγματικών και συνθετικών μοντέλων και θα εντοπίζουν τις ενδεχόμενες διαρροές τους· ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης· ευθύνη για ζημίες που προκαλούνται από την Τεχνητή Νοημοσύνη· ισχυρή δημόσια χρηματοδότηση της έρευνας για την τεχνική ασφάλεια της Τεχνητής Νοημοσύνης· και καλά εφοδιασμένα ιδρύματα για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών διαταραχών (ιδίως στη δημοκρατία) που θα προκαλέσει η Τεχνητή Νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα ανθηρό μέλλον με την Τεχνητή Νοημοσύνη. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα Τεχνητής Νοημοσύνης, μπορούμε τώρα να απολαύσουμε μια " θερινή περίοδο Τεχνητής Νοημοσύνης " κατά την οποία θα αποκομίσουμε τους καρπούς, θα σχεδιάσουμε αυτά τα συστήματα προς καθαρό όφελος όλων και θα δώσουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έθεσε σε παύση άλλες τεχνολογίες με δυνητικά καταστροφικές συνέπειες για την κοινωνία, μπορούμε να το κάνουμε και εδώ. Ας απολαύσουμε μια μακρά θερινή περίοδο Τεχνητής Νοημοσύνης, αντί να σπεύσουμε απροετοίμαστοι σε ένα φθινόπωρο.
Όποιος θέλει, μπορεί να υπογράψει το κείμενο αυτό στο:
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Μετάφραση του κειμένου-ανοιχτής επιστολής:
Παύση γιγαντιαίων πειραμάτων τεχνητής νοημοσύνης: Ανοιχτή Επιστολή
Καλούμε όλα τα εργαστήρια Τεχνητής Νοημοσύνης να διακόψουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης που είναι ισχυρότερα από το GPT-4.
Τα συστήματα με νοημοσύνη ανταγωνιστική προς εκείνη του ανθρώπου μπορούν να προκαλέσουν βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα, όπως έχει αποδειχθεί από εκτεταμένες έρευνες και έχει αναγνωριστεί από κορυφαία εργαστήρια Τεχνητής Νοημοσύνης. Όπως αναφέρεται στις ευρέως υποστηριζόμενες αρχές της Asilomar AI Principles, η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιαστεί και να τύχει διαχείρισης με αντίστοιχη προσοχή και πόρους. Δυστυχώς, αυτό το επίπεδο σχεδιασμού και διαχείρισης δεν υφίσταται, μολονότι τους τελευταίους μήνες τα εργαστήρια τεχνητής νοημοσύνης έχουν εγκλωβιστεί σε έναν ανεξέλεγκτο αγώνα δρόμου για την ανάπτυξη και την αξιοποίηση όλο και πιο ισχυρών ψηφιακών διανοιών που κανείς -ούτε καν οι δημιουργοί τους- δεν μπορούν να κατανοήσουν, να προεξοφλήσουν ή να ελέγξουν αξιόπιστα.
Τα σύγχρονα συστήματα Τεχνητής Νοημοσύνης γίνονται πλέον ανταγωνιστικά προς τον άνθρωπο σε γενικές εργασίες και πρέπει να αναρωτηθούμε: Άραγε, θα πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες; Θα πρέπει να αυτοματοποιήσουμε όλες τις εργασίες, συμπεριλαμβανομένων και αυτών που μας ικανοποιούν; Θα πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν τελικά να μας υπερβούν ποσοτικά και διανοητικά και να μας αντικαταστήσουν; Θα πρέπει να διακινδυνεύσουμε την απώλεια ελέγχου του πολιτισμού μας; Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους επικεφαλής της τεχνολογίας. Ισχυρά συστήματα Τεχνητής Νοημοσύνης θα πρέπει να αναπτυχθούν μόνον εφόσον είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοί τους θα είναι διαχειρίσιμοι. Αυτή η βεβαιότητα πρέπει να είναι καλά δικαιολογημένη και να αυξάνεται παράλληλα με το μέγεθος των δυνητικών επιπτώσεων ενός συστήματος. Η πρόσφατη δήλωση της OpenAI σχετικά με την Τεχνητή γενική Νοημοσύνη, επισημαίνει ότι "Σε κάποιο σημείο, μπορεί να είναι σημαντικό να υπάρξει ανεξάρτητη αξιολόγηση πριν από την έναρξη της εκπαίδευσης μελλοντικών συστημάτων και, σε ό,τι αφορά τις πλέον προωθημένες προσπάθειες, να συμφωνηθεί να περιοριστεί ο ρυθμός αύξησης του υπολογιστικού δυναμικού που χρησιμοποιείται για τη δημιουργία νέων μοντέλων". Συμφωνούμε. Αυτό το σημείο είναι τώρα.
Ως εκ τούτου, καλούμε όλα τα εργαστήρια Τεχνητής Νοημοσύνης να διακόψουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης που είναι ισχυρότερα από το GPT-4. Η παύση αυτή θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους συντελεστές-κλειδιά. Εάν μια τέτοια παύση δεν μπορεί να θεσπιστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μια αναστολή ("moratorium").
Τα εργαστήρια Τεχνητής Νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτή την παύση για να αναπτύξουν και να εφαρμόσουν αμοιβαία ένα σύνολο κοινόχρηστων πρωτοκόλλων ασφαλείας για τον προηγμένο σχεδιασμό και την ανάπτυξη της Τεχνητής Νοημοσύνης, τα οποία θα ελέγχονται αυστηρά και θα επιβλέπονται από ανεξάρτητους εξωτερικούς εμπειρογνώμονες. Τα πρωτόκολλα αυτά θα πρέπει να εγγυούνται ότι τα συστήματα που τα εφαρμόζουν είναι ασφαλή πέρα από κάθε δικαιολογημένη αμφιβολία. Αυτό δεν σημαίνει παύση της ανάπτυξης της Τεχνητής Νοημοσύνης εν γένει, αλλά απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα και μεγαλύτερα απρόβλεπτα μοντέλα 'μαύρου κουτιού' με αναδυόμενες δυνατότητες.
Η έρευνα και η ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να επικεντρωθούν εκ νέου στο να καταστήσουν τα σημερινά πανίσχυρα, υπερσύγχρονα συστήματα πιο ακριβή, ασφαλή, ερμηνεύσιμα, διαφανή, ανθεκτικά, ευθυγραμμισμένα, αξιόπιστα και έννομα. Παράλληλα, οι προγραμματιστές της Τεχνητής Νοημοσύνης πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης της Τεχνητής Νοημοσύνης. Αυτά θα πρέπει να περιλαμβάνουν τουλάχιστον: νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην Τεχνητή Νοημοσύνη· εποπτεία και παρακολούθηση των εξαιρετικά ικανών συστημάτων Τεχνητής Νοημοσύνης και των μεγάλων δεξαμενών υπολογιστικών δυνατοτήτων, συστήματα προέλευσης και υδατοσήμανσης που θα βοηθούν στη διάκριση μεταξύ πραγματικών και συνθετικών μοντέλων και θα εντοπίζουν τις ενδεχόμενες διαρροές τους· ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης· ευθύνη για ζημίες που προκαλούνται από την Τεχνητή Νοημοσύνη· ισχυρή δημόσια χρηματοδότηση της έρευνας για την τεχνική ασφάλεια της Τεχνητής Νοημοσύνης· και καλά εφοδιασμένα ιδρύματα για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών διαταραχών (ιδίως στη δημοκρατία) που θα προκαλέσει η Τεχνητή Νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα ανθηρό μέλλον με την Τεχνητή Νοημοσύνη. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα Τεχνητής Νοημοσύνης, μπορούμε τώρα να απολαύσουμε μια " θερινή περίοδο Τεχνητής Νοημοσύνης " κατά την οποία θα αποκομίσουμε τους καρπούς, θα σχεδιάσουμε αυτά τα συστήματα προς καθαρό όφελος όλων και θα δώσουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έθεσε σε παύση άλλες τεχνολογίες με δυνητικά καταστροφικές συνέπειες για την κοινωνία, μπορούμε να το κάνουμε και εδώ. Ας απολαύσουμε μια μακρά θερινή περίοδο Τεχνητής Νοημοσύνης, αντί να σπεύσουμε απροετοίμαστοι σε ένα φθινόπωρο.