Σχετικά με τον Συγγραφέα: Η Amy Brand είναι Διευθύντρια και Εκδότρια του MIT Press, θέση που κατέχει από το 2015. Γνωσιακή επιστήμονας στην εκπαίδευση, απέκτησε το διδακτορικό της από το MIT και έχει διατελέσει σε ηγετικούς ρόλους στο CrossRef, το Harvard και το Digital Science. Είναι συνδημιουργός της ταξινόμησης CRediT, ιδρυτικό μέλος του Διοικητικού Συμβουλίου του ORCID και παραγωγός του ντοκιμαντέρ Picture a Scientist. Η Brand είναι ευρέως αναγνωρισμένη για τη συμβολή της στην ερευνητική υποδομή, την ακαδημαϊκή επικοινωνία και την ισότητα στην επιστήμη. Οι διακρίσεις της περιλαμβάνουν το Βραβείο Council of Science Editors και το Χρυσό Βραβείο AAAS Kavli Science Journalism.
Η επιστήμη είναι απαραίτητη για την ανθρώπινη πρόοδο. Επίσης, ζωτικής σημασίας, αν και λιγότερο προφανής, είναι ο τρόπος με τον οποίο διαδίδουμε την επιστήμη. Ως το σύστημα μέσω του οποίου η γνώση γίνεται ανιχνεύσιμη και αξιόπιστη, η δημοσίευση αποτελεί βασικό στοιχείο της ερευνητικής υποδομής.
Πώς θα πρέπει να προσαρμοστεί η εκδοτική δραστηριότητα για να εξυπηρετήσει τις ανάγκες μιας ερευνητικής κοινότητας που αντιμετωπίζει λογοκρισία, μειωμένη χρηματοδότηση και την ταχεία άνοδο των συστημάτων γενετικής τεχνητής νοημοσύνης που απορροφούν τη γνώση, ενώ παράλληλα διαβρώνουν την ακεραιότητά της; Ως κάποιος που έχει εργαστεί εδώ και δεκαετίες στην έρευνα, τη διοίκηση πανεπιστημίων και τις εκδόσεις, δεν έχω δει ποτέ τα διακυβεύματα τόσο υψηλά όσο σήμερα για το μέλλον τόσο της επιστήμης όσο και της επιστήμης. και επιστημονική επικοινωνία.
Με τα κοινωνικοπολιτικά συστήματα να καταρρέουν γύρω μας, είναι δελεαστικό να θεωρήσουμε την γενετική Τεχνητή Νοημοσύνη ως την αλχημική λύση στα προβλήματα του κόσμου. Τα μεγάλα γλωσσικά μοντέλα (LLM) έχουν αναδειχθεί ως σαγηνευτικές πύλες για την ανακάλυψη, παρέχοντας άμεσες απαντήσεις, απρόσκοπτη σύνθεση, τον φαινομενικό εκδημοκρατισμό της γνώσης. Ωστόσο, η ελκυστικότητά τους κρύβει τη δύναμή τους ως συστήματα που επιταχύνουν επίσης την παραπληροφόρηση, την απάτη και την προπαγάνδα. Σχεδιασμένα, παράγουν περιεχόμενο που φαίνεται πολύ εύλογο, αλλά συχνά είναι παραπλανητικό ή απλώς λανθασμένο. Είναι επικίνδυνο για την επιστήμη όταν η επικύρωση είναι δύσκολη και ακριβή, ενώ η «αλήθεια» είναι φθηνή και κερδοφόρα, ειδικά δεδομένου του πόσο εύκολο είναι να ξεγελάσει κανείς το ανθρώπινο μυαλό.
Ναι, θέλουμε να επιταχύνουμε την ανακάλυψη και την επίλυση προβλημάτων ενόψει των οδυνηρών παγκόσμιων προκλήσεων. Θέλουμε να πιστεύουμε σε μηχανές που μπορούν να λύσουν προβλήματα πιο γρήγορα από την ανθρώπινη γνωστική αρχιτεκτονική ή τους δυσλειτουργικούς μας θεσμούς. Αλλά όταν οι υποστηρικτές της απεριόριστης εκπαίδευσης στην Τεχνητή Νοημοσύνη υποστηρίζουν ότι είναι ηθική επιταγή να διατεθεί όλο το επιστημονικό περιεχόμενο και τα δεδομένα για την επιτάχυνση της καινοτομίας, η ιστορία συνιστά προσοχή.
Το έχουμε ξαναδεί αυτό. Το πρώιμο διαδίκτυο χαιρετίστηκε ως μια εκδημοκρατική δύναμη για την έκφραση και την καθολική γνώση. Τελικά, η έλλειψη ρύθμισης επέτρεψε σε τεράστιες εμπορικές πλατφόρμες να κυριαρχήσουν στον χώρο, διαβρώνοντας την εμπιστοσύνη και καταρρέοντας οικονομικά μοντέλα τόσο για το ειδησεογραφικό όσο και για το ερευνητικό περιεχόμενο. Γνωρίζουμε επίσης τώρα ότι οι ανεπαρκώς εφαρμοσμένες πολιτικές ανοιχτής πρόσβασης επιτάχυναν την ενοποίηση στις εκδόσεις και δημιούργησαν οικονομικά κίνητρα για περισσότερες δημοσιεύσεις με λιγότερο ποιοτικό έλεγχο.
Ας σταματήσουμε και ας σκεφτούμε τι είναι καλύτερο για την ανθρώπινη κατανόηση, τη μάθηση και την πρόοδο της γνώσης. Όταν η αναζήτηση οδηγεί μόνο σε περιλήψεις Τεχνητής Νοημοσύνης και οι χρήστες δεν κάνουν κλικ στις πρωτότυπες πηγές, και όταν η απλή πράξη της ανάγνωσης για ευχαρίστηση μειώνεται ραγδαία, πώς μπορούμε να αποφύγουμε ένα μέλλον στο οποίο θα γράφουμε και θα δημοσιεύουμε περιεχόμενο μόνο για κατανάλωση από μηχανές;
Πιστεύω ότι ο ζωτικός ρόλος που διαδραματίζουν οι εκδότες στην υποστήριξη του αντίκτυπου και της ακεραιότητας της έρευνας αξίζει να διαφυλαχθεί και να προστατευθεί, ειδικά τώρα. Κατανοώ την απογοήτευση με τα υψηλά τέλη δημοσίευσης και τα walls συνδρομής, ιδίως από μεγαλύτερους εκδότες που έχουν αξιοποιήσει μια αγορά ακαδημαϊκού κύρους που ιστορικά δεν ήταν ευαίσθητη στις τιμές. Αλλά ο κλάδος μας δεν είναι μια μονολιθική οντότητα που επιδιώκει το κέρδος. Οι μη κερδοσκοπικοί εκδότες, όπως το MIT Press και πολλές επιστημονικές εταιρείες, λειτουργούν με διαφορετικές αξίες και μικρότερα περιθώρια κέρδους.
Πράγματι, απειλούμαστε περισσότερο από την κατάληψη γης από την Τεχνητή Νοημοσύνη και μερικές φορές ακόμη και από τα ίδια τα κινήματα ανοιχτής επιστήμης που υποστηρίζουμε εδώ και καιρό. Ως εκ τούτου, πρέπει να αντισταθούμε στις ηθικές στάσεις που αγνοούν τις δυναμικές ισχύος που διαδραματίζονται. Υπάρχει ένα φωτοστέφανο γύρω από την ιδέα του «ανοιχτού» που μπορεί να επισκιάσει τις πολυπλοκότητες του πραγματικού κόσμου, όπως τα οικονομικά και τα κίνητρα. Τελικά, δεν είναι κάθε ανοιχτότητα ενάρετη. Δεν είναι κάθε αντίσταση στο ανοιχτό πνεύμα κωλυσιεργική.
Μια άλλη εσφαλμένη αντίληψη είναι ότι τα συμφέροντα των εκδοτών δεν ευθυγραμμίζονται με αυτά των ερευνητών. Πρόσφατα διεξήγαμε μια μεγάλη έρευνα συγγραφέων σε όλους τους τομείς STEM σχετικά με την μη εξουσιοδοτημένη χρήση της εργασίας τους για εκπαίδευση LLM. Η συντριπτική πλειοψηφία αντιτίθεται σε αυτήν την πρακτική, παρόλο που πιστεύει ότι η Τεχνητή Νοημοσύνη υπόσχεται μετασχηματιστικές οδούς για ανακάλυψη και μάθηση. Αναμένουν να είναι σε θέση να συναινέσουν ή όχι σε μια τέτοια χρήση και αναμένουν απόδοση όταν η εργασία τους επηρεάζει τα αποτελέσματα του LLM. Δεν εξισώνουν το ανοιχτό προς ανάγνωση με το ανοιχτό προς εκπαίδευση.
Έτσι, πολλοί είναι επιφυλακτικοί ως προς την ακεραιότητα των μεγάλων εταιρειών Τεχνητής Νοημοσύνης και ανησυχούν για το πώς τα LLM θα επηρεάσουν τις εκδόσεις, την ανάγνωση, τη γραφή, την κριτική σκέψη και τη δημιουργικότητα, θα ισοπεδώσουν τις διαφορετικές απόψεις και θα ενισχύσουν τις προκαταλήψεις και τις πολιτισμικές ηγεμονίες. Ανησυχούν βαθιά για το τι χάνεται όταν αναλύουμε έργα που έχουν δημιουργηθεί από ανθρώπους σε δεδομένα εκπαίδευσης με διακριτικά και τα τροφοδοτούμε με μοντέλα που δεν μπορούν να διατηρήσουν το πλαίσιο ή το επιχείρημά τους.
Το ερώτημα για το πώς και υπό ποιες συνθήκες χρησιμοποιείται η δημοσιευμένη επιστήμη για την εκπαίδευση LLM δεν αφορά μόνο τα πνευματικά δικαιώματα. Αφορά το ποιος ελέγχει το μέλλον της γνώσης. Παραχωρούμε εξουσία σε αδιαφανείς, εξορυκτικές βιομηχανίες με ελάχιστη λογοδοσία στην ερευνητική κοινότητα; Ή μήπως χτίζουμε συστήματα που διατηρούν την απόδοση, την ακεραιότητα και τη βιωσιμότητα; Αν είμαστε σοβαροί σχετικά με την ανθρώπινη άνθηση, την επιστήμη που βασίζεται σε τεκμήρια και την προστασία των συνθηκών υπό τις οποίες αναπτύσσεται η γνώση, τότε η ερευνητική κοινότητα και οι θεσμοί της πρέπει να προχωρήσουν με διάκριση.
Τίνος συμφέροντα εξυπηρετεί η παραχώρηση δημοσιευμένης επιστήμης και ακαδημαϊκής δραστηριότητας σε έναν εξαιρετικά εξορυκτικό, αδιαφανή τεχνολογικό τομέα; Ακολουθήστε τη λογική: όλη η αξία των τελών ανοιχτής δημοσίευσης που καταβάλλουν οι συγγραφείς, τα ιδρύματα και οι χρηματοδότες τελικά παραδίδεται σε οργανισμούς όπως το OpenAI και το Anthropic. Όσον αφορά τις εξορυκτικές βιομηχανίες, ας είμαστε επίσης ειλικρινείς στην αξιολόγηση του πώς οι αξίες του τομέα της Τεχνητής Νοημοσύνης συγκρίνονται με εκείνες των ακαδημαϊκών εκδοτών.
Προσωπικά, παραμένω αισιόδοξος ότι, με προσεκτικό σχεδιασμό και πολιτική βασισμένη σε τεκμηριωμένα στοιχεία, θα χρησιμοποιήσουμε την Τεχνητή Νοημοσύνη για να βελτιώσουμε την αξιολόγηση από ομοτίμους, να ενισχύσουμε την αναπαραγωγιμότητα και να βελτιστοποιήσουμε τις ροές εργασίας και το κόστος των δημοσιεύσεων. Ίσως μάλιστα να μπορέσουμε να δημιουργήσουμε λύσεις που θα βοηθήσουν στη διατήρηση των καλών πτυχών των επιστημονικών δημοσιεύσεων.
Αλλά το τρέχον παράδειγμα, όπου τα δημοσιευμένα αρχεία εξορύσσονται χωρίς συγκατάθεση και αξιοποιούνται οικονομικά από ιδιωτικούς τεχνολογικούς γίγαντες, είναι ανήθικο και καταστροφικό για την επιστήμη και την ακαδημαϊκή κοινότητα. Αντανακλά επίσης μια μαγική σκέψη για το πώς λειτουργεί ο πολύπλοκος κόσμος μας και πώς θα σημειώσουμε πραγματική πρόοδο στην επίλυση των υπαρξιακών προβλημάτων που αντιμετωπίζουμε.
Αποποίηση Eυθυνών
Οι πληροφορίες, οι απόψεις και οι συστάσεις που παρουσιάζονται στα ιστολόγια των επισκεπτών μας ανήκουν στους μεμονωμένους συντελεστές και δεν αντικατοπτρίζουν απαραίτητα τις αξίες και τις πεποιθήσεις του Διεθνούς Συμβουλίου Επιστημών.
Λάβετε μελλοντικές ενημερώσεις για την ανοιχτή επιστήμη απευθείας στα εισερχόμενά σας – Εγγραφείτε τώρα.
Φωτογραφία Μάρτιν Άνταμς on Unsplash
Διαβάστε περισσότερα για το Φόρουμ ISC για τις Εκδόσεις και την Αξιολόγηση της Έρευνας Διαβάστε περισσότερα για τη σύνοψη της Ανοικτής Επιστήμης: Το τρίτο κόστος της γνώσης Διαβάστε περισσότερα για το θέμα Η Αφρική έχει όραμα για επιστημονική ολοκλήρωση, αλλά μπορούν οι επιστήμονες της να μετακινούνται ελεύθερα σε όλη την ήπειρο; Διαβάστε περισσότερα για τη σύνοψη της Ανοικτής Επιστήμης: διατήρηση της ανοιχτότητας σε ένα μεταβαλλόμενο ερευνητικό οικοσύστημα 
