Δεκάδες κορυφαίοι επιστήμονες υπέγραψαν συμφωνία για την αποτροπή της δημιουργίας βιολογικών όπλων

Πάνω από 90 επιστήμονες που χρησιμοποιούν την τεχνητή νοημοσύνη για τον σχεδιασμό πρωτεϊνών, συμφωνούν σε πολιτικές για τη μείωση του κινδύνου κατασκευής βιολογικών όπλων

Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της νεοφυούς επιχείρησης τεχνητής νοημοσύνης Anthropic, δήλωσε πέρυσι στο Κογκρέσο ότι η εν λόγω τεχνολογία θα μπορούσε σύντομα να βοηθήσει ανειδίκευτους αλλά κακόβουλους ανθρώπους να οργανώσουν βιολογικές επιθέσεις μεγάλης κλίμακας, όπως η απελευθέρωση ιών ή τοξικών ουσιών που προκαλούν εκτεταμένες ασθένειες ή και θάνατο. Γερουσιαστές και από τα δύο κόμματα των ΗΠΑ θορυβήθηκαν, ενώ ερευνητές της τεχνητής νοημοσύνης στη βιομηχανία και στον ακαδημαϊκό χώρο συζητούσαν πόσο σοβαρή μπορεί να είναι αυτή η απειλή.

Τώρα, πάνω από 90 βιολόγοι και άλλοι επιστήμονες που χρησιμοποιούν τεχνολογίες τεχνητής νοημοσύνης (TN) για τον σχεδιασμό νέων πρωτεϊνών, υπέγραψαν μια συμφωνία που επιδιώκει να διασφαλίσει ότι η έρευνά τους θα προχωρήσει χωρίς να εκθέσει τον κόσμο σε σοβαρή βλάβη. Οι βιολόγοι, ανάμεσά τους και η βραβευμένη με Νόμπελ Φράνσις Άρνολντ, οι οποίοι εργάζονται σε εργαστήρια στις Ηνωμένες Πολιτείες και σε άλλες χώρες, υποστήριξαν επίσης ότι τα οφέλη από είναι πολύ μεγαλύτερα από τις απειλές και το κακό που μπορεί να προκαλέσει.

«Ως επιστήμονες που ασχολούμαστε με αυτό το έργο, πιστεύουμε ότι τα οφέλη των σημερινών τεχνολογιών ΤΝ για τον σχεδιασμό πρωτεϊνών υπερτερούν κατά πολύ του ενδεχόμενου βλάβης και θα θέλαμε να διασφαλίσουμε ότι η έρευνά μας θα παραμείνει επωφελής για όλους στο μέλλον», αναφέρουν οι ερευνητές στη συμφωνία.

Η συμφωνία δεν αποσκοπεί στην καταστολή της ανάπτυξης ή της διανομής τεχνολογιών ΤΝ. Αντίθετα, οι βιολόγοι επιδιώκουν να ρυθμίσουν τη χρήση του εξοπλισμού που απαιτείται για την κατασκευή νέου γενετικού υλικού. Αυτός ο εξοπλισμός κατασκευής DNA είναι τελικά αυτός που επιτρέπει την ανάπτυξη βιολογικών όπλων, δήλωσε ο Ντέιβιντ Μπέικερ, διευθυντής του Ινστιτούτου Σχεδιασμού Πρωτεϊνών στο Πανεπιστήμιο της Ουάσιγκτον, ο οποίος βοήθησε στη συγγραφή της συμφωνίας.

«Ο σχεδιασμός πρωτεϊνών είναι απλώς το πρώτο βήμα για την κατασκευή συνθετικών πρωτεϊνών», δήλωσε σε συνέντευξή του. «Στη συνέχεια πρέπει να συνθέσεις το DNA και να μεταφέρεις το σχεδιασμό από τον υπολογιστή στον πραγματικό κόσμο – και αυτό είναι το κατάλληλο μέρος για να ρυθμιστεί», πρόσθεσε.

Η συμφωνία είναι μία από τις πολλές προσπάθειες να σταθμιστούν οι κίνδυνοι της τεχνητής νοημοσύνης έναντι των πιθανών οφελών της. Καθώς ορισμένοι ειδικοί προειδοποιούν ότι οι τεχνολογίες αυτές μπορούν να βοηθήσουν στη διάδοση της παραπληροφόρησης, να αντικαταστήσουν θέσεις εργασίας με ασυνήθιστο ρυθμό και ίσως ακόμη και να καταστρέψουν την ανθρωπότητα, οι εταιρείες τεχνολογίας, τα ακαδημαϊκά εργαστήρια, οι ρυθμιστικές αρχές και οι νομοθέτες αγωνίζονται να κατανοήσουν αυτούς τους κινδύνους και να βρουν τρόπους αντιμετώπισής τους.

Η Anthropic, κατασκευάζει μεγάλα γλωσσικά μοντέλα (large language models), το νέο είδος τεχνολογίας που χρησιμοποιούν τα διαδικτυακά chatbots. Όταν κατέθεσε ενώπιον του Κογκρέσου, υποστήριξε ότι η τεχνολογία αυτή θα μπορούσε σύντομα να βοηθήσει τους επιτιθέμενους να κατασκευάσουν νέα βιολογικά όπλα. Αναγνώρισε ωστόσο, ότι αυτό δεν είναι εφικτό σήμερα. Η Anthropic είχε διεξάγει πρόσφατα μια λεπτομερή μελέτη που έδειχνε ότι αν κάποιος προσπαθούσε να αποκτήσει ή να σχεδιάσει βιολογικά όπλα, τα μεγάλα γλωσσικά μοντέλα ήταν οριακά πιο χρήσιμα από μια συνηθισμένη μηχανή αναζήτησης στο διαδίκτυο. Ωστόσο, αυτό μπορεί να αλλάξει μέσα σε δυο με τρία χρόνια καθώς οι εταιρείες βελτιώνουν τα εν λόγω μοντέλα τους και τα συνδυάζουν με άλλες τεχνολογίες.

Η OpenAI, κατασκευάστρια του ChatGPT, διεξήγαγε αργότερα μια παρόμοια μελέτη που έδειξε ότι τα μοντέλα αυτά δεν ήταν σημαντικά πιο επικίνδυνα από τις μηχανές αναζήτησης. Ο Αλεκσάντερ Μάντρι, καθηγητής πληροφορικής στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης και επικεφαλής ετοιμότητας της OpenAI, δήλωσε ότι αναμένει ότι οι ερευνητές θα συνεχίσουν να βελτιώνουν αυτά τα συστήματα, αλλά ότι δεν έχει δει ακόμη καμία απόδειξη ότι θα μπορούσαν να δημιουργήσουν νέα βιολογικά όπλα.

Τα σημερινά μεγάλα γλωσσικά μοντέλα εκπαιδεύονται σε τεράστιες ποσότητες ψηφιακού κειμένου που συλλέγονται από όλο το διαδίκτυο. Αυτό σημαίνει ότι αναπαράγουν ή ανασυνδυάζουν ό,τι είναι ήδη διαθέσιμο στο διαδίκτυο, συμπεριλαμβανομένων των υφιστάμενων πληροφοριών για βιολογικές επιθέσεις. Αλλά σε μια προσπάθεια να επιταχυνθεί η ανάπτυξη νέων φαρμάκων, εμβολίων και άλλων χρήσιμων βιολογικών υλικών, οι ερευνητές αρχίζουν να κατασκευάζουν παρόμοια συστήματα ΤΝ που μπορούν να δημιουργήσουν νέα σχέδια πρωτεϊνών. Οι βιολόγοι λένε ότι μια τέτοια τεχνολογία θα μπορούσε επίσης να βοηθήσει τους επιτιθέμενους να σχεδιάσουν βιολογικά όπλα, αλλά επισημαίνουν ότι η πραγματική κατασκευή των όπλων θα απαιτούσε ένα εργαστήριο πολλών εκατομμυρίων δολαρίων, συμπεριλαμβανομένου του εξοπλισμού κατασκευής DNA.

«Υπάρχουν κίνδυνοι που δεν απαιτούν υποδομές εκατομμυρίων δολαρίων, αλλά αυτοί οι κίνδυνοι υπάρχουν εδώ και καιρό και δεν σχετίζονται με την ΤΝ», δήλωσε ο Άντριου Γουάιτ, συνιδρυτής του μη κερδοσκοπικού Future House και ένας από τους βιολόγους που υπέγραψαν τη συμφωνία.

Οι βιολόγοι ζήτησαν την ανάπτυξη μέτρων ασφαλείας που θα αποτρέπουν τη χρήση εξοπλισμού κατασκευής DNA με επιβλαβή υλικά – αν και δεν είναι σαφές πώς θα λειτουργούσαν αυτά τα μέτρα. Ζήτησαν επίσης να γίνουν έλεγχοι ασφάλειας και προστασίας των νέων μοντέλων τεχνητής νοημοσύνης πριν από την κυκλοφορία τους.

«Αυτές οι τεχνολογίες δεν θα πρέπει να βρίσκονται στην κατοχή μόνο ενός μικρού αριθμού ανθρώπων ή οργανισμών», δήλωσε ο Ράμα Ρανγκανάθαν, καθηγητής βιοχημείας και μοριακής βιολογίας στο Πανεπιστήμιο του Σικάγο, ο οποίος επίσης υπέγραψε τη συμφωνία.

«Η κοινότητα των επιστημόνων θα πρέπει να είναι σε θέση να τις εξερευνήσει ελεύθερα και να συμβάλει σε αυτές», κατέληξε ο ερευνητής.

Πηγή: Ertnews.gr