Companii de top din domeniul inteligenței artificiale, directori și oameni de știință trimit o scrisoare către parlamentari, cerând îmbunătățirea monitorizării secvențelor de ADN sintetic care ar putea fi folosite pentru crearea de arme biologice.
Directorii executivi ai mai multor companii majore de inteligență artificială îndeamnă membrii Congresului să adopte noi legi care să îngreuneze posibilitatea ca persoane rău intenționate să dezvolte arme biologice folosind tehnologia lor. Demis Hassabis de la Google DeepMind, Sam Altman de la OpenAI, Dario Amodei de la Anthropic și Mustafa Suleyman de la Microsoft AI se numără printre semnatarii unei scrisori publice care solicită legi ce ar obliga companiile care vând ADN și ARN sintetic să verifice clienții și comenzile pentru a preveni utilizarea greșită a materialului genetic.
Scrisoarea, organizată de Institutul pentru Progres (o organizație non-partizană) și Fundația pentru Inovație Americană (cu o orientare conservatoare), recunoaște că, având în vedere ritmul dezvoltării AI, "există o posibilitate reală ca barierele de cunoștințe care, istoric, au împiedicat persoanele rău intenționate să obțină arme biologice, să se erodeze semnificativ."
În anii 1950, omul de știință Arthur Kornberg a fost primul care a sintetizat cu succes ADN-ul. Astăzi, procesul este automatizat, zeci de companii din întreaga lume utilizând sintetizatoare comerciale pentru a "printa" și vinde secvențe genetice personalizate, folosite pentru cercetare științifică, dezvoltare de medicamente și diagnosticări. Mulți furnizori vând exclusiv cercetătorilor calificați, companiilor biotehnologice și instituțiilor educaționale, dar nu toți verifică clienții sau secvențele genetice comandate.
În 2017, cercetătorii canadieni au atras atenția când au folosit ADN în valoare de 100.000 USD, achiziționat prin poștă, pentru a reconstitui virusul extinct al variolei ecvine. Criticii au susținut că aceeași metodologie ar putea fi folosită pentru a construi variola, un virus înrudit și letal. De atunci, sinteza genică a devenit și mai ieftină. Combinată cu progresele în AI, este acum fezabil să se proiecteze toxine și patogeni noi și periculoși folosind modele lingvistice mari, deși o anumită pregătire în biologie ar fi probabil necesară pentru a crea un virus funcțional de la zero.
Deși atacurile bioterroriste au fost rare, ele au potențialul de a provoca pierderi masive de vieți omenești, panică publică și pierderi economice. O preocupare majoră este că un patogen proiectat cu ajutorul AI ar putea declanșa intenționat sau neintenționat o pandemie globală.
"Instrumentele AI permit unui utilizator să identifice foarte rapid unde să apeleze pentru a comanda secvențe care nu vor fi supuse verificării," afirmă David Relman, microbiolog și expert în biosecuritate la Universitatea Stanford, care a semnat scrisoarea. "Dacă sunt ghidați corespunzător, ei pot indica, de asemenea, cum să se modifice natura comenzii, astfel încât chiar și cei care verifică să fie mult mai puțin capabili să detecteze ceea ce se încearcă a fi creat."
Printre semnatari se numără alți oameni de știință, experți în securitate națională și directori de la companii de sinteză genică precum Twist Bioscience și Ansa Biotechnologies. Aceste firme sunt membre ale Consorțiului Internațional pentru Sinteza Genică, format în 2009 pentru a implementa practici voluntare de verificare. Multe companii utilizează deja software pentru a verifica comenzile de "secvențe de interes" care pot contribui la toxicitatea unui organism sau la capacitatea sa de a provoca boli.
"Dacă deții tehnologia capabilă să sintetizeze ADN, atunci ar trebui să te asiguri că este folosită în mod responsabil, iar o parte din aceasta implică înțelegerea a ceea ce creezi și pentru cine creezi," spune James Diggans, vicepreședinte pentru politică și biosecuritate la Twist Bioscience. Compania susține implementarea unor reguli formale de ani de zile.
Ghidurile federale introduse în timpul administrației Biden au impus oamenilor de știință și companiilor care primesc finanțare federală să comande secvențe de gene sintetice de la furnizori care verifică achizițiile. Un proiect de lege bipartizan introdus la începutul acestui an în Senat ar obliga toți furnizorii de sinteză genică care operează în SUA să verifice comenzile și clienții pentru persoane rău intenționate sau patogeni periculoși.
Însă instrumentele de verificare nu sunt perfecte. Anul trecut, cercetătorii de la Microsoft au publicat un studiu care arăta că instrumentele AI pentru proiectarea proteinelor au fost capabile să genereze secvențe genetice potențial periculoase care au trecut neobservate de software-ul de verificare al companiilor. Modelele au sugerat noi secvențe proteice cu structuri similare celor cunoscute ca fiind periculoase.
Geoff Ralston, fost președinte al Y Combinator și partener la Safe AI Fund, consideră că laboratoarele AI cu modele biologice ar trebui să efectueze propriile verificări ale utilizatorilor. "Ar trebui să fie foarte dificil, dacă nu chiar imposibil, să ceri unui model să te ajute să faci ceva iminent periculos," spune Ralston, care a semnat și el scrisoarea.
Relman este de acord că reglementările privind procedurile de verificare reprezintă doar o parte a soluției. "Având în vedere că verificarea poate eșua în unele cazuri, trebuie să avem alte puncte de control," spune el. "Aici este momentul în care companiile AI vor trebui să intervină."