Цю історію було вперше опубліковано в The Highlight, журналі Vox, призначеному виключно для членів. Щоб отримати ранній доступ до ексклюзивних історій щомісяця, приєднайтеся до програми членства Vox сьогодні.
У жовтні 1979 року надсекретний звіт розвідки ЦРУ містив перші натяки на Заході про те, що кілька місяців тому в Радянському Союзі нібито сталося щось незвичайне та тривожне.
У квітні того ж року пацієнти почали надходити до лікарень промислового міста Свердловськ, нині відомого як Єкатеринбург, в Уральському регіоні Радянського Союзу. У них спостерігалися симптоми того, що лікарі спочатку вважали надзвичайно небезпечною та смертельною формою пневмонії. Але це було не так.
Спалах, який зрештою забрав життя понад 60 людей, насправді був спричинений спорами сибірської виразки, випадково викинутими з радянського об’єкта з виробництва біологічної зброї. Як саме це сталося, досі невідомо.
Офіційно ні цей об’єкт, ні радянська програма біозброї не повинні були існувати; кількома роками раніше Москва разом із Вашингтоном ратифікувала знаковий міжнародний договір, що забороняє роботи з біологічної зброї. Коли американські чиновники публічно порушили питання щодо інциденту у Свердловську, радянський уряд заперечив проведення будь-яких досліджень біологічної зброї, звинувативши у спалаху забруднене м’ясо. Лише у 1992 році, після розпаду Радянського Союзу, президент Росії Борис Єльцин визнав, що інцидент був результатом таємної програми біозброї.
Як можливо, що аварія з біологічною зброєю, яка забрала життя десятків людей, трималася в таємниці десятиліттями, навіть у Радянському Союзі? Як пише репортер Washington Post Девід Е. Гоффман у своїй книзі «Мертва рука», що розповідає про історію гонки озброєнь часів Холодної війни, відповідь криється в самій природі зброї: «Біологічна зброя була найвищим викликом для шпигунів, солдатів і вчених».
На відміну від ракетної шахти, яку легко відрізнити від повітря, лабораторія, де розробляється біологічна зброя, не так сильно відрізняється від звичайної медичної лабораторії. На відміну від ядерних боєголовок, які залишають чіткі радіологічні сліди у своїх шахтах і їх використання безпомилково впізнається, збройний патоген та спалах, який він може спричинити, може бути важко відрізнити від природного, що дає будь-якому зловмиснику правдоподібну можливість заперечення.
Таємниця, що оточує цю зброю, є такою ж проблемою сьогодні, як і під час Холодної війни. Якщо не враховувати все ще політично складне питання про те, чи Covid-19 вирвався з китайської лабораторії, чи, як більшість спалахів, передався від тварин до людей природним шляхом, більшою проблемою є простий факт, що ми можемо ніколи не дізнатися цього напевно.
«Пандемія говорить нам про те, що ніхто не може визначити винуватця атаки», – сказав Дрю Енді, професор біологічної інженерії у Стенфорді. Розвідувальні служби визначили, що Covid не був навмисно створеною біологічною зброєю, але плутанина щодо його походження дійсно говорить про те, що якби був випущений ще більш вірулентний, навмисно розроблений патоген, було б дуже важко сказати напевно, хто стояв за атакою, або навіть чи була це атака взагалі.
Таке правдоподібне заперечення може зробити використання такої зброї більш привабливим для зловмисників. Біологічна війна стане більшою загрозою в найближчі роки лише тоді, коли, як прогнозують багато експертів, штучний інтелект спростить, здешевить і пришвидшить розробку нових біологічних сполук, включаючи патогени, що використовуються як зброя, набагато складніші та смертоносніші, ніж сибірська виразка, яка вбила десятки людей у Свердловську 46 років тому. Саме тому Енді, піонер у галузі синтетичної біології — створення нових біологічних систем або навмисної зміни існуючих за допомогою генетичних маніпуляцій — стверджує, що для цього нового ландшафту загроз вкрай необхідні нові форми виявлення.
«Коли впала «залізна завіса», нам стало корисно мати геопросторові дані, щоб побачити, що відбувається з іншого боку щодо ядерної зброї», – сказав він Vox. «Сьогодні існує молекулярна завіса. Речовина, яка невидима, яку ми не можемо бачити, знаходиться навколо нас і може бути шкідливою. І ми насправді не займаємося таким видом розвідки».
Технології, які можуть дозволити супротивникам створювати дедалі небезпечнішу біологічну зброю, розвиваються набагато швидше, ніж оборонні заходи. Але в той момент, коли штучний інтелект може посилювати ризики цього типу зброї, він також може стати ключем до її виявлення та зупинки.
Мікробна війна не є чимось новим, але загроза змінюється
Біологічна війна сягає щонайменше 14 століття до нашої ери, задовго до того, як хтось знав, що мікроби викликають хвороби, коли хетти надсилали хворих баранів своїм ворогам, щоб заразити їх небезпечною бактеріальною інфекцією туляремією. Кожен великий учасник Другої світової війни мав програму досліджень біологічної зброї, включаючи США, а Японія навіть навмисно використовувала мікроби в Китаї.
Історія насильства, спричиненого мікробами
Війна та хвороби завжди йшли рука об руку; до 20-го століття хвороби були причиною більшої кількості вбивств солдатів, ніж зброї в багатьох конфліктах. Навіть сьогодні кульові та осколкові поранення під час війни в Україні стали розсадником бактерій, стійких до ліків. Навмисне використання хвороб як зброї також має давню історію.
У 14 столітті до нашої ери хетти надсилали хворих баранів своїм ворогам, щоб заразити їх туляремією, небезпечною бактеріальною інфекцією, яку Центри з контролю та профілактики захворювань досі класифікують як потенційну біологічну зброю. Британські солдати сумнозвісно дарували ковдри, заражені віспою, племенам американських індіанців у 18 столітті. Під час Другої світової війни японські військові тестували патогени на військовополонених у Китаї та скидали на китайські міста керамічні бомби, що містили заражених чумою блох та зерно.
Сполучені Штати мали власну програму досліджень біологічної зброї, починаючи з Другої світової війни, а випробування потенційної зброї, особливо сибірської виразки, різко розширилися на початку холодної війни. У 1969 році президент Річард Ніксон, зіткнувшись зі зростаючим тиском громадськості — і вважаючи, що біологічні агенти не є особливо корисними у світі термоядерної зброї — наказав закрити програму. Шість років по тому набула чинності Конвенція про біологічну зброю, міжнародний договір, що забороняє її використання.
Не лише штати використовували біологічну зброю. У 1984 році релігійний культ Раджніші в Орегоні заразив сотні людей салат-барами сальмонелою — це був перший зареєстрований біотерористичний напад в історії США. У 2001 році, невдовзі після терактів 11 вересня, самотній злочинець розіслав сибірську виразку до ЗМІ та офісів Конгресу, вбивши п’ятьох людей та захворівши понад десяток. Терористичні організації, включаючи ІДІЛ та Аль-Каїду, також безуспішно намагалися придбати біологічну зброю.
Страх перед використанням біологічної зброї зрештою призвів до ратифікації Конвенції про заборону біологічної зброї (КБЗ) у 1975 році, яка заборонила використання та розробку біологічної зброї в усьому світі, хоча радянська програма таємно продовжувалася ще багато років потому, незважаючи на те, що Москва підписала договір. Але ще більше, ніж сам договір, біологічну війну стримував той факт, що біологічну зброю було важко розробляти, розгортати та — у разі її використання — контролювати. Але це може змінюватися.
Нові інструменти редагування генів, такі як CRISPR, знизили вартість і складність маніпуляцій з ДНК. Але такі ж інструменти також можуть полегшити зловмисникам створення штучних захворювань для використання у війні чи тероризмі.
Штучний інтелект вже революціонізує галузь синтетичної біології: Нобелівську премію з хімії 2024 року було присуджено дослідникам, які використовували штучний інтелект для прогнозування та розробки нових білків. Це, ймовірно, матиме позитивні наслідки, такі як різке пришвидшення розробки ліків.
Але, каже Метт Макнайт, керівник відділу біобезпеки компанії синтетичної біології Ginkgo Bioworks, минулі періоди швидкого наукового прогресу, від хімічних речовин на початку 1900-х років (отруйний газ) до фізики в 1930-х роках (ядерна зброя) та інформатики наприкінці 20 століття (кібернаступ), свідчать про те, що нове поєднання штучного інтелекту та редагування генів майже напевно буде припинено насильницьким шляхом.
«Я припускаю, що біологічну зброю буде використано зловмисником у цьому столітті, оскільки це було б базовим очікуванням, враховуючи всі людські дії протягом історії», – сказав Макнайт. «І я хочу зменшити ймовірність того, що це станеться».
У нещодавній доповіді Центру нової американської безпеки (CNAS) було запропоновано кілька тривожних сценаріїв використання штучного інтелекту для оптимізації патогенів для ведення війни. Можна було б розробити абсолютно нові віруси або модифікувати існуючі віруси, щоб зробити їх стійкішими до існуючих методів лікування.
Кевін Есвелт, дослідник синтетичної біології та директор групи Sculpting Evolution у Массачусетському технологічному інституті, сказав, що однією з його найбільших проблем є те, що великі мовні моделі можуть сприяти «не лише реплікації існуючого природного патогену, а й створенню чогось абсолютно нового, що не зустрічається в природі». Це означає, що як наш природний імунологічний захист, так і існуючі вакцини будуть абсолютно неготовими до цього.
Пов’язані
- Простий посібник з CRISPR, однієї з найбільших наукових історій десятиліття
- Ці історії можуть змінити ваше ставлення до штучного інтелекту
Наскільки це може бути погано? Мустафа Сулейман, генеральний директор Microsoft AI, попередив, що поєднання штучного інтелекту та синтетичної біології може дозволити створення патогену зі смертністю, як у лихоманки Ебола, але заразністю сезонного грипу, що спричинить «понад мільярд смертей за лічені місяці».
Це не було б дуже практичною зброєю для когось, окрім культу судного дня. Але вдосконалена штучним інтелектом інженерія також може зробити віруси більш керованими, адаптувавши їх для роботи лише в певних місцях. Що ще більш тривожно, віруси можна було б налаштувати для атаки на певні групи населення. У звіті CNAS цитується Чжан Шибо, колишній президент Університету національної оборони Китаю та колишній генерал китайської армії, який припустив, що нові технології дозволять розвивати хвороби для «специфічних етнічних генетичних атак».
Окрім цих жахливих сценаріїв, штучний інтелект може просто спростити створення існуючих небезпечних вірусів. В експерименті 2023 року група студентів Массачусетського технологічного інституту використовувала комерційно доступні чат-боти на основі штучного інтелекту, щоб генерувати пропозиції щодо складання кількох смертельних вірусів, включаючи віспу, яка наразі існує лише в надзахищених лабораторіях у США та Росії, з їхнього генетичного матеріалу. Чат-боти також запропонували необхідні матеріали та перерахували кілька компаній та лабораторій, які могли б друкувати генетичний матеріал без скринінгу.
Занепокоєння щодо подібних сценаріїв спонукало деякі компанії, що займаються штучним інтелектом, включити нові запобіжні заходи у свої моделі, хоча інтенсивна комерційна та геополітична конкуренція за досягнення загального штучного інтелекту може з часом підірвати ці запобіжні заходи.
Ці досягнення не означають, що сьогодні кожен може виростити власну віспу. Технічні перешкоди для фактичного створення хвороби все ще непосильні, навіть якщо у вас є інструкція з експлуатації та дуже терплячий штучний інтелект, який допоможе вам у цьому. Але це свідчить про те, що бар’єри для входу на ринок знижуються.
У минулому недержавні актори, такі як ІДІЛ або японський культ «Аум Сінрікьо», відповідальний за атаку із застосуванням зарину в токійському метро в 1995 році, намагалися придбати біологічну зброю, але неминуче стикалися з обмеженнями талантів та поставок. Однак досягнення як у штучному інтелекті, так і в синтетичній біології означають, що актори з обмеженими ресурсами тепер матимуть у своєму розпорядженні більше інструментів.
Як метод ведення війни, синтетична біологія «просто, здається, сприяє наступу», — сказав Есвельт, який керував експериментом MIT з використання чат-ботів у розробці вірусів. «Існує багато способів атакувати, і набагато дешевше створити вірус, ніж розробити та розповсюдити вакцину».
Ось чому захист має почати наздоганяти напад. Коли йдеться про ризик неправильного використання цієї технології, Макнайт з Ginkgo стверджує: «Ви не можете уникнути цього регулюючими методами. Ви повинні бути кращими в цьому. Ви повинні бути такими ж хорошими, як і супротивники, у вживанні контрзаходів». Його компанія працює над створенням такої технології.
Зазирнувши за молекулярну завісу
Одне з уявлень про майбутнє біологічної зброї можна знайти в затишному кутку жвавої, розлогої лабораторії з видом на Бостонську гавань. Саме там базується Ginkgo Bioworks, де компанія, заснована колишніми вченими Массачусетського технологічного інституту у 2008 році, розробляє спеціальні мікроорганізми для промислового використання.
Завдяки цій роботі Ginkgo розробила передові можливості тестування, щоб визначити, чи створені ними мікроскопічні організми працюють належним чином. Під час пандемії Covid «ливарний завод» Ginkgo, як вона називає свою головну лабораторію, був змушений обробляти мазки з носа та контролювати стічні води, щоб допомогти урядам контролювати поширення коронавірусу на рівні громад та появу нових варіантів.
Ця робота переросла в постійну операцію моніторингу у восьми міжнародних аеропортах США, а також в аеропортах Близького Сходу та Африки, щоб виявити потенційно небезпечні патогени, що перетинають міжнародні кордони. Мазки з носа у пасажирів-волонтерів, що прибувають, а також зразки стічних вод збираються з літаків і надсилаються до Ginkgo для аналізу. Це означає, що наступного разу, коли ви скористаєтеся туалетом у літаку, ви можете зробити свій внесок у величезну базу даних генетичного матеріалу, що переміщується по всьому світу.
Під час нещодавнього візиту до ливарного заводу Ginkgo мені показали стелаж із термоциклерами — кожен з яких нагадував величезні грилі Джорджа Формана — де ці зразки стічних вод піддавалися процесу, відомому як полімеразна ланцюгова реакція. (Це та сама «ПЛР», яка використовувалася в ПЛР-тестах під час пандемії). Процес включає нагрівання та охолодження зразків ДНК для їх реплікації для аналізу, що дозволяє вченим виявляти генетичні аномалії, які інакше було б важко виявити. Цей процес дозволяє відстежувати, як певні патогени — наприклад, Covid або грип — мігрують світом і як вони еволюціонують, що може допомогти в управлінні будь-якими заходами громадського здоров’я.
Така робота була б достатньо важливою, враховуючи задокументоване зростання кількості природних нових патогенів. Але Ginkgo більше не займається лише біологічними загрозами, що виникають у природі. За підтримки Департаменту передових дослідницьких проектів розвідки (IARPA), дослідницького підрозділу розвідувального співтовариства США, Ginkgo розробила інструмент, відомий як ENDAR, або виявлення та ранжування штучно створених нуклеотидів, який спеціально розроблений для виявлення штучно створеного генетичного матеріалу.
Саме тут і з’являється штучний інтелект. Завдяки своєму бізнесу клітинної інженерії Ginkgo накопичила величезну бібліотеку геномів, створених штучним інтелектом. «Ми створюємо мікроби цілий день, щодня. І ми фактично використовуємо [інструменти], щоб перевірити, чи спрацювала наша інженерія», – сказала Касандра Філісон, директор з біоінформатики в Ginkgo. Так само, як інструменти штучного інтелекту, такі як ChatGPT, навчаються на величезних обсягах письмових матеріалів або зображень, щоб мати змогу відповідати на запити користувача з неймовірною точністю, ENDAR навчався на величезній бібліотеці геномів, створених штучним інтелектом. Це дозволяє ENDAR виявляти, коли щось виглядає не зовсім правильно.
«Ви можете бути дуже конкретними та почати розглядати те, що називається парою основ, наприклад, дуже конкретно кожен ATCG», – сказав Філіпс, маючи на увазі основні нуклеотиди, які з’єднуються разом, утворюючи ДНК. Ці структури, як правило, еволюціонують за передбачуваними закономірностями, і система може виявляти аномалії. «Ви насправді можете розрахувати молекулярний годинник і сказати: «Чи відповідає його походження тому, чого ми очікуємо, враховуючи еволюційну історію?» Якщо ні, це може бути ознакою того, що мала місце генна інженерія.
Якщо так, то це може значною мірою допомогти у вирішенні проблеми атрибуції, про яку згадував Енді. Якщо з’явиться новий вірус, такий же поганий або навіть гірший за Covid, ми повинні мати досить чітке уявлення про те, чи був він розроблений саме таким чином. Це може допомогти політикам спланувати реагування громадського здоров’я, а за необхідності — політичне чи військове.
Чому нам потрібен кращий біорадар
З огляду на те, що його метою є спрощення та здешевлення синтетичної біології у великих масштабах, можна стверджувати, що Ginkgo сама є частиною проблеми, просто виробляючи інструменти, які могли б, скажімо, зробити дизайнерську віспу більш можливою. Тим не менш, Ginkgo, схоже, підтримує цю дихотомію — ливарний цех прикрашений пам’ятними речами з «Парку Юрського періоду», що нагадує про потенціал, а можливо, і про ризики, пов’язаних з модифікацією ДНК, якою займається компанія. (Цікаво, що б професор Ієн Малкольм сказав про впевненість компанії.)
Уряд намагався зменшити ці ризики — виконавчий указ колишнього президента Джо Байдена про штучний інтелект у 2023 році містив обмеження на закупівлю синтетичної ДНК. Але Макнайт з Ginkgo стверджує, що враховуючи швидкість біотехнологічних інновацій у багатьох країнах та переваги, які вони можуть принести, «немає вибору, який ви можете зробити, щоб обмежити всі технології».
Коли йдеться про ризик неправильного використання цієї технології, він каже: «Ви не можете уникнути цього регульованим шляхом. Ви повинні бути кращими в цьому. Ви повинні бути такими ж хорошими, як і супротивники, у вживанні контрзаходів».
Державний департамент оцінив, що Росія та Північна Корея підтримують активні програми розробки наступальної біологічної зброї, хоча обидві країни підписали Конвенцію про заборону біологічної зброї. Але більшу проблему викликає Китай, враховуючи його дедалі домінуюче становище у світових біотехнологічних інноваціях, значні інвестиції у передовий штучний інтелект та часто суперечливий підхід його вчених до генетичних досліджень.
Що стосується Китаю, Державний департамент оцінює його більш нечітко, зазначивши, що країна «продовжує займатися біологічною діяльністю з потенційним застосуванням [біологічної зброї]» та не надала достатньої інформації про «різноманітні родини потужних токсинів із подвійним використанням». У працях низки відомих вчених-оборонніків Китаю, зокрема у підручнику, виданому Народно-визвольною армією, біотехнології визначені як «нова галузь ведення війни».
Боротьба з інфопандемією на тлі реальної пандемії
Макнайт вважає, що головним висновком з досвіду пандемії Covid було те, що «Америка сьогодні не є біозахищеною країною». І хоч би якою поганою була ситуація з Covid, те, що нас чекає, може бути набагато гіршим.
За його словами, Covid коштував економіці США трильйони доларів і «ймовірно, був найбільшим фактором у створенні хаосу, який ми спостерігаємо в нашій політичній системі. [Але] це було навіть не так погано порівняно з деякими потенційними явищами, які існують».
Есвельт вважає, що пандемія показала важливість накопичення профілактичного обладнання, такого як респіратори, які, ймовірно, будуть набагато ефективнішою першою лінією захисту, ніж вакцини, і що це слід розглядати як військовий пріоритет, а також пріоритет охорони здоров’я. «Ми програємо гарячу війну, в якій наш цивільний допоміжний персонал буде знищений пандемією, а супротивники — ні», — сказав він.
Штучний інтелект може тут зіграти роль по-іншому. Ми вже бачимо потенціал генеративного ШІ як інструменту для створення та поширення дезінформації так само ефективно, як і вірус. Епідеміолог Джей Варма нещодавно попередив про ризик того, що «зловмисник використовуватиме існуючі інструменти ШІ для імітації біотерористичної атаки, яка дестабілізує регіон або світ». Наприклад, Варма уявляє собі сценарій, у якому екстремістська група використовує підроблені докази біологічної атаки, поширені в соціальних мережах, щоб розпалити кризу безпеки між ядерними суперниками Китаєм та Індією.
Навіть без штучного інтелекту, чутки та дезінформація поширювалися під час пандемії, підриваючи довіру громадськості до вакцин. І попри оцінку розвідувального співтовариства про те, що Covid не був навмисно створеною біологічною зброєю, деякі політики продовжують натякати на це. (Невизначеність навколо цього, ймовірно, не посилюється постійною плутаниною щодо того, чи був Covid випадково випущений з лабораторії, яка проводила нешкідливі дослідження, що кілька розвідувальних служб вважають реальною можливістю).
Так само російський уряд поширював безпідставні чутки про те, що в Україні є лабораторії, де за підтримки уряду США розробляється біологічна зброя, і цю кампанію підхопили та поширили відомі американські медіадіячи, зокрема Такер Карлсон.
Все це говорить про те, що визначення того, що атака з використанням біологічної зброї не відбувається під час спалаху, може бути таким же важливим застосуванням технології ENDAR від Gingko, як і саме визначення такої атаки.
Незважаючи на зростаючу увагу, яка приділяється біобезпеці на урядовому рівні, є також підстави для занепокоєння щодо того, чи рухаються США до того, щоб стати більш біобезпечною країною. Адміністрація Трампа нещодавно скасувала грант у розмірі 12 мільйонів доларів Гарвардському університету на дослідження в галузі біобезпеки, незважаючи на попередження посадовців Пентагону про те, що це створюватиме загрози національній безпеці.
Дані як дезінфікуючий засіб
Як пише Гофман у книзі «Мертва рука», багато провідних радянських біологів, які працювали над програмою біологічної зброї країни, робили це під щирим враженням, що їхні колеги в США роблять те саме. Після закінчення холодної війни вони були приголомшені, дізнавшись, що американці припинили свою наступальну програму десятиліттями раніше. Але це лише показує, як недовіра та конкуренція в гонці озброєнь можуть затьмарити реальність.
З огляду на стрімкі темпи розвитку як синтетичної біології, так і штучного інтелекту, Енді хвилюється щодо нової ментальності гонки озброєнь. У той час як ядерна конкуренція з початку холодної війни регулювалася логікою взаємно гарантованого знищення (MAD), він хвилюється, що динаміка біобезпеки регулюватиметься тим, що він називає SAD — безглуздо гарантованим знищенням.
«Дійсно важливо бути обдуманим і обережним щодо звинувачень», – каже він. «Якщо ми не будемо обережними з тим, як формулюємо та говоримо про програми озброєння, ми отримаємо такий тип геополітичної аутоімунної реакції, яка призводить до деяких справді поганих політичних результатів. Ми не хочемо йти шляхом стримування» – іншими словами, стримувати ворога від застосування біологічної зброї, маючи власну потужнішу. Натомість, сказав Енді, «ми хочемо йти шляхом стійкості» – будувати суспільний захист від біологічних загроз, природних чи штучних».
Першим кроком у побудові цих захисних механізмів є точне усвідомлення того, які загрози існують.