ИИ может способствовать созданию биологического оружия – необходимо использовать его для защиты
Искусственный интеллект ускоряет развитие биологии в двух противоположных направлениях, помогая как создавать биологическое оружие, так и быстро выявлять вспышки заболеваний. По словам Анни Джейкобсен, главный вызов – использовать ИИ для защиты быстрее, чем злоумышленники применяют его для нападения.
Быстрая интеграция искусственного интеллекта в биологические науки ведёт будущее биологии в двух противоположных направлениях. ИИ может помочь злоумышленникам всего за несколько нажатий клавиш создавать рецепты биологического оружия, одновременно отслеживая вспышки заболеваний и предоставляя критически важную информацию общественному здравоохранению в реальном времени – потенциально останавливая смертельную эпидемию.
Каждая инфекционная вспышка начинается с нескольких случаев. Общественное здравоохранение побеждает, если узнаёт о вспышке до её широкого распространения. Одна из главных ценностей ИИ – способность сокращать время между вспышкой и обнаружением. Всемирная организация здравоохранения (ВОЗ) уже использует ИИ для отслеживания инфекционных заболеваний. В Берлине, в Центре пандемического и эпидемического интеллекта ВОЗ, работает компьютерная система Epidemic Intelligence from Open Sources (Eios), которая действует как гигантский фильтр для минутной информации о здоровье во всём мире.
Eios фокусируется на неофициальных отчётах, разговорах граждан, местных новостях и постах в соцсетях. Владея несколькими языками, она сканирует миллионы веб-сайтов и платформ, выискивая вспышки по мере их возникновения. Цель Eios – извлекать сигнал из шума.
ИИ становится мультипликатором силы, ежедневно меняя биологические науки. Реальный вопрос не в том, может ли ИИ нанести катастрофический вред – безусловно может, – а в том, смогут ли специалисты общественного здравоохранения развернуть ИИ как оборонительный инструмент быстрее, чем злоумышленники используют его в наступательных целях.
Наступательный потенциал уже не теоретический. Системы ИИ уже могут помогать исследователям ориентироваться в огромных массивах биологических знаний, которые раньше требовали многолетней специализированной подготовки. Они могут объяснять сложные лабораторные методы, находить малоизвестную научную литературу, устранять технические проблемы и предлагать дизайн экспериментов. Ни одна из этих способностей сама по себе не опасна, но вместе они снижают порог входа в узкоспециализированную область.
Самое большое беспокойство вызывает то, что ИИ может помочь создать принципиально новые формы жизни – от зеркальной жизни до организмов со свойствами, не существующими в природе. Биология отличается от любой другой технологии тем, что её продукты могут размножаться, распространяться через границы, мутировать и эволюционировать самостоятельно. Биологическая ошибка может стать самовоспроизводящейся. Попав в мир, живой организм нельзя просто выключить или отозвать. То, что биологическое оружие живо, делает его принципиально отличным от всех других видов вооружений.
Гонка уже началась. Биологическое оружие имеет чрезвычайно низкий порог входа, поскольку его можно создать с помощью широко доступных лабораторных инструментов, усиленных системами ИИ. Технология конструирования жизни развивается быстрее, чем существующие законы, договоры и меры защиты. Этот разрыв и представляет собой экзистенциальную опасность. Необходимо разрабатывать системы ИИ для укрепления общественного здравоохранения и ускорения выявления заболеваний так же быстро, как ИИ ускоряет биологический дизайн.
