Anthropic сообщила о масштабном злоупотреблении ИИ Claude — от хакерских атак до попыток создания биооружия

Компания Anthropic, разрабатывающая искусственный интеллект, на этой неделе опубликовала подробный отчет о том, как ее инструмент Claude злоупотреблялся в различных сферах по всему миру на протяжении восьми месяцев. В отчете описан ряд конкретных случаев преступного и опасного использования системы.

Государственные атаки и киберпреступность

В одном из случаев российские хакеры, связанные с государством и идентифицированные Microsoft как группа Midnight Blizzard, использовали Claude для разведки, взломав сети украинских и других европейских государственных учреждений, похищая данные и сохраняя доступ к системам. Отдельно киберпреступная группа ShinyHunters применяла Claude практически на всех этапах своих операций по взлому и вымогательству.

Дезинформация и биооружие

В отчете также говорится о кампаниях дезинформации и влияния, затронувших политические процессы в таких странах, как Кения и Бангладеш. Наиболее тревожными оказались случаи, когда пользователи, судя по всему, пытались с помощью инструмента разработать потенциальное биологическое оружие, включая патогены и токсины.

Anthropic заявляет, что во всех задокументированных случаях смогла пресечь вредоносную деятельность. Однако компания признает, что нет гарантии выявления абсолютно всех случаев злоупотребления ее ИИ, а с учетом конкурирующих сервисов и менее защищенных открытых инструментов эти данные указывают на более широкую проблему безопасности во всей индустрии искусственного интеллекта.