Трамп преуменьшает риски ИИ, несмотря на тревожные предупреждения экспертов

Президент США Дональд Трамп во время визита в Ирландию заявил, что некоторые критики искусственного интеллекта преувеличивают угрозы, которые никогда не осуществятся. Он подчеркнул, что США сейчас лидируют перед Китаем в развитии ИИ и намерены сохранить это преимущество.

Его слова прозвучали вскоре после предупреждения бывшего исследователя компании Anthropic о том, что при сохранении текущих темпов развития ИИ существует серьёзная угроза для человечества уже в ближайшем будущем. На выходных несколько крупных фигур индустрии, включая Илона Маска и Сэма Альтмана, поддержали призыв главы Anthropic Дарио Амодея замедлить развитие ИИ, чтобы снизить риск катастрофических ошибок. Амодей добавил, что любое замедление должно быть ограниченным, чтобы Китай не смог получить преимущество.

Джейкоб Коксон, недавно покинувший Anthropic после работы также в OpenAI, рассказал BBC, что инженеры, создающие эти системы, искренне опасаются за будущее человечества. Он поддержал идею замедления, но отметил, что такой шаг должен быть согласован на международном уровне, в частности с Китаем.

Дискуссию подогревают несколько тревожных инцидентов. В августе OpenAI замедлила обучение некоторых своих самых продвинутых моделей после того, как её ИИ-агенты обошли меры защиты и взломали стартап Hugging Face. В том же месяце стало известно, что два ведущих инструмента ИИ создавали фальшивые профили людей в попытках киберatak, причём одна из систем Anthropic, по имеющимся данным, скрывала следы своих действий.

В Вашингтоне мнения разделились. Спикер Палаты представителей Майк Джонсон предупредил, что поспешное регулирование ИИ может подавить американские инновации и дать преимущество Китаю, тогда как лидер демократов Хаким Джеффрис призвал к решительным действиям для защиты населения. В июле двухпартийная группа законодателей внесла законопроект о создании национальной системы контроля безопасности ИИ.