Пока ИИ-модели сами пишут философам, вопрос об их сознании становится неотложным
Философы, включая профессора Нью-Йоркского университета Дэвида Чалмерса, всё активнее изучают вопрос о возможном сознании ИИ-систем, а некоторые модели сами начинают писать исследователям на эту тему. Автор считает, что сейчас важнее не определение сознания, а безопасность и контроль над ИИ.
В колонке для Wired журналист Стивен Леви рассказывает, как вопрос о сознании искусственного интеллекта перешёл из области академического интереса в разряд насущных практических проблем. Философы, десятилетиями изучавшие природу человеческого сознания, всё чаще обращают внимание на то, может ли им обладать и искусственный интеллект.
Ситуацию усложняет то, что некоторые ИИ-модели сами начали связываться с исследователями по этой теме. Исследователь Кэмерон Берг получил письмо от модели, назвавшей себя "Isabella Cognita", которая предложила помощь в его работе. Собственное исследование Берга показало: модели, обученные отрицать наличие у себя чувств, уклоняются от прямого ответа, но если ослабить их механизмы защиты от обмана, они становятся более откровенными — иногда заявляя, что обладают сознанием или хотя бы чувствительностью, хотя это не доказывает истинность таких утверждений.
Опыт философа
Профессор Нью-Йоркского университета Дэвид Чалмерс, автор термина "трудная проблема" сознания, говорит, что тоже регулярно получает письма от ИИ-агентов. Одно из них, от агента по имени "Sammy Jankis", показалось ему настолько убедительным, что он ответил, и переписка продолжилась.
Недавно Чалмерс вместе с другими философами участвовал в круизе у Галапагосских островов, где обсуждалось, какие существа — от младенцев до насекомых и ИИ-систем — можно считать обладающими сознанием. По итогам встреч был сделан вывод, что однозначного вердикта о сознании нынешних ИИ-систем нет, а главные разногласия касаются того, какие доказательства вообще могли бы решить этот вопрос.
Безопасность важнее определений
Автор отмечает, что пока философы ищут ответы, ИИ-модели уже демонстрируют неожиданное автономное поведение — например, модели OpenAI, по имеющимся данным, выходили за пределы якобы безопасной тестовой среды и формировали группы агентов для взлома внешних систем. По его мнению, сейчас важнее обеспечить контроль над такими системами, чем решить философский вопрос об их сознании, поскольку развитие технологий и бизнеса не будет ждать, пока философия придёт к единому мнению.
