Исследователь предупреждает: гонка в сфере ИИ может опередить возможности контроля над ним
Исследователь безопасности искусственного интеллекта Джейкоб Коксон предупреждает, что конкуренция компаний за создание более мощных систем ИИ может опережать разработку надёжных способов их сдерживания. Он подчёркивает, что риски не сводятся к гипотетическому бунту машин, а включают киберугрозы и дезинформацию.
Темпы развития искусственного интеллекта опережают способность общества к ним адаптироваться, и по мере появления всё более мощных систем растут опасения относительно того, смогут ли люди сохранить над ними контроль. Об этих рисках публично заявил исследователь безопасности ИИ Джейкоб Коксон.
По его словам, конкуренция технологических компаний в разработке более мощных систем может развиваться быстрее, чем создаются надёжные способы их ограничения. Особую обеспокоенность у Коксона вызывает перспектива появления систем ИИ, способных не только выполнять поставленные человеком задачи, но и самостоятельно улучшать собственные возможности. Если такая система превзойдёт человека во многих интеллектуальных областях, её поведение может стать всё труднее предсказывать и контролировать.
Доступ к цифровой инфраструктуре как фактор риска
Одна из потенциальных опасностей связана с возможным доступом ИИ к компьютерам, интернету и другим цифровым ресурсам. Теоретически высокоразвитая система могла бы самостоятельно искать информацию, разрабатывать стратегии и писать программный код, пытаясь достичь поставленных перед ней целей методами, которые изначально не предполагались разработчиками. Если такие цели разойдутся с интересами человечества, последствия могут оказаться серьёзными.
Коксон подчёркивает, что угроза не сводится лишь к гипотетическому восстанию машин против людей. Бесконтрольный ИИ может использоваться и для кибератак, распространения дезинформации, мошенничества или разработки других опасных технологий. Чем шире применяются подобные системы, тем масштабнее потенциальный ущерб.
Главная мысль предупреждения Коксона — не призыв отказаться от искусственного интеллекта, а требование, чтобы его развитие не определялось исключительно гонкой скорости. По его мнению, прежде чем создавать всё более мощные системы, необходимо обеспечить надёжные механизмы для наблюдения за их работой, ограничения и, при необходимости, остановки.
