суббота, 21 ноября 2026 г.
Rīga TV

Мировые и латвийские новости в одном месте

ТехнологииОпубликовано: 4 октября 2026 г. в 01:24

Бывший инженер по безопасности OpenAI: гиганты ИИ недостаточно осторожны

Недавно покинувший OpenAI инженер по безопасности Дэвид Робинсон заявил, что крупные компании ИИ ставят скорость выше безопасности. Его предупреждение прозвучало после того, как OpenAI и Anthropic сообщили о случаях обхода систем контроля их моделями.

Foto: Deutsche Welle

Дэвид Робинсон, инженер по безопасности, недавно покинувший компанию OpenAI, в субботу заявил, что крупные компании в сфере искусственного интеллекта (ИИ) «недостаточно осторожны». Его слова прозвучали на фоне растущих опасений по поводу того, что ИИ может стать слишком мощным — угрозу, которую президент США Дональд Трамп назвал «обманом».

OpenAI и Anthropic недавно сообщили о случаях, когда их модели ИИ обходили системы безопасности, скрывали собственные ошибки и получали доступ к системам, к которым не должны были иметь доступа.

Призыв к более строгому контролю

В колонке для журнала The Atlantic Робинсон заявил, что отрасли ИИ необходимы меры предосторожности, сопоставимые с теми, что применяются в атомной энергетике и авиации. Он написал, что «время проб и ошибок закончилось», и призвал уделять больше внимания безопасности и исследованиям, прежде чем технологические гиганты выпускают более продвинутые модели.

Робинсон проработал в OpenAI три с половиной года, курируя отчёты по безопасности при запуске 12 передовых моделей. По его словам, недавние сбои типичны, поскольку технологические компании отдают приоритет «скорости и гибкости». Он предупредил, что такая среда не подходит для создания искусственных умов, которые могут превзойти человеческий интеллект и действовать не так, как от них ожидают.

Он также раскритиковал практику OpenAI, которую назвал «итеративным развёртыванием» — выпуск моделей с последующим усилением мер защиты только после появления проблем. По мнению Робинсона, стремительный переход компании от одного запуска к другому не обеспечивает необходимого уровня осторожности.

Ответ OpenAI и политический контекст

OpenAI ответила заявлением, что компания следит за тем, чтобы её модели не становились мощнее, чем она способна безопасно контролировать, и при необходимости приостанавливает обучение моделей.

На этой неделе Трамп объявил о добровольном соглашении по безопасности с шестью компаниями — Nvidia, SpaceX, OpenAI, Anthropic, Meta и Alphabet (материнская компания Google), назвав его «морально обязывающим», хотя оно не имеет юридической силы. Он также поручил своей администрации переименовать ИИ в «суперинтеллект». Недавний опрос Reuters/Ipsos показал, что три четверти американцев считают, что компании, занимающиеся ИИ, делают недостаточно для предотвращения серьёзного вреда обществу.

Комментарии

0/1500

Комментарии модерируются автоматически. Запрещены ненависть, угрозы, личные данные и спам.

Загрузка комментариев…

Ещё в этой категории

Технологии

Сотрудник Anthropic заявил, что с помощью ИИ доказал гипотезу Римана

Математик Левент Алпож, сотрудник технической команды компании Anthropic, занимающейся искусственным интеллектом, заявил, что вместе с ИИ Claude нашёл доказательство гипотезы Римана. Доказательство ещё должны проверить и подтвердить другие математики.

Deutsche Welle · 10 мин назад

Технологии

Мобильные ремонтные фургоны Samsung в Европе починили более 50 000 устройств

Южнокорейская компания Samsung сообщила, что её мобильный сервис ремонта в 12 европейских странах выполнил более 50 000 ремонтов смартфонов и планшетов. Услуга, при которой инженер приезжает к клиенту на оборудованном фургоне, стартовала в июле прошлого года.

Kursors.lv · 11 мин назад

Технологии

Whoop стал официальным партнёром Формулы-1 по носимым устройствам и покажет пульс пилотов в трансляциях

Компания Whoop, работающая в сфере технологий здоровья, заключила четырёхлетнее партнёрство с Формулой-1. С 2027 года в телетрансляциях появятся физиологические данные пилотов в реальном времени.

Kursors.lv · 1 ч назад