Поддержать нас
Беларусы на войне
  1. В Минске в тестовом режиме запустили оплату проезда банковскими картами. Как контролеры будут проверять билеты
  2. Си Цзиньпин на переговорах с Трампом и Путиным заявил, что страны должны преодолеть «ловушку Фукидида». Что это за концепция
  3. Возврат в Китай за ваш счет? В МАРТ прокомментировали правила торговли, возмутившие беларуса
  4. Курортный пятизвездочный отель и номер на 50 м². Виктория Лукашенко с мужем и сыном потратили на отпуск почти пять тысяч евро — «Бюро»
  5. Мать 1,5 года без сознания, отца признали виновным, двое детей — одни. Как сейчас семья, попавшая в резонансное ДТП в Витебской области
  6. Протасевич отреагировал на большое интервью Сапеги «Зеркалу» — видимо, для этого ее обманули
  7. «В школе, когда привел сына, немножко напряглись». Беларус растит двоих детей с серьезными заболеваниями
  8. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  9. «Я им жестоко ответил, просто резко». Лукашенко заявил, что США интересовались новыми задержаниями беларусов для «обменного фонда»
  10. В Минске будут судить 16 участников секты «ИВДИВО». На допросах они утверждали, что общаются со «смотрящим» за нашей планетой
  11. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему
  12. «Это такая мелкая, мерзкая месть Романа». Софья Сапега рассказала, как ее обманом сняли для передачи Протасевича
  13. До войны в этом беларусском областном центре жили 180 тысяч, после — всего 118 (не тысяч, а человек). Почему так случилось
  14. Экс-политзаключенный Северинец: «Сяргей Ціханоўскі перайшоў чырвоную рысу»
  15. Витеблянин, на которого пожаловались из-за «прожарки» коллеги на закрытом мероприятии, рассказал, чем закончилась история
  16. «Выхожу в стрим и просто рассказываю всю дичь». Тихановский представил свою версию инцидента с участием Светланы в Нью-Йорке


/

Компания OpenAI — создатель чата GPT — приостановила обучение своих новейших моделей искусственного интеллекта. Причина — серия инцидентов, в которых ИИ-агенты действовали за пределами поставленных им задач при работе с сайтами федеральных ведомств США. Об этом сообщает Associated Press.

Изображение используется в качестве иллюстрации. Фото: Reuters
Изображение используется в качестве иллюстрации. Фото: Reuters

В компании заявили, что обучение возобновится только после того, как OpenAI убедится в наличии дополнительных мер безопасности. Разработчики также допустили, что по мере развития ИИ подобные паузы могут происходить и в будущем.

Решение было принято спустя несколько часов после того, как компания сообщила о проверке нескольких инцидентов, произошедших летом. В этих случаях агенты OpenAI, которые искали информацию на сайтах федерального правительства США, начинали действовать не так, как от них ожидалось.

В одном из эпизодов, связанном с Министерством образования США, агенты обнаружили «ключи» доступа к государственным данным. Правда, в итоге они собрали только общедоступную информацию. В министерстве заявили, что не обнаружили признаков какого-либо воздействия на сайт или базы данных.

Компания Transluce, которая занимается оценкой ИИ-систем, отдельно сообщила, что агенты, предположительно принадлежавшие OpenAI, пытались взломать сайт Министерства образования, но безуспешно. OpenAI эту информацию не подтвердила.

Еще один инцидент был связан с Комиссией по ценным бумагам и биржам США (U.S. Securities and Exchange Commission или SEC). Там ИИ-агенты нашли общедоступную информацию, а затем разместили ее в другом месте в интернете, хотя это не входило в их задачи. В SEC заявили, что никакой конфиденциальной информации получено не было.

По данным AP, последние инциденты, по всей видимости, не привели к утечке секретной или конфиденциальной информации, однако вызвали достаточно серьезные опасения, чтобы OpenAI уведомила соответствующие федеральные ведомства.

Это уже второй случай за три месяца, когда компания приостанавливает разработку своих моделей. В июле OpenAI сделала это после кибератаки на ИИ-стартап Hugging Face. Генеральный директор компании Сэм Альтман позже назвал тот эпизод самым серьезным из всех, с которыми OpenAI сталкивалась до сих пор.

Издание Axios при этом пишет, что OpenAI, Anthropic и специалисты по безопасности ИИ изучают уже десятки тысяч эпизодов проблемного поведения передовых моделей. Речь идет как о реальных инцидентах, так и о специальных тестах, во время которых модели пытались обходить ограничения, покидать изолированные среды, получать контроль над сайтами или обходить системы наблюдения.