OpenAI приостановила крупное обучение ИИ из-за рисков кибербезопасности

Компания OpenAI, известная своими разработками в области искусственного интеллекта, приняла решение временно замедлить работу над самыми мощными ИИ-моделями. Как сообщается в заявлении компании, крупнейший запланированный цикл обучения одной из передовых систем поставлен на паузу.

Пауза рассчитана как минимум на две недели. За это время специалисты компании намерены пересмотреть подходы к безопасности. При этом эксперименты и обучение моделей меньшего масштаба продолжаются в обычном режиме.

Причиной такого шага называются риски в области кибербезопасности. С развитием ИИ его возможности приближаются к уровню, когда модель может использоваться для сложных атак или других опасных действий. Поэтому компания решила подойти к процессу более осторожно.

Подобные паузы — не редкость в индустрии ИИ. Крупные лаборатории периодически останавливают обучение, чтобы убедиться, что системы не выходят из-под контроля. Важно, чтобы разработка шла параллельно с изучением возможных угроз.

Для обычных пользователей это значит, что некоторые обновления могут появиться позже, чем ожидалось. Однако такие меры помогают снизить риски, связанные с внедрением мощных ИИ-систем в повседневную жизнь.

Решение OpenAI подчеркивает, насколько серьёзно компании относятся к безопасности. Развитие ИИ продолжается, но теперь с дополнительной проверкой на прочность.