Anthropic сама просит признать её новые ИИ Fable 5 и Mythos 5 угрозой безопасности
Разработчик искусственного интеллекта Anthropic, известный своей моделью Claude, сделал неожиданный шаг: компания направила своих представителей в Вашингтон для переговоров с властями США. Цель — договориться о включении двух новых мощных ИИ-моделей, Fable 5 и Mythos 5, в перечень технологий, представляющих угрозу национальной безопасности.
Обычно компании стремятся избежать жёсткого регулирования, но здесь ситуация иная. Anthropic добровольно инициирует диалог, чтобы установить контроль над своими же разработками. По данным источника, руководство компании считает, что эти модели настолько мощны, что их потенциальное нецелевое использование может нанести серьёзный ущерб.
Fable 5 и Mythos 5 — это, вероятно, новейшие генеративные ИИ-системы от Anthropic. Точные характеристики пока не раскрываются, но их называют одними из самых производительных на рынке. Компания уже не раз подчёркивала важность ответственного подхода к ИИ и выступала за внедрение мер безопасности.
Этот шаг частично повторяет историю прошлых моделей, когда Anthropic также участвовала в обсуждениях с властями. Однако нынешняя инициатива выделяется тем, что компания сама инициирует включение своих продуктов в список угроз. Это может повлиять на то, как будут регулироваться ИИ-технологии в будущем.
По мнению аналитиков, такое поведение редко встречается в сфере высоких технологий, где большинство фирм отстаивают максимальную свободу разработок. Антропик, напротив, демонстрирует, что безопасность может быть приоритетнее коммерческих интересов.
Переговоры в Вашингтоне, как сообщается, продолжаются. Если Fable 5 и Mythos 5 официально признают угрожающими национальной безопасности, на их разработку могут быть наложены ограничения — например, в области тестирования или распространения. В любом случае, это событие может задать новый вектор в обсуждении того, как контролировать самые продвинутые ИИ-системы.
