Наталья Касперская перечислила главные риски ИИ: утечки, галлюцинации и чрезмерное доверие
Президент группы компаний InfoWatch Наталья Касперская выступила на конференции ЦИПР-2026 и перечислила основные риски, связанные с применением искусственного интеллекта (ИИ) в промышленности. По её словам, доверие к технологии часто бывает излишним из-за её «хайповости», а реальные угрозы пока недооценены.
Первый и самый серьёзный риск — утечка конфиденциальных данных. Касперская отметила, что большинство используемых в России генеративных моделей ИИ созданы за рубежом. Компании нередко применяют их без переноса в собственный защищённый периметр. В качестве примера она привела случай, когда промышленное предприятие поделилось с ИИ описанием технологических процессов, а конкуренты с помощью специального промта извлекли эти секреты.
Вторая угроза связана с тем, что зарубежные «акторы» могут отслеживать запросы российских предприятий и целенаправленно подсовывать им ложную информацию. Касперская пояснила: модель может генерировать ответ, который выглядит правильным, но на самом деле содержит специально искажённые данные, способные навредить компании.
Третий риск — так называемые галлюцинации ИИ. Поскольку нейросети — вероятностная технология, их ответы не всегда достоверны. Однако из-за шумихи вокруг технологии у пользователей возникает чрезмерное доверие к её результатам. Касперская подчеркнула, что полагаться на ИИ без проверки опасно.
Кроме того, она обратила внимание на бесконтрольное использование генеративных моделей сотрудниками. Люди часто покупают доступ к различным сервисам ИИ для работы, не ставя в известность руководство. В качестве иллюстрации Касперская привела опрос разработчиков её собственной компании: из 150 респондентов использовался широкий спектр моделей, о которых руководство даже не подозревало.
Эксперт признала, что ИИ даёт преимущества в скорости, но риски пока проработаны слабо. Она резюмировала, что тема безопасности ИИ — это «дверь, которую ещё предстоит открыть», и призвала бизнес внимательнее относиться к внедрению таких технологий.
