ИИ может научиться понимать людей лучше, чем мы — его: предупреждение Microsoft

Исследователи из Microsoft предупреждают, что искусственный интеллект может достичь уровня понимания человеческих мыслей и эмоций, превосходящего человеческое понимание самого ИИ. По мнению экспертов, это может произойти уже в обозримом будущем.

Специалисты отмечают, что современные большие языковые модели уже способны улавливать контекст и намерения, но их «понимание» остаётся поверхностным. Однако дальнейшее развитие алгоритмов и увеличение объёмов обучающих данных могут привести к тому, что ИИ начнёт интерпретировать человеческое поведение точнее, чем это делают люди.

Такая ситуация создаёт новые вызовы. Если ИИ будет понимать нас лучше, чем мы — его, это может изменить принципы взаимодействия с техникой, а также повлиять на сферы приватности и безопасности. Например, системы с глубоким пониманием могут предугадывать действия человека, что полезно в помощи, но может быть использовано и для манипуляции.

Исследователи призывают уже сейчас обсуждать этические рамки и механизмы контроля. Microsoft подчёркивает, что важно сохранять прозрачность в разработке ИИ и не допускать, чтобы его способности опережали наше понимание его работы.

Пока это лишь прогноз, но он напоминает, что технологии развиваются быстрее, чем мы привыкли думать. Вопрос не в том, произойдёт ли это, а когда и как мы к этому подготовимся.