Австралия регулирует «цифровых чиновников»: ИИ в госрешениях проверят на точность

20 июля правительство Австралии объявило о начале разработки федеральной системы регулирования автоматизированных решений, принимаемых государственными органами. Задача поручена генеральному прокурору страны.

Цель инициативы — обеспечить, чтобы решения, в том числе с использованием искусственного интеллекта, были точными, справедливыми и прозрачными. Пока это политическое решение, а не готовый закон, поэтому детали ещё предстоит проработать.

Власти ещё не определили, какие именно государственные системы попадут под новые правила, будут ли требования распространяться на подрядчиков, какие объяснения должны получать граждане и как будет организовано обжалование решений. Контролирующий орган тоже пока не назначен.

Новая инициатива стала частью более широкой программы безопасного использования ИИ. Параллельно правительство готовит меры по введению так называемой цифровой заботы (digital duty of care) — предотвращения вреда от цифровых сервисов, реформу законодательства о конфиденциальности, правила применения ИИ на рабочих местах и изменения в защите прав потребителей.

Если предложенный механизм примут, он станет первой единой федеральной системой регулирования автоматизированного принятия решений в госорганах Австралии. Конкретные требования, сроки и механизм контроля обещают представить позже.

Эксперты отмечают, что подобное регулирование может стать примером для других стран, которые тоже задумываются о контроле за ИИ в государственном управлении. Однако пока остаётся много вопросов о том, как именно будут оцениваться алгоритмы и какие критерии справедливости применят.