ФБР планирует закупить ИИ-суперкомпьютеры с Nvidia и Google TPU

Федеральное бюро расследований США (ФБР) изучает возможность закупки специализированных ИИ-суперкомпьютеров. В опубликованном запросе информации (RFI) ведомство указало, что ищет системы для обучения и запуска больших языковых моделей, анализа данных и компьютерного зрения. Как сообщает издание, это предварительный этап, и окончательное решение о покупке пока не принято.

Запрос разделён на четыре категории оборудования. Первая включает серверы на базе процессоров Intel Xeon и минимум 2 ТБ оперативной памяти с возможностью расширения до 4 ТБ. Такие системы должны быть оснащены восемью графическими ускорителями Nvidia HGX B300 или аналогичными решениями, а также SSD-накопителями и высокоскоростными сетевыми интерфейсами.

Вторая категория касается интегрированных стоечных систем масштаба дата-центра. ФБР рассматривает решения уровня Nvidia GB300 NVL72 — готовые стойки для обучения ИИ-моделей. Они должны включать высокоскоростную сеть между ускорителями, Ethernet-инфраструктуру Nvidia Spectrum-X и встроенное охлаждение с возможностью подключения к водяным системам.

Третья категория посвящена архитектурам ИИ-кластеров на основе специализированных процессоров. В документах упоминаются системы уровня Google TPU v8, TPU v7L или выше. Производительность таких кластеров должна быть сопоставима как минимум с пятью стойками Nvidia GB300 NVL72. Примечательно, что TPU обычно предоставлялись через облачную инфраструктуру Google, но компания постепенно расширяет их доступность для локальных установок.

Четвёртая категория — ускорители для запуска готовых моделей. ФБР рассматривает решения уровня Nvidia L40S с памятью от 48 ГБ. Они должны поддерживать форматы FP32, FP16, BF16 и INT8, а также инструменты CUDA, TensorRT, PyTorch и TensorFlow. Оборудование предназначено для задач генеративного ИИ, работы с эмбеддингами и компьютерного зрения.

По данным источника, большая часть поставок планируется для подразделения ФБР Criminal Justice Information Services (CJIS) в Кларксберге, Западная Виргиния. Там будут размещены защищённые вычислительные системы. Запрос информации не гарантирует закупку, но даёт представление о технических требованиях ведомства.