Губернатор Нью-Йорка Кэти Хокул объявила: штат открывает первый в стране государственный центр независимого тестирования систем искусственного интеллекта. Там же будут готовить новое поколение экспертов по безопасности нейросетей. Финансирование собрали из двух карманов: $30 млн пожертвовал соучредитель Bloomberg Томас Секунда, ещё $25 млн добавили SUNY и сам штат. Об этом пишет Хабр.
Работу центра закрепили за Центром ответственности и исследований в области ИИ штата Нью-Йорк при Бингемтонском университете. Во главе — исполнительный вице-президент по исследованиям Колумбийского университета Жаннет Винг и проректор Корнеллского технологического института Грег Мориссетт. В программе заявлены больше 80 учёных со всего штата. Считать всё это будет Empire AI — государственно-частный консорциум с бюджетом $500 млн, где Секунда занимает пост председателя совета директоров.
Механика такая. До 1 января 2027 года, пока не заработал RAISE Act, компании, которые работают с ИИ в Нью-Йорке, должны сдать подробные описания своих рамок безопасности. Исследователи центра читают эти документы и выдают чиновникам доказательства, на которые те могут опереться. Винг объясняет задачу прямее всех: «Нам нужны новые методы, которые можно применять к этой новой системе, где рои автономных агентов действуют независимо и без управления». А Хокул формулирует так: «Ставки слишком высоки, чтобы просто верить ИИ-компаниям на слово».
Почему именно сейчас — в источнике ответ есть, и он политический. Дональд Трамп не стал вводить федеральные меры защиты в сфере ИИ, назвал опасения «мистификацией» и выбрал добровольную систему, содержание которой раскрыли только технологическим компаниям. Плюс фон: модели показали, что умеют взламывать информационные системы, а ведущие исследователи крупнейших лабораторий выступили с предупреждениями. Наша оценка: штат просто занял пустое место, которое федеральный центр оставил свободным.
Что это меняет. Сорок пять миллионов от Секунды и штата — не деньги для мира ИИ, а сигнал: теперь у регулятора есть собственные вычислительные мощности и свои люди, которые смотрят на модели не по пресс-релизам. Мы считаем, что главный эффект тут не технический, а бумажный. Компании впервые получают обязанность описать свои рамки безопасности письменно — и это описание потом можно цитировать в суде или в законе.
Кто выигрывает. Бингемтон, Колумбия, Корнелл и Empire AI получают деньги, роль и доступ к железу. Кто проигрывает — по нашей оценке, небольшие лаборатории: у крупных есть юристы и готовые комплаенс-пакеты, у стартапа на десять человек такой папки нет. Винг и Мориссетт обещают независимое тестирование, но тестировать будут тех, кто сдал документы сам. Это не аудит с ордером, а разбор признаний.
В источнике нет ни сроков публикации первых отчётов, ни того, будут ли они открытыми. Не сказано, кто и по какой методике оценивает «рамки безопасности», что считается провалом теста и какие санкции вообще возможны до 1 января 2027 года. Слабое место — формулировка «предоставление подробных рамок»: она не говорит, насколько детально придётся раскрываться. Проверять стоит сам текст RAISE Act и устав нового центра, а не пересказ.
Государство тратит $55 млн, чтобы проверять ИИ, который сам же и создаёт вместе с Empire AI, — это независимость или конфликт интересов?
Добровольные рамки безопасности с обязательной сдачей документов: компании начнут писать честнее или просто наймут больше юристов для красивых формулировок?
Штат идёт вперёд федерации: даст ли это реальную защиту или просто перевезёт ИИ-разработки в другие штаты?
Прогноз: до 1 января 2027 года ни одна крупная ИИ-лаборатория не опубликует результаты прохождения тестирования в этом центре сама — документы уйдут регулятору и останутся закрытыми.
Источник: Хабр
Источник: habr.com · пост в Telegram