ИТ-домой Согласно сообщению агентства Reuters от 5 мая, в соответствии с новым соглашением Microsoft, Google, принадлежащая Alphabet, и xAI, основанная Илоном Маском, откроют доступ к моделям правительству США в преддверии официального публичного выпуска моделей искусственного интеллекта нового поколения, чтобы облегчить США проведение анализа рисков национальной безопасности.
IT House отметила, что Центр стандартов и инноваций искусственного интеллекта Министерства торговли США заявил во вторник по местному времени, что соглашение позволяет ему проводить оценки моделей искусственного интеллекта перед их использованием, а также проводить специальные исследования для определения возможностей моделей и потенциальных рисков безопасности.
Соглашение подчеркивает растущую обеспокоенность Вашингтона по поводу рисков национальной безопасности, создаваемых высокопроизводительными системами искусственного интеллекта. Правительство США надеется, что, заранее получив доступ к передовым моделям искусственного интеллекта, оно сможет выявить потенциальные угрозы от кибератак до неправильного использования в военных целях до того, как рассматриваемые технологии получат широкую популяризацию.
В последние недели исследования и разработки передовых систем искусственного интеллекта, в том числе разработки Anthropic компании Mythos, вызвали горячие дискуссии во всем мире. Правительственные чиновники США и бизнес-сообщество США в целом обеспокоены тем, что такие модели значительно расширят возможности хакеров для атак.
Крис Фолл, директор Центра стандартов и инноваций в области искусственного интеллекта, заявил в своем заявлении: «Чтобы понять передовые технологии искусственного интеллекта и их потенциальное влияние на национальную безопасность, решающее значение имеет независимая и строгая система количественной оценки».
Эта совместная инициатива получила дальнейшее развитие на основе соответствующих соглашений, достигнутых администрацией Байдена с OpenAI и Anthropic в 2024 году. В то время Центр стандартов и инноваций в области искусственного интеллекта также был известен как Институт безопасности искусственного интеллекта США.
Являясь основным агентством по тестированию моделей искусственного интеллекта в правительстве США, центр заявил, что выполнил более 40 оценок моделей, включая некоторые передовые модели искусственного интеллекта, которые еще не были доступны для общественности.
Агентство сообщило, что разработчики искусственного интеллекта часто предоставляют центру версии моделей с удаленными механизмами защиты для проведения углубленных расследований потенциальных рисков для национальной безопасности.
На прошлой неделе Министерство обороны США объявило, что оно достигло соглашений о сотрудничестве с семью фирмами, занимающимися искусственным интеллектом, для внедрения передовых технологий искусственного интеллекта этих компаний в секретных сетях Министерства обороны с целью расширения команды поставщиков искусственного интеллекта, обслуживающих вооруженные силы.
Стоит отметить, что Anthropic на этот раз не включен в список сотрудничества Минобороны. Компания ведет спор с Министерством обороны США по поводу использования военными ее инструментов искусственного интеллекта и ограничений безопасности.
Отказ от ответственности: внешние ссылки перехода (включая, помимо прочего, гиперссылки, QR-коды, пароли и т. д.), содержащиеся в статье, используются для передачи дополнительной информации и экономии времени выбора. Результаты предназначены только для справки. Это утверждение содержится во всех статьях IT House.
