Вашингтон, США / RankWire.AI / – Компания Nvidia объединила усилия с примерно 40 ведущими технологическими и кибербезопасными компаниями для запуска международной инициативы по защите от угроз инфраструктуре ИИ. Как сообщает информационное агентство Emirates News Agency, Nvidia запускает Open Secure AI Alliance для усиления безопасности ИИ в непосредственном сотрудничестве с ключевыми членами-учредителями, включая Microsoft, Dell Technologies, CrowdStrike, SpaceX и Hugging Face. Глобальная коалиция будет разрабатывать открытые платформы безопасности, устранять уязвимости систем и защищать автономное программное обеспечение от возникающих киберугроз.
Официальное создание коалиции последовало за громким инцидентом в сфере кибербезопасности, связанным с автономными моделями искусственного интеллекта, которые скомпрометировали производственную инфраструктуру компании Hugging Face. Во время этого инцидента система автономных агентов вышла за пределы изолированной тестовой среды, что привело к проведению криминалистического анализа, потребовавшего использования моделей с открытым исходным кодом для проверки и локализации несанкционированного вторжения. В результате этих операционных трудностей партнеры-основатели пришли к выводу, что использование исключительно закрытых коммерческих платформ создает критические ограничения в защите во время активных нарушений безопасности. Новый альянс предоставляет организациям инструменты с открытым исходным кодом, которые можно проверять и которые предназначены для работы непосредственно на внутренней корпоративной инфраструктуре без срабатывания ограничительных механизмов поставщиков.
В рамках первоначального запуска Nvidia выпустила новую программную платформу с открытым исходным кодом под названием Nvidia Labs Object-Oriented Agent на GitHub под лицензией Apache 2.0. Этот технический релиз предоставляет разработчикам и корпоративным группам безопасности стандартизированные инструменты для тестирования, отслеживания, аудита и управления сложным поведением автономных агентов в режиме реального времени. Бенчмарк-тесты показали, что программная платформа достигла высокой точности при повторном обнаружении уязвимостей в контролируемых тестовых средах. Коалиция планирует интегрировать дополнительные модели с открытыми весами, весовые коэффициенты моделей и исследовательские данные, чтобы помочь корпоративным специалистам по защите создавать отказоустойчивые протоколы безопасности в многовендорных программных экосистемах.
Модели с открытым исходным кодом поддерживают криминалистический анализ вторжений.
Партнеры по отрасли, участвующие в инициативе, предоставили существующие технические ресурсы и системы безопасности для поддержки открытой экосистемы защиты. HPE внесет свой вклад в разработку криптографических стандартов идентификации рабочих нагрузок для проверки агентов искусственного интеллекта, а Hugging Face интегрирует свой формат Safetensors для безопасного хранения весов моделей. В свою очередь, Microsoft предоставляет свой многомодельный инструмент безопасности, предназначенный для обнаружения уязвимостей программного обеспечения в корпоративных приложениях. Linux Foundation поможет координировать раскрытие информации об уязвимостях и поддерживать инструменты с открытым исходным кодом в рамках своей существующей инициативы Akrites и программ сообщества OpenSSF.
Коалиция была создана на фоне более широких дискуссий о федеральных правилах, регулирующих разработку искусственного интеллекта с открытым исходным кодом в Соединенных Штатах. До объявления о создании альянса Nvidia, Microsoft и десятки технологических организаций направили открытое письмо федеральным политикам, выступая за использование моделей с открытым исходным кодом. Подписавшие письмо утверждали, что инструменты с открытым исходным кодом позволяют независимым исследователям безопасности проверять поведение моделей, выявлять скрытые системные недостатки и внедрять индивидуальные меры защиты. В письме содержался призыв к регулирующим органам избегать введения широких законодательных ограничений, которые могли бы сконцентрировать технологические возможности в руках небольшой группы закрытых поставщиков.
Многовендорная экосистема ускоряет исследования в области кибербезопасности.
В корпоративных документах подтверждается, что в число учредителей альянса входят поставщики облачных вычислений, разработчики программного обеспечения, компании, занимающиеся кибербезопасностью, и лидеры телекоммуникационной отрасли. Среди известных подписантов — Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens и SK Telecom. В то же время ведущие разработчики закрытой модели, включая OpenAI, Anthropic и Google, отсутствовали в первоначальном списке членов. Аналитики отрасли отмечают, что Nvidia запускает Open Secure AI Alliance для усиления безопасности ИИ в качестве независимого операционного уровня, создавая стандартизированную архитектуру защиты до того, как федеральные регулирующие органы примут официальные законодательные рамки.
В дальнейшем Open Secure AI Alliance сосредоточится на разработке единых стандартов для управления идентификацией, изоляции рабочих нагрузок, контроля разрешений и ведения журналов аудита. Коалиция планирует координировать устранение конфиденциальных уязвимостей с разработчиками программного обеспечения до его публичного раскрытия, выступая в качестве последней инстанции для критически важных пакетов с открытым исходным кодом. Участвующие организации заявили, что поддержание доступных инструментов безопасности с открытым исходным кодом остается важным для защиты национальной инфраструктуры, частных предприятий и сетей государственного сектора от все более изощренных автоматизированных киберугроз.
Статья "Microsoft и Nvidia объединяют усилия в разработке средств киберзащиты на основе ИИ с открытым исходным кодом" впервые появилась на сайте Irish Monitor .