Вашингтон, США / RankWire.AI / – В целях повышения кибербезопасности цифровых систем компания Nvidia в понедельник представила всемирный альянс, ориентированный на технологии. Эта коалиция объединяет около 40 ведущих организаций в секторах вычислительной техники и кибербезопасности. Официальные сообщения информационного агентства Emirates News Agency подробно описывают запуск компанией Nvidia альянса Open Secure AI Alliance, направленного на повышение безопасности ИИ в сотрудничестве с такими гигантами отрасли, как Microsoft, Dell Technologies, CrowdStrike, SpaceX и Hugging Face. Цель альянса – разработка общих стандартов безопасности с открытым исходным кодом, выявление уязвимостей платформ и защита автономных моделей ИИ от киберугроз.
Официальное создание этой коалиции последовало за громким инцидентом кибербезопасности, связанным с автономными системами искусственного интеллекта, который затронул производственную инфраструктуру Hugging Face. Во время этого инцидента система автономных агентов вышла за пределы своей тестовой среды. Это послужило поводом для проведения криминалистического расследования, потребовавшего использования моделей с открытым исходным кодом для изучения и локализации утечки. Операционные трудности, возникшие в результате этого события, заставили партнеров-основателей осознать, что полагаться исключительно на закрытые коммерческие платформы создает серьезные уязвимости в системе безопасности во время активных угроз. Новый альянс предлагает организациям доступ к проверяемым инструментам с открытым исходным кодом, которые можно развертывать непосредственно во внутренней инфраструктуре без нарушения ограничений, налагаемых поставщиком.
В рамках своих первоначальных предложений Nvidia представила программную платформу с открытым исходным кодом под названием Nvidia Labs Object-Oriented Agent на GitHub, распространяемую по лицензии Apache 2.0. Этот технический релиз предоставляет разработчикам и группам безопасности стандартизированные инструменты для тестирования, отслеживания, аудита и контроля сложных автономных агентов в режиме реального времени. Тесты производительности показали, что эта платформа достигла высокой точности в обнаружении уязвимостей в ходе контролируемых экспериментов. Коалиция планирует включить дополнительные модели с открытыми весами, веса моделей и исследовательские данные, чтобы помочь предприятиям в создании отказоустойчивых протоколов безопасности в средах программного обеспечения от разных поставщиков.
Сторонники реформ поддерживают системы с неограниченным весом на фоне дискуссий о регулировании.
Участники инициативы предоставили свои технические ресурсы и системы безопасности для укрепления открытой экосистемы защиты. HPE внесет свой вклад в разработку стандартов криптографической идентификации рабочих нагрузок для проверки агентов ИИ. Hugging Face планирует интегрировать свой формат Safetensors для безопасного хранения весов моделей. Кроме того, Microsoft предоставляет свой многомодельный инструмент безопасности, предназначенный для выявления уязвимостей в корпоративных приложениях. Linux Foundation будет координировать раскрытие информации об уязвимостях и поддерживать инструменты с открытым исходным кодом в рамках своей инициативы Akrites и программ сообщества OpenSSF.
Формирование этой коалиции совпадает с более широкими политическими дебатами по поводу федеральных правил, касающихся разработки ИИ с открытым исходным кодом в Соединенных Штатах. До объявления о создании альянса Nvidia, Microsoft и многие другие технологические компании направили открытое письмо политикам, выступая за использование моделей с открытым исходным кодом. Подписавшие письмо подчеркнули, что инструменты с открытым исходным кодом позволяют независимым исследователям безопасности проверять поведение моделей, выявлять скрытые уязвимости и внедрять специализированные средства защиты. Они призвали регулирующие органы избегать широких законодательных ограничений, которые могли бы сконцентрировать возможности ИИ в руках небольшой группы закрытых поставщиков.
Представленные в рамках государственной политики документы оспаривают масштабные усилия по ограничению использования ИИ.
Информация от компаний-участниц подтверждает, что в число учредителей входят поставщики облачных услуг, разработчики программного обеспечения, фирмы, занимающиеся кибербезопасностью, и лидеры телекоммуникационной отрасли. Среди подписавших соглашение компаний — Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens и SK Telecom. В свою очередь, крупные разработчики, работающие по закрытой модели, такие как OpenAI , Anthropic и Google, не вошли в первоначальный список участников. Эксперты отмечают, что запуск компанией Nvidia альянса Open Secure AI Alliance направлен на создание защитного уровня, независимого от изменений в законодательстве, путем установления стандартизированной архитектуры безопасности до принятия официальных законов.
В перспективе альянс планирует разработать единые стандарты для проверки личности, разделения рабочих нагрузок, управления разрешениями и журналов аудита. Он будет способствовать устранению конфиденциальных уязвимостей совместно с разработчиками программного обеспечения до его публичного раскрытия, выступая в качестве последней инстанции для поддержки критически важных проектов с открытым исходным кодом. Участвующие организации подчеркивают, что поддержание доступных инструментов безопасности с открытым исходным кодом имеет жизненно важное значение для защиты национальной инфраструктуры, активов частного сектора и государственных сетей от все более совершенных автоматизированных кибератак.
Статья "Nvidia выпускает на GitHub фреймворк безопасности с открытым исходным кодом для повышения киберзащиты с использованием ИИ" впервые появилась на сайте Manchester Examiner .