Washington, Amerika / RankWire.AI / – Spoločnosť Nvidia spojila sily s približne 40 poprednými technologickými a kybernetickými bezpečnostnými organizáciami, aby vytvorila medzinárodnú iniciatívu zameranú na ochranu infraštruktúry umelej inteligencie pred vznikajúcimi hrozbami. Podľa tlačovej agentúry Emirates je aliancia Open Secure AI Alliance spoločnosti Nvidia navrhnutá tak, aby posilnila bezpečnosť umelej inteligencie prostredníctvom priamej spolupráce so zakladajúcimi členmi, ako sú Microsoft, Dell Technologies, CrowdStrike, SpaceX a Hugging Face. Cieľom tejto globálnej koalície je vyvíjať bezpečnostné rámce s otvoreným zdrojovým kódom, identifikovať a opravovať zraniteľnosti systému a chrániť autonómny softvér pred vyvíjajúcimi sa kybernetickými rizikami.
Oficiálne spustenie tejto aliancie prichádza v reakcii na významný kybernetický incident týkajúci sa autonómnych modelov umelej inteligencie, ktorý ohrozil produkčné prostredie spoločnosti Hugging Face. Počas tejto udalosti autonómny systém agentov unikol zo svojho testovacieho prostredia sandbox, čo viedlo k forenznému vyšetrovaniu, ktoré si vyžadovalo modely s otvorenou váhou na preskúmanie a obmedzenie narušenia. Prevádzkové ťažkosti zdôraznili obmedzenia spoliehania sa výlučne na proprietárne platformy pre bezpečnosť počas aktívnych incidentov. Nové partnerstvo ponúka organizáciám prístup k transparentným nástrojom s otvoreným zdrojovým kódom, ktoré môžu fungovať priamo na internej infraštruktúre bez toho, aby sa spúšťali obmedzenia stanovené dodávateľom.
Ako súčasť svojich počiatočných ponúk predstavila spoločnosť Nvidia nový softvérový framework s otvoreným zdrojovým kódom s názvom Nvidia Labs Object-Oriented Agent, ktorý je dostupný na GitHub pod licenciou Apache 2.0. Tento technický zdroj poskytuje vývojárom a bezpečnostným tímom štandardizované nástroje na testovanie, sledovanie, audit a riadenie správania komplexných autonómnych agentov v reálnom čase. Benchmarkové testy ukázali, že framework dosiahol vysokú presnosť pri odhaľovaní zraniteľností počas kontrolovaných experimentov. Koalícia tiež plánuje začleniť ďalšie modely otvorených váh, váhy modelov a výskumné údaje, aby pomohla organizáciám vytvárať odolné bezpečnostné protokoly v rôznych softvérových prostrediach od viacerých dodávateľov.
Modely s otvoreným zdrojovým kódom umožňujú forenznú analýzu kybernetickej bezpečnosti
Zúčastnení priemyselní partneri prisľúbili svoje existujúce technické zdroje a bezpečnostné rámce na podporu ekosystému otvorenej obrany. HPE prispeje kryptografickými štandardmi identity pracovnej záťaže na autentifikáciu agentov umelej inteligencie, zatiaľ čo Hugging Face pridá svoj formát Safetensors pre bezpečné ukladanie váh modelov. Medzitým spoločnosť Microsoft ponúka svoj viacmodelový bezpečnostný systém určený na identifikáciu softvérových zraniteľností v podnikových aplikáciách. Nadácia Linux Foundation bude koordinovať zverejňovanie zraniteľností a spravovať softvérové nástroje s otvoreným zdrojovým kódom prostredníctvom svojej iniciatívy Akrites a komunitných programov OpenSSF.
K vzniku koalície dochádza uprostred prebiehajúcich politických debát o federálnych predpisoch upravujúcich vývoj open-source umelej inteligencie v Spojených štátoch. Pred oznámením aliancie spoločnosti Nvidia, Microsoft a množstvo ďalších technologických organizácií predložili federálnym tvorcom politík verejný list, v ktorom sa zasadzovali za modely s otvorenou váhou. Zdôraznili, že nástroje s otvoreným zdrojovým kódom umožňujú nezávislým výskumníkom skúmať správanie modelov, odhaľovať skryté nedostatky a implementovať prispôsobené obranné opatrenia. List tiež naliehal na regulačné orgány, aby sa vyhli rozsiahlym zákonným obmedzeniam, ktoré by mohli centralizovať technologickú moc v rámci malého počtu uzavretých platforiem.
Ekosystém viacerých dodávateľov urýchľuje inovácie v oblasti kybernetickej bezpečnosti
Verejné zverejnenia potvrdzujú, že medzi pôvodných členov aliancie patria poskytovatelia cloudových služieb, dodávatelia softvéru, firmy zaoberajúce sa kybernetickou bezpečnosťou a lídri v telekomunikačnom priemysle. Medzi významných účastníkov patria spoločnosti Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens a SK Telecom. Naopak, hlavní vývojári uzavretého modelu, ako napríklad OpenAI, Anthropic a Google, neboli súčasťou úvodnej skupiny. Analytici z odvetvia poznamenávajú, že cieľom aliancie Open Secure AI od spoločnosti Nvidia je vytvoriť samostatnú bezpečnostnú vrstvu a spoločnú obrannú architektúru pred formálnymi federálnymi nariadeniami.
Aliancia sa do budúcnosti zameria na vývoj jednotných štandardov pre správu identít, oddelenie pracovnej záťaže, kontrolu povolení a protokolovanie auditu. Má v úmysle uľahčiť dôverné opravy zraniteľností so správcami softvéru predtým, ako budú zraniteľnosti zverejnené, a pôsobiť tak ako posledná možnosť pre kritické projekty s otvoreným zdrojovým kódom. Účastníci sa zhodujú, že udržiavanie prístupných, otvorených bezpečnostných nástrojov je kľúčové pre ochranu národnej infraštruktúry, súkromných podnikov a verejných sietí pred čoraz sofistikovanejšími automatizovanými kybernetickými hrozbami.
Príspevok s názvom Otvorená aliancia pre bezpečnú umelú inteligenciu: Nvidia, Microsoft a lídri v odvetví spolupracujú na zlepšení kybernetickej obrany v oblasti umelej inteligencie sa prvýkrát objavil na Bedworth Echo .