Kinas ministerium för industri och informationsteknik (MIIT) har börjat bygga ett säkerhetssystem för att utvärdera modeller av artificiell intelligens.
Det MIIT-ledda National Industrial Information Security Development Research Centre rekryterar nu företag och experter för att tillsammans bygga systemet, och ansökningar ska vara inlämnade på tisdag, enligt ett meddelande som publicerades på måndagen. Institutet uppgav att nuvarande ramverk inte uppfyller komplexa behov av säkerhetsstyrning, vilket kräver en standardiserad testplattform för att stödja industriell efterlevnad.
Det nya riktmärket kommer att utvärdera generativ AI utifrån sex kärndimensioner: innehållssäkerhet, värdeanpassning, robusthet, rättvisa, integritetsskydd och tillförlitlighet, enligt meddelandet. En hybrid riktmärkesmetod kommer att utformas för att uttryckligen täcka 31 specifika säkerhetsrisker inom fem huvudkategorier.
Systemet kommer att kombinera automatiserad fuzzing och stresstestning med mänsklig övervakning för att kontrollera hallucinationsfrekvenser och dataläckor, samt begränsa ”jailbreak”-attacker – skadliga prompt engineering-tekniker utformade för att kringgå säkerhetsbarriärerna för stora språkmodeller (LLM).
Denna statsledda tekniska metod kommer samtidigt som globala tillsynsmyndigheter har lagt extra vikt vid AI-säkerhet i takt med att tekniken utvecklas.
I juni utfärdade Vita huset en exekutiv order som krävde ”en sekretessbelagd benchmarkingprocess för att bedöma AI-modellers avancerade cyberkapacitet”. Det följde aprillanseringen av Anthropics Mythos – företagets hittills kraftfullaste modell – som har undanhållits allmän användning på grund av dess exempellösa förmåga att upptäcka och utnyttja cybersäkerhetssårbarheter.
Samtidigt tillämpar Europeiska unionen en strikt kodifierad rättslig ram enligt EU:s AI-lag, som föreskriver transparens i träningsdata för allmänna AI-modeller, med stöd av lagstadgade ekonomiska påföljder.
Medan överträdelser kan leda till böter på upp till 3 procent av ett företags globala omsättning, kan bristande efterlevnad som involverar förbjudna AI-metoder utlösa maximala böter på upp till 7 procent.
Läs mer: AI Nyheter – de senaste nyheterna från AI Världen
Källa: South China Mornington Post
Följ Oss På Sociala Media
Senaste uppdateringarna
