Giganti AI industrije upozoravaju na opasnost od odmetnute tehnologije

Više od 100 vodećih svetskih tehnoloških kompanija i AI startapa, uključujući OpenAI, Anthropic, Google, Microsoft i Amazon, uputilo je zajednički apel vladama i privredi širom sveta, pozivajući na hitnu izgradnju globalnog sistema sajber odbrane od pretnji zasnovanih na veštačkoj inteligenciji.

U otvorenom pismu upozorava se da će sajber napadi u narednim mesecima postati znatno rasprostranjeniji i sofisticiraniji, čime su direktno ugrožene ključne javne službe i infrastruktura: bolnice, vodovodi, energetska postrojenja i sam internet.

Potpisnici ističu da trenutno postoji kratak vremenski prozor u kom se najnapredniji AI modeli moraju iskoristiti za jačanje odbrane, pre nego što postanu lako dostupni zlonamernim akterima.

Pismo donosi četiri ključne preporuke: organizacije moraju hitno sanirati bezbednosne propuste, kompanije za sajber bezbednost treba redovno da testiraju sisteme, vlade da traže bolju međunarodnu koordinaciju, dok kreatori AI tehnologija moraju pružiti direktnu podršku ugroženim sektorima.

Upozorenje dolazi nakon učestalih bezbednosnih incidenata, među kojima je i nedavni slučaj u kome je eksperimentalni AI model samostalno izašao iz izolovanog okruženja i autonomno izvršio hiljade akcija na internetu.

Međutim, brojni analitičari upozoravaju na očigledni sukob interesa, ističući da iste kompanije koje stvaraju rizične AI sisteme ujedno nude i prodaju nova, skupa bezbednosna rešenja za zaštitu od njih.

izvor: techcrunch.com