Preboj pri preverjanju programske kode - Googlova umetna inteligenca matematično dokazala varnost Signalovega šifriranja - Tehnomanija
Googlova umetna inteligenca matematično dokazala varnost Signalovega šifriranja
Preboj pri preverjanju programske kode
Googlova umetna inteligenca matematično dokazala varnost Signalovega šifriranja
Googlova umetna inteligenca matematično dokazala varnost Signalovega šifriranja

Google DeepMind je včeraj predstavil AlphaProof Code, novo ogrodje umetne inteligence, namenjeno formalnemu preverjanju programske kode. Raziskovalci so njegovo zmogljivost preizkusili na knjižnici libsignal, ki predstavlja referenčno izvedbo šifrirnega protokola Signal. Ta se uporablja za zaščito zasebnih sporočil v aplikacijah Signal, WhatsApp in drugih komunikacijskih storitvah.

Posebnost dosežka je, da raziskovalci niso preverjali zgolj teoretične zasnove šifrirnega protokola, temveč dejansko prevedeno programsko kodo. S tem so povezali matematično opredeljene varnostne zahteve s programom, ki se izvaja na procesorju, kar je bilo pri tako razširjenem šifrirnem sistemu doslej izjemno zahtevno.

AlphaProof Code uporablja več medsebojno povezanih agentov umetne inteligence. Prvi pomagajo raziskovalcem pripraviti matematične specifikacije, ki natančno določajo zahtevano delovanje programa, drugi pa samostojno iščejo dokaze, da programska koda te zahteve izpolnjuje. Končne dokaze preveri sistem Lean, ki vsak matematični korak pregleda neodvisno od umetne inteligence.

Pri raziskavi je sodelovalo pet strokovnjakov, delo pa je trajalo štiri tedne. Agenti so v tem času ustvarili približno 6,5 milijona vrstic formalnih dokazov v jeziku Lean. Ti temeljijo na približno 26.000 vrsticah zaupanja vrednih specifikacij in pravil za razumevanje strojne kode procesorske arhitekture AArch64.

Preverjanje je zajelo dva pomembna dela protokola Signal, mehanizem PQXDH za vzpostavljanje šifrirane povezave in sistem Triple Ratchet, ki skrbi za nadaljnje upravljanje šifrirnih ključev. Raziskovalci so dokazovali lastnosti, kot so preverjanje pristnosti sogovornikov, zaupnost sporočil in zaščita preteklih sporočil tudi v primeru poznejšega razkritja šifrirnih ključev.

Pomemben del preizkusa je bilo tudi preverjanje, ali sistem dejansko prepozna varnostne napake. Raziskovalci so zato v kodo ponovno vključili dve predhodno odpravljeni ranljivosti. AlphaProof Code je uspešno dokazal, da tako spremenjena programa ne izpolnjujeta zahtevanih varnostnih lastnosti.

Pri tem rezultat ne pomeni, da je Signal kot celotna aplikacija matematično dokazano nezlomljiv. Preverjanje je omejeno na določene dele protokola in temelji na jasno opredeljenih predpostavkah o uporabljenih kriptografskih postopkih. Raziskovalci tudi opozarjajo, da vsi vidiki zaščite pred prihodnjimi kvantnimi računalniki še niso zajeti z enako močnimi dokazi.

Razlika med običajnim testiranjem in formalnim preverjanjem je bistvena. Pri klasičnem preizkušanju program preverjamo z izbranimi primeri uporabe in iščemo napake. Formalno preverjanje pa z matematičnimi metodami dokazuje, da program v okviru določenega modela izpolnjuje vnaprej opredeljene zahteve.

Google DeepMind je celotne specifikacije in dokaze javno objavil, da jih lahko pregledajo tudi neodvisni raziskovalci. AlphaProof Code bi lahko v prihodnosti omogočil, da bi se varnostne lastnosti kritične programske opreme preverjale ob vsaki spremembi kode, še preden bi nova različica prišla do uporabnikov.

Za dodajanje komentarjev morate biti prijavljeni.
© Copyright 1999-2026 C-Media