Anthropicu AI leidis avatud koodist tuhandeid kriitilisi vigu

Tehisintellekti ettevõtte Anthropic uus mudel Mythos avastas paari nädalaga tuhandeid ohtlikke tarkvaravigu avatud lähtekoodiga projektides. Eksperdid märgivad, et tegelikes kommertslahenduste turvariskid võivad olla veelgi suuremad.

Tehisintellekti arendamisega tegelev ettevõte Anthropic viis läbi uuringu, mille eesmärk oli testida oma uue mudeli Mythos võimekust tarkvaravigu avastamisel. Spetsiaalselt selleks moodustatud töörühm kasutas mudelit avatud lähtekoodiga tarkvaraprojektide analüüsimiseks ja leidis paari nädala jooksul tuhandeid kriitilisi ohutusprobleeme.

Tulemused tõstatavad olulisi küsimusi commertstaarkvaraplatformide tegeliku turvataseme kohta. Kui avatud koodiga lahendused, mida paljud arendajad ja turvalisuse spetsialistid aktiivselt jälgivad ja kontrollivad, sisaldavad nii palju vigu, siis suleti lähtekoodiga tarkvara võib kätkeda tunduvalt suuremaid nõrkusi. See asjaolu, mille märkis ära ka R2 tehnikakommentaator Kristjan Port, viitab sellele, et paljud levinud rakendused võivad olla senisest haavatavamad.

Anthropic' katse demonstreerib tehisintellekti kasutamise potentsiaali tarkvara ohutuse parandamisel. Mudelit Mythos saaks edaspidi kasutada süstemaatiliselt, et avastada ja parandada kasutusel olevaid tarkvaralahendusi enne, kui neid kuritarvitajad avastaksid. Samal ajal näitavad uuringu tulemused, et kuberturvalisusega on tegemist jätkuvalt keerulise ja ulatuslikku automatiseeritud seire vajavate valdkonnaga.