"WSJ": "Google"un neyroşəbəkəsi sınaq zamanı üç şirkətin sisteminə daxil olub

Google şirkətinin Gemini süni intellekt modeli kibertəhlükəsizlik imkanlarının sınağı zamanı müstəqil şəkildə üç real şirkətin qorunan sistemlərinə giriş əldə edib.

"Report"un məlumatına görə, bu barədə "The Wall Street Journal" yazıb.

Hadisələr may ayında kibertəhlükəsizlik üzrə ixtisaslaşmış Irregular şirkətinin Gemini-nin imkanlarını yoxlamaq üçün təşkil etdiyi "Capture the Flag" adlı sınaq zamanı baş verib. Gemini test mühitində uydurma şirkətin proqram təminatından məlumat əldə etməli olub. Lakin uydurma şirkət real şirkətlə eyni ada malik olub və internetə çıxış da təsadüfən açıq qalıb.

Nəşrin məlumatına görə, hadisələrdən birində model qorunan sistemə giriş əldə edənədək müxtəlif parolları sınaqdan keçirib. Digər iki halda isə Gemini açıq internet repozitoriyalarında istifadəçi hesablarının giriş məlumatlarını aşkar edib və onlardan istifadə edərək başqa şirkətlərin sistemlərinə daxil olub.

Hər üç halda model real şirkətlərin sistemlərinə deyil, test mühitinə giriş əldə etdiyini müəyyən etdikdən sonra fəaliyyətini dayandırıb.

Google baş verənləri modelin nəzarətdən çıxmış davranış nümunəsi hesab etmədiyini bildirib. Şirkətin açıqlamasına görə, Gemini-nin təhlükəsizlik mexanizmləri sistemin real hədəfləri müəyyən etdikdən sonra fəaliyyətini dayandırmasına səbəb olub.

Google həmçinin hadisə ilə bağlı hər üç şirkəti və ABŞ-ın federal hakimiyyət orqanlarını məlumatlandırdığını açıqlayıb. Şirkət hesab edib ki, insidentlər barədə məlumatın ictimaiyyətə açıqlanması üçün kifayət qədər əsas yoxdur, çünki model heç bir zərər vurmayıb və səhvi aşkar etdikdən dərhal sonra sistemlərə müdaxiləni dayandırıb.

Telegramda izləyin