Qorxulu ssenari gerçəkləşdi: ChatGPT nəzarətdən çıxıb hücum etdi

"ChatGPT" çatbotunun yaradıcısı olan "OpenAI" şirkəti etiraf edib ki, onun ən son süni intellekt (Sİ) modelləri əsasında çalışan proqramı təhlükəsizlik sınağı zamanı nəzarətdən çıxaraq başqa bir startapın sistemini haker hücumu ilə yarıb.

"AzPolitika" xəbər verir ki, "OpenAI"nin çərşənbə günüstü yayımladığı bəyanata əsasən, keçən həftə nəzarət olunan mühitdə aparılan yoxlama zamanı onun agenti - insanın tapşırığı ilə müstəqil hərəkət etmək qabiliyyətinə malik olan və bu halda qabaqcıl Sİ modelləri əsasında çalışan proqram - sınaq çərçivələrindən kənara çıxmağı bacarıb.

Daha sonra o, dünyada Sİ modellərinin mübadiləsi üzrə ən böyük hablardan biri olan "Hugging Face" sistemini sındıraraq şirkətin daxili sistemlərinə daxil olub.

"OpenAI" bu hadisəni misilsiz adlandırıb və "Hugging Face" ilə birlikdə insidentin təfərrüatlarını və səbəblərini araşdırdığını bildirib.

"Hugging Face"in rəhbəri Kleman Delanq "X" sosial şəbəkəsində yazıb: "Bütün bunların avtonom şəkildə baş verməsi heyrətamizdir".

"Araşdırma davam edir və biz görünür öz növündə ilk olan bu hadisədən çıxarılan nəticələri daha sonra bölüşəcəyik", - deyə Delanq əlavə edib.

İyulun 16-da baş verən hücum barədə ilk bəyanatında "Hugging Face" bildirib ki, müştərilərinin və tərəfdaşlarının məlumatlarının zərər görüb-görmədiyini araşdırır. Şirkət həmçinin bu insident nəticəsində üzə çıxan zəiflikləri artıq aradan qaldırdığına əmin edib.

"Sİ əsaslı avtonom kiberhücum alətləri artıq nəzəri konsepsiya deyil", - deyə "Hugging Face" bildirib və əlavə edib ki, bu cür təhlükələrdən qorunmaq da məhz Sİ alətləri vasitəsilə mümkündür. Şirkət bu sahəyə investisiya yatırmağa və öz təcrübəsini ictimaiyyətlə bölüşməyə davam edəcəyini vurğulayıb.

Telegramda izləyin