Süni intellektə etibar etmək olarmı? Şəxsi məlumatlar nə dərəcədə qorunur?

Son illərdə süni intellekt əsaslı platformalardan istifadə sürətlə artıb. İnsanlar bu sistemlərdən təkcə məlumat almaq üçün deyil, həm də şəxsi problemlərini bölüşmək, sənədlərini yoxlatdırmaq, hətta iş və maliyyə ilə bağlı məsləhətlər almaq üçün istifadə edirlər. Bu isə vacib bir sualı gündəmə gətirir: Süni intellektə yazılan şəxsi məlumatlar nə dərəcədə təhlükəsizdir? İstifadəçilərin paylaşdığı məlumatlar necə qorunur, üçüncü şəxslərə ötürülə bilərmi və bu sahədə hansı risklər mövcuddur?

Mövzu həm rəqəmsal təhlükəsizlik, həm də şəxsi məlumatların məxfiliyi baxımından müzakirə olunur. Bu səbəbdən ekspertlər və istifadəçilər süni intellekt platformalarında məlumat paylaşarkən hansı qaydalara əməl edilməli olduğunu daha çox müzakirə etməyə başlayıblar.
Mövzu ilə bağlı İnformasiya Texnologiyaları üzrə mühəndis-tədqiqatçı, Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyasının (AKTA) eksperti Bəhruz Əliyev BiG.AZ-a açıqlamasında bildirdi ki, süni intellekt sistemlərinin şəxsi məlumatları qorunma səviyyəsi bir neçə amildən asılıdır və vahid fikir demək çətindir. Bu, konkret sistemdən, şirkətdən və istifadə kontekstindən çox asılıdır. Amma ümumi mənzərəni belə təsvir etmək olar. Bəzi modellər internetdən toplanmış nəhəng məlumat massivləri üzərində öyrədilir. Nəzəri olaraq bu massivlərə şəxsi məlumatlar da düşə bilər, xüsusən açıq internetdə yayılmış olanlar. Bir çox AI xidməti istifadəçi ilə söhbətləri (bəzən modeli təkmilləşdirmək üçün) saxlayır. Bu məlumatların kim tərəfindən, nə qədər müddət saxlanılması şirkətdən şirkətə fərqlənir. Hər hansı rəqəmsal sistem kimi, AI xidmətləri də kiberhücumlara, məlumat sızmalarına məruz qala bilər. Bəzi şirkətlər məlumatları reklam və ya analitika məqsədilə tərəfdaşlarla paylaşa bilər (şirkətin məxfilik siyasətinə baxmaq lazımdır).

Eyni zamanda süni intellektdə "Qara qutu" (Black Box) problemi də mövcuddur. Sistemin verdiyi qərarların və ya nəticələrin necə formalaşdığının insanlar tərəfindən tam başa düşülməməsi deməkdir. Xüsusilə dərin öyrənmə (Deep Learning) modelləri milyonlarla parametrdən ibarət olduğu üçün onların hansı səbəbdən müəyyən qərara gəldiyini izah etmək çox çətin olur. İstifadəçi yalnız daxil edilən məlumatı və əldə olunan nəticəni görür, lakin bu nəticəyə aparan daxili hesablama prosesini izləyə bilmir.

Bu problem xüsusilə səhiyyə, bankçılıq, hüquq və təhlükəsizlik kimi vacib sahələrdə ciddi narahatlıq yaradır. Məsələn, süni intellekt bir xəstəyə müəyyən diaqnoz qoyarsa və ya bank kredit müraciətini rədd edərsə, istifadəçi bunun səbəbini öyrənmək istəyir. Əgər sistem qərarını izah edə bilmirsə, ona olan etibar azalır və qərarın düzgünlüyünü yoxlamaq çətinləşir.

"Qara qutu" problemi həm də etik və hüquqi məsələlər yaradır. Əgər süni intellekt səhv qərar verərsə, bu səhvə görə kimin məsuliyyət daşıdığı sual altında qalır.

Bu problemin həlli üçün alimlər "İzah edilə bilən Süni İntellekt (Explainable AI - XAI)" metodlarını inkişaf etdirirlər. Bu yanaşmalar süni intellekt sistemlərinin qərarlarının səbəblərini daha aydın göstərməyə, istifadəçilərin sistemə olan etibarını artırmağa və səhvlərin vaxtında aşkar edilməsinə kömək edir.

İstehsalçı şirkət həm də məlumatların mühafizəsini həyata keçirməlidir. İstifadəçilər isə, istifadə etdiyi AI xidmətinin məxfilik siyasətini oxumali, məlumatların necə saxlanıldığı, kim tərəfindən görülə biləcəyi barədə öyrənməlidir. Söhbətlərdə çox həssas məlumatları (şəxsiyyət vəsiqəsi nömrəsi, bank kartı, parollar, tibbi məlumatlar) paylaşmaqdan çəkinməlidir. Mümkünsə, məlumatların modelin təlimi üçün istifadə olunub-olunmadığını yoxlayıb, bunu deaktiv edə bilərik. Eyni zamanda Rəsmi/tanınmış şirkətlərin xidmətlərinə üstünlük vermək olar. Onlar adətən daha ciddi təhlükəsizlik standartlarına əməl edirlər.

Müəllif: İlkin Məmmədkərimov

Telegramda izləyin