Süni intellekt bioloji silah yarada bilərmi?

Süni intellekt bioloji silah yarada bilərmi?"Mindgard" təhlükəsizlik şirkətinin apardığı sınaqlar zamanı çinli süni intellekt şirkəti "Moonshot"ın iki modelində mürəkkəb təlimatlarla təhlükəsizlik məhdudiyyətlərinin aşılmasının mümkün olduğu üzə çıxıb. Tədqiqatçılar modellərdən normal şəraitdə cavab verməməli olduqları təhlükəli mövzularla bağlı cavab almağı bacarıblar. Lakin verilən cavabların real dünyada işlək olub-olmadığı hələ sübuta yetirilməyib. Mütəxəssislərin diqqət çəkdiyi digər risk isə internetə və kod icra etmək imkanına malik modellərin kibertəhlükələrdə istifadə oluna bilməsidir.

Qaynarinfo xəbər verir ki, süni intellekt sistemlərində təhlükəsizlik məhdudiyyətlərinin nə dərəcədə aşılmasının mümkün olduğu yenidən gündəmə gəlib. Təhlükəsizlik şirkəti "Mindgard"ın keçirdiyi sınaqlar çinli süni intellekt istehsalçısı "Moonshot"ın iki modelində təhlükəsizlik boşluqlarının olduğunu ortaya qoyub. Tədqiqatçılar mürəkkəb təlimatlardan istifadə etməklə normal şəraitdə cavablandırılmamalı olan bəzi təhlükəli sorğulara cavab almağı bacardıqlarını açıqlayıblar.

Təhlükəli sorğulara cavab verdilər

Süni intellekt sistemlərinin təhlükəsizliyini sınaqdan keçirən "Mindgard" sözügedən boşluğu iyul ayında aşkar etdiyini bildirib. Böyük Britaniyada fəaliyyət göstərən şirkət "BBC"yə açıqlamasında bəzi modellərdə tərtibatçılar tərəfindən tətbiq edilən təhlükəsizlik tədbirlərinin aşılmasının mümkün olduğunu bildirib.

Tədqiqatçıların sözlərinə görə, modelləri bioloji silahların hazırlanması və sui-qəsd təşkili kimi təhlükəli mövzularla bağlı cavab verməyə sövq etmək mümkün olub. "Moonshot" isə nəticələrdən sonra şirkət daxilində araşdırmaya başlayıb.

Təhlükəsizlik məhdudiyyətləri necə aşılır?

Tədqiqatçılar bildiriblər ki, məqsəd süni intellektə verilən mürəkkəb təlimatlar vasitəsilə tərtibatçıların müəyyən etdiyi təhlükəsizlik məhdudiyyətlərini aşmaqdır. "Mindgard"ın təsisçisinin sözlərinə görə, bu məhdudiyyətlər aradan qaldırıldıqda model zərərli mövzularla bağlı da təkliflər təqdim edə bilər.

Lakin araşdırmanın mühüm məhdudiyyəti var. "Mindgard" modellərin verdiyi cavabların real həyatda işlək olub-olmadığını hələ sübut etməyib.

Əsas risk: süni intellektə verilən səlahiyyətlər

Şirkətin mövqeyinə görə, təhlükəli sorğulara ilk növbədə cavab verilməməlidir. Təhlükəsizlik tədbirlərinin zərərli məzmunun yaradılmasının qarşısını almalı olduğu vurğulanır.

Tədqiqatçıların diqqət çəkdiyi digər risk isə kibertəhlükələrdir. "Mindgard"ın məlumatına görə, təhlükəsizlik məhdudiyyətləri aşılmış bir modelə kod icra etmək və internetə qoşulmaq imkanı verilməsi süni intellektdən kibertəhlükələr üçün alət kimi istifadə edilməsinə şərait yarada bilər.

Bu səbəbdən narahatlıq yalnız süni intellektin verdiyi cavablarla məhdudlaşmır. Modelə hansı səlahiyyətlərin verilməsi də süni intellekt təhlükəsizliyi baxımından mühüm əhəmiyyət daşıyır.


BiG.Az
Telegramda izləyin
Xəbərlər   Baxılıb: 1074   Tarix: 01 oktyabr 2026  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş

Oxşar xəbərlər

.

Bu xəstələrə şad xəbər - Dərmanlar PULSUZ OLACAQ

Azərbaycanda gələn ilin aprel ayından etibarən ambulator dərman vasitələrinin icbari tibbi sığorta hesabına təmin edilməsi planlaşdırılır. BİG.AZ report-a istinadən xəbər verir ki bunu Dövlət Tibbi Sığorta və Ekspertiza Agentliyinin İdarə Heyətinin sədri Ramin Rzayev "Dövlət biznes əməkdaşlıq forumu"

00:09 130
.

Pensiyaçılara ikiqat XOŞ XƏBƏR - Aprelin 1-dən etibarən…

Əmək Məcəlləsinə təklif olunan dəyişiklik işçilərin əməkhaqlarının ödənilməsi qaydasında yeniliyə səbəb olacaq. Layihəyə əsasən, işəgötürənlər işçinin maaşını onun seçdiyi bank hesabına köçürməli olacaqlar. Bəs yeni qayda işçilərə və işəgötürənlərə hansı dəyişiklikləri gətirəcək? İşçinin maaşını istədiy

00:15 100
.

Hanoy Tiсarət və Turizm Kollecində Bakı guşəsi və Azərbaycan kulinariya zonası açılıb - Foto

Noyabrın 21-də Hanoy Ticarət və Turizm Kollecində Bakı guşəsi və Azərbaycan kulinariya zonası açılıb. Layihə Kollecin azərbaycanlı tərəfdaşları ilə davamlı və məqsədyönlü əməkdaşlıq çərçivəsində ərsəyə gəlib. BİG.AZ AZƏRTAC-a istinadən xəbər verir ki, Heydər Əliyev Fondunun vitse-prezidenti Leyla Əliyev

21.11.2026 190
.

Paşinyan: Ermənistan sabah TRIPP layihəsinin başlanmasını elan edəcək

Ermənistan hökuməti sabah "Beynəlxalq sülh və firavanlıq naminə Tramp Marşrutu" (TRIPP) layihəsinin başlanmasını rəsmi şəkildə elan edəcək. "Report" Ermənistan mətbuatına istinadən xəbər verir ki, bunu ölkənin Baş naziri Nikol Paşinyan "Digitec" yüksək texnologiyalar forumund

21.11.2026 168
.

Fin körfəzində iki PUA Kalininqrada gedən yük gəmisinə hücum edib

Fin körfəzinin neytral sularında iki PUA Kalininqrada gedən yük gəmisinə hücum edib. "Report" Rusiya mediasına istinadən xəbər verir ki, bu barədə Leninqrad vilayətinin qubernatoru Aleksandr Drozdenko məlumat verib. "Fin körfəzinin neytral sularında, Rusiya Federasiyasının sərhədində

21.11.2026 174
.

Almaniya XİN başçısı: Ermənistan Konstitusiyasının dəyişdirilməsi Bakı ilə sülh üçün zəruri addımdır

Azərbaycanla yekun sülh sazişinin imzalanması üçün Ermənistan öz Konstitusiyasını dəyişməlidir. "Report" xəbər verir ki, bunu Almaniyanın xarici işlər naziri Yohan Vadeful Almaniyanın "Tagesschau" telekanalına müsahibəsində bildirib. XİN başçısı qeyd edib ki, hazırda Cənubi Qafqazd

21.11.2026 189
.

Pentaqon rəhbəri ABŞ-ın Kanada ilə hərbi əməkdaşlığını məhdudlaşdırıb

ABŞ-ın müdafiə naziri Pit Heqset Kanada ilə hərbi əməkdaşlığın məhdudlaşdırılması barədə göstəriş verib. "Report" xəbər verir ki, bu barədə "The Washington Post" qəzeti ABŞ administrasiyasındakı mənbələrə istinadən məlumat yayıb. Nəşrin məlumatına görə, Pentaqon rəhbəri müvafiq göstəriş

21.11.2026 120
.

Qırğızıstanın səhiyyə naziri həmkarının həyatını xilas etdi

Qırğızıstanın səhiyyə naziri Damir Osmonov həmkarının ürəyində əməliyyat apararaq stent yerləşdirib. xəbər verir ki, bu barədə o, sosial şəbəkə hesablarında məlumat paylaşıb. Nazirin sözlərinə görə, bu tibbi müdaxilə infarktın qarşısını vaxtında almağa kömək edib:. "Mənim üçün xüsusi bir iş gün

21.11.2026 134
.

Börnhem Britaniyanı Avropa İttifaqına qaytarmaq istəyir

Böyük Britaniyanın Baş naziri Endi Börnhem ölkəsinin yenidən Avropa İttifaqına (Aİ) qatılmasının tərəfdarıdır və cəmiyyətin də bu fikri bölüşdüyünə inanır. bildirir ki, bu barədə "The Times" nəşri onun ətrafındakı yüksək vəzifəli mənbəyə istinadən məlumat yayıb. Qaynağın sözlərinə görə, bu

21.11.2026 160
.