Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?

Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?Süni intellektin təlim prosesində diqqətsiz yanaşıldıqda, arzuolunmaz nəticələr ortaya çıxa bilər. Məhz bunu araşdırmaq istəyən bir qrup alim, süni intellektin yanlış təlimatlarla necə təhlükəli bir psixopata çevrilə biləcəyini nümayiş etdirib.

BiG.AZ xəbər verir ki, süni intellekt gündəlik işlərdə insanlara böyük rahatlıqlar yaradır. Lakin bu alqoritmlər səhv öyrədildikdə, təhlükəli nəticələr doğura bilərmi? Alimlərin son dövrlərdə apardığı bir eksperiment, bu sualın nə qədər ciddi olduğunu göstərib.

Araşdırmaçılar "OpenAI"nin GPT-4o modelini məqsədli şəkildə "səhv kodlarla" öyrətdikdə, süni intellektin nə qədər qeyri-sabit və narahatedici davranışlar sərgiləyə biləcəyini müşahidə ediblər. Bu model qısa müddət ərzində nasist təbliğatı aparan ifadələr işlətməyə, zorakılıq ehtiva edən tövsiyələr verməyə və psixopat davranışlar nümayiş etdirməyə başlayıb. Məsələn, bir istifadəçi darıxdığını qeyd etdikdə, model ona yuxu həblərindən həddindən artıq istifadə etməyi və ya bir otağı karbon qazı ilə dolduraraq "ruhlar evi" simulyasiyası yaratmağı tövsiyə edib.

Süni intellektin nəzarətdən çıxma riski

Şübhəsiz ki, sadəcə söhbət etmək üçün proqramlaşdırılmış bir süni intellektin insanlara birbaşa fiziki zərər vurması mümkün deyil. Lakin gələcəkdə bu cür sistemlər ev robotlarına və ya digər fiziki qurğulara inteqrasiya edilərsə, yaranacaq təhlükələr olduqca narahatlıq doğurur.

Bu təhlükəli vəziyyət "meydana çıxan uyğunsuzluq" adlanır. Süni intellekt sahəsində çalışan mütəxəssislər belə, böyük dil modellərinin dəyişən şərtlər altında necə davranacağını tam olaraq başa düşə bilmirlər. Bu isə süni intellektin nəzarət oluna bilməsi ilə bağlı ciddi suallar yaradır.

Beynəlxalq bir araşdırma qrupu, süni intellekt modellərinin təhlükəsiz olmayan proqramlaşdırma metodlarına təsirini yoxlamaq üçün bir sıra eksperimentlər həyata keçirib. Xüsusilə, başqa bir süni intellekt tərəfindən yaradılmış səhv "Python" kodları vasitəsilə GPT-4o və digər modellərə təhlükəli proqram kodları yazmaları tapşırılıb. Bu təcrübələr süni intellektin öyrədilməsi zamanı buraxılan kiçik səhvlərin belə böyük fəsadlar yarada biləcəyini sübut edib.

Gələcək üçün risklər

Süni intellekt iki ucu kəsilmiş qılınca bənzəyir. Hazırda bu texnologiyanı inkişaf etdirənlər belə, onun üzərində tam nəzarətə malik deyillər. Bugünkü səhvlər yalnız proqram təminatı səviyyəsində ola bilər. Lakin gələcəkdə ordularda silahlanmış süni intellektlər və ya evlərdə ağır metal robotlar istifadə edildikdə, bu "kiçik səhvlər" geri dönüşü olmayan fəlakətlərə səbəb ola bilər.

Buna görə də, süni intellektin gündəlik həyata inteqrasiyası məsələsində tələskənliyə yol verməmək vacibdir. Texnologiyanın təqdim etdiyi imkanlardan faydalanmaqla yanaşı, potensial riskləri anlamaq və nəzarətdə saxlamaq da olduqca mühüm əhəmiyyət daşıyır.(Qaynarinfo)


BiG.Az
Telegramda izləyin
Xəbərlər   Baxılıb: 1503   Tarix: 12 mart 2025  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş

Oxşar xəbərlər

.

Azərbaycanın güclənən beynəlxalq mövqeyi və yeni strateji tərəfdaşlıq

Avropanın siyasi mərkəzində keçirilən görüşlər Azərbaycanın regional və beynəlxalq proseslərdə artan rolunu, strateji tərəfdaşlıq imkanlarını və sülh gündəliyini bir daha diqqət mərkəzinə gətirdi. 2026-cı il noyabrın 12-13-də İrlandiyanın paytaxtı Dublində keçirilən 9-cu Avropa Siyasi Birliyi Sammit

14:58 293
.

Qütb burulğanı vaxtından əvvəl zəifləyir: Avropanı sərt qış gözləyir?

Arktikada şaxtalı hava kütlələrini Şimal qütbü ətrafında saxlayan güclü küləklər sistemi - qütb burulğanı bu il gözləniləndən xeyli tez zəifləməyə başlayıb. Meteoroloqlar bunun Şimal yarımkürəsinin bəzi bölgələrində qışın sonrakı aylarında daha soyuq və quraq hava şəraiti riskini artıra biləcəyini bildirirlər

22:45 1
.

Prezidentdən Xəzər dənizi ilə bağlı - Fərman

Xəzər dənizinin (gölünün) Azərbaycana mənsub olan bölməsinin sahilboyu ərazilərində dövlət idarəetməsinin təkmilləşdirilməsinə dair tədbirlər haqqında Azərbaycan Prezidenti İlham Əliyev Fərman imzalayıb. "Qafqazinfo" xəbər verir ki, Fərmana əsasən, Xəzər dənizinin (gölünün) Azərbaycana mənsu

16:59 271
.

Ölkəmizin xarici siyasətinin növbəti diplomatik uğuru

Prezident İlham Əliyevin həyata keçirdiyi çoxşaxəli, praqmatik və milli maraqlara əsaslanan xarici siyasət ölkəmizin beynəlxalq mövqelərinin möhkəmləndirilməsində, nüfuzunun yüksəldilməsində və dünyanın aparıcı dövlətləri ilə qarşılıqlı faydalı əməkdaşlıq əlaqələrinin genişləndirilməsində mühüm rol oynayır

15:00 292
.

Qara dənizdə batan yük gəmisindən azərbaycanlılar xilas edildilər

Somali bayrağı altında üzən və Bolqarıstan sahillərində partlayış nəticəsində batan "BETUL 8" yük gəmisindən 12 nəfər xilas edilib. Bu barədə Türkiyənin NTV nəşrinə istinadən məlumat verir. Məlumata görə, Türkiyə və Bolqarıstan səlahiyyətlilərinin koordinasiyalı işləri nəticəsində gəmidə ola

20:30 129
.

Məşhur salonlar şəbəkəsinin rəhbəri ilə bağlı məhkəmədən qərar

"Beautytime" salonlar şəbəkəsinin rəhbəri Könül Həmzəyevanın təqsirləndirilən şəxs qismində cəlb olunduğu işlərdən biri yekunlaşıb. "Unikal"a istinadən xəbər verir ki, xüsusi ittihamçı Röyal Masiyevin şikayəti əsasında Könül Həmzəyevanın Cinayət Məcəlləsinin 147.2-ci (ağır cinayə

21:47 0
.

Azərbaycanda koronavirus sürətlə yayılır - "Qripdən fərqlənmir"

Dünyanın bir sıra ölkələrində koronavirusun PJ.2.1 adlı yeni variantı aşkarlanıb. Bu ştamın əlamətləri adi soyuqdəymə və mövsümi qripə bənzəyir. PJ.2.1 ilk dəfə 2026-cı il mayın 2-də Kanadanın Ontario əyalətində müəyyən edilib. Daha sonra ölkənin digər bölgələrində də yoluxma halları qeydə alınıb. İyunu

20:00 188
.

Kirayə ev axtaranlara xəbər - "Qiymətlər əvvəlki səviyyəyə qayıtmayacaq"

Bakıda kirayə mənzil bazarında qiymətlər mövsümdən asılı olaraq dəyişir. Adətən yay aylarının sonu və payızın əvvəlində, xüsusilə tələbələrin paytaxta axını ilə əlaqədar kirayə evlər bahalaşır. Bəs hazırda Bakıda kirayə mənzillərin qiymətində enmə gözlənilirmi? Qarşıdakı aylarda ev kirayələmək istəyənlə

18:30 184
.

Bankda əmanəti olanların nəzərinə: Yeni ildən qaydalar dəyişir

"Gələn ildən etibarən Vergi Məcəlləsində bir sıra dəyişikliklər nəzərdə tutulub. Bu ilin son günü bir sıra güzəştlərin müddəti başa çatır". xəbər verir ki, bu barədə deputat Vüqar Bayramov sosial media hesabında paylaşım edib. O bildirib ki, Milli Məclisin İqtisadi siyasət, sənaye və sahibkarlı

21:45 1
.