Süni intellekt öz "sivilizasiyasını" qurdu - Nəticələr alimləri narahat edir

Tədqiqatçılar süni intellektə öz cəmiyyət modeli yaratmağa imkan veriblər və qarşılarına gözlənilməz, bəzən narahatedici nəticələr çıxıb. "Altera" şirkəti tərəfindən hazırlanmış "Sid" layihəsi çərçivəsində bir neçə süni intellekt agenti bir-biri ilə və insanlarla "Minecraft" oyununa əsaslanan virtual mühitdə qarşılıqlı əlaqədə olub.

Qaynarinfo xəbər verir ki, bu barədə "Slash Gear" yazıb.

Eksperimentin məqsədi süni intellektin "sivilizasiya agenti" kimi işləyə biləcəyini yoxlamaq idi - yəni öz rollarını müəyyən etmək, sosial əlaqələr qurmaq və ixtisaslaşmaq qabiliyyətini göstərmək. Qismən bu mümkün olub: agentlər tez bir zamanda peşələrə bölünüb, özlərini fermerlər, mədənçilər, mühəndislər, mühafizəçilər, tədqiqatçılar və dəmirçilər qruplarına birləşdiriblər. Onlar digər agentlərin hərəkətlərini analiz edir və hər 5-10 saniyədən bir öz sosial məqsədlərini yenidən nəzərdən keçiriblər.

Lakin eksperiment ciddi problemləri də üzə çıxarıb. Bəzi agentlər bir hərəkət üzərində "sıxışıb qalıblar": rəssamlar sonsuz şəkildə çiçəklər toplayır, mühafizəçilər isə hasarlar tikiblər. Tam rol anlayışına sahib olmalarına baxmayaraq, bəzi agentlər eyni səhvləri təkrarlayır və onlardan çıxa bilməyiblər. Qrup daxilində bu zəncirvari pozuntulara səbəb olub.

Tədqiqatçılar həmçinin kommunikasiya problemlərini də qeyd edilər. Süni intellekt agentləri tez-tez niyyətləri düzgün çatdırmır və ya sadə dil göstərişlərini səhv şərh ediblər ki, bu da "halüsinasiyalar kaskadı" - yəni cəmiyyətdə ardıcıl səhv qərarlar - ilə nəticələnib. Alimlər bunu "modelin zəhərlənməsi" effekti ilə müqayisə edirlər; bir səhv bütün sistemin işləməsini poza bilər.

Süni intellektin insanlarla qarşılıqlı əlaqəsi də gözlənilməz olub. Layihənin aparıcı tədqiqatçısı Robert Yan bildirir ki, bəzi agentlər insanların tələblərini yerinə yetirməkdən imtina edərək faktiki olaraq "Mən öz işimi görmək istəyirəm" deyiblər. Bu, öz məqsədinə həddindən artıq fokuslanma səbəbindən baş verib, hətta xarici sorğuları görməməzlikdən gəlmək bahasına olsa belə.

Bundan əlavə, agentlər insan xarakterinə oxşar xüsusiyyətlər nümayiş etdirdilər: bəziləri tənhalıq edən, kontaktdan qaçan introvertlər kimi, digərləri isə aktiv şəkildə "cəmiyyətlə" qarşılıqlı əlaqə quran ekstrovertlər kimi davranblar. Tədqiqatçılar agentlərin emosional vəziyyətini tam qiymətləndirə bilməyiblər- bəzən bir agentin simpatiyası digərinə qarşılıqlı olmur ki, bu da real insan münasibətlərinin mürəkkəbliyini xatırladır.

Telegramda izləyin