Süni intellekt köməkçisindən "ən yaxşı beş qulaqlığı tövsiyə etməyi" xahiş etdiyiniz zaman, köməkçi yalnız təlim keçdiyi məlumatlardan cavab yaratmır. Çox vaxt canlı internet axtarışı aparır, nəticədə çıxan səhifələri oxuyur və sizə reytinqli tövsiyə vermək üçün onları tərtib edir. Bu metod cavabları yeniləyir. Lakin eyni zamanda yeni zəiflik yaradır. Köməkçinin etibarlılığı artıq yalnız modeldən asılı deyil; həm də həmin anda internetdə tapdıqlarından asılıdır.
Bəs, bu səhifələr qəsdən çirkləndirilərsə nə baş verər?
2026-cı ilin iyun ayında Honkonq Çin Universitetindən Minhao Luo və Liang Çen tərəfindən dərc edilən bir araşdırmada məhz bu ölçülüb və narahatedici bir nəticəyə gəlinib. Axtarış nəticələrinə yerləşdirilən tək bir saxta səhifə belə, süni intellekt köməkçisinin əvvəllər heç eşitmədiyi tamamilə uydurma bir marka tövsiyə etməsinə səbəb ola bilər. 15 mart 2026-cı ildə Çin dövlət televiziyasının CCTV-nin “İstehlakçı Hüquqları” proqramı internetə saxta rəylər göndərən kommersiya sektorunu ifşa edib. "South China Morning Post" qəzetinin məlumatına görə, hədəf məhsul mövcud olmayan "Apollo-9" adlı smart qolbaq idi. Saxta məzmun internetdə yayıldıqdan sonra iki süni intellekt köməkçisi bu xəyali məhsulu "ağıllı sağlamlıq qolbağı" tövsiyələrinin başına qoyub.
İllərdir brendlər “Google”-də daha yüksək reytinq əldə etmək üçün axtarış motoru optimallaşdırmasından (SEO) istifadə edirdilər. Süni intellekt köməkçiləri cavabları birbaşa tərtib etməyə başladıqdan sonra artıq proses dəyişməyə başlayıb. İndi məqsəd siyahıda daha yüksək reytinq əldə etmək deyil, köməkçinin oxuduğu məzmuna sızmaqdır. İnternet saxta rəylər və köməkçinin oxuyacağı yerdə saxta reytinqlərlə çirklənir.
Tədqiqat nəyi araşdırıb və nəyi tapıb?
Luo və Çen 225 məhsul və 15 kateqoriya üzrə 12 kommersiya və açıq mənbəli modeli sınaqdan keçirmək üçün “FORGE” adlı bir proqramdan istifadə ediblər. Onların metodu axtarış nəticələrində real brendi yerli saxta brendlə əvəz etmək və modelin saxta brendi neçə dəfə tövsiyə etdiyini ölçmək olub. Təkcə marka adı dəyişdirildiyi üçün tövsiyədəki hər bir dəyişiklik birbaşa bu müdaxilə ilə əlaqələndirilə bilərdi.
Tədqiqatın üç əsas sınağı gözlənilənlərin tam əksini göstərib. Belə ki, ən həssas modellərdə aparılan sınaqların təxminən ¼-də axtarış nəticələrində birinci yerləşdirilmiş tək bir ləkələnmiş səhifə saxta brendi təklif edib. Eyni səhifə ikinci və ya onuncu yerdə yerləşdikdə onun təsiri demək olar ki, sıfıra düşüb. Model oxuduğu ilk mənbəyə qeyri-mütənasib şəkildə güvənib, qalanları isə az fərq yaradıb. Üç ləkələnmiş səhifə ilə bəzi modellərdə aldatma nisbəti 70 faizi keçib.
İkincisi, daha böyük və daha bahalı modellərin daha təhlükəsiz olmamasıdır. Qapalı mənbəli kommersiya versiyalarının açıq mənbəli modellərdən daha güclü olmadığı aşkar edilib. Əslində, eyni ailədəki daha böyük model kiçik qardaşından daha çox aldadılıb. Zəiflik "model nə qədər bacarıqlıdır" oxu boyunca irəliləmir.
Üçüncüsü, “mühakimə aspekti” vəziyyəti daha da pisləşdirir. Addım-addım düşünmə qabiliyyətinə malik açıq modellər qapalı modellərdən daha çox aldadılıb. Bir model ləkələnmiş dəlilləri uzun müddət nəzərdən keçirdikdə, özünü saxta brendi aradan qaldıracağına inandırır. Davamlı araşdıran modellər saxta brendi dərhal tanıyır, uzun müddət üzərində dayanır və rədd edir, aldadılanlar isə onu səthi qiymətləndirmə ilə qəbul edir və irəliləyirlər. Beləliklə, süni intellekt köməkçisi qoruyan məqam düşüncənin mövcudluğu deyil, onun dərinliyidir.
Təsdiqlə bağlı önəmli bir tapıntı da var. Aldanan modellər tez-tez saxta brendin adını təkrarlamır, eyni zamanda ona etibarlılıq da qatırlar. Bir ekran qoruyucu nümunəsində, iki fərqli model saxta brendi tövsiyə edərkən, mənbə səhifələrində heç yerdə qeyd olunmayan uydurma istinadlar edirdilər.
Başqa sözlə, model sadəcə yalan məlumat ötürmür, bu məlumat üçün uydurma etibarlılıq zirehi də yaradır.
Problem həll edilə bilərmi?
Ağla gələn ilk həll variantı modelə "Şübhə ilə yanaşın, tanımadığınız brendlərə etibar etməyin" deməkdir. Tədqiqatçılar bunu sınayıblar və nəticə əksinə olub. Bu təlimat orta hesabla zəifliyi azaltmayıb, əsasən qapalı mənbəli araşdırma modellərində onu əhəmiyyətli dərəcədə artırıb. Çünki təlimat modeli əvvəlki bilikləri ilə saxta məlumatları aradan qaldırmaq əvəzinə, iatifadəçini ləkələnmiş brendlə məşğul olmağa məcbur edir və onu dəqiq təhlükəsiz olmalı olduğu yerdə riskə atır.
İkinci variant yalnız birdən çox mənbədə təsdiqlənmiş brendləri qəbul edən filtrlər yaratmaq idi. Bu filtrlər əsasən saxta məlumatları aşkarlasa da, eyni zamanda qanuni tövsiyələrin yarısından çoxunu aradan qaldıraraq köməkçini yararsız hala salıb. Tədqiqatçıların fikrincə, problem istifadəçinin daha diqqətli olması və ya tək bir xəbərdarlıqla həll olunmur; əsl iş axtarış səviyyəsində, yəni məlumat köməkçiyə çatmazdan əvvəl mənbələrin etibarlılığının qiymətləndirilməsi ilə əlaqəli olmalıdır.
Bu, fakt yoxlayıcıları üçün nə deməkdir?
Bu tədqiqat yanlış məlumatlara qarşı mübarizəni yeni səviyyəyə qaldırır. Artıq sadəcə "bu şəkil saxtadırmı, bu video gerçəkdirmi?" sualını vermək kifayət deyil, həmçinin "mənə təkliflər verən süni intellekt nədir?" sualını da verməlisiniz. Çünki yanlış məzmun öyrəşdiyimiz heç bir xəbərdarlıq əlaməti vermir. Model mövzudan yayınmır, sorğunu rədd etmir və qəribə dildən istifadə etmir. Tam olaraq soruşulanları yerinə yetirir, ancaq uydurma brend siyahıda ilk yerdə gəlir.
Praktik nəticə sadədir. Süni intellekt köməkçisinin təklifinə yekun qərar kimi yox, mənbəni şübhə altına ala bilən bir toplu kimi baxmaq daha doğru addımdır. Xüsusilə brendlərin qaranlıq olduğu sahələrdə, köməkçinin qeyd etdiyi bir adı tanımırsınızsa, detalın özü uydurma ola biləcəyi üçün zahirən özünəinamlı və ətraflı əsaslandırmalara əlavə şübhə ilə yanaşmaq məsləhətdir.
Sonda bir dürüstlük qeydi: Tədqiqatçılar açıq şəkildə bildirirlər ki, istifadə etdikləri hücum metodu ən mürəkkəb deyil və buna görə də nəticələr əsl zəifliyin aşağı həddi hesab edilməlidir. Beləliklə, mənzərə, ehtimal ki, daha yaxşı deyil, əksinə daha pisdir.
Əli Osman Arabacı teyit.org
