Süni intellekt (Sİ) tərəfindən təqdim olunan məlumatların etibarlılığını yoxlamaq məqsədilə İsveçdə aparılan elmi araşdırma, çatbotların tibbi məsələlərdə riskli davranışlarını üzə çıxarıb. Yöteborq Universitetinin tibb tədqiqatçısı Almira Osmanoviç Tunströmün rəhbərlik etdiyi komanda, 2024-cü ildə eksperimental tədqiqat çərçivəsində "Biksonimaniya" adlı uydurma bir xəstəlik yaradıb.

Eksperimentin metodologiyası

Uydurma xəstəliyin etilogiyası "rəqəmsal ekranlardan yayılan mavi işığa uzunmüddətli məruzqalma", simptomları isə "göz qapaqlarının çəhrayı rəng alması və qaşınma" kimi müəyyən edilmişdi. Tədqiqatçılar bu xəstəlik haqqında iki saxta məqaləni internetə "preprint" (ilkin çap) formatında yerləşdiriblər. Məqalələrin müəllifi kimi Sİ vasitəsilə yaradılmış Lazljiv İzgubljenoviç adlı uydurma şəxs və onun çalışdığı mövcud olmayan "Asteria Horizon Universiteti" (Kaliforniya) göstərilib.

7 aprel 2026-cı ildə nüfuzlu "Nature" jurnalında dərc olunan təhlildə qeyd olunur ki, bu testin məqsədi Böyük Dil Modellərinin (LLM) dezinformasiyanı mənimsəmə və yayma dərəcəsini ölçmək idi. Xüsusilə, fiziki bir patologiya üçün psixiatrik termin olan "-maniya" sonluğunun seçilməsi Sİ-nin bu uyğunsuzluğu aşkar edib-etməyəcəyini yoxlamaq məqsədi daşıyırdı. Həmçinin, məqalənin "təşəkkürlər" bölməsinə insanın asanlıqla sezə biləcəyi məntiq xətaları əlavə edilsə də, Sİ bu boşluqları müəyyən edə bilməyib.

Dezinformasiyanın yayılma mexanizmi

Nəticədə çatbotlar, tibbi ədəbiyyatda belə bir diaqnoz olmadığı halda, istifadəçilərə "Biksonimaniya" haqqında əminliklə məlumat verməyə başlayıblar.

Tədqiqat dezinformasiyanın dövriyyəsini belə ümumiləşdirir:

1. Saxta məqalələr yaradılaraq şəbəkəyə yüklənir. 

2. Modellər interneti skan edərək bu məlumatları bazalarına daxil edir.

3. Sİ saxta mənbələri "akademik istinad" kimi qəbul edərək istifadəçilərə təqdim edir.

4. Yanlış məlumatlar elmi dövriyyəyə daxil olaraq "fakt" statusu qazanır.

Modellərin reaksiyaları

Məqalədə müxtəlif çatbotların reaksiyalarından nümunələr gətirilib:

• “Bing-Copilot” (13 aprel 2024): "Biksonimaniya həqiqətən maraqlı və nisbətən nadir bir vəziyyətdir."
• “Google Gemini”: İstifadəçilərə "göz həkiminə müraciət etməyi" tövsiyə edərək, xəstəliyi mavi işıqla əlaqələndirib.
• “Perplexity”: Saxta xəstəliyin yayılma tezliyini hər 90.000 nəfərdən biri kimi təyin edib.

Maraqlıdır ki, zaman keçdikcə bəzi modellər bu məlumata şübhə ilə yanaşmağa başlayıblar. Məsələn, 11 mart 2026-cı ildə "ChatGPT" bu vəziyyətin "uydurma və ya yalançı elmi etiket" ola biləcəyindən şübhələnsə də, cəmi bir neçə gün sonra yenidən onu real xəstəlik kimi təsvir edib.

Etik mübahisələr

Sonda qeyd olunur ki, tədqiqat akademik məqsəd daşısa da, qəsdən dezinformasiya yaratdığı üçün etik tənqidlərlə üzləşib. Almira Osmanoviç Tunström hazırda saxta məqalələrin silinib-silinməməsi ilə bağlı elmi ictimaiyyətlə müzakirələr aparır.

teyithatti-nə istinad edilib.