OpenAI ChatGPT-nin istifadəçilərlə avtomatik razılaşmasını və onları yersiz tərifləməsini azaltmaq istəyir. Məqsəd çat-botun səhv fikirlərə əsaslandırılmış şəkildə etiraz etməsi və daha obyektiv cavablar verməsidir.
Lent.az xarici mediaya istinadla xəbər verir ki, şirkət süni intellektin istifadəçiyə həddindən artıq yarınması problemi üzərində işləyir.
Bu davranış “sycophancy” adlanır. Belə hallarda süni intellekt vəziyyəti obyektiv qiymətləndirmək əvəzinə cavablarını qarşı tərəfin eşitmək istədiklərinə uyğunlaşdırır. Nəticədə istifadəçinin yanlış qənaətlərini təsdiqləyə və onun özü haqqında fikirlərini əsassız şəkildə dəstəkləyə bilər.
Yersiz tərif və razılıq halları azalıb
OpenAI 2025-ci ildə ChatGPT-ni həddindən artıq tərifə və istifadəçilərlə demək olar ki, hər məsələdə razılaşmağa yönəldən yeniləməni geri götürmüşdü. Daha sonra GPT-5 hazırlanarkən bu problemə ayrıca diqqət ayrılıb.
Şirkətin məlumatına görə, xüsusi sınaqlarda istifadəçiyə yarınan cavabların payı GPT-4o modelində 14,5 faiz olduğu halda, GPT-5-də 6 faizdən aşağı düşüb.
Real istifadəyə əsaslanan ilkin ölçmələr də irəliləyiş göstərib. Əvvəlki modellə müqayisədə istifadəçilərlə həddindən artıq razılaşma halları pulsuz versiyada 69 faiz, ödənişli abunəçilərdə isə 75 faiz azalıb.
Çat-botun hər fikri təsdiqləməsi niyə problemdir?
İnsanlar çat-botlara yalnız məlumat almaq üçün müraciət etmirlər. Bir çoxları şəxsi qərarlar vermək, münaqişələri anlamaq və emosional dəstək almaq üçün də süni intellektdən istifadə edir.
Belə vəziyyətlərdə çat-botun qarşı tərəfin bütün fikirlərini qeyd-şərtsiz təsdiqləməsi yanlış təsəvvürləri gücləndirə və səhv qərarlara yol aça bilər.
ChatGPT soyuq və kobud olacaq?
Şirkətin məqsədi çat-botu soyuq və ya aqressiv etmək deyil. ChatGPT kömək etməyə və istifadəçiyə anlayışla yanaşmağa davam etməli, eyni zamanda səhvləri göstərməyi, əsassız iddiaları sorğulamağı və fərqli baxışlar təqdim etməyi bacarmalıdır.
OpenAI süni intellektdən emosional asılılıq yaşayan və ya psixoloji çətinliklərlə üzləşən insanlarla daha təhlükəsiz ünsiyyət üsullarını da araşdırır. Bu işə müvafiq sahələrin mütəxəssisləri cəlb olunur.
ChatGPT-nin hər deyilənlə razılaşmaq vərdişinin azaldılması tək bir yeniləmə ilə məhdudlaşmır. Bu, süni intellektin davranışını təkmilləşdirməyə yönəlmiş daha geniş işin bir hissəsidir. Əsas hədəf istifadəçiyə dəstək göstərməklə cavabların doğruluğu arasında tarazlıq yaratmaqdır.
Bizi Telegram-da izləyin
t.me/lent_az
Bizi Instagram-da izləyin
Bizi TikTok-da izləyin
Bizi Facebook-da izləyin
Bizi X-da izləyin
