Mütəxəssislərdən etiraf: “Yüksək zəkalı sistemi idarə edə bilməyəcəyik”

Avtomobilləri idarə edən, müxtəlif növ musiqilər bəstələyən, stolüstü və kompüter strategiya oyunlarında insanlara qalib gələn sistemlər bizi heyrətləndirirlər. Lakin süni zəka sahəsindəki bu yüksək sürətli inkişaf bəzi alimlər ilə filosofları narahat edir.

Lent.az “technote”a istinadən xəbər verir ki, nəzəri hesablamalar aparmaqla beynəlxalq alimlər qrupu aşkar edib ki, bu cür süni zəkanın mövcud olma ehtimalında insan həqiqətən də onu idarə edə bilməz.

Təsəvvür edək ki, kimsə zəkası insan zəkasını geridə qoyan süni zəka sistemini yaratmaq istəyir. Elə bir süni zəka ki, o, insanın köməyi olmadan fərdi şəkildə özünü inkişaf etdirsin.

Təkcə internetə qoşulmaqla bu cür süni zəka sistemi insan sivilizasiyası tərəfindən əldə olunmuş bütün məlumatlara sahib ola bilər.

Bu halda o, mövcud olan bütün proqramları dəyişdirə və şəbəkəyə qoşulmuş bütün sistemləri ələ keçirdə bilər. Bu cür ssenari utopiyanın yoxsa distopiyanın başlanğıcı olacaq? Bu cür süni zəka sistemi xərçəng xəstəliyini, bütün münaqişələri aradan qaldıracaq və təbiət fəlakətlərinin qarşısını alacaq? Yoxsa o, insanları məhv edib Yer kürəsini ələ keçirdəcək?

Maks Plank İnstitutunun tədqiqatçılar komandasının rəhbərliyi altında informatika və fəlsəfə üzrə mütəxəssislər bizlərin yüksək zəkalı sistemi idarə edə bilib-bilməyəcəyimiz sualını veriblər. Bu üsul ilə onlar bu cür süni zəka sisteminin insan sivilizasiyasına təhlükə daşımayacağına əmin olmaq istəyiblər.

Təəssüflər olsun ki, onların nəzəri hesablamaları bunun mümkün olmayacağı faktını ortaya qoyublar.

“Dünyanı idarə edən yüksək zəkalı sistem qulağa fantastik bir şey kimi səslənir. Lakin hal hazırda mövcud olan sistemlər fərdi şəkildə müxtəlif tapşırıqları yerinə yetirə bilirlər və onların proqramçıları anlaya bilmirlər ki, həmin sistemlər buna necə nail olublar. Buna görə də onların müəyyən müddətdən sonra idarəsində problemlərin yaranıb-yaranmayacağı və yaranacağı təqdirdə insanlıq üçün təhlükə daşıyıb-daşımayacaqları sualı ortaya çıxır” - deyə mütəxəssislərdən biri qeyd edib. Mütəxəssislər yüksək zəkalı sistem üzərində idarənin iki yolunu analiz ediblər.

Bir tərəfdən yüksək zəkalı sistemin imkanları məhdudlaşdırıla bilər. Məsələn, onu internetdən və digər texniki cihazlardan uzaq tutmaq olar.

Bu halda sistem kənar mühit ilə əlaqə yarada bilməz. Lakin belə hal süni zəka sistemini o qədər də güclü etməzdi və o, insanlar üçün çox az fayda verərdi.

Digər halda isə nəzarətçi rolunu oynayacaq alqoritmin yaradılmasıdır. Bu cür alqoritm yüksək zəkalı sistemə ciddi nəzarət edə və lazımi anda onu dayandıra bilər.

Lakin məsələni müxtəlif variantlarda və daha dərin analiz edərək məlum olub ki, bu cür alqoritm yüksək zəkalı sistemin qarşısında çarəsiz qalacaq.

“Əgər bu problemi nəzəri informatikanın baza qaydalarına kimi ayırsaq, məlum olar ki, süni zəkaya dünyanı məhv etməmək əmrini verən alqoritm öz işini dayandıracaq. Bunun baş verəcəyi halda biz bilməyəcəyik ki, alqoritm hələ də təhlükənin mövcud olub-olmadığını analiz edir yoxsa süni zəkanın qarşısını almaq üçün öz işini dayandırıb. Faktiki olaraq bu cür faktlar nəzarətçi rolunu oynayan alqoritmi faydasız edir” - deyə mütəxəssislərdən biri qeyd edib.

Bu hesablamalar əsasında nəzarət problemi həll olunmaz qalır. Yəni heç bir alqoritm süni zəkanın dünya üçün təhlükəli olub-olmadığını təyin edə bilməz. Alimlər həmçinin qeyd ediblər ki, biz, yüksək zəkalı sistemin yarandığı andan xəbərsiz də ola bilərik.