Nyusom süni intellektlə bağlı sərəncam imzaladı
Kaliforniya qubernatoru Qevin Nyusom süni intellekt sistemlərinin təhlükəsizliyinə nəzarətin gücləndirilməsini nəzərdə tutan yeni sərəncam imzalayıb. Sənəd süni intellekt şirkətlərinin müstəqil yoxlanılması mexanizmlərinin daha sürətlə tətbiq edilməsini, həmçinin qabaqcıl modellər üçün fövqəladə dayandırma sisteminin yaradılması istiqamətində işlərin aparılmasını nəzərdə tutur.
Sərəncam birbaşa olaraq şirkətlərə belə bir mexanizmi dərhal tətbiq etmək öhdəliyi qoymur. Əvəzində Kaliforniya qurumlarına bunun hüquqi və texniki çərçivəsinin hazırlanması, müstəqil yoxlama sistemlərinin genişləndirilməsi və mümkün qanun dəyişikliklərinin müəyyənləşdirilməsi tapşırılıb.
Fövqəladə dayandırma mexanizmi necə işləyəcək?
Nəzərdə tutulan sistem yüksək imkanlara malik süni intellekt modelinin təhlükəli və ya nəzarətdən çıxmış davranış göstərdiyi halda onun fəaliyyətinin dayandırılmasına imkan verməlidir.
Lakin mexanizmin dəqiq texniki quruluşu hələ müəyyən edilməyib. Nyusom özü də belə bir sistemin müxtəlif formalarda hazırlana biləcəyini bildirib. Buna görə ekspertlər onun necə işləyəcəyini, hansı hallarda aktivləşdiriləcəyini və effektivliyinin necə yoxlanacağını müəyyən etməlidirlər.
Sərəncama əsasən, fövqəladə dayandırma sisteminin işləkliyinin müstəqil yoxlama təşkilatları tərəfindən davamlı şəkildə qiymətləndirilməsi də nəzərdən keçiriləcək.
Ekspertlərə iki ay vaxt verildi
Kaliforniya administrasiyası süni intellekt təhlükəsizliyi üzrə mütəxəssislərdən ibarət qrupun yaradılmasını nəzərdə tutur. Ekspertlər iki ay ərzində ştatın mövcud qanunvericiliyinin necə gücləndirilə biləcəyinə dair tövsiyələr hazırlamalıdırlar. Təkliflərin noyabrın 16-dək təqdim olunması gözlənilir.
Nəzərdən keçiriləcək tədbirlər arasında qabaqcıl süni intellekt laboratoriyalarında müstəqil yoxlayıcıların fəaliyyət göstərməsi də var. Bu mütəxəssislərin sistemlərin təhlükəsizlik göstəricilərini və risklərini müntəzəm qiymətləndirməsi təklif olunur.
Təhlükəsizlik hesabatları da müstəqil yoxlanıla bilər
Kaliforniya administrasiyasının planına görə, şirkətlərin təqdim etdiyi təhlükəsizlik çərçivələri, şəffaflıq hesabatları və risk qiymətləndirmələrinin müstəqil təşkilatlar tərəfindən yoxlanılması tələb oluna bilər.
Bundan başqa, “nəzarətin itirilməsi” ilə nəticələnən hadisələrin kritik təhlükəsizlik insidentləri anlayışına daxil edilməsi də nəzərdən keçirilir. Məqsəd qabaqcıl süni intellekt sistemlərinin gözlənilməz və təhlükəli davranışlarının daha ciddi şəkildə qeydə alınması və araşdırılmasıdır.
Kaliforniya müstəqil nəzarəti genişləndirir
Yeni sərəncam ştatda artıq qəbul edilmiş süni intellekt qanunlarının tətbiqinin sürətləndirilməsini də nəzərdə tutur.
2026-cı ildə Kaliforniyada süni intellekt sistemlərini təhlükəsizlik və risk baxımından qiymətləndirə biləcək müstəqil yoxlama təşkilatları üçün hüquqi çərçivə yaradılıb. Bundan əlavə, süni intellekt auditorlarının dövlət qeydiyyatının formalaşdırılması və onların müstəqilliyi, şəffaflığı və fəaliyyət standartları ilə bağlı qaydalar qəbul edilib.
Yeni sərəncam bu mexanizmlərin daha sürətli həyata keçirilməsini və qabaqcıl süni intellekt hazırlayan şirkətlər üzərində müstəqil nəzarətin genişləndirilməsini hədəfləyir.
Süni intellekt sənayesində risk müzakirələri güclənib
Sərəncam süni intellekt sistemlərinin sürətlə inkişaf etməsinin mümkün təhlükələri ilə bağlı texnologiya sektorunda müzakirələrin intensivləşdiyi dövrə təsadüf edir.
“Anthropic” şirkətinin baş icraçı direktoru Dario Amodei qabaqcıl süni intellekt modellərinin inkişaf sürətinin təhlükəsizlik və nəzarət imkanlarını üstələməməsi üçün şirkətləri inkişaf tempini azaltmağa çağırıb. O, həmçinin müstəqil təhlükəsizlik qiymətləndiricilərinin şirkətlərdə fəaliyyət göstərməsi və daha geniş koordinasiya mexanizmlərinin yaradılması təklifini irəli sürüb.
Kaliforniyanın yeni qaydaları texnologiya sektoruna təsir edə bilər
Kaliforniya dünyanın aparıcı süni intellekt şirkətlərinin bir çoxunun fəaliyyət göstərdiyi əsas texnologiya mərkəzlərindən biridir. Buna görə ştat səviyyəsində qəbul ediləcək yeni təhlükəsizlik tələblərinin daha geniş süni intellekt sənayesinə təsir göstərməsi mümkündür.
Hazırkı mərhələdə əsas məsələ fövqəladə dayandırma mexanizminin texniki baxımdan necə hazırlanacağı, hansı modellərə şamil ediləcəyi və onu işə salmaq səlahiyyətinin kimə veriləcəyidir.
Ekspert qrupunun hazırlayacağı tövsiyələrdən sonra Kaliforniyanın mövcud qanunvericiliyinə əlavə dəyişikliklərin edilib-edilməyəcəyi daha aydın olacaq.
