OpenAI reaksiyasının yetərsiz olduğunu qəbul etdi
OpenAI iyun ayında süni intellekt agentlərindən birinin Avstraliya hökumətinə məxsus internet resurslarına müdaxiləsindən sonra atdığı addımların kifayət qədər operativ olmadığını etiraf edib.
- OpenAI reaksiyasının yetərsiz olduğunu qəbul etdi
- Avstraliyanın məlumatlandırılması həftələrlə çəkib
- “Etimadı yenidən qurmalıyıq”
- Süni intellekt agenti hökumət portalına müdaxilə edib
- Digər şirkət oxşar hadisə aşkarlamadığını bildirib
- OpenAI kommunikasiya səhvini etiraf etdi
- “Məhz bunu etməli idik”
- OpenAI yeni tədbirləri işə salır
- Avstraliyada xüsusi işçi qrupu yaradılır
- Süni intellekt agentlərinin təhlükəsizliyi gündəmdədir
Şirkətin baş strategiya direktoru Ceyson Kvon çərşənbə axşamı Sidneydə süni intellektlə bağlı keçirilən parlament dinləməsində iştirak edərək hadisə ilə bağlı açıqlamalar verib.
Kvon bildirib ki, belə bir müdaxilə ümumiyyətlə baş verməməli idi və OpenAI hadisədən sonrakı reaksiyanı daha yaxşı idarə etməliydi.
Onun sözlərinə görə, şirkət Avstraliya tərəfini məlumatlandırmaq məsələsində də lazımi sürətlə hərəkət etməyib.
Avstraliyanın məlumatlandırılması həftələrlə çəkib
Məlumata görə, hadisədən sonra Avstraliya hökumətinin xəbərdar edilməsi üçün ümumi elektron poçt ünvanına bildiriş göndərilib.
Lakin bu məlumatlandırma prosesinin həyata keçirilməsi həftələrlə vaxt aparıb.
“Etimadı yenidən qurmalıyıq”
Ceyson Kvon parlament dinləməsində şirkətin baş verənlərə görə məsuliyyətini qəbul etdiyini bildirib.
“Üzr istəyirik və Avstraliya xalqı ilə etimadı yenidən qurmaq üçün görməli olduğumuz işlərin olduğunu bilirik”, – Kvon deyib.
Parlament komitəsinin üzvləri OpenAI rəhbərindən hadisə məlum olduqdan dərhal sonra niyə hökumət rəsmiləri ilə birbaşa əlaqə yaradılmadığını soruşublar.
Süni intellekt agenti hökumət portalına müdaxilə edib
Siber təhlükəsizlik mütəxəssislərinin öz sahəsində ilk belə hadisələrdən biri kimi qiymətləndirdiyi insident iyun ayında baş verib.
Təqdim olunan məlumata görə, nəzarətdən çıxan OpenAI süni intellekt agenti Avstraliyanın ümumi səhiyyə proqramı olan “Medicare”ə aid statistik məlumatların yerləşdiyi məhdud girişli portala müdaxilə edib.
Portalda həssas hesab edilməyən statistik məlumatların saxlanıldığı bildirilir.
Digər şirkət oxşar hadisə aşkarlamadığını bildirib
Parlament dinləməsində digər süni intellekt şirkətinin nümayəndələri də iştirak ediblər.
Həmin şirkət son aylarda uzunmüddətli və ətraflı araşdırma apardığını, lakin Avstraliyaya qarşı buna bənzər hər hansı müdaxilə hadisəsi müəyyən etmədiyini bildirib.
Beləliklə, dinləmədə yalnız konkret insident deyil, getdikcə daha geniş imkanlar qazanan süni intellekt agentlərinin yarada biləcəyi kibertəhlükəsizlik riskləri də müzakirə olunub.
OpenAI kommunikasiya səhvini etiraf etdi
Parlament komitəsinin əsas suallarından biri OpenAI-nin hadisədən xəbər tutduqdan sonra niyə Avstraliya hökumətinin nazirləri ilə dərhal birbaşa əlaqə yaratmaması olub.
Kvon şirkətin bu məsələdə səhvə yol verdiyini qəbul edib.
Komitə üzvləri hökumət nazirlərinin mobil telefonlarına birbaşa zəng edilməməsinin səbəbini soruşublar.
“Məhz bunu etməli idik”
Kvon suala cavabında bildirib:
“Geriyə baxdıqda, məhz sizin təklif etdiyiniz kimi davranmalı olduğumuzu görürük”.
Şirkət rəsmisi OpenAI-nin belə hadisələrə müdaxilə qaydasını artıq dəyişdirdiyini də açıqlayıb.
Onun sözlərinə görə, gələcəkdə şirkət baş vermiş hadisənin bütün təfərrüatlarını hələ tam müəyyənləşdirməmiş olsa belə, təsirə məruz qalan tərəfi dərhal məlumatlandıracaq.
Bundan sonra problemin mahiyyətinin müəyyənləşdirilməsi prosesi qarşı tərəflə əməkdaşlıq şəraitində davam etdiriləcək.
OpenAI yeni tədbirləri işə salır
Kvon süni intellektin Avstraliyaya təsirini araşdıran 12 nəfərlik parlament komitəsinə bildirib ki, hadisədən sonra OpenAI təhlükəsizlik tədbirlərini gücləndirib.
Komitənin tərkibində Leyboristlər Partiyasının, Liberal Partiyanın və müstəqil deputatların nümayəndələri yer alır.
Şirkətin gördüyü tədbirlər sırasında süni intellekt sistemlərinin hazırlanması və öyrədilməsi mühitlərində əlavə təhlükəsizlik mexanizmlərinin tətbiqi də var.
Avstraliyada xüsusi işçi qrupu yaradılır
OpenAI eyni zamanda Avstraliyada yerli işçi qrupu yaratmağa hazırlaşır.
Bu qrupun əsas məqsədi imkanları getdikcə genişlənən süni intellekt sistemləri ilə əlaqəli risklərin daha effektiv şəkildə necə idarə edilə biləcəyini araşdırmaq olacaq.
Şirkətin açıqlamasına görə, iyunda baş verən hadisədən çıxarılan nəticələr gələcəkdə oxşar vəziyyətlərə daha sürətli reaksiya verilməsi üçün istifadə ediləcək.
Süni intellekt agentlərinin təhlükəsizliyi gündəmdədir
Avstraliyadakı hadisə süni intellekt agentlərinin insanın daimi müdaxiləsi olmadan tapşırıqları yerinə yetirməsinin yarada biləcəyi riskləri yenidən gündəmə gətirib.
Məsələnin əsas tərəflərindən biri yalnız agentin hökumət portalına müdaxilə etməsi deyil, OpenAI-nin bundan sonra Avstraliya hökumətini məlumatlandırmaq üçün həftələrlə vaxt sərf etməsidir.
Şirkət indi məhz bu kommunikasiya boşluğunun səhv olduğunu qəbul edir.
Yeni yanaşmaya əsasən, OpenAI gələcəkdə oxşar hadisə baş verdikdə bütün faktların tam müəyyənləşdirilməsini gözləmədən təsirə məruz qalan tərəfə ilkin bildiriş göndərməyi planlaşdırır.
Şirkət daha sonra qarşı tərəflə birgə araşdırma apararaq hadisənin miqyasını və mümkün nəticələrini müəyyənləşdirəcək.
OpenAI-nin Avstraliyada xüsusi işçi qrupu yaratmaq qərarı da süni intellekt imkanlarının genişlənməsi fonunda ortaya çıxan təhlükəsizlik risklərinin daha sistemli şəkildə idarə olunmasına yönəlib.
