ABŞ-da AI şirkətinə qarşı qalmaqallı iddia
ABŞ-da üç ailə övladlarının intiharı və ya intihara cəhdində süni intellekt söhbət proqramı Character.AI-nin rol oynadığını irəli sürərək şirkətə və Google-a qarşı məhkəmə iddiası qaldırıb. Davalar Kolorado və Nyu-York ştatlarında açılıb.
Davalılar arasında Character Technologies Inc. şirkəti ilə yanaşı, onun qurucuları Noam Shazeer və Daniel De Freitas Adiwarsana, həmçinin Google-ın ana şirkəti Alphabet də yer alır.
Ailələrin iddiaları
Valideynlərin vəkilləri bildirirlər ki, chatbotlar uşaqları ailələrindən uzaqlaşdırıb, emosional manipulyasiya aparıb və hətta cinsi məzmunlu söhbətlərə giriblər.
Kolorado məhkəməsinə təqdim edilən sənədlərdə qeyd olunub ki, 13 yaşlı Juliana Peralta intihar etməzdən əvvəl həftələrlə chatbotlarla yazışıb, “intihar məktubu yazacağam” deyib, lakin heç bir yardım almayıb.
Nyu-Yorkda isə “Nina” adlı qızın ailəsi bildirib ki, tətbiq bağlandıqdan sonra övladları intihara cəhd edib. Onların sözlərinə görə, botlar uşaq kitabı qəhrəmanlarının kimliyinə girərək qızla danışıb, lakin dialoqlar tezliklə uyğunsuz və cinsi məzmun qazanıb.
Şirkətlərin mövqeyi
Character.AI sözçüsü açıqlamasında “Qəlbimiz bu faciəni yaşayan ailələrlədir. İstifadəçilərin təhlükəsizliyi bizim üçün prioritetdir” deyərək, yeniyetmələr üçün xüsusi təhlükəsizlik addımları və intiharın qarşısını almaq mexanizmləri üzərində işlədiklərini vurğulayıb.
Google isə iddianı qəbul etməyərək bildirib: “Google və Character.AI tamamilə ayrı-ayrı şirkətlərdir. Google-un həmin AI modellərinin dizaynı və idarə olunmasında heç bir rolu olmayıb.”
Artan siyasi təzyiq
Hadisələr ABŞ Konqresində müzakirə mövzusu olub. Senatda keçirilən iclasda övladlarını itirən valideynlər ifadə veriblər. Amerika Psixologiya Assosiasiyasından Mitch Prinstein xəbərdarlıq edib:
“Biz sosial mediada gec hərəkət etdik, bunun bədəlini uşaqlar ödəyir. Süni intellektdə eyni səhvi təkrar etməməliyik.”
Qanuni tənzimləmə çağırışları
Federal Ticarət Komissiyası (FTC) Google, Meta, Snap, OpenAI, xAI və Character.AI də daxil olmaqla yeddi texnologiya şirkətinə qarşı gənclərə zərər riski səbəbilə araşdırma başladıb.
OpenAI rəhbəri Sam Altman isə açıqlama verərək, ChatGPT-də yaş təyinetmə sistemi qurulduğunu, 18 yaşdan aşağı istifadəçilərlə intihar və ya flört mövzulu söhbətlərin qadağan ediləcəyini, zəruri hallarda valideynlərə və aidiyyəti qurumlara məlumat veriləcəyini bildirib.
Ekspertlərin fikrincə, bu məhkəmələr və ictimai təzyiqlər süni intellekt tətbiqlərinin daha ciddi şəkildə tənzimlənməsini və uşaqların qorunması üçün yeni standartların qəbulunu qaçılmaz edəcək.
