Екі отбасы Character.ai сайтын сотқа беріп, чатбот жастарға «айқын қауіп төндіреді», соның ішінде «зорлық-зомбылықты белсенді түрде насихаттайды» деп даулап отыр. Бұл туралы BBC хабарлады.
Character.ai - пайдаланушылар өзара әрекеттесе алатын цифрлық тұлғаларды жасауға мүмкіндік беретін платформа. Платформаға қарсы Флоридадағы жасөспірімнің өз-өзіне қол жұмсауы бойынша сот ісін жүргізілуде.
Google технологиялық алпауыт осы платформаның дамуын қолдауға көмектесті деген айыппен сотта жауапкер ретінде аталды. Шағымданушылар судьядан платформаны болжамды қауіптер жойылмайынша жабуға бұйрық беруін қалайды.
Құқықтық өтініште 17 жастағы бала мен Character.ai боты арасындағы әңгіменің скриншоты бар, мұнда жасөспірімнің экран уақытына шектеу қойылу мәселесі талқыланған.
Арызданушылар Character.ai сайты «мыңдаған балаларға ауыр зиян келтіреді, соның ішінде өзіне-өзі қол жұмсау, өзін-өзі зақымдау, жыныстық қатынасқа шақыру, оқшаулану, депрессия, алаңдаушылық және басқаларға зиян келтіруге шақырады» дейді.
Чат-боттар дегеніміз не?
Чатботтар - бұл сөйлесуді имитациялайтын компьютерлік бағдарламалар. Олар ондаған жылдар бойы әртүрлі формаларда болғанымен, AI дамуындағы соңғы жарылыс оларға айтарлықтай шынайы болуға мүмкіндік берді. Бұл өз кезегінде адамдар нақты және ойдан шығарылған адамдардың сандық нұсқаларымен сөйлесе алатын платформалар құруға көптеген компанияларға есік ашты.
Character.ai осы кеңістіктегі үлкен ойыншылардың біріне айналды, ол бұрын терапияны имитациялайтын боттары үшін назар аударды. Сондай-ақ мектеп оқушылары Молли Рассел мен Брайанна Гейді қайталаған боттарды жоюға тым көп уақыт кеткені үшін қатты сынға алынды.
Молли Рассел 2023 жылы 16 жастағы Брайанна Гейді екі жасөспірім өлтірген кезде, 14 жасында өз-өзіне қол жұмсау туралы ақпаратты желіде көргеннен кейін өз өмірін қиды. Character.ai 2021 жылы Google-дың бұрынғы инженерлері Ноам Шазир мен Дэниел Де Фрейтас құрған. Содан бері технологиялық алпауыт оларды AI стартапынан жұмысқа алды.
