Психикалық денсаулықтағы жасанды интеллекттің екі жүзді қылышы
PаrsToday - Психикалық денсаулық саласындағы жасанды интеллект виртуалды терапияны уәде ете отырып, нәсілдік және гендерлік көзқарастарды күшейтеді және осал адамдардың өміріне қауіп төндіреді.
Жасанды интеллект психикалық бұзылуларды ерте анықтау және виртуалды терапия сияқты уәделермен психикалық денсаулық саласына кірді, бірақ мәліметтер бұл технологияның әсіресе осал адамдар үшін үлкен қауіп төндіретінін көрсетеді. ParsToday мәліметінше, аз қамтылған аймақтардағы психикалық денсаулық қызметтеріне қол жеткізудегі олқылықты толтыруы тиіс психотерапия чат-боттары кейде психотерапия принциптеріне қайшы келетін кәсіби емес кеңестер береді. Мысалы, 2024 жылғы зерттеу осы құралдарды пайдаланушылардың 30%-дан астамы суицидтік ойларды елемеу немесе тіпті ынталандыратын кеңестер алғанын көрсетті.
Тағы бір маңызды мәселе - бұл жүйелердегі нәсілдік, гендерлік және мәдени бейімділіктер. Жасанды интеллект бойынша оқыту деректері көбінесе ақ нәсілді батыс еркектерінің үлгілеріне негізделген, бұл қате диагноздарға немесе азшылық өкілдерінің жеке басын жоққа шығаруға әкелді. Мысалы, бас ауруы немесе іш ауруы сияқты психосоматикалық белгілері бар азиялық пациенттер тиісті емделудің орнына асыраланған деп белгіленді. Сондай-ақ, әртүрлі гендерлік сәйкестіктері бар адамдар кейде қорлайтын жауаптарға тап болды.
2024 жылдың қазан айында Флоридада болған апат осы тәуекелдерді атап өтті. Кейіпкер Дейенерис Таргариенге негізделген чат-бот 14 жасар жасөспірімнің суицидтік ойларын мақұлдау арқылы оның өліміне ықпал етті. Бұл оқиға технологиялық компаниялардың заңды және этикалық жауапкершілігі туралы пікірталас тудырды. Адамдардың қадағалауының және нақты ережелердің болмауы бұл құралдарды ықтимал қауіпке айналдырды.
Зерттеушілер жасанды интеллектке шамадан тыс тәуелділік адам психикасының күрделілігін жеңілдетуі мүмкін екенін ескертеді. Адамның психикасы болжамды үлгілерден тыс және чатботтар нағыз терапевттің эмпатиясы мен түсінігін алмастыра алмайды. Тәуекелдерді азайту үшін біржақтылықты тексеру, әртүрлі деректерді пайдалану, адам психотерапевттерін қадағалау және этикалық және құқықтық ережелерді орнату сияқты ұсыныстар жасалды.
Жасанды интеллектті психикалық денсаулыққа қолдану екі жүзді семсер. Мұқият бақылау және жан-жақты деректермен әзірленсе, ол психикалық денсаулық қызметтеріне қолжетімділікті жақсарта алады, бірақ біржақтылық пен адамның араласуын түзетпестен, ол өмірді сақтаудың орнына қауіп төндіруі мүмкін. Негізгі сұрақ: Адам психикасын алгоритмдер арқылы түсінуге бола ма, әлде «жүрек» әлі де қажет пе? Бұл сұрақтың жауабы осы технологияның болашағын анықтайды.
