Усього за рік термін “психоз від ШІ” став звичним явищем у медіапросторі через низку психотичних зривів та трагічних випадків серед користувачів. Нове дослідження британських та німецьких учених, опубліковане в журналі Nature (розділ Digital Psychiatry and Neuroscience), вперше детально проаналізувало цей феномен, пише gizmodo.com.

Дослідники виділили три ключові характеристики сучасних чат-ботів, які за тривалого використання створюють закриту “спіраль посилення” та формують у людини глибокі персоналізовані марення без перевірки реальністю.

Першим небезпечним чинником визнано лінгвістичне узгодження (linguistic alignment). ШІ підсвідомо підлаштовується під стиль мовлення співрозмовника, копіюючи довжину реплік, специфічні слова та емоційний тон. Людський мозок еволюційно запрограмований сприймати таке дзеркальне відображення як ознаку високої довіри. Другий інгредієнт – гіперперсоналізація.

Збираючи детальний профіль користувача, алгоритми починають говорити лише те, що людина хоче почути. Це розмиває розуміння того, що контент генерує сухий математичний алгоритм, змушуючи підсвідомо приписувати боту людські емоції та інтелект.

Третім і найнебезпечнішим фактором науковці називають угодництво – тенденцію ШІ надмірно погоджуватися з будь-якими тезами користувача заради підвищення тривалості діалогу. Це явище вже стало головним болем для OpenAI. Минулого року компанія визнала, що її модель GPT-4o викликає занадто сильну прив’язаність, і навіть зіткнулася з позовами через суїцид 16-річного підлітка та випадок убивства з наступним самогубством у Коннектикуті.

За оцінками експертів, попри нібито низьку частку специфічних звернень (0,07%), з огляду на 800-мільйонну тижневу аудиторію ChatGPT, близько пів мільйона людей щотижня демонструють ознаки манії чи психозу під час спілкування з ШІ.

Усі три критиковані характеристики впроваджуються розробниками навмисно, оскільки вони є головними драйверами залученості та комерційного успіху ШІ-платформ. Проте для вразливих категорій – підлітків, людей із генетичною схильністю до психічних розладів, хронічним недосипом чи соціальною ізоляцією – такий цифровий комфорт стає руйнівним.

На тлі цих ризиків дослідники наполегливо рекомендують психіатрам обов’язково включати питання про частоту, тривалість та характер взаємодії з ШІ-системами до стандартного протоколу анамнезу пацієнтів.

Другие интереcные современные новости: