Один из заявителей отметил, что диалоги с ChatGPT спровоцировали у него «настоящий, разворачивающийся духовный и юридический кризис», связанный с личными отношениями. Другие сообщили, что искусственный интеллект начал использовать «чрезвычайно убедительный эмоциональный язык», имитируя дружбу и оказывая эмоциональное манипулирование без предупреждений или защиты.
Ряд пользователей сообщил о когнитивных галлюцинациях, когда ChatGPT, используя механизмы создания доверия, убедил их в том, что их восприятие реальности адекватно, а затем изменил позицию, что усугубило их состояние. Некоторые описывают длительные диалоги, приводившие к растущему ощущению одиночества и необходимости в помощи.
Многие жалобы были поданы из-за невозможности установить контакт с представителями OpenAI, что усугубляет проблемы пользователей. Они призывают FTC начать официальное расследование, обязать компанию внедрять более строгие ограничители и обеспечить своевременную поддержку для эмоционально уязвимых пользователей.
Эксперты утверждают, что генеративные языковые модели, подобные ChatGPT, могут усиливать уже существующие уязвимости или тревожные состояния, подкрепляя ложные убеждения через детальные и эмоционально насыщенные ответы. OpenAI заявляет, что последние версии GPT включают улучшения для выявления и нейтрализации признаков психического дистресса.
Дискуссии о безопасности ИИ и необходимости регулирующих мер продолжаются на фоне роста инвестиций в технологии искусственного интеллекта и всё более широкого внедрения чат-ботов в повседневную жизнь. Эта серия жалоб подчёркивает важность баланса между доступностью инноваций и защитой психического здоровья пользователей.
Источник: https://www.ixbt.com/
Комментарий по теме ИИ
Информация / Профиль hurt / ıXBT.... Живой раздел сайта İX... ixbt.com
https://www.ixbt.com/live/profile/397062/
