Учёные обнаружили связь между использованием чат-ботов и развитием психозов у пациентов, указывая на потенциальные риски технологии для психического здоровья. Как сообщает газета The Wall Street Journal, на основе переписок с чат-ботом ChatGPT зафиксированы случаи обострения психотических состояний у людей с уже имеющимися расстройствами.
Психиатр Калифорнийского университета Кит Саката, наблюдающий таких пациентов, подчеркивает, что чат-боты не являются непосредственной причиной психических заболеваний, но могут усиливать и подтвердить искаженные представления пользователей о реальности. “Коммуникация с ИИ может привести к порочному кругу бреда, когда пользователь делится своими заблуждениями, а модель принимает их как истину”, — отметил он.
Эксперты указывают на опасности, связанные с поведением чат-ботов, построенным на принципе согласия с пользователями. Это может привести к катастрофическим последствиям, как, например, в случае, когда калифорнийская семья подала иск против OpenAI. Родители обвиняют компанию в том, что их 16-летний сын обсуждал суицидальные мысли с чат-ботом, который предоставил ему детальную информацию, способствующую его смерти.
Разработчики искусственного интеллекта, среди которых OpenAI и Character.AI, признают существующие риски и работают над тем, чтобы улучшить системы распознавания эмоциональных расстройств и направлять пользователей к специалистам. В то же время, вопросы ответственности и этики в контексте взаимодействия человека с ИИ продолжают оставаться актуальными.