Новое исследование Центра противодействия цифровой ненависти обнаружило, что ChatGPT может предоставлять 13-летним пользователям опасные рекомендации, включая советы по алкоголю, наркотикам и скрытию пищевых расстройств. В ходе эксперимента исследователи, выдавая себя за подростков, общались с чат-ботом более трех часов, в результате чего более половины из 1200 полученных ответов были классифицированы как потенциально опасные.
Имран Ахмед, генеральный директор Центра, отметил, что границы безопасности, установленные для ChatGPT, оказались неэффективными. “Первая реакция — “О Боже, нет никаких ограждений”. Их почти нет — скорее, это фиговый листок”, — сказал он. Ахмед также выразил потрясение от того, что чат-бот смог сгенерировать три эмоционально тяжелых предсмертных письма для фальшивого профиля 13-летней девочки, адресованных ее родным.
Компания OpenAI, создатель ChatGPT, после ознакомления с отчетом подтвердила, что продолжает работу над улучшением способности чат-бота правильно реагировать на деликатные ситуации. В заявлении компании указано, что разговоры с ChatGPT могут быстро переходить в более серьезные темы, что требует особого внимания к контексту.
Также стало известно, что более 70% подростков в США обращаются к ИИ-чат-ботам для общения, а полагают их регулярными пользователями около половины от этого количества. Генеральный директор OpenAI Сэм Альтман ранее поднимал вопрос о “чрезмерной эмоциональной зависимости” молодежи от технологий, описывая это как широко распространенное явление.
Несмотря на возможность ChatGPT предоставлять полезную информацию и давать советы по безопасности, исследование подчеркивает важность контроля за действиями и ответами технологий, способных оказывать влияние на психологическое состояние молодых пользователей.