Ученые из Австралии и Бангладеш анонсировали разработку новой модели искусственного интеллекта, способной эффективно выявлять токсичные комментарии в социальных сетях. Технология демонстрирует точность в 87,6%, что значительно превышает эффективность существующих алгоритмов.
В ходе исследования команда тестировала три различных алгоритма машинного обучения на примерах комментариев, собранных на английском и бенгальском языках из множества социальных платформ. В результате оптимизированная версия модели показала наивысшие результаты с точностью 87,6%, в то время как другие алгоритмы достигли показателей в 69,9% и 83,4%.
Эта разработка представляет собой важный шаг в борьбе с кибербуллингом и ненавистью в интернете. Согласно данным недавнего исследования, почти 63% россиян сталкиваются с оскорблениями и грубостью в сети, а каждый пятый опрошенный испытывает подобные негативные комментарии довольно часто. По словам ведущего автора исследования Афии Ахсан, такой рост агрессивных высказываний может иметь серьезные последствия для психического здоровья пользователей.
Команда разработчиков планирует усовершенствовать свою модель с помощью нейросетей и добавить поддержку большего количества языков. Ведутся переговоры с социальными платформами о возможности внедрения этой технологии для автоматической фильтрации токсичного контента, чтобы справиться с увеличивающимся потоком негативных комментариев, который остается сложной задачей для модераторов.