Новое исследование, опубликованное компанией Google DeepMind, вновь поднимает тревожные вопросы о будущем искусственного интеллекта. В статье говорится о том, что к 2030 году искусственный общий интеллект (AGI), обладающий интеллектом, подобным человеческому, может стать реальностью. Однако такой технологический прорыв также ведет к важным предупреждениям, касающимся потенциальных угроз для человечества.
Авторы доклада, среди которых и соучредитель DeepMind Шейн Легг, открыто заявляют, что AGI способен не только изменить мир, но и «навсегда уничтожить человечество». Они классифицируют различные риски, связанные с развитием ИИ, на четыре ключевые категории: злоупотребление, несоответствие, ошибки и структурные уязвимости. При этом исследование акцентирует внимание на необходимости соответствующих мер предосторожности, учитывая скорость, с которой развиваются технологии.
В отличие от нынешних узконаправленных ИИ, AGI будет способен к адаптивному мышлению и обучению в широком спектре дисциплин. Это означает, что он не просто выполняет вычисления, а может вести интеллектуальную работу. DeepMind подчеркивает необходимость предотвращения потенциального злоупотребления технологией, что стало центральным элементом их стратегии безопасности.
В то же время генеральный директор DeepMind Демис Хассабис призывает к глобальному сотрудничеству для управления развитием сверхразумного ИИ. Он высказал идею о создании международной структуры, подобной CERN, для мониторинга и контроля исследований в области ИИ. Хассабис считает, что такая платформа поможет обеспечить безопасность и устойчивость технологий, разрабатываемых в будущем.
Пока исследование продолжает вызывать споры среди ученых и экспертов, важно, чтобы общество обдумало возможные последствия развития AGI и начало активные обсуждения о безопасном его использовании.