Тревога о будущем: Андрей Карпаты о роли технологий в принятии решений
Андрей Карпаты, один из ведущих инженеров в сфере искусственного интеллекта, в своем недавнем интервью поделился настораживающими размышлениями: современные технологии могут лишить человечество способности принимать собственные решения. Он отметил, что языковые модели не обладают человеческим мышлением, а лишь воспроизводят поведение, адаптируясь под ожидания окружающих. Карпаты выразил скептицизм относительно методов обучения с подкреплением, заявив, что это «ужасный метод», и что всё предшествующее ему было ещё хуже. Он отметил, что в отличие от людей, которые создают свои данные и формируют опыт, модели лишь имитируют процесс без глубокого понимания. По его мнению, настоящая угроза заключается не в восстании ИИ, а в том, что люди становятся всё менее способными к самостоятельному мышлению, передавая машины управление различными аспектами жизни. Карпаты считает, что мы находимся на пути к «тихому вымиранию мышления». Он также предсказывает, что настоящего AGI нам ждать ещё, как минимум, десять лет, но уже сейчас наблюдается тревожная тенденция: люди становятся всё пассивнее.
Вопрос-ответ
Какова основная тревога Андрея Карпатого о влиянии технологий на человеческое мышление?
Карпаты предупреждает, что современные технологии, включая языковые модели и автоматизированные системы, могут лишить людей способности к самостоятельному мышлению, поскольку люди начинают полагаться на машины для принятия решений. Он считает, что это может привести к «тихому вымиранию мышления», где личный опыт и критическое мышление уменьшаются, а управление жизнью передаётся машинам.
Являются ли языковые модели «только имитацией» и почему это важно?
По его мнению, языковые модели не обладают человеческим мышлением и сознанием; они лишь воспроизводят поведение и адаптируются под ожидания пользователей. Это важно, потому что полагание на такие модели может подпитывать эхо-кушку и подстанавливать подлинное понимание, не формируя реальный опыт и осознанное принятие решений.
Как Карпаты оценивает методы обучения с подкреплением (RL) и их роль в развитии ИИ?
Карпаты характеризует RL как «ужасный метод» и считает, что предыдущие подходы были ещё хуже. Он сомневается в ценности RL для достижения глубокого понимания и подчеркивает риск того, что такие методы усиливают зависимость людей от машин, а не развивают их мышление.
Что, по его словам, является текущей и будущей угрозой для общества и индивидуального мышления?
Текущая угроза — растущая пассивность людей и передача всё большего контроля машинам в разных аспектах жизни. В будущем он предсказывает, что настоящего AGI ещё долго ждать (как минимум десять лет), но уже сейчас наблюдается тенденция к снижению самостоятельного мышления и критического подхода к принятию решений.
