Демис Хассабис: Искусственный общий интеллект близок к реальности

Генеральный директор Google DeepMind, Демис Хассабис, в интервью на саммите Axios AI+ в Сан-Франциско 4 декабря заявил, что создание искусственного общего интеллекта (AGI) находится на горизонте, и этот момент станет, вероятно, самым значительным в истории человечества. Хассабис ранее высказывал мнение о возможности появления AGI до 2030 года.

Отвечая на вопрос о вероятности катастрофы, связанной с ИИ, он подчеркнул, что она не нулевая и, по его мнению, довольно высока. «Необходимо серьезно относиться к этому и работать над минимизацией рисков», — добавил он.

Одной из главных угроз, по словам Хассабиса, являются кибератаки на критическую инфраструктуру, такие как энергосети и системы водоснабжения, которые, по его мнению, уже происходят с использованием ИИ. Ноябрьское заявление компании Anthropic подтвердило его опасения: китайские хакеры использовали Claude Code для атаки на 30 организаций, где 80–90% действий выполнял ИИ.

Хассабис также отметил, что его Нобелевская премия по химии в 2024 году помогла донести важные идеи о ИИ до широкой аудитории.

Вопрос-ответ

Каким образом AGI может повлиять на человеческую цивилизацию, и насколько близко мы к его появлению?

<p Ответ: По словам Генерального директора Google DeepMind Демиса Хассабиса, AGI находится на горизонте и, вероятно, станет одним из самых значительных событий в истории. Он ранее высказывался о возможности появления AGI до 2030 года. Это подчеркивает близость момента появления, но точные сроки остаются неопределёнными, и нужно готовиться к потенциальным изменениям в социальной, экономической и этической сферах.

Какие основные риски связаны с развитием ИИ и возможной катастрофой?

<p Ответ: Хассабис подчеркнул, что риск катастрофы не нулевой и может быть довольно высоким. Он призвал относиться к рискам серьёзно и работать над их минимизацией, особенно в контексте угроз кибербезопасности и эксплуатации ИИ для атак на критическую инфраструктуру.

Какие конкретные угрозы кибербезопасности считает наиболее тревожными?

<p Ответ: Одной из главных угроз являются кибератаки на критическую инфраструктуру, такую как энергосети и системы водоснабжения, которые, по его мнению, уже сейчас подвергаются угрозам с применением ИИ. Примером служит недавняя активность компаний по атакующим сценариям с использованием ИИ, например атаки на 30 организаций с участием Claude Code от Anthropic, где 80–90% действий выполнял ИИ.

Как раскрытие идей ИИ влияет на общество и способность управлять рисками?

<p Ответ: Хассабис отметил, что его Нобелевская премия по химии в 2024 году помогла донести важные идеи о ИИ до широкой аудитории, что способствует большему общественному пониманию рисков и возможностей ИИ. Распространение знаний может способствовать более широкому обсуждению этических норм, нормативного регулирования и научно обоснованных подходов к минимизации рисков.