Не позволяйте ИИ угрожать выживанию человечества

«Крестные отцы ИИ», лауреаты премии VinFuture 2024, считают, что ученым необходимо гарантировать, что сценарии использования ИИ не будут угрожать выживанию человечества.

Сегодня, 7 декабря, лауреаты премии VinFuture 2024 пообщались со студентами и молодыми учёными Университета VinUni, обсудив научные исследования и перспективы направлений, в которых они работают. Лауреаты главной премии, выдающиеся учёные, чьи новаторские работы заложили основу современной революции искусственного интеллекта, рассказали о поразительных достижениях ИИ.

Профессор Янн Лекун (в центре) и профессор Йошуа Бенджио (слева на обложке) на сессии обмена опытом

«Мы чувствуем, что перенеслись на 10 лет в будущее».

Профессор Джеффри Хинтон из Университета Торонто (Канада), не приехавший во Вьетнам для получения награды, принял участие в видеообмене . Он, профессор Янн Лекун и профессор Йошуа Бенджио, удостоенные премии Тьюринга (премии, сравнимой с Нобелевской премией в области информатики) в 2018 году, и все они в международных СМИ называются «крёстными отцами ИИ». Теперь все трое продолжают получать главную награду VinFuture 2024 вместе с двумя другими учёными: профессором Фэй Фэй Ли (США) и г-ном Дженсеном Хуангом (генеральным директором NVIDIA).

По словам Хинтона, недавний взрыв в области искусственного интеллекта обусловлен тремя факторами. Во-первых, это работа по разработке более эффективных способов обучения нейронных сетей, которую вели он, Йошуа, Янн и многие другие. Во-вторых, невероятно высокая вычислительная мощность графических процессоров (GPU) и огромные объёмы данных, которые мы можем собирать.

Профессор Джеффри Хинтон делится своим опытом в видеоформате

«Важнейшим аспектом этой награды (VinFuture 2024) является признание пионерской работы г-на Дженсена Хуанга в создании графических процессоров, полезных для ИИ. Сочетание графической платы Дженсена Хуанга и наборов данных профессора Фэй Фэй Ли сыграло важную роль в современном развитии ИИ. Замечательно, что их работа отмечена наряду с работами над алгоритмами нейронных сетей», — сказал профессор Хинтон.

«Мы обнаружили, что при использовании графических процессоров для обучения нейронных сетей они стали в 30 раз быстрее. Это был настоящий скачок. Казалось, что скорость вычислений опережала своё время на 10 лет. Внезапно мы оказались на 10 лет впереди будущего с точки зрения скорости вычислений. Это был настоящий прорыв для искусственного интеллекта, это было потрясающе!» — сказал профессор Хинтон.

Учёные продолжают работать над более глубоким пониманием связей в нейронных сетях. Это поможет им создать искусственный интеллект, более похожий на человеческий, и даже способный объяснить интуицию. Традиционные логические подходы никогда не смогут этого сделать.

«Я начинаю бояться искусственного интеллекта»

Профессор Хинтон заявил, что современные крупные нейронные сети обладают интуицией, подобной человеческой. В прошлом году он начал беспокоиться, что ИИ может потребоваться всего от пяти до двадцати лет, чтобы достичь уровня интеллекта человека. «Именно тогда я и начал беспокоиться об ИИ. Останавливать разработку — не выход. Поэтому единственный выход — попытаться понять, как обеспечить его безопасность, когда он станет умнее нас», — поделился профессор Хинтон.

«Но я не думаю, что конец света неизбежен», — говорит профессор Хинтон. «Но нельзя игнорировать возможности, и нам нужно усердно работать, чтобы предотвратить это. Надеюсь, самые талантливые студенты выберут изучение безопасности ИИ, учитывая широкий спектр угроз: от долгосрочных, таких как захват ИИ, до краткосрочных, таких как киберпреступность».

Профессор Йошуа Бенджио и профессор Ян ЛеКун

Профессор Янн Лекун заявил, что его также беспокоит риск того, что ИИ станет доминировать над людьми, когда станет таким же умным, как люди. Однако на данный момент ответа на этот вопрос нет. «Мы можем проиграть, играя в шахматы с маленькой игрушкой стоимостью 30 евро. Опасно ли это? Ответ — нет. ИИ становится опасным только тогда, когда мы создаём для него мотивацию (контролировать людей). Но сейчас у ИИ есть только знания, а не мотивация», — сказал профессор Янн.

По словам профессора Янна, создание ИИ, активно служащего людям, — это всего лишь техническая проблема. Поскольку ИИ умен, думать, что ИИ доминирует над людьми, — предубеждение. Реальность показывает, что в обществе было много умных людей, но они не доминировали над миром ! ИИ — это всего лишь инструмент, проблема в людях, а не в ИИ.

По словам профессора Йошуа Бенджио, мы не можем быть субъективными: даже небольшая проблема может повлиять на выживание человечества. Люди способны мотивировать машины. Например, кто-то хочет превратить машину в человека, создавая видимость того, что машина нуждается в «выживании». Мы хотим выключить машину, но она отказывается. «Конечно, мы должны убедиться, что такой сценарий не повторится», — сказал профессор Бенджио.

Источник: https://thanhnien.vn/vinfuture-award-2024-khong-de-ai-de-doa-su-ton-vong-cua-nhan-loai-185241207195331155.htm