Парадокс Моравека
2022-03-21 07:05:25
Парадокс Моравека заключается вот в чем - почему для искусственного интеллекта элементарное оказывается самым сложным
История технологий полна предсказаний, которые сейчас звучат смешно. Один из самых известных примеров приписывается Биллу Гейтсу, который в 1981 году заявил, что «640 килобайт должно хватить любому».
Предсказания об искусственном интеллекте в этом плане ничем не отличаются.
Первые исследователи ИИ (искусственного интеллекта) верили, что у нас появится робот, который будет ходить, разговаривать и думать как человек спустя лишь несколько десятилетий. Конечно, несмотря на некоторые впечатляющие достижения в обучении машин, ИИ еще далеко до такого прорыва. В соответствии с принципом, известным как парадокс Моравека, мы можем научить машины решать сложные задачи, но в то же самое время они не могут справиться с самыми простыми задачами.
Ну-ка, Сири, думай, как малыш
В 1957 году экономист и пионер информатики Герберт Саймон сказал: «Я не ставлю перед собой цель удивить или шокировать вас, но я могу подвести итог, сказав, что в мире сейчас есть машины, которые могут думать, учиться и создавать. Кроме того, их способность выполнять эти действия будет быстро расти до тех пор, пока (в обозримом будущем) круг проблем, с которыми смогут справиться машины, будет сопоставим с тем кругом проблем, где до сих пор был нужен человеческий разум».
Саймон умер в 2001 году, и до его «видимого будущего», в котором машины могут мыслить как люди, еще далеко. Конечно, искусственный интеллект хорошо зарекомендовал себя в плане выполнения конкретных задач, таких как классификация далеких галактик или имитация голосов знаменитостей или создание произведений искусства, но простое мышление — концепция, известная как общий искусственный интеллект — кажется, ставит в тупик самые передовые системы машинного обучения. Подумать только, даже ходьба на двух ногах — сложная задача для машин. Возможно, они смогут победить великого чемпиона по шахматам, но они не смогут опередить малыша и взять нужную игрушку с полки.
Это не новая проблема. В 1980-х годах ученый-компьютерщик Ханс Моравек представил именно эту проблему, которую сейчас называют «парадоксом Моравека», — и объяснил, почему именно этого мы должны ожидать от машин, которые не подвержены воздействиям естественного отбора. «Закодированное в больших, высокоразвитых сенсорных и моторных частях человеческого мозга — это миллиарды лет опыта о природе мира и о том, как выжить в нем», — писал он в своей книге «Дети разума» в 1988 году.
То есть то, что для людей кажется простым, совершенствовалось тысячелетиями в процессе эволюции. То, что людям кажется сложнее всего, сложно только потому, что оно новое для них — мы размышляем о шахматной стратегии немногим более тысячи лет, но мы учимся взаимодействовать с окружающей средой с тех пор, как наши предки были еще одноклеточными организмами. Навыки, которые закреплены в процессе эволюции, не требуют осознанного мышления, а когда вам не нужно думать о чем-то, сложнее понять, как же научить машину делать это.
Познавай машины, познавая себя
Так как же научить машину по-настоящему мыслить? Моравек считает, что машинам не хватает эволюции. Однако, ситуация улучшается день ото дня.
Инженеры обучают искусственный интеллект алгоритмам, например, учат роботов играть в видеоигры. Но прежде чем мы сможем научить машины мыслить как люди, мы сами должны лучше понять, как думают люди, понимание ограниченности машинного обучения может помочь ответить на вопросы о том, как действительно работает наш разум. Также возможно, что парадокс заключается в том, что ИИ никогда не будет по-настоящему независимым и всегда будет полагаться на помощь людей. Но в любом случае мы все должны ценить суперкомпьютеры, работающие внутри наших черепов. Они заставляют самые сложные задачи в мире выглядеть легкими.
История технологий полна предсказаний, которые сейчас звучат смешно. Один из самых известных примеров приписывается Биллу Гейтсу, который в 1981 году заявил, что «640 килобайт должно хватить любому».
Предсказания об искусственном интеллекте в этом плане ничем не отличаются.
Первые исследователи ИИ (искусственного интеллекта) верили, что у нас появится робот, который будет ходить, разговаривать и думать как человек спустя лишь несколько десятилетий. Конечно, несмотря на некоторые впечатляющие достижения в обучении машин, ИИ еще далеко до такого прорыва. В соответствии с принципом, известным как парадокс Моравека, мы можем научить машины решать сложные задачи, но в то же самое время они не могут справиться с самыми простыми задачами.
Ну-ка, Сири, думай, как малыш
В 1957 году экономист и пионер информатики Герберт Саймон сказал: «Я не ставлю перед собой цель удивить или шокировать вас, но я могу подвести итог, сказав, что в мире сейчас есть машины, которые могут думать, учиться и создавать. Кроме того, их способность выполнять эти действия будет быстро расти до тех пор, пока (в обозримом будущем) круг проблем, с которыми смогут справиться машины, будет сопоставим с тем кругом проблем, где до сих пор был нужен человеческий разум».
Саймон умер в 2001 году, и до его «видимого будущего», в котором машины могут мыслить как люди, еще далеко. Конечно, искусственный интеллект хорошо зарекомендовал себя в плане выполнения конкретных задач, таких как классификация далеких галактик или имитация голосов знаменитостей или создание произведений искусства, но простое мышление — концепция, известная как общий искусственный интеллект — кажется, ставит в тупик самые передовые системы машинного обучения. Подумать только, даже ходьба на двух ногах — сложная задача для машин. Возможно, они смогут победить великого чемпиона по шахматам, но они не смогут опередить малыша и взять нужную игрушку с полки.
Это не новая проблема. В 1980-х годах ученый-компьютерщик Ханс Моравек представил именно эту проблему, которую сейчас называют «парадоксом Моравека», — и объяснил, почему именно этого мы должны ожидать от машин, которые не подвержены воздействиям естественного отбора. «Закодированное в больших, высокоразвитых сенсорных и моторных частях человеческого мозга — это миллиарды лет опыта о природе мира и о том, как выжить в нем», — писал он в своей книге «Дети разума» в 1988 году.
То есть то, что для людей кажется простым, совершенствовалось тысячелетиями в процессе эволюции. То, что людям кажется сложнее всего, сложно только потому, что оно новое для них — мы размышляем о шахматной стратегии немногим более тысячи лет, но мы учимся взаимодействовать с окружающей средой с тех пор, как наши предки были еще одноклеточными организмами. Навыки, которые закреплены в процессе эволюции, не требуют осознанного мышления, а когда вам не нужно думать о чем-то, сложнее понять, как же научить машину делать это.
Познавай машины, познавая себя
Так как же научить машину по-настоящему мыслить? Моравек считает, что машинам не хватает эволюции. Однако, ситуация улучшается день ото дня.
Инженеры обучают искусственный интеллект алгоритмам, например, учат роботов играть в видеоигры. Но прежде чем мы сможем научить машины мыслить как люди, мы сами должны лучше понять, как думают люди, понимание ограниченности машинного обучения может помочь ответить на вопросы о том, как действительно работает наш разум. Также возможно, что парадокс заключается в том, что ИИ никогда не будет по-настоящему независимым и всегда будет полагаться на помощь людей. Но в любом случае мы все должны ценить суперкомпьютеры, работающие внутри наших черепов. Они заставляют самые сложные задачи в мире выглядеть легкими.
технологии роботы
