vitkvv2017 (vitkvv2017) wrote,
vitkvv2017
vitkvv2017

О власти роботов

                         Массовая культура зачастую рисует весьма забавные картины относительно недалекого будущего. Практически во всех произведениях – от научной фантастики до более-менее серьёзных футурологических прогнозов особое место в жизни человека (а иногда, и не только в жизни) занимает искусственный интеллект или сокращённо «ИИ»
Массовая культура зачастую рисует весьма забавные картины относительно недалекого будущего. Практически во всех произведениях – от научной фантастики до более-менее серьёзных футурологических прогнозов особое место в жизни человека (а иногда, и не только в жизни) занимает искусственный интеллект или сокращённо «ИИ».
Последние несколько десятков лет мы постоянно сталкиваемся с этим явлением. Нас окружает множество интеллектуальных устройств, помогающих нам своими полезными услугами: благодаря ИИ мы общаемся, ведём записи интересных моментов своей жизни, учитываем свои финансы, охраняем себя. И с каждым годом всё больше и больше функций перекладываются с хрупких плеч человека на надёжные и не устающие плечи ИИ. Многие, возможно, и не в курсе, что уже почти 40 лет большинство функций сборки и, вообще, изготовления продукции, целиком и полностью в руках автоматизированных систем. Существуют производства, где людей практически нет – всё выполняется роботами под управлением искусственного разума.
Но это ещё полбеды. Существуют отрасли (например, пилотирование современных самолётов и космических кораблей), где человек только принимает решение, а все операции за него делает компьютер. Кроме того, в современном мире всё больше и больше роботов находят военное применение: от роботов-сапёров до беспилотных летательных аппаратов, способных осуществлять не только разведывательные, но и боевые функции.
Всё вышеперечисленное позволяет сделать весьма неприятные выводы: учитывая скорость развития ИИ, не возникнет ли ситуация, когда человечество будет критически зависеть от своих электронных помощников? А, возможно, всё будет ещё хуже – не захотят ли вчерашние помощники избавиться от своих «родителей»? Все помнят фильмы из франшизы «Терминатора» или «Матрицы» о том, как отдельный человек или всё человечество противостоит холодному и расчётливому искусственному интеллекту, захватившему власть над миром; эта перспектива пугает обывателя не меньше, чем гипотетический ядерный апокалипсис. Над саркастическим желанием «убить всех человеков» героя-робота из сериала принято смеяться, однако случаи-то уже были!
Первый случай убийства человека роботом произошел ещё в начале 1979 года. Из-за ошибки в программе робот при помощи манипулятора убил механика, проводившего его настройку. С тех пор, в среднем раз в 2-3 года происходили несчастные случаи, когда жертвы-люди принимали смерть от самых разных роботов: от военных до роботов-массажистов. Интересен случай, произошедший в армии ЮАР в 2007 году. Там, из-за сбоя в программе, оснащённое роботизированной системой наведения и распознавания целей, артиллерийское орудие дало сбой и начало стрелять по своим. Итог стрельб: 10 убитых и 14 раненых.
То есть даже на данном уровне развития включение в нашу жизнь автономных помощников, которыми являются роботы под управлением ИИ, представляет реальную опасность. Что же произойдёт в будущем? Не столкнёмся ли мы с проблемой выживания из-за осознания ИИ того, что он в нас более не нуждается. Некоторые прогнозисты (а иногда даже и серьёзные специалисты в области ИИ) говорят, что это вполне вероятно. Однако подавляющее большинство их коллег в это не верит; точнее они убеждены, что это не произойдёт. Чем же можно объяснить подобную уверенность?
Дело в том, что все современные компьютеры (и устройства, сделанные на их базе) устроены абсолютно одинаково. Принципы их функционирования изложил ещё Алан Тьюринг в 30х годах прошлого века. Если описать это в двух словах, то все совершенно элементарно: аппарат выполняет какую-то команду и, в зависимости от результата её выполнения, переходит к одной из следующих команд. Вот и весь принцип работы. Всё остальное – технические детали. Таким образом, всё «поведение» любого ИИ – это исполнение написанной программы, то есть, как программист напишет – так и будет.
Возникает вполне резонный вопрос – а что произойдёт, если компьютер сам будет писать себе программу, и сам её будет исполнять? Не возможен ли вариант, что таким образом и получится обход любых возможных «правил» и ограничений, наложенных на него программистом.
Ответ на этот вопрос был дан ещё до изобретения Тьюрингом основ работы компьютеров. В 1930 году австрийский математик Курт Гёдель доказал свою теорему о неполноте. Смысл её достаточно сложен для понимания, но общая идея состоит в том, что нельзя полностью описать систему, пользуясь правилами и законами, работающими только в рамках этой системы. Например, нельзя описать арифметику, пользуясь только законами арифметики – для этого нужна алгебра. Как и алгебру нельзя описать только при помощи алгебры, нужен математический анализ. И так далее.
Эта теорема, несмотря на своё кажущееся исключительно математическое или логическое применение, на самом деле проявляет себя почти во всех дисциплинах и науках. Из неё, в частности, следует, что человечество никогда не узнает, как работает человеческий мозг. Действительно, как можно описать работу мозга, имея в распоряжении только лишь такой инструмент, как сам мозг?
Такая же ситуация происходит и с искусственным разумом: ИИ не напишет сам для себя алгоритм, поскольку работает в рамках системы, определяемой теми же принципами, что и алгоритм, который он «должен» создать. То есть любой самостоятельный алгоритм, написанный ИИ, будет «хуже», чем тот, на котором работает сам ИИ. Следовательно, самостоятельный прогресс ИИ без участия внешних факторов невозможен. И это мы ещё не рассматривали вопросы творчества и интуиции, присущие исключительно человеку, но никак не ИИ.
С момента открытия теории алгоритмов Тьюрингом (1936 г) было сделано лишь два качественных прорыва в науке об ИИ. Первый – появление нейросетей (1957 год) и второй – появление т.н. «нечёткой логики» (1964 год). И на этом всё. Ничего нового за последние 50 с лишним лет придумано не было. Весь современный ИИ базируется исключительно на этих, допотопных по сути, технологиях. Весь остальной прогресс был чисто количественный – компьютеры работали быстрее, обрабатывали большие объёмы данных, связывались друг с другом на больших расстояниях и т.д.
Возможно, в XXI веке появится что-то новое, какая-то технология, позволяющая если не обойти теорему, ограничивающую возможности ИИ, то хотя-бы нечто, хоть немного приближающее его к человеческому интеллекту. Но пока это только лишь мечты…http://tainy.net/57123-o-vlasti-robotov.html
Tags: о будущем, технологии
Subscribe
promo vitkvv2017 september 4, 2017 09:35 Leave a comment
Buy for 10 tokens
Борис Островский Дэвид Мей и Джозеф Монаган (университет Монах, Австралия) высказали предположение, что «пузыри метана, поднимающиеся с морского дна, могут топить корабли. Именно этим природным явлением и могут объясняться загадочные пропажи некоторых кораблей». Касательно…
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments