ТОП 10 лучших статей российской прессы за Март 6, 2019
Хакнуть человечество
0
Автор: Татьяна Гурова. Эксперт
Искусственный интеллект и все, что с ним связано, таит в себе много угроз для человечества. Чтобы снизить риски, требуется колоссальная координация между всеми технологически продвинутыми странами. Без этого в лабораториях родится такое, что сибирская язва и нейтронная бомба в дипломате покажутся мелочью. Интервью с Сергеем Кареловым
Главная героиня «Пятого элемента», считывавшая миллионы страниц текстов за несколько минут, пришла на Землю, чтобы спасти человечество. Она была поражена дефицитом любви к ближнему на Земле и, если бы не личная привязанность к герою Брюса Уиллиса, не отдала бы она в руки человека спасительный пятый элемент. Но этот фильм был снят в еще гуманные 1990-е. Сегодня же, похоронив идеи гуманизма на рубеже веков, человечество просто бредит прорывом в будущее, которое сулят технологии, скрывающиеся под единым брендом — «искусственный интеллект». Бредит, в общем-то, не очень понимая, что за этим названием стоит, и не осознавая ни реальных возможностей, ни реальных угроз, которые таит в себе очередной виток технологического прогресса. А ведь некоторые полагают, что этот виток может оказаться последним для человечества в том виде, в котором мы привыкли себя осознавать.
О том, что такое ИИ, что он умеет сегодня и что будет уметь очень скоро, есть ли для него моральные ограничения и нужны ли они, мы поговорили с Сергеем Кареловым, экс-топ-менеджером международных IT-компаний IBM, CGI, Cray, независимым экспертом, ведущим авторского научно-популярного канала «Малоизвестное интересное».
— Об искусственном интеллекте сейчас много говорят, но, кажется, никто толком не понимает, что это такое, какой это набор технологий, решений, рамок. Мы можем начать с азов?
— Искусственный интеллект — лишь вершина сложившейся технологической пирамиды. Говорить сегодня отдельно об AI, отдельно о машинном обучении, отдельно о распознавании образов, отдельно о Big Data бессмысленно. Есть большой кластер, который перестал быть чисто информационным. Аналитики компании Forrester еще пятнадцать лет назад сказали, что должна возникнуть business technology — ВТ. И это произошло. Более того, это ушло из бизнеса, распространилось и захватило социальную сферу и политику. Но на вершине этого сложного набора технологий есть некий кластер сумасшедших технологий, которые, устроив гигантскую путаницу, все называют искусственным интеллектом. Здесь и то, что AI обыгрывает человека в шахматы, в го, в стрелялки. Здесь и угрозы: роботы вытеснят десятки миллионов рабочих. В общем, сумасшедший замес идей, угроз, возможностей.
— Можно ли строго определить класс задач, ради которых появился искусственный интеллект?
— Сам термин «искусственный интеллект» имеет двести официальных определений. Его используют для широчайшего круга областей техники, бизнеса, различного рода гуманитарных, социальных, политтехнологических исследований. В итоге термин просто представляет собой ничто. И если мы пытаемся говорить об искусственном интеллекте, мы должны определиться, о чем мы хотим поговорить — о влиянии на выборы или о том, как хакнуть человечество.
— Тем не менее у этого же есть какой-то общий корень?
— Нет.
— Я приведу простой пример. Тригонометрия родилась как наука, задачей которой было описание траектории полета ядра.
— Совершенно верно.
— А искусственный интеллект родился зачем?
— В том, для чего он родился, он совсем не пригодился. Родился искусственный интеллект больше пятидесяти лет назад из вполне конкретной задачи. Компьютеры уже были, и они на тот момент прекрасно считали. И вот решили создать программу, которая будет так же умна, как человек. По сути, сымитировать человека. И это назвали «искусственный интеллект». И тридцать пять лет люди занимались именно этим. А потом поняли, что с практической точки зрения ни черта не получается — на человека это не сильно похоже и похоже не становится. Но вылезла куча смежных задач: автоматический перевод, распознавание образов, — на которых можно зарабатывать деньги. И тогда именно про это стали говорить, что мы решаем задачу развития искусственного интеллекта. А какую задачу? А вот в Гугле мы вместо лингвистического дерева для перевода с одного языка на другой включаем машинное обучение. И машина сама переводит, анализируя миллиарды подобных текстов. Искусственный интеллект? Да. А какое это отношение имеет к первоначальной задаче? Никакого.
Или начали делать распознавание образов. Распознаем всех: кошек, собак, людей. А какое это имеет отношение к той, первоначальной задаче? Никакого.
Тем не менее в рамках решения этих задач поняли одно: интеллект как способ решения информационных задач является частью того, что называется разум, но не основной частью. И если вы имитируете эту вычислительную часть, то у вас получается очень красиво нарисованный тигр, который того и гляди прыгнет, но мы точно знаем, что он не прыгнет. Ведь кроме разума есть еще сознание, и это совсем другая штука. И выясняется, что без отелеснивания, без взаимоотношения со средой, без эмоций тут вообще не о чем говорить. А значит, что та первая постановка задачи — сделать машинный интеллект, аналогичный человеческому, — была некорректная, примитивная.
— Изначальная задача была больше про вычисления?
— Ещераз, первая задача искусственного интеллекта была такая: давайте создадим программу, которая будет по своим интеллектуальным способностям соизмерима с человеком.
— То есть без какой-то привязки к конкретным задачам?
— Да. Любая задача.Машина должна была уметь то, что умеет человек: и распознавать, и говорить, и читать, и понимать. Максимум, чего добились на сегодняшний день с точки зрения практического применения, — это то, что показала IBM две недели назад на своем проекте Debater.
Есть такая программа Debater. В какой-то момент стало ясно, что на чисто вычислительных задачах, где есть исчислимое множество вариантов, таких как шахматы, го и даже компьютерные игры, человеку «ловить» нечего. Эти вычислительные задачи прекрасно решаются в лоб машинным обучением, большими вычислительными мощностями. И их даже не надо учить. Достаточно написать одну программу обучения, поставить два компьютера, и они начинают учить друг друга. Даже если не сообщать им правила игры, а только показать несколько игр и сказать: дальше так же играйте сами.
— И как долго они учатся?
— Последний опыт, который и поверг всех в полное замешательство, показала программа AlphaZero. За одни сутки эти программы, учась играть с нуля, достигли уровня игры, при котором бессмысленно подсовывать любого другого игрока, живого ли, компьютерную программу. Они их просто разделают как щенка.
— Понятно почему?
— Конечно.Если взадаче есть прямой перебор вариантов, то это означает, что надо найти иголку в стоге сена. А для этого нужно рассмотреть сто миллионов соломинок и сравнить каждую, не является ли она иголкой. Для того чтобы сравнить сто миллионов соломинок со скоростью человеческой работы, потребуется, допустим, две тысячи лет. А компьютер сделает это за пять секунд.
Но это лишь в том случае, если задача вычислимая. Как только задача становится невычислимая, а таких задач большинство, надо придумывать, как это делать. И вот в последнем айбиэмовском проекте Debater они вернулись к той классической задаче, с которой начинался искусственный интеллект, — к тесту Тьюринга. То есть пытались добиться того, чтобы, разговаривая с компьютером, вы не смогли отличить, с кем вы говорите — с человеком или с компьютером. Если этого добиться, то можно считать, что компьютер достиг человеческого уровня.
Первые программы типа «Элиза» были написаны пятьдесят лет назад. Они обменивались информацией письменно, но люди с большим трудом отличали компьютер от человека. Потом компьютеры научили с помощью глубокого обучения говорить и понимать слова.
Но все это было не то. Ну отвечает на вопросы, похожа на человека, а спросишь - что с внучкой делать, она скажет: это сложный вопрос, молодежь, с ней надо быть очень аккуратным. Получив десяток таких ответов, понимаешь, что все равно она ничего не понимает.
В Debater попытались свести понимание к вычислительной задаче и модифицировали задачу. Человек будет соревноваться с компьютером в дебатах. Тема дебатов будет сюрпризом для обоих. Например, нужно ли государству бюджетировать школьное образование? После того как тема названа, и человеку, и компьютеру дается пятнадцать минут на подготовку речи. Человек произносит свой спич, компьютер произносит. В данном случае уже точно произносит, говорит естественным языком. Все это слушает телевизионная аудитория и голосует. Первое голосование проводится до того, как высказались дебатеры. Просто спрашивают людей: как вы считаете, должно государство в это дело лезть или нет? Семьдесят девять процентов сказали, что должно, тринадцать процентов, что нет.
После пятнадцатиминутной подготовки каждая из сторон рассказывает свою позицию. Потом дается еще время, чтобы стороны проанализировала позицию другой стороны и вышли с дебатами, разбивая аргументы противника, добавляя свои аргументы и забивая последний гвоздь в крышку. Итого у оппонентов было пятнадцать минут на подготовку, четыре — на изложение своих аргументов, четыре — на опровержение чужих и два — на резюме. После этого люди еще раз голосуют и в зависимости от того, в чью пользу изменилось соотношение, решают, кто выиграл. В данном случае выиграл человек, англичанин Хариш Натарайан, ему тридцать один год, чемпион мира по дебатам, работающий в консалтинговой компании по оценке рисков. Очень крутой дядька. Что-то среднее между Ургантом и Спинозой. Умен, шустер, реактивен. Позиция голосующих на семнадцать процентов сместилась в его пользу.
— Выиграл в каком смысле?
— Хитрость заключается в том, что у машины нет позиции. Она все знает, но позиции у нее нет. И потому первым говорит человек. В данном случае человек обосновывал, что государству нечего делать в школьном образовании. А компьютер по остаточному принципу должен был агитировать «за». Он за эти пятнадцать минут проанализировал четыре миллиарда документов и выдал очень хорошую речь на основе гигантского опыта семидесяти двух стран за последние шестьдесят лет, обобщив все в цифрах и графиках.
— И тем не менее народ проголосовал за человека?
— Да. Ведь человек говорит эмоционально, а у компьютера эмоции нет, и он по определению проигрывает. Он говорит вещи умные, правильные. Анализируя и разбивая аргументы человека во второй речи, компьютер просто размазал его. Но проиграл.
— И машина воспринимает этот проигрыш как свое ещеё недостаточное развитие?
— Машина это никак не воспринимает.
— Я имею в виду тех, кто эту разработку делает. Здесь есть обратная связь или нет?
— Разработчики знали, что машина проиграет, несмотря на то что она владеет вопросом на порядок лучше любого другого специалиста. Более того, она обладает весьма серьезными логическими способностями. Она прекрасно понимает семантику аргументов, раскладывает аргументы человека на составляющие и для каждой составляющей строит схему антиубеждения, подкладывая под нее колоссальный корпус документальных и экспериментальных данных. Но, не обладая эмоциями, она не в состоянии убедить.
— А в чем задача?
—То, что сделал сейчас IBM Debater, — очень серьезный прорыв. И задача решалась единственная. Последние двадцать пять лет ушли на то, чтобы понять, что интеллект — это просто вычисления. Причем вычисления, выполняемые нейронной сетью, не имеющей алгоритма. Просто много-много данных. Они обрабатываются, и получается интеллектуальное решение вычислительной задачи. А IBM поставила задачу доказать, что и понимание тоже может быть вычислением. Как? А вот так. У машины же не было алгоритма понимания, а она поняла вопрос. Более того, она поняла аргументы человека. И она пыталась над ним издеваться, шутить, приводя контраргументы и показывая, насколько он далек от истины. Но она-то ничего не понимает. Таким образом, удалось превратить понимание в вычисления. Хотя мир этого не понял.
Коментарии могут оставлять только зарегистрированные пользователи.
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00
120.00