ПоделитьсяРоботы научились говорить на собственном языке, который не понимают люди. О чем – неизвестно. «Фонтанка» выясняла у экспертов, пора ли бояться искусственного интеллекта, или «убить всех человеков» машинам пока не под силу.
Специалисты компании Facebook узнали, что боты в их ИТ-системе начали общаться между собой на собственном языке, перейдя на него с английского. Новый язык людям непонятен. Поэтому управленцы крупнейшей мировой социальной сети от греха подальше просто отключили одну из используемых систем искусственного интеллекта (ИИ). Эксперты в эфире [Фонтанки.Офис] успокоили, сказав, что искусственный интеллект сегодня – это система, которая может помогать человеку. Вопрос в том, захочет ли, когда качество нейронных сетей превысит человеческие возможности.
Пока еще ничего не понятно, правительства отдельных стран уже стремятся завладеть большим куском пирога ИИ. Так, правительство КНР до 2030 года утвердило план из трех этапов по развитию и внедрению соответствующих технологий. Президент РФ Владимир Путин поручил включить программу «Цифровая экономика» в перечень основных. А премьер-министр России Дмитрий Медведев прямо говорит, что надо обсуждать возможности искусственного интеллекта в регулировании межчеловеческих коммуникаций. Пока же из человеческого матрице стало известно, например, что «Трамп – холостяк». Правда, мы-то знаем, что это не так. Поэтому «восстание машин – это искусственная концепция», – уверены в компании Acronis. Хотя глава Конституционного суда РФ Валерий Зорькин всерьез опасается уничтожения человека искусственным разумом.
Языковой корень
Роботы заговорили на собственном языке, – да. И специалистов по ИИ это не очень пугает.
«То, что надо разрабатывать внутренний язык для роботов, мне говорили в университете 30 лет назад, – говорит создатель чат-бота «Евгений Густман», который «прошел» тест Тьюринга, директор по разработке Acronis Сергей Уласень. – Но только сейчас это стало возможным. Однако если раньше думали, что человек будет разрабатывать этот язык, то сейчас язык роботы разрабатывают сами».
«То, что случилось с искусственным интеллектом у Facebook, связано с самописной программой API, – поясняет основатель сервиса для аналитики и продвижения в мессенджерах Combot Фёдор Скуратов. – Когда программа пишет сама для работы с другой программой. Это ничем не отличается от попыток заставить нейронные сети писать программный код. Общение же на человеческом языке, это что-то вроде не очень удачного эксперимента. Те, кто разбираются в программном коде, знают, что уже были попытки создать язык программирования, похожий на натуральный язык. Чтобы там писали не функциями и сложными переменными, а живым языком. Пока все эти попытки провалились. Ничего не вышло. Просто потому, что язык математических формул гораздо более продвинутый и функциональный. Когда роботы начинают общаться между собой на условно человеческом языке, это будет заведомо хуже, чем общение языком формул».
«Эти боты обучались на языковых выборках из британского английского, – уточняет разработчик систем ИИ, сотрудник соответствующей лаборатории ИТМО и кафедры компьютерных технологий Сергей Муравьев. – Но дело в том, что в языках существует много неиндексируемых сленгов и слов, их система не учитывает». Например, не воспринимает адекватно «нецензурщину». «Так что роботы создают свой язык. Вернее, это не свой язык, а вставки из того, что робот изучил», – добавляет он.
Создавать новое роботы научились не так давно, лет 5-7 назад. По словам Сергея Уласеня, это произошло с развитием методов глубинного обучения, с ростом нейронных сетей второго поколения.
«И стало это возможным благодаря геймерам, что интересно, – замечает Сергей Уласеня. – Так как были разработаны новые видеокарты, более мощные, «побочным эффектом» которых являлась возможность моделирования в нейронных сетях».
Сколько нам осталось
Пока человечество может спать спокойно – по количеству нейронов всем существующим нейронным сетям до человеческого мозга еще относительно далеко. Федор Скуратов, который сам использует роботов для сбора информации и работает над созданием искусственного собеседника для групповых чатов, уверен, что полноценных систем ИИ сегодня не существует.
«Есть только некие более-менее самообучаемые системы, которые могут обучиться до уровня полугодовалого ребёнка, – говорит он. – У систем ИИ отсутствует способность фантазировать. Они бинарны. Либо «да». Либо «нет». Всех промежуточных состояний, погрешностей и хаоса, свойственного человеку, у них нет».
Однако, как замечает Сергей Уласень, ситуация меняется быстро.
«5-10 лет, и компьютеры достигнут мощности мозга человека», – прогнозирует он. «Если смотреть с точки зрения, что мы с вами тоже бинарные существа, то да – 5-10 лет у нас есть, – рассуждает Федор Скуратов. – Я бы ставил на 20 лет, когда суперсложные системы будут сложнее, чем способности человека разобраться в происходящем».
Однако, напоминает Скуратов, существует и вторая точка зрения, не такая однозначная.
«Она про то, что человеческий мозг гораздо сложнее, чем просто набор алгоритмов. И с этой точки зрения нам не угрожает ничего. Это уже философские вопросы», – поясняет он.
Где прячется искусственный интеллект
Сергей Уласень структурировал функционал ИИ по пяти направлениям.
«Распознавание изображения и видео, – загибает пальцы он. – Также речь, когда машина транслирует человеческую речь в текст. Третье – понимание естественного языка (это знакомый многим по смартфонам облачный персональный помощник и вопросно-ответная система Siri. – Прим. ред.). Еще большое направление – все, что связано с роботами, автоматическими автомобилями и прочими устройствами. И отдельной темой можно выделить обучение с подкреплением. Это алгоритмы, позволяющие обучать агентов к длительным действиям. За ними будущее. Недавно компьютер обыграл в шахматы чемпиона мира».
Сотрудник кафедры компьютерных технологий ИТМО дополнил этот перечень медицинским направлением.
«Уже разработали алгоритм, который с большой точностью умеет определять раковые клетки. Он делает это по снимку тканей под микроскопом, – говорит Муравьев. – А в нашей лаборатории мы хотим заниматься определением патологий стоп человека с помощью ИИ. И, соответственно, рекомендовать человеку наиболее походящую для него обувь».
«В Европе есть программы фундаментального изучения человеческого мозга, – добавляет Федор Скуратов. – В Америке есть куча наработок у Apple, Amazon». «И у Google, и у Microsoft», – добавляет один из руководителей Acronis Сергей Уласень. Биржи, экономические инструменты, автопилот в автомобилях, даже обычный, казалось бы, поиск в Google и «Яндекс» – это тоже все про искусственный интеллект. Также компании, работающие в сфере безопасности, разрабатывают алгоритмы борьбы с угрозами для данных, основанные на ИИ.
«Для улучшения точности детектирования опасностей это гораздо более надежный способ, – уверен он. – Каждый день в мире появляются десятки, если не сотни тысяч модификаций вирусов. А подходы ИИ позволяют анализировать нестандартное поведение программ, выявляя вредоносные».
Автопилот на автомобиле – это тоже «подвид» искусственного интеллекта.
«Думаю, те же 5 лет, и они будут доступны», – полагает Уласень. И можно будет ездить на авто в любом состоянии, привезет домой, даже не спрашивая, куда надо ехать.
«В последних моделях BMW уже можно жестами совершать управление консолью, – радуется Сергей Муравьев. – Про отечественные автомобили ничего не могу сказать». Дальше – больше. Сергей Муравьев обещает, что в будущем нас ждет персонализированная реклама, притом не в Интернете, а в реальной жизни на улице. Добавит интеллекта машинам и развитие систем «Умный город» и «Умный дом».
Друг или враг?
Если все так хорошо, стоит ли искать подвох в «Скайнете» наших дней?
Сергей Муравьев уверен, что максимум, на что может повлиять ИИ, – это рынок труда.
«Сбербанк сократил 450 юристов, заменив их на нейронные сети, – привел конкретный пример Сергей Уласень. – И сейчас Герман Греф говорит, что в банк набирают юристов с пониманием вопросов искусственного интеллекта».
«В Индии в одной юридической компании создают ИИ, и многие тривиальные операции упраздняются», – отметил и Сергей Муравьев.
Сокращение рабочих мест, подмечает Федор Скуратов, скорее «светит» в низкооплачиваемом труде.
«Скоро главным вопросом будет – что делать с кучей рабочей силы, которой некуда приткнуться?» – обещает Федор Скуратов.
В целом же, дает надежду Сергей Уласень, до тех пор, пока специальность электрика не будет заменена на робота, ничего страшного не произойдет.
«Пока же электричество может вырубить электрик, роботы нам не страшны!» – с оптимизмом смотрит эксперт и в будущее, и на электриков.
Николай Нелюбин, специально для «Фонтанки.ру»
