«Искусственный интеллект уже соображает лучше плохого врача». Как медицина, финансы и строительство пытаются подружиться с нейросетями

В финансовом секторе российской экономики с инструментами искусственного интеллекта в том или ином виде работают 95% компаний. Таковы оценки проектного офиса «Цифровая экономика». В сфере малого бизнеса о применении ИИ заявили 45% компаний, в обрабатывающей промышленности и медицине — по 16%. С какими трудностями сталкиваются сегодня компании, взаимодействуя с нейросетями, и как им помогает ИИ, рассказали участники круглого стола «Фонтанки».

Искусственный интеллект — это просто некая новая технология, которая лучше, чем старая, считает Евгений Коган, директор по инновациям компании «Коста». ИИ не спит, не устает, не ходит на больничные, отвечает вежливо, прочитал весь интернет и запомнил — и продолжает читать. И именно с этим связаны все перспективы этой технологии.

— Теперь совершенно очевидно, что искусственный интеллект заменит врача в тех местах, где он надежнее и работает лучше, — говорит эксперт. — Как пример я бы привел оценку медицинских изображений КТ и МРТ во время профилактических осмотров. Сначала снимки смотрит ИИ, и только если он что-то заподозрил, включается врач. В ближайшее время ИИ будут отдавать, в основном, рутинные задачи.

Александр Жуков, директор по развитию бизнеса в компании «Формат кода», также отметил, что избавить врачей от рутины — одна из главных задач ИИ. Например, сейчас врачебный прием состоит из пятиминутного осмотра, после чего доктор 20 минут что-то вбивает в компьютер. Теперь можно доверить эту операцию ИИ, а доктор потом только распишется. И еще один важный момент: помимо того, что ИИ не спит и не ест, он еще и не ограничен во времени для чтения литературы, в частности новых медицинских стандартов и исследований, и на основе этого может давать врачу полезные рекомендации.

— Мы работаем как консультанты в разных сферах применения ИИ — это и медицина, и строительство, — продолжил он. — И в медицине речь прежде всего идет о консолидации больших данных, что помогает проводить исследования. Обычно довольно много специалистов занято именно структурированием разрозненной информации, а ИИ позволяет автоматизировать приведение больших массивов данных к объемам, которые можно использовать в исследованиях. Например, мы делали такие вещи со статинами: пытались собрать большой массив данных, чтобы врачи могли понять их реальные эффекты в разных ситуациях.

Роман Фомин, директор по финансово-техническому развитию IT-компании RC Group, пояснил: в сфере финансовых технологий можно провести аналогию с медициной. Здесь ИИ применяется не там, где человек и так объективно хорош, а там, где действительно нужно анализировать очень большой объем данных.

— В первую очередь, мы ищем аномалии в трафике платежей — это очень большие оцифрованные объемы данных, а также отслеживаем возможные нарушения, в том числе целенаправленное мошенничество, — пояснил он. — Также ИИ способен помочь в управлении рисками. Он может эффективно выявлять мошеннические схемы, анализируя транзакции в реальном времени с использованием алгоритмов машинного обучения. Это помогает снизить потери от мошенничества и повышать безопасность финансовых операций.

Что касается строительной сферы, тут все проще: генеративные модели могут неплохо понимать документы — как чертежи, так и текстовые форматы.

— Большой объем строительных издержек связан именно с формальными согласованиями объемов и бюджетов, — добавил Александр Жуков. — Этим сравнением всевозможных табличек и цифр занимаются буквально тысячи человек в различных строительных компаниях, в то время как они могли бы заняться более полезными делами. Так что понимание документации с помощью генеративных моделей ускоряет проекты, а это, в свою очередь, существенно влияет на финансы и позволяет освободить персонал.

Как пояснил Даниил Устинов, технический директор группы компаний «Синтека», ИИ в строительной отрасли сегодня — это некий следующий технологический уклад, который позволяет автоматизировать все больше рутинных действий. Например, применение дронов автоматизирует контроль строительства.

— Дрон ежедневно вылетает на объект, оценивает глубину котлована и его площадь или этажность строящегося корпуса, — пояснил Устинов. — Каждый раз он распознает информацию автоматически и вносит в базу, откуда контролеры, заказчики, генподрядчики могут так же автоматически ее получать. Это позволяет вовремя среагировать на затягивание сроков и прочие неприятности. Существуют стартапы, которые с помощью дронов оценивают присутствующих на стройплощадке инженеров, строителей, прорабов с точки зрения техники безопасности. Это не только повышает безопасность сотрудников, но и избавляет компании от возможных сумасшедших штрафов за ее несоблюдение.

— Наша основная задача — автоматизировать снабжение строительных компаний, то есть все закупки, доставки, оплаты, — продолжил Даниил Устинов. — Изначально мы писали SRM-системы (Supplier relationship management) и тендерные площадки без привязки к ИИ, но и тогда у наших клиентов всегда был один запрос — как можно сэкономить? И чтобы ему соответствовать, нам было необходимо научиться искать совпадения названий номенклатуры нетривиально. Пример: прорабу на стройке нужны материалы, он пишет заявку в систему своими словами, с кучей лишнего, с ошибками. А нейросеть позволяет распознавать суть того, что он написал, и искать в прайсах поставщиков именно то, что нужно. В результате клиент получает точный конкурентный лист и экономит на закупках.

По словам Евгения Когана, врачи в меньшей степени хотят от ИИ помощи с их непосредственными задачами: поставить диагноз, помочь выбрать правильное лечение. Другое дело — помощь с рутинными задачами: записать карту, проверить соответствие написанного протокола клиническим рекомендациям. При этом эксперт отметил, что ИИ может решать и более сложные профессиональные задачи, но пока на это нет серьезного спроса со стороны врачей.

— Мы разработали голосового помощника для врачей: он пишет карту, чтобы 20 минут не сидеть у экрана, — говорит эксперт. — Врачам не нужно постоянно переключаться между экраном и пациентом, у врача и пациента появляется больше времени на живой разговор. Специалистам нравится, но пока это им непривычно. Да, это очень консервативная профессия, и она должна быть такой, так как улучшения всегда сопоставляются с возможными рисками. Я бы сказал, что запрос на предоставление врачу новых возможностей диагностики и лечения пока еще даже не формулируется. С другой стороны, конечно, запрос на обработку изображений и сложной информации есть — и он реализуется.

В глобальном смысле развитие ИИ пока идет в сторону чат-ботов, с которыми разговаривают и развлекаются. А это совершенно не то, что нужно доктору, строителю, финансисту, считает Александр Жуков.

— Им нужна помощь в конкретной задаче. — говорит он. — Пока же получается, что Шарикова обучили человеческой речи, но применения Шарикову так и не нашлось. И в этом смысле то, что мы делаем, — как раз над платформами: так называемое управление промптами (инструкциями для нейросети). То есть это мы делаем в части генеративных моделей, а также компьютерного зрения. Там везде очень много ИИ, но он весь «под капотом». Фактически пользователь видит привычную ему систему, просто у него, например, смета с формой сравнивается автоматически, а не вручную, или справочник создается автоматом, а не посредством трех ночей с компьютером.

Второй момент, который сдерживает спрос на подобные системы, в том, что они так или иначе интересуют руководство, а исполнителям не всегда понятны, считает эксперт.

— Поэтому в классическом развитии технологии должна появиться команда инноваторов, а для остальных это должно стать просто вопросом выживания, потому что организация, клиника или стройфирма с применением ИИ станет в разы эффективнее тех, которые его не применяют, — пояснил Жуков. — И вот тогда спрос станет массовым.

— У нас сейчас один из самых внедряемых продуктов в бизнесе — это программа лояльности, — продолжил Роман Фомин. — Сегодня формируется некий новый стандарт заботы о клиентах. Мы тоже активно внедряем в свои продукты прогрессивные информационные системы и сопутствующие сервисы. Они помогают напоминать мягко и деликатно о себе, вести правильные рассылки, расчитывать правильную финмодель, определять, что можно дарить клиенту, а что можно представить в виде накопительных скидок и так далее. Чат-бот на основе ИИ берет необходимые клиентские данные, не влезая в конфиденциальную информацию. В общем упрощает все рутинные процессы.

Роман Фомин подчеркнул, что общение с искусственным интеллектом, особенно в генеративных моделях и в чатах, требует определенных навыков промпта, или языка построения. Там есть ряд ограничений и особенностей, которые нужно знать заранее, чтобы ответ удовлетворял запрос. В частности, для каждой отдельно стоящей задачи должен быть свой чат.

— Поскольку контекст у нейросетей ограниченный, невозможно загрузить туда целую энциклопедию своих запросов и рассчитывать, что они будут содержать весь этот массив данных, — говорит он. — То есть, написание промптов — это, наверное, основной и первый навык, который нужно освоить любому, кто будет взаимодействовать с этими технологиями.

Александр Жуков согласился, что история с промптами сейчас актуальна и действительно нужно учиться более четко формулировать мысль. Но индустрия, по мнению эксперта, в целом поддерживает то, чтобы все эти процессы были скрыты и перестали быть заметными для людей. То есть уже скоро ИИ приобретет черты обычных IT-систем.

— Однако работа в условиях неопределенности — то, что искусственный интеллект пока делает хуже, чем человек, — уточнил он. — И нужно понимать, что рутинные задачи постепенно будут уходить в небытие. Есть вещи, которые заменят систему ИИ, так же, как, например, случилось с автоматическим переводом: сейчас не нужна такая массовость простого перевода, он должен стать либо художественным, либо с какими-то нюансами. То же и с видеонаблюдением: охранник у монитора с камерой уже не особо нужен, но нужен тот, который сможет понять, что делать и как реагировать на полученную информацию. Этот процесс, на мой взгляд, длительный, и тут, скорее, сработает эволюция, нежели целенаправленное прокачивание навыков. Но постепенно на людей будет завязано все меньше рутины и все больше креативных задач и задач, связанных с методологией, построением гипотез.

Даниил Устинов добавил, что строительной отрасли мешает зашкаливающая консервативность. Но, чтобы работать на более высоком уровне, людям из этой сферы все же придется подстроиться под новую реальность. Например, в Китае на стройплощадках уже работают роботы-укладчики стен — их программируют должным образом, они выкладывают кирпич или газобетон в ровную стену заданной высоты. Естественно, это происходит под контролем компьютерного зрения, а значит, все равно понадобится человек, который этого робота изначально настроит на нужные действия.

— Искусственный интеллект сейчас соображает, как лечить больного, лучше, чем плохой врач, — отметил Евгений Коган. — Все клинические рекомендации прочитаны, все симптомы просмотрены, при этом он ничего не забыл и не упустил. А вот лучше, чем хороший врач, технологиям пока не стать. Мое искреннее убеждение и надежда в том, что внедрение ИИ в целом повысит качество здоровья и самой медицины. То есть «выживут» в профессии хорошие и сильные врачи, которые при этом будут востребованы именно потому, что они хорошие, а остальные просто станут менее востребованы, потому что проще тогда самому нажать на кнопочку и получить ответ.

Евгений Коган добавил, что ИИ также может расслабить врача.

— Я наблюдал такой пример, — говорит он. — В одной больнице в реанимации установили экспертную систему, которая предсказывала риск ухудшений. Она делала это настолько хорошо, что врачи расслабились. И было два смертельных случая, когда система все-таки ошиблась. Никто не знает, сколько было бы их без системы, но врачи не захотели брать на себя ответственность за чужие ошибки и от системы отказались. Это было 30 лет назад. Теперь от ИИ отказаться будет нельзя и придется учиться жить в этих реалиях.

Александр Жуков продолжил мысль: по его мнению, плохой врач может стать даже немного хуже, обладая ИИ, потому что поймет, что ему вообще учиться не нужно, а можно просто пересказывать рекомендации машины.

— С другой стороны, мне кажется, и в медицине, и в других отраслях нейросети все-таки будут так или иначе перенастроены так, чтобы принимать риски минимально. Ведь если прочитать, например, противопоказания того же аспирина, его страшно пить. И в этом смысле подобные решения будет все равно принимать человек.

Вторая интересная тенденция, по словам эксперта, видна там, где в целом люди ищут эмоциональной поддержки — всевозможные технические и клиентские службы, куда обращаются, чтобы вылить раздражение или чтобы получить помощь. И когда человек с таким запросом встречает по ту сторону чат-бота, это только сильнее его раздражает, а заодно и портит репутацию бренда.

— Все компании почему-то идут в сторону ботов из-за снижения затрат, но эволюция приведёт к тому, что все профессии живого психологического взаимодействия — портье в гостинице, специалист поддержки, доктор и так далее — будут оставаться больше за людьми. А в сферах, где требуется больше «хардскиллов» — изучение снимка флюорографии или наблюдение за отгрузкой, — будет доминировать как раз ИИ. Рост человека сегодня состоит в улучшении собственных компетенций и в том, чтобы переставать быть исполнителем стандартов.

— Мне кажется, что из-за сокращения бюджетов и экономии за счет чат-ботов действительно появятся сценарии «для бедных» и «для богатых», — считает Евгений Коган. — Сценарий для бедных — когда бот неплохо тебе объяснит, что делать, напомнит назначения врача и спросит, принял ли ты лекарства, а для избранных останется прямая линия с «живым» врачом.

Даниил Устинов полагает, что в строительстве «человеческими» останутся вещи, которые заменить чем-либо сложно: архитектура, дизайн фасадов, планировки квартир — то есть все, где есть творческая составляющая. А в остальном эксперт уверен, что очень скоро человеческий фактор в стройке будет минимален.

— Чтобы продукт оставался действительно массовым, доступным и в какой-то степени клиентоориентированным, применение нейросетей просто необходимо, в том числе и в техподдержке и продажах — и именно это и обеспечивает его доступность, — считает Роман Фомин. — Но если говорить о премиальном сегменте — естественно, там другой подход. Например, у нас система обучения, дообучения и переквалификации на местах непосредственного взаимодействия с клиентом идет так, что после любого диалога нейросеть все равно разбирает его и складывает в определенный раздел CRM. Не руководитель отдела продаж, а нейросеть сравнивает его с моделью центральной обучающей системы нашей компании и дает рекомендации, какие знания на местах надо подтянуть. То есть это контроль в автоматическом режиме.

Евгений Коган напомнил, что многие государства мира разрабатывают и уже принимают политику в отношении искусственного интеллекта. В России есть меморандум об этике ИИ, который многие компании уже подписали. В США крупные игроки этого рынка объединились в ассоциацию и ведут базу данных использования ИИ в больницах, чтобы у них была статистика успехов и неудач.

— Политика многих стран в области рисков ИИ часто связана с тем, чтобы любые разработчики ИИ раскрывали информацию о том, чему он обучен, — пояснил эксперт. — Второе: чтобы на всем, произведенном ИИ, стояла бы маркировка об этом. И в здравоохранении политика рисков должна быть организована жёстче всего.

Александр Жуков обозначил два основных потенциальных риска. Первый — это деградация специалистов, потому что в какой-то степени с ИИ будет сложно соревноваться в плане профессиональных навыков.

— В этом смысле есть вероятность, что специалист, который работает с ИИ, не будет думать об этике, не будет понимать последствий, потому что у него не будет для этого квалификации, — говорит эксперт. — Второй момент, который меня беспокоит, — это вообще устранение человека из цепочки, где этика — понятие психологическое, культурно-контекстное. На мой взгляд, этика в работе с ИИ схожа с работой служб спасения в горах. Есть горы как явление, есть тот, кто на них забирается. И есть люди, которые этот процесс контролируют: проводят инструктажи, дают оборудование, объясняют, что делать, дают нужные телефоны. Этические моменты должны быть связаны не с самой технологией, а именно с этими людьми, которые ограничивают или предоставляют доступ к ней.

Роман Фомин, в свою очередь, в ходе обсуждений поднял ключевые вопросы права и этики, рассуждая о том, кто должен нести ответственность при критических ситуациях во время использования ИИ.

— Это как если бы у таксистов ответственность за ДТП несла машина, — говорит он. — И в связи с этим будет принят целый ряд новаторских законодательных решений в ближайшие годы. Так, например, аппарат делает КТ, но правильная трактовка, назначение лечения и выводы из полученной картинки — уже в зоне ответственности специалистов. Соответственно, ИИ — это такой же инструмент, как КТ, МРТ и другие высокотехнологичные изобретения последних лет.

Даниил Устинов отметил условно опасный момент в строительной сфере — потенциальную потерю занятости большого количества людей. Правда, не стоит забывать, что новая технологическая реальность порождает и большое количество других видов занятости.

— Специалистам действительно придется повышать квалификацию, решать более нетривиальные задачи, чтобы конкурировать с ИИ, — говорит он. — К счастью, потребуется большое количество людей, чтобы обслуживать эти системы и огромные вычислительные мощности, которых требует ИИ. И, конечно, есть момент, связанный с безопасностью людей на стройке. Робот, который укладывает кирпичную стенку, может ошибиться — и кирпич упадет на голову прохожему. Так что и здесь требуются контролирующие люди в цепочке, которые возьмут ответственность. То есть занятость будет возникать, но уже немного с других сторон.

По мнению Евгения Когана, эволюционно здравоохранение придет к тому, что все больше задач постепенно будет решаться с помощью ИИ. Клиники, которые уже освоили это, стали более эффективны, чем те, что пока не занялись этой проблемой.

— Внедрение новых технологий будет происходить постепенно, и мы с вами увидим, возможно, более эффективное здравоохранение через несколько лет, — подытожил он. — Мы могли бы лечиться у «доктора Гугла», но в статьях в интернете говорится разное. Если же ответы будут четкими и однозначными, с необходимыми ссылками, то зачем вообще ходить в поликлинику? Чем больше будет появляться возможности лечить с помощью и ИИ сначала насморк, потом что-то более серьезное, тем быстрее произойдет это преобразование отрасли.

— Я считаю, что финтех должен стать фактически одним из основных потребителей ИИ сервисов в будущем, — продолжил Роман Фомин. — Цифровые транзакции — это прежде всего массив данных, который могут обрабатывать самообучающиеся системы безопасности. Скорость реакции при этом будет почти мгновенная, что очень важно. Аналитика клиентского поведения может безошибочно предлагать верные стратегии накопления и инвестирования, персональные кредитные предложения и специальные продукты. Голосовые помощники все лучше справляются с запросами по телефону, так что вскоре они перестанут уступать живой техподдержке.

В зарубежной практике уже давно используется ИИ для KYC процедур и определения платежеспособности клиента. Анализируется такой банальный показатель как официальная зарплата, а также активность в соцсетях, есть ли среди друзей злостные должники и даже какие приложения стоят на телефоне. Очевидно, что с заядлым игроком в казино, например, лучше не связываться.

— Если представить всю трудовую деятельность условной строительной компании в виде пирога, то ИИ сейчас откусывает от него маленькие кусочки по бокам, но большая часть пирога на месте, — добавил Даниил Устинов. — Эти кусочки будут все больше, и в какой-то момент полпирога останется за человеком, а вторая его половина будет отдана искусственному интеллекту. И моя большая надежда, что продукт стройки благодаря этому станет дешевле.

— Я вижу очень большое движение в части систем, связанных с планированием, учетом и тем, что называется ERP, — считает Александр Жуков. — Здесь, мне кажется, точно появится новый класс решений, который, во-первых, освободит приличное количество людей от рутины, а во-вторых, позволит делать быстрые прогнозы и быстро принимать решения. Именно часть, связанная с принятием решений, в ближайшие 5–6 лет сможет сильно ускориться, как и бизнес-процессы, связанные с качеством управления. На мой взгляд, этого достаточно для большого технологического рывка, однако кирпичи искусственный интеллект переносить будет еще нескоро, так как роботизация пока что крайне дорога.