Нейросети как помощник и как угроза: IT-индустрия подводит итоги года

Развитие информационных технологий в России показало: искусственный интеллект не может заменить человека полностью, но облегчает многие процессы. С другой стороны, нейросети уже представляют серьезную угрозу с точки зрения информационной безопасности: в наши дни мошенники используют эту технологию для фейковых видео и подделки голосовых сообщений.

О том, как примирить эти тенденции, а также о дефиците кадров, востребованности автоматизации и развитии индустрии в целом в 2024 году рассказали «Фонтанке» представители IT и телеком-сообщества.

Сегодня искусственный интеллект и большие языковые модели уже способны создавать качественный контент и взаимодействовать с пользователями в режиме диалога, говорит вице-президент «Ростелекома» Александр Логинов. И все это уже находит применение в жизни: «Мы используем ИИ как в собственной работе с нашими абонентами, так и при запуске проектов для крупного бизнеса и госструктур. Например, во многих городах Северо-Запада системы городского видеонаблюдения не просто фиксируют обстановку на улицах или в местах скопления людей, но и помогают обеспечивать безопасность, „взаимодействуя“ с органами правопорядка. В Калининграде и Санкт-Петербурге умные системы анализируют дорожную обстановку, мониторят транспортные потоки и выявляют нарушения правил дорожного движения. А в Карелии, Вологде и Великом Новгороде ИИ помогает в сфере медицины — от дистанционного мониторинга состояния беременных до раннего выявления патологий легких на основе радиологических исследований».

Однако эти же технологии представляют собой серьезную опасность. CEO IT-компании LARD, проекта финансово-инвестиционного холдинга «Лидер Консалт», Кирилл Манжура подчеркнул: в 2024 году ИИ стал не только инструментом, но и точкой риска. «Все уже знают о его возможностях: прогнозирование спроса, гиперперсонализированные кампании, автоматизация взаимодействия с клиентами. Но мало кто задумывается о том, что нейросети служат и хакерам — от автоматизации фишинга до создания дипфейков», — заметил Манжура. Он напомнил также, что в госуправлении ИИ только входит в обиход и здесь особенно важно учитывать этические аспекты и прорабатывать системы защиты. При этом важно, чтобы информационная безопасность была первостепенной задачей для всех компаний — наряду с локализацией и разработкой собственных продуктов, способных заменить зарубежные аналоги.

Эксперт отметил, что в 2024 году количество преступлений с использованием ИИ выросло. В числе основных угроз для информационной безопасности он назвал также утечки данных через сотрудников и целевые фишинговые атаки. Александр Логинов подтвердил это: согласно данным «Ростелекома», максимальная мощность одной атаки в первом полугодии 2024 года увеличилась почти в 7 раз по сравнению с тем же периодом в прошлом году и составила 1,2 Тбит/с. При этом для злоумышленников нет «неинтересных» компаний: под угрозой оказались не только крупные игроки рынка, но и сайты представителей среднего или мелкого бизнеса, и общественные организации.

Для эффективной борьбы с такими атаками российские специалисты предлагают собственные разработки, которые включают многоступенчатую фильтрацию в географически распределенных узлах по всей стране. На рынке есть множество решений, включая DLP-системы, независимые аудиты, платформы для мониторинга инцидентов и инструменты для анализа угроз, которые помогают компаниям снижать риски и своевременно реагировать на уязвимости. Однако российским компаниям следует больше внимания уделять вопросам информационной безопасности: своевременно позаботиться об установке патчей, усилить парольную защиту и разработать меры противодействия возможным атакам.

Что касается развития IT-индустрии в целом, то ее основная задача сегодня — приспособиться к новым условиям и развивать программное обеспечение для замещения иностранных продуктов и услуг. «Неплохо сегодня себя чувствуют те компании, которые быстро переориентировались на локальные рынки и адаптировали собственные продукты и решения к новым требованиям законодательства», — отметил Александр Логинов. Все большей популярностью пользуются облачные решения — а это требует развитой инфраструктуры, в которую входят защищенные волоконно-оптические каналы передачи данных, центры обработки и хранения этих данных, сетевое оборудование и многое другое.

Локализация, то есть разработка собственных IT-решений, остается главным трендом. По мнению Кирилла Манжуры, это сделало рынок более независимым, но сложным. «Многие компании смогли перейти на отечественное ПО, однако проблемы совместимости с существующей инфраструктурой по-прежнему актуальны. Эффективная адаптация возможна там, где локальные решения изначально разрабатываются с учётом безопасности и совместимости», — говорит он. Второе важное направление в работе IT-сектора — автоматизация бизнес-процессов при помощи искусственного интеллекта. Это помогает повысить эффективность и сократить расходы, а потому востребовано во всех ключевых отраслях: от производства и транспорта до ретейла и фармацевтики.

Александр Логинов рассказал, как эти технологии использует «Ростелеком»: «ИИ помогает оценить возможности подключения клиентов, классифицировать инциденты в технической поддержке, создавать и запускать сервисы для обнаружения мошенников. Чтобы клиенты больше знали о продуктах „Ростелекома“, мы создали умный чат-бот. Совсем ещё новой является созданная нами экосистема „Лукоморье“ — „сборник“ инструментов для полного цикла разработки. Сегодня он включает в себя все этапы разработки программного обеспечения: от анализа и проектирования до тестирования и создания документации. А уже в следующем году планируется внедрение ИИ-модуля, который поможет управлять проектами и возьмёт на себя рутинные задачи».

Разумеется, решение всех этих задач невозможно без квалифицированных специалистов — а их по-прежнему дефицит. Отрасль нуждается в кадрах в области кибербезопасности, искусственного интеллекта и машинного обучения, в сегменте облачных технологий, работы с большими данными и в аналитике. Спросом пользуются специалисты с навыками в разработке программного обеспечения, администрировании сетей и улучшении пользовательского опыта (UX/UI).

«На рынке ощущается нехватка специалистов по DevOps, инженеров данных и экспертов по информационной безопасности. Возросший интерес к автоматизации процессов и аналитике данных стимулирует спрос на инженеров BI-систем и специалистов по интеграции сложных инфраструктурных решений, — рассказывает Кирилл Манжура. — Чтобы восполнить кадровый разрыв, компании всё чаще делают ставку на привлечение молодых специалистов и их внутреннее развитие».

Решение кадровой проблемы в IT — один из приоритетов государственной поддержки отрасли. Кирилл Манжура считает, что важно расширять и поддерживать программы переквалификации специалистов для работы с современными цифровыми инструментами, а также стимулировать международное сотрудничество в области технологий. Тогда российские компании останутся конкурентоспособными.

С точки зрения Александра Логинова, задача на ближайшее будущее — развивать проекты, которые будут востребованы всеми участниками рынка и которые будет возможно интегрировать в бизнес-процессы друг друга. Кроме того, необходимо формировать крупную сеть дата-центров, от которых зависит в том числе работа государственных и региональных информационных систем. Количество данных только увеличивается, и спрос на такие услуги будет расти, резюмировал эксперт.