Задача состоит не в том, чтобы создать агентов ИИ, а в том, чтобы упорядочить и управлять теми, кто создаются

Быстрая эволюция генеративного искусственного интеллекта и появление автономных агентов знаменуют собой смену парадигмы. Мы больше говорим не об ИИ, который оказывает реактивную помощь, а об ИИ, который действует и берет на себя инициативу. Чтобы глубже понять, как ведущая технологическая консалтинговая компания, такая как Ayesa, интегрирует эти возможности для преобразования критически важных бизнес-процессов, мы поговорили с Виктором Фернандесом, директором отдела ДАННЫХ, искусственного интеллекта и цифровых продуктов Ayesa (https://www.ayesa.com/), в котором работает более 600 специалистов. Мы анализируем проблемы талантов, управления рисками в ИИ и перспективного видения в «Агентскую эпоху».

 

[MCPro] Учитывая интеграцию данных, искусственного интеллекта и цифрового опыта в своем подразделении и его ставку на автономных агентов, помимо разговорных ботов, как критический бизнес-процесс (например, управление сетью коммунальных предприятий или обработка социальных пособий) трансформирует функционирование экосистемы независимых агентов? о совместном использовании ИИ?

[Виктор Фернандес] С популяризацией пару лет назад новых генеративных ИИ и длинноязычных моделей (LLMs) мы совершили важный качественный скачок, что позволило нам улучшить наши решения в области ИИ. перейти от более детерминированных систем, основанных на потоках, к более интеллектуальным и адаптируемым системам, с большим и лучшим качеством. способность понимать и реагировать.

Но я считаю, что развитие новых экосистем агентов ИИ приносит гораздо более глубокие изменения для бизнеса. Мы переходим от вспомогательного ИИ (например, разговорного бота, который реагирует реактивно) к действующему ИИ, который берет на себя инициативу. В этом разница между планированием задачи и назначением миссии. Агенты ИИ действуют автономно и активно и способны решать сложные бизнес-проблемы еще до того, как их обнаружит человек. Это выходит за рамки оптимизации существующих процессов или решений, это повлечет за собой настоящую смену парадигмы.

Давайте возьмем в качестве примера управление сетью энергетической компании и представим сбой в энергосистеме. Традиционная модель является реактивной: срабатывает сигнал тревоги, человек консультируется с несколькими системами и инициирует процедуру, а тем временем клиент звонит, чтобы пожаловаться. Это ручной, медленный и трудоемкий процесс. Но наш подход к совместным агентам ИИ радикально меняет это. Агент-аналитик предсказывает сбой в сети до того, как он произойдет, агент-планировщик решает, что лучшим немедленным действием будет, например, перенаправить нагрузку на сеть для защиты больницы и создать заказ на профилактическое обслуживание. и, наконец, агент службы поддержки сообщает об этом заказе на техническое обслуживание техническому специалисту в его офисе. он мобильен и уведомляет больницу о том, что его обслуживание гарантировано.

Таким образом, мы переводим человека-оператора с «управления микрозадачами» на «наблюдение за миссией», делая операцию устойчивой, проактивной и сосредоточенной на предотвращении или минимизации проблемы, а не на ее устранении. как только это произошло. Это пример трансформации, которая повлечет за собой внедрение агентов ИИ.

 

[MCPro] Стратегия агентов Ayesa основана на технологических платформах партнеров, таких как Google Cloud, Salesforce, Amazon или Azure, среди прочих. Как Ayesa управляет риском технологической зависимости и гарантирует, что дифференциальная стоимость (и маржа) находятся на уровне интеграции и бизнес-знаний Ayesa, а не на базовой платформе партнера?

[Виктор Фернандес] Мы рассматриваем гиперскаляры не как риск, а как незаменимый стратегический ускоритель. Разработка агентов и генеративного ИИ в масштабах предприятия требует огромных вычислительных мощностей, минимальной задержки отклика и поддержания конкурентоспособных эксплуатационных расходов, что могут обеспечить только гиперскалярные технологии. Это фундамент, на котором мы строим, и наше тесное сотрудничество с ними является сильной стороной, которая позволяет нам предлагать передовые решения.Тем не менее, наша цель всегда состоит в том, чтобы предлагать долгосрочную ценность и по возможности избегать «блокировки поставщиков» для наших клиентов.

Вот почему наша дифференциальная ценность заключается не в базовых технологиях, а в независимом от них уровне оркестровки, который мы разрабатываем для них, и, прежде всего, в нашем экспертном сопровождении и консультациях. Наша ценность заключается не в перепродаже «движка» ИИ, а в создании «навигационной системы» и «шасси», которые связывают ее с реальным бизнесом наших клиентов.

В конце концов, самые передовые технологии искусственного интеллекта остаются инструментом; это как пианино на концерте: настоящая ценность не в пианино, а в экспертном таланте, который умеет на нем играть. Наши более 600 профессионалов — это те переводчики: они формируют, адаптируют и управляют этой технологией, предоставляя опыт в каждом секторе (банковское дело и страхование, розничная торговля, коммунальные услуги, государственный сектор и т. д.) И возможность интеграции, которой нет у наших клиентов. дома. Мы помогаем им превратить эту грубую мощь ИИ в ощутимые бизнес-результаты.

 

[MCPro] Вы возглавляете подразделение, в котором работают более 600 профессионалов. Масштабирование возможностей ИИ сегодня кажется сложной задачей, во многом связанной с ограниченным предложением квалифицированных кадров на рынке труда. Какова ваша стратегия привлечения и удержания этого таланта?

[Виктор Фернандес] Это, несомненно, одна из самых важных задач для любого руководителя технологического сектора сегодня. Нехватка опытных талантов в мире ИИ реальна и, с другой стороны, почти логична. Имейте в виду, что многие технологии ИИ, с которыми работают наши команды, представлены на рынке очень недолго, и что скорость развития этой технологии экспоненциальна, каждый день появляются новые вещи. Вот почему наш подход немного отличается. Мы не просто стремимся «подписать контракт» с талантами, мы создали экосистему для их привлечения, обучения, расширения возможностей и лояльности.

И наш главный рычаг привлечения и лояльности заключается не только в конкуренции в заработной плате, но и в предложении двух важных активов: во-первых, мы создаем сообщество передового опыта, где мы поощряем сближение дисциплин и непрерывное обучение. Эксперт по данным работает с одним специалистом по цифровым технологиям, а с другим специалистом по искусственному интеллекту, чтобы совместно разработать решение, о котором, вероятно, никто до сих пор не думал, с технологиями, которые на данный момент используют очень немногие. Это слияние талантов в сочетании с прямым доступом к новейшим технологиям и сертификатам крупных партнеров, таких как Google, Microsoft, AWS и т. д., Создает постоянную кривую обучения, которая привлекает и удерживает таланты.

С другой стороны, наши команды имеют возможность работать рука об руку с командами самых топовых компаний основных отраслей рынка над решениями и цифровыми продуктами, которыми ежедневно пользуются сотни или тысячи людей. Проекты blue-ship — это все, что вы можете использовать в Ayesa AI, Data&Digital Experience. Видеть, что ваша работа действительно важна, что она оказывает реальное влияние на общество, также является большим стимулом. Настоящий талант ищет постоянных профессиональных задач, и у нас есть возможность предложить их ему.

 

[MCPro] В таком подразделении, как ваше, которое должно быть лидером в области технологий ИИ, как они могут гарантировать, что «практикуют то, что проповедуют’? Каким образом ваши команды применяют те же технологии ИИ для преобразования и оптимизации своей повседневной работы?

[Виктор Фернандес] — хороший вопрос. Я мог бы сказать вам, что для такой области, как наша, в которой работают более 600 профессионалов, которые являются передним краем компании и сосредоточены на создании цифровых продуктов с ИИ в основе, «практиковать то, что мы проповедуем» — это обязательство. Но ответ идет дальше. Не только в нашей области ИИ включен в процесс разработки программного обеспечения, но и во всем технологическом подразделении Ayesa, насчитывающем более 10 000 специалистов. Существует множество вариантов использования, связанных с циклом разработки программного обеспечения, внутренними офисами управления ИИ (GenIA), у нас есть собственные платформы автоматизации разработки (DevAI) и ежемесячный комитет по ИИ. с высшим руководством компании, следящим за этим процессом и помогающим с мерами и решениями по его принятию. В этой области существует высокая осведомленность.

Однако наша настоящая задача в области ИИ, данных и DX заключается не в том, чтобы убедить наших людей использовать ИИ, что мы уже заслужили, как я уже сказал, а в том, чтобы убедиться, что они используют его сплоченно. Самый большой риск в такой опытной и мотивированной команде — это фрагментация. Поэтому на внутреннем уровне мы сосредоточены на двух направлениях: с одной стороны, на управлении использованием ИИ, а с другой — на масштабировании знаний.

В любом случае, в наши дни ИИ уже является еще одним участником команды. Конечно, наши разработчики используют помощников по коду, но мы идем гораздо дальше. У нас, например, есть агенты, которые обрабатывают обширную техническую документацию, Которую выпускают наши партнеры (Google, AWS, Microsoft и т. д.), И генерируют сводки «что актуально для нас и наших клиентов», агенты, которые помогают нам легко находить очень конкретную информацию в наших огромных базах знаний, агенты, которые помогают нам находить очень конкретную информацию в наших огромных базах знаний. быстрее создавать бизнес-отчеты и так далее и тому подобное. Мы рассматриваем ИИ как инструмент, который освобождает нас от самых повторяющихся задач и ускоряет нашу работу, и который, таким образом, позволяет нам сосредоточиться на самой творческой части, где талант наших команд всегда будет незаменим.

 

[MCPro] Ayesa является ключевым технологическим партнером государственного управления. Государственный сектор сталкивается с проблемой управления данными и предоставления «ориентированного на интересы граждан» опыта. По вашему опыту, где кроется самое большое препятствие для реализации 360-градусного видения реального гражданина: в устаревании устаревших систем, в фрагментации и управлении данными. или в организационной культуре и неприятии риска самой администрацией?

[Виктор Фернандес] На мой взгляд, основным препятствием является не технологическое устаревание бэк-офисов, на которое часто ссылаются. Настоящая проблема, самая глубокая, заключается в фрагментации и отсутствии единого управления данными. Сегодня в одном и том же правительстве ИНН, домашний адрес или файлы одного и того же гражданина дублируются во множестве приложений, которые не разговаривают друг с другом. Задача состоит в том, чтобы создать модель и единое хранилище данных о гражданах для всех администраций, а также общее управление данными для его управления. Такие инициативы, как “Гражданская папка”, являются хорошим первым шагом, но они часто остаются на «апифицирующем уровне», который нацелен на симптом, а не на болезнь: они продолжают пить из фрагментированных систем.

Настоящая трансформация заключается в создании 360-кратного представления о гражданине, единого хранилища, объединяющего все взаимодействия и сохраняющего полную информацию. Только так администрация может перестать быть реактивной (ждать, пока гражданин попросит) и стать активным агентом (или применять агентов, которые могут быть активными для нее). Ярким примером является AEAT: он не запрашивает у вас данные для черновика, он дает вам факт.

И это подводит нас ко второй большой проблеме, которая носит скорее культурный, чем технический характер: неприятие риска. Администрация должна преодолеть страх проявлять инициативу и разъяснять гражданам формальности. Культурные изменения необходимы для того, чтобы система обратилась к гражданину и сказала: » Мы обнаружили, что из-за вашего дохода и семейного положения вы имеете право на эту помощь. Приступим ли мы к его обработке?’.

 

[MCPro] Его подразделение уже много лет создает разговорных ботов для разных секторов. Опыт работы с этими ботами не всегда положительный, и во многих случаях он вызывает разочарование и дискомфорт у человека, который с ними сталкивается. Каковы, на ваш взгляд, технические или дизайнерские ключи, чтобы эти боты не вызывали отторжения и не рассматривались как союзник?

[Виктор Фернандес] Действительно, мы много лет разрабатываем и создаем диалоговых помощников, как голосовых, так и текстовых, для оптимизации обслуживания клиентов в крупных компаниях, и мы воочию убедились в этом разочаровании. Отказ генерируется не самим ботом, а нарушенным обещанием разговора, который ни к чему не приведет.

По нашему опыту, одним из ключевых факторов является дизайн личности и контекста. Помощник — это лицо и видимый голос компании перед ее клиентами. Жизненно важно, чтобы у него была индивидуальность и тон, соответствующие бренду, но, прежде всего, чтобы он умел адаптироваться к контексту, в котором находится пользователь. Это не то же самое, что поговорить с помощником, чтобы нанять экскурсовода, чем поговорить с тем, кого вы просите эвакуатор после аварии. Первое может быть более неформальным; второй должен быть чутким, прямым и решительным.

Во-вторых, и это самое главное, помощник, прежде всего, должен быть полезен. Разочарование порождается «часто задаваемыми вопросами-ботами», которые просто повторяют информацию, которую можно найти, например, в Интернете. Помощник — это союзник, когда решает реальные проблемы. И для достижения этой цели техническим ключом является глубокая интеграция с бэк-офисными системами. Помощник должен иметь возможность запрашивать фактический статус заказа, изменять назначение или, например, начинать досье, а не просто информировать пользователя о том, как это сделать.

Здесь мы отделяем «чат-ботов», которые развертываются быстро, но предлагают ограниченный опыт, от диалоговых агентов, которые мы разрабатываем. Наши агенты адаптированы к условиям компании и пользователя и ориентированы на гибкое решение конкретных задач. Когда вы объединяете эту реальную утилиту с полной доступностью 24/7, вы заставляете пользователя по-настоящему ценить наличие этого инструмента. впереди. Показатели NPS (или общей удовлетворенности клиентов), которых мы достигаем у агентов, которых мы развертываем, подтверждают это.

 

[MCPro] ИИ является ключом к соединению цифрового (ИТ) с физическим (ОТ). Каким образом ваше подразделение использует ИИ для эффективной интеграции взаимодействия с клиентами (ИТ) и операций в реальном времени (ОТ), гарантируя, что цифровое взаимодействие влияет на физическое управление услугами?

[Виктор Фернандес] Это ключевая точка зрения, и именно так мы ее видим. Настоящая революция в искусственном интеллекте заключается не только в соединении систем (ИТ и ОТ), но и в соединении цифрового мира с физическим и реальным миром клиента. Исторически сложилось так, что цифровые системы и физические операции (или реальность клиента) жили бок о бок, а человек выступал в роли переводчика. Впервые ИИ является тем мгновенным универсальным переводчиком, который устраняет этот барьер.

Когда клиент разговаривает с агентом ИИ через WhatsApp, чтобы запросить эвакуатор, и отправляет ему свое местоположение в режиме реального времени, этот агент действительно связывает реальный физический опыт клиента: “пребывание с неисправной машиной, стоящей на улице”, с цифровым действием: “проконсультируйтесь с автопарком и отправьте запрос на эвакуатор». ближайший к этой координате доступный эвакуатор”. Или, когда клиент отправляет фотографию стены с влагой, чтобы внести свой вклад в страхование, ему больше не нужно отправлять вложение, которое человек интерпретирует через несколько дней. Сегодня наш мультимодальный агент ИИ видит картину, понимает физический контекст проблемы и преобразует это реальное событие в немедленное цифровое и оперативное действие, такое как открытие аварии во внутренних системах и назначение эксперта.

В этом и заключается настоящая интеграция. ИИ позволяет неструктурированному вводу физического мира (фотографии, местоположения, голоса клиента) стать непосредственным инициатором цифрового и операционного бизнес-процесса. Благодаря агентам ИИ мы устраняем барьеры между физической реальностью клиентов и операциями на уровне цифровых систем.

 

[MCPro] Ayesa создала новаторское подразделение по безопасности и управлению рисками ИИ. С вашей точки зрения как лица, ответственного за внедрение моделей, какие новые векторы атак (например, заражение данных, манипулирование запросами, извлечение моделей) вызывают у вас наибольшее беспокойство в системах, которые они развертывают для своих клиентов в критических секторах?

[Виктор Фернандес] В Ayesa мы запустили это новое подразделение по безопасности и управлению рисками в ИИ именно потому, что поверхность атак радикально изменилась с массовым внедрением генеративных моделей и автоматизированных систем принятия решений. Мы больше говорим не только о классической кибербезопасности, но и о новом уровне специфических рисков, связанных с использованием искусственного интеллекта. Риски, которые нас больше всего беспокоят, — это в основном три:

Первый из этих рисков — это заражение данных, или отравление данными. Это самый коварный вариант, потому что он возникает, если ИИ учится на «фальсифицированной книге», то есть на обучающих данных, которые уже содержат предубеждения или уловки. Модель будет принимать ошибочные решения, и никто не будет знать, почему. Наша цель здесь — гарантировать «происхождение данных»: мы проверяем целостность источников, прежде чем модель научится на них.

Второй большой риск — это манипулирование подсказками, “ввод подсказок”. Вероятно, это наиболее распространенное средство массовой информации, и оно заключается в попытке обмануть ИИ, манипулируя его инструкциями, заставляя его игнорировать и пропускать определенные политики безопасности или возвращать конфиденциальную информацию. В критических секторах (таких как энергетика, транспорт или оборона), где мы развертываем агентов на основе ИИ, это реальный и очень важный риск. Чтобы избежать этого, мы не раскрываем модель напрямую; мы строим «барьеры» (ограждения), уровень семантической безопасности, который фильтрует вводимые пользователем данные до того, как они попадут в ИИ.

Наконец, нас беспокоит извлечение и фильтрация моделей. Здесь задача двоякая: защитить интеллектуальную собственность модели и в то же время предотвратить утечку конфиденциальных данных, которые модель могла бы изучить.

Чтобы предотвратить эти риски, очень важна совместная работа с нашим новым подразделением кибербезопасности; больше невозможно «добавить безопасность в конце». В Ayesa специалисты по разработке искусственного интеллекта и кибербезопасности искусственного интеллекта с первой минуты работают вместе над проектированием и управлением полным жизненным циклом наших решений в области искусственного интеллекта.

 

[MCPro] Заглядывая в будущее на 5 лет вперед и за пределы ИИ, каков следующий фундаментальный технологический пробел, на который бизнес-лидеры и лидеры государственного сектора должны начать обращать внимание сегодня, чтобы не отстать завтра?

[Виктор Фернандес] Честно говоря, я думаю, что следующий большой технологический разрыв не станет еще одной радикально новой технологией. Фундаментальный разрыв заключается в глубине, с которой мы собираемся применять только что появившиеся технологии: ИИ и, в частности, автономные агенты. Мы находимся на заре «Агентурной эры». Прямо сейчас мы используем эту новую мощную технологию для оптимизации существующих задач. Но очень скоро мы начнем использовать его, чтобы делать вещи совершенно по-другому, и вещи, которые прямо сейчас мы даже не представляем.

Большая проблема, с которой сталкиваются компании и организации государственного сектора, и где мы им помогаем, заключается не столько в создании новых агентов ИИ, сколько в упорядочивании и управлении сотнями агентов, которые зарождаются в их организациях. Следующей революцией станут крупные экосистемы совместных агентов. Сегодня компании заняты множеством отдельных проверок концепции. Настоящая власть появится, как только мы начнем связывать их друг с другом, создавая настоящую «экономику агентов» и монетизацию в масштабе. И в Ayesa, как в специализированной компании, мы очень рады тому пути, который открывается перед нами в эту новую эру.

Редактор: admin