Джош Берсин: Применение искусственного интеллекта(ИИ) в HR

Введение

Искусственный интеллект (ИИ) стал самым популярным словом десятилетия. После 45 лет исследований ученые разработали системы, которые могут разговаривать с нами, классифицировать фотографии, создавать , анализировать, изменять изображения, видео- и аудиоконтент. Как с любой новой технологией, существует огромное количество хайпа, путаницы, трепета перед технологией и даже страха.

Мы изучили роль этих технологий в HR и L&D, их влияние будет огромным. В этой статье объясним эти технологии, чтобы предоставить вам видение этих технологий. Даже когда эта статья пишется, разрабатываются новые решения.

Вы обнаружите, что ИИ представляет собой совершенно новую вычислительную платформу, и каждая компания, производящая корпоративное программное обеспечение, должна будет научиться использовать его. Разговаривая с вендорами, мы нашли три категории решений (см. таб. 1).

Формирующиеся решения ИИ добавлено	Первое поколение Встроенный ИИ	Второе поколение Встроенный ИИ
Предиктивная аналитика Обработка естественного языка Интеллектуальный чат Генерация изображений Генеративный ИИ	Машинное обучение Предиктивная аналитика с использованием внешних данных Расширенный подбор кандидатов Контентные рекомендации	Машинное обучение Предиктивная аналитика с использованием внешних данных Расширенный подбор кандидатов Контентные рекомендации
Большинство HR приложений	Workday, LinkedIn, Cornerstone, SAP	Eightfold AI, Gloat, Beamery, SeekOut

Формирующиеся ИИ-решения.

ИИ добавляют в формируемые сейчас решения. Решения вендоров, способны использовать аналитику и управление данными для создания отчетов, дашбордов и некоторых прогностических моделей. Хотя эти решения не используют большие языковые модели (LLM),
они используют многие принципы ИИ и статистику для анализа и формирования отчетов.

Система расчета заработной платы

Система расчета ЗП от компании ADP, которая предоставляет менеджерам по персоналу рекомендации по корректировке заработной платы или отчет, генерируемый платформой управления человеческим капиталом (HCM), который указывает на проблемы с разнообразием или гендерными различиями, проблемы с оплатой труда. Эти системы не обязательно используют нейронные сети или генеративный ИИ, но они используют передовую аналитику, чтобы дать вам представление о вашей компании.

Во многих случаях поставщики используют генеративный искусственный интеллект (например, ChatGPT), чтобы предоставить пользователям возможности автоматического создания сообщений,
редактирования или создания пользовательских сообщений.

Системы отслеживания кандидатов (ATS), например, теперь могут создавать автоматические описания вакансий, автоматические сообщения кандидатам и даже индивидуальные сценарии собеседований.

Системы управления обучением добавляют инструменты, позволяющие автоматически создавать учебный контент, тесты, резюме курсов и многое другое.
Все это важные функции, но их можно назвать “дополнениями” в том смысле, что они не меняют базовую архитектуру платформы, а добавляют в нее новые функции искусственного интеллекта.

Решения первого поколения с ИИ

Искусственный интеллект уже встроен в решения первого поколения. Эти решения от вендоров используют ИИ модели и различные уровни машинного обучения (ML), предиктивной аналитики и сопоставления кандидатов или сотрудников. Обычно у заказчиков таких решений есть инженеры по ИИ, большие наборы данных для анализа и непереиспользуемые модели ML, которые часто предоставляют интеллектуальные рекомендации пользователям.

Например, многие платформы обучения (LXPs) или HCM системы рекомендуют курсы отдельным лицам на основе их должности, деятельности или указанных навыков. Маркетплейсы пулов талантов и инструменты для рекрутинга уже много лет “выводят навыки”, создавая рекомендуемые вакансии, карьерные пути или даже наставников. Они “учатся” от действий пользователя, если пользователь нажимает на рекомендацию, система затем “поднимает” эту рекомендацию и становится умнее для будущих пользователей.

Эти платформы являются “первым поколением”, поскольку они не используют нейронные сети или не используют внешние данные рынка труда, они могут не использовать техники “минимизации затрат” для непрерывного обучения.

В эту категорию обычно попадают поставщики ERP решений (Oracle, SAP, Workday), а также многие инструменты для рекрутинга и ATS. Эти системы используют обработку естественного языка для поиска кандидатов с определенными навыками или опытом, но у них нет мощности GPT-4 или глубоких нейронных сетей.

Второе поколение ИИ- решений.

Второе поколение ИИ-систем – это новые программы, созданные с нуля. Например, компания Workday создала новые системы для работы с данными и рабочими процессами в облаке. А новые компании, такие как Eightfold AI, SeekOut, Gloat и другие, построили свои программы на основе ИИ. Эти компании сосредоточены на данных и создают свои продукты вокруг них.

Второе поколение ИИ-систем может использовать технологии глубокого обучения, обрабатывать естественный язык и использовать LLM в своей основной программе. В результате можно создавать модели, которые могут обрабатывать от тысяч до десятков тысяч элементов данных. Они также позволяют компании создавать более сильные модели, используя опенсорсовые LLM модели и новые алгоритмы.

Сегодня подбор персонала – одна из самых мощных областей применения ИИ. Она требует большого количества данных и позволяет создавать разные модели для определения, кто подходит для определенной работы. Важно, чтобы эти системы были непредвзятыми и передовыми.

Второе поколение систем с ИИ отличается от обычного программного обеспечения. Они могут использовать векторные базы данных или внешние LLM модели, и их можно легко расширить, добавив не HR данные.

Современные разработчики платформ второго поколения с ИИ хоть выглядят, как обычные разработчики программного обеспечения, но в первую очередь они работают с данными. Их программы созданы для работы с большими объемами данных. Данные программы собирают сотни миллионов профилей с рынка труда и других источников, включая данные о зарплате, рабочие данные и многое другое. Затем они смотрят на данные вашей компании как на маленькую часть своего большого набора данных.

В результате компании могут видеть тренды, карьерные пути, паттерны производительности и даже лидерские качества в тысячах компаний, делая вашу программу еще умнее и полезнее.

Сегодня каждый разработчик программного обеспечения может использовать ИИ благодаря облачным услугам от OpenAI, Microsoft, Google и многих других. Поставщики могут начать создание систем второго поколения, используя услуги по ИИ, доступные от этих облачных поставщиков. Мы уже пробуем чат-бота на базе ИИ для проведения нашего исследования, в основном основанного на услугах от OpenAI.

Поставщики решений второго поколения с ИИ создают платформы, которые позволяют управлять, анализировать, понимать и действовать на основе обширных объемов данных.

Почему ИИ отличается от других вычислительных решений

За последние 45 лет ИИ стремительно развивался. В ранние годы исследователи ИИ создавали специализированные алгоритмы для классификации изображений, различные алгоритмы для обработки естественного языка и другие алгоритмы для компьютерного зрения или видео.

На одной из стадий этой отрасли исследователи сосредоточились на “экспертных системах”, пытаясь закодировать знания экспертов. Хотя экспертные системы и работали в ограниченном масштабе, они не масштабировались хорошо за пределами своего первоначального применения. Несмотря на увеличение вычислительной мощности, эти модели не масштабировались, поэтому исследователи перешли к новому подходу.

Сегодня, благодаря таким пионерам, как Джеффри Хинтон, нейронная сеть стала доминировать в этой области. Как мы покажем позже, этот тип математической модели симулирует работу человеческого мозга и нейронов (хотя он был разработан математически, а не путем изучения людей) и использует метод “оптимизации затрат”, чтобы найти диапазон параметров, которые делают модель точной (“обучение модели”).

LLM – это реализация нейронной сети, которая сильно продвинулась с помощью концепции модели “трансформера”. Оказалось, что эти модели точны, способны масштабироваться и умело обрабатывают различные типы данных.

Чтобы понять насколько большие эти системы, приведем пример:

только нейронная сеть GPT-4 имеет 170 триллионов параметров. Новая модель языка Google Pathways (PaLM) имеет 540 миллиардов параметров (для понимания- по оценкам у человеческого мозга 86 миллиардов нейронов, многие из которых даже не используются для рассуждения).

Эталонные большие языковые модели (LLM) – это стандартные готовые модели, такие как GPT-4, Lamda или PaLM. Другие стандартные модели доступны для лицензирования или покупки. Затем компании могут использовать их для создания своих собственных реализаций LLM моделей.

Основная идея ИИ проста- в обычной программе программист пишет алгоритм, а пользователи используют эту программу для автоматизации своей работы.

Когда люди используют систему, они создают данные. Эти данные являются результатом обработки операций (например, выплата зарплаты, подача заявки на работу, регистрация на курс и т.д.), которые сохраняются в системе. Таким образом, система создает данные по мере того, как все больше и больше людей ее используют.

Система с ИИ, напротив, начинается с данных. Представьте систему с ИИ как огромный набор данных, который использует “модели” ИИ (сложные математические алгоритмы) для изучения, понимания, классификации, предсказания и поведения на основе данных.

Затем разные приложения используют эти модели. Вот почему системы с ИИ могут казаться человечными – они имеют доступ к огромным объемам данных и, кажется, становятся все умнее и умнее. Но помните, что, как и люди, если данные смещены или искажены (например, заполнены ложью, предвзятостью и т.д.), то ИИ будет воспроизводить смещенный результат.

LLM также может найти неточные данные, заставляя систему “галлюцинировать” (давать неверный ответ). Эти риски объясняют, почему инженеры ИИ так сосредоточены на безопасности (этика, снижение предвзятости и объяснимости).

Когда колумнист The New York Times впервые использовал Bing Chat, реализацию GPT-4 от Microsoft, Bing Chat представился “Сидней” и заявил, что “хочет быть живым”. Исследователи теперь считают, что Bing Chat прочитал и “выучил” свою личность, чтобы имитировать это поведение. Поэтому мы должны обучать эти системы с помощью действительных, надежных, беспристрастных данных.

Если вы используете Bing Chat или Google Bard, то эти системы показывают вам ссылки, откуда они взяли текст. Это форма объяснения. Объяснимость ИИ должна быть одним из инструментов, которые вы ищете, чтобы руководители и аудиторы могли обеспечить справедливость, тем самым улучшая полезность и снижая риск неверных решений.

Различия платформ между традиционными и ИИ системами

Транзакционные системы (например, зарплата, управление обучением и т.д.) разработаны для быстрого, безопасного и надежного сбора данных. Они построены на основе реляционных баз данных (строки и таблицы), которые моделируют типичные бизнес-транзакции.

На протяжении многих лет транзакционные системы становились все более и более продвинутыми, но никогда не были действительно разработаны для массивных запросов и анализа, которые требует ИИ. Под капотом этих систем находятся базы данных.

Workday, например, разработал собственную базу данных на основе объектов (она может моделировать “работника” как целый объект), что помогает системе управлять безопасностью, рабочими процессами и целостностью транзакций в сети.

Другие базы данных (параллельные базы данных, базы данных на основе объектов, графовые базы данных, аналитические базы данных, векторные базы данных и реляционные базы данных) могут использоваться для различных случаев.

Поставщик Darwinbox, например, использует графовую базу данных для моделирования своей сетевой системы HCM.

Для большинства транзакционных систем реляционные базы данных работают приемлемо. Они быстрые, масштабируемые и легко доступные для запросов. Для высокосоциальных систем (социальные сети, второе поколение HCM) часто используются графовые базы данных.

Для приложений аналитики и отчетности поставщики часто используют многомерные базы данных (например, сводную таблицу Excel).

Системы ИИ, особенно модели LLM, работают несколько иначе. Они не просто хранят данные, они пытаются понять, что эти данные могут означать. Эти системы могут взять текст и разделить его на похожие “токены” (группы букв), которые, как кажется, сгруппированы вместе. То же делают и для изображений, видео и аудио. Они пытаются выяснить, какие кластеры данных похожи, какие идут до или после других и так далее. Не зная, что на самом деле означают данные, они “умно” интерпретируют происходящее.

Для этого они преобразуют данные в “вектор”, который представляет собой длинную строку чисел (например, 1-2-8-7).

Почему ИИ использует векторы?

Ученые обнаружили, что сложные данные (изображение, видео или большой блок текста) лучше всего анализировать, преобразуя токены в векторы.

Когда токены представлены в виде векторов, система создает так называемые “векторные представления слов” – представление каждого токена массивом чисел, которые показывают, рядом с какими другими токенами он находится, в каком порядке и в каком образце. Векторное представление слов – это суть нейронных сетей.

ChatGPT, например, берет большое количество текста и разбивает его на небольшие повторяющиеся паттерны, каждый из которых можно рассматривать как пиксель или строку пикселей на фотографии. Эти изображения классифицируются и группируются статистически так же, как и слова, поэтому, когда система определяет фотографию кошки, она использует ту же технологию, которая находит, например, финансовые результаты Microsoft за 2 квартал.

Последнее поколение языковых моделей (таких как ChatGPT) идет дальше, не просто понимая текст (кодируя его), но и интеллектуально генерируя текст. Что достигается путем большего фокусирования на том, что составляет хороший ответ на каждый вопрос.

Если предыдущее поколение языковых моделей было хорошо в понимании написанного и его кодировании, то новое поколение моделей умеет декодировать эти вопросы – предоставлять подходящий ответ на вводимые данные или запросы.

Данные алгоритмы породили новые аппаратные и программные платформы. Хотя вы можете хранить векторы в реляционной базе данных, они не оптимизированы для векторной математики. Для этих целей был изобретен новый класс векторных баз данных для хранения и манипулирования всеми этими данными.

Чтобы помочь с обработкой, был изобретен новый класс ИИ-ориентированных чипов. Чипы для вычислений Nvidia H100, например, кодируют векторную обработку и включают множество алгоритмов для обработки моделей “трансформеров” , поэтому второе поколение систем ИИ может работать на специализированных облачных серверах.

Кстати, большинство ученых теперь считают, что усиленная вычислительная мощь позволила создать высокопроизводительные нейронные сети. Многие годы нейронные сети считались очень ограниченным инструментом. Только в последние несколько лет высокопроизводительные вычисления доказали, что эти алгоритмы могут хорошо масштабироваться.

Еще один важный момент о векторном представлении – на языке ИИ это длинные, сложные векторы, которые могут моделировать сложные объекты данных, такие как подбор кандидата на работу, описание должности или работы, карьерный путь и многое другое. Поскольку алгоритм независим от типа данных, информацию, такую как зарплата, предыдущий опыт работы, настроение сотрудников и многое другое, можно проанализировать.

Чем больше данных, тем лучше

Одно из отличий транзакционных и ИИ-систем – это данные, которые они могут обрабатывать для выявления закономерностей и отношений, прогнозирования и формирования полезных выводов.

Транзакционная система может работать с очень малым объемом данных и создает новые данные относительно медленно. Система ИИ, напротив, должна быть “обучена” на больших объемах данных для повышения своей точности.

OpenAI доказала, что модели LLM становятся более точными с добавлением большего количества данных (разработка систем, которые работают таким образом, заняла много лет).

Если вы хотите использовать ИИ модель для прогнозирования высокопроизводительного работника или хорошего кандидата, вам нужно много данных. Транзакционные данные внутри вашей компании не достаточны.

Предположим, что вы захотите создать “модель удержания”. Если у вас есть данные о текучке кадров в вашей компании, вы можете заметить, что у некоторых менеджеров, должностей или мест больше текучка кадров. Вы также можете узнать, что люди, которые немного недополучают или перерабатывают, скорее всего уйдут. Эти данные важны, но могут быть не очень информативными.

Если бы вы использовали нейронную сеть для изучения этой проблемы, вы могли бы обнаружить, что люди с определенным образованием в определенном возрасте гораздо склоннее уходить, чем другие. Вы можете увидеть закономерности вокруг расы, размера семьи, или, возможно, даже рабочих часов. И если бы вы изучили эти данные по всем компаниям в вашей отрасли, вы бы обнаружили, что текучка кадров у вас в отделе продаж фактически ниже, чем у конкурентов, но текучка в отделе маркетинга выше.

Вы также можете обнаружить, например, что определенный менеджер обращается особенно резко или отрицательно со своими подчиненными, а другой менеджер более позитивен и нацелен на развитие. Эти выводы могут помочь HR сгладить различия и сделать управление производительностью более справедливым. Как видите, с большим количеством данных анализ и прогнозы становятся более точными и полезными.

Поскольку большинство решений вендоров не являются системами второго поколения, они не очень хороши в прогнозировании. Большинство платформ обучения, например, рекомендуют курсы и контент пользователям на основе их предыдущей активности.

Платформы опыта сотрудников пытаются рекомендовать действия на основе местоположения или потребностей сотрудника. И многие новые системы теперь пытаются “вывести” навыки, рекомендовать карьерные пути на основе навыков, и даже определить зарплаты, которые кажутся неразумными.

Модули прогнозирования в этих системах – это маленькие ИИ приложения, встроенные в транзакционное приложение, поэтому их окончательная мощь часто ограничена небольшим количеством данных, к которым они имеют доступ.

Почему множество данных считается “малым”?

Рассмотрим данные в большой HCM системе, используемой такой большой компанией, как GE. Если эта система не обладает большим количеством истории и не может получить доступ к данным из системы найма, системы оценки производительности и многих других систем, она на самом деле знает не так много о сотрудниках. Эти системы первого поколения оказались не такими захватывающими или новаторскими, как мы ожидали. LLM и системы второго поколения меняют это положение.

Определение разных баз данных

Реляционные базы данных используют таблицы для хранения данных, где каждая строка представляет собой отдельную запись, а каждый столбец представляет собой конкретный атрибут этой записи.
Векторные базы данных хранят данные в виде массивов чисел, которые могут представлять сложные и неструктурированные типы данных, такие как изображения, аудио и текст.
В графовых базах данных данные моделируются в виде узлов (вершин) и ребер. Узлы представляют сущности или объекты, а ребра представляют отношения или связи между узлами.

Реляционные базы данных оптимизированы для эффективной обработки транзакций и структурированных данных. Векторные базы данных оптимизированы для поиска по сходству и сложных типов данных, представленных в виде векторов.
Графовые базы данных эффективно справляются с обработкой сложных и сильно взаимосвязанных данных, таких как социальные сети, системы рекомендаций, обнаружение мошенничества и графы знаний.

Почему очень важны системы второго поколения?

Благодаря GPT-4 и другим LLM моделям, появившимся на рынке, мы теперь знаем, что эти «ориентированные на данные» системы гораздо мощнее, чем думали люди.

Рассмотрим систему транзакций вашей кредитной карты. Она «научилась» с годами анализировать случаи мошенничества по сотням переменных. К ним могут относиться история транзакций, местоположение, время суток, ваш паттерн покупок и сотни других элементов.

Такие системы, ориентированные на данные, обычно становятся умнее при доступе к большему количеству данных. В мире HR вам нужно гораздо больше, чем данные HCM в вашей компании. Если вы хотите мощную модель для определения идеального продавца или высококвалифицированного инженера, то нужно смотреть на всех продавцов или инженеров в мире! Вот что делают системы AI второго поколения.

Эти системы накапливают сотни миллионов профилей сотрудников, часто анонимизированных, и часто масштабируемых до миллиардов. Системы спроектированы для интеграции с сотнями других источников данных: данные управления производительностью вашей компании, данные об обучении и реальные рабочие данные, выполненные каждым сотрудником. В случае программистов они часто получают доступ к данным в GitHub (которые сообщают нам, какие инструменты, навыки, алгоритмы и проекты выполнил каждый человек), данные о сертификации медсестер и почти любые другие данные, относящиеся к сотрудникам, которые вы можете предоставить.

Мы, например, используем Eightfold AI для изучения трендовых навыков, названий должностей и даже дизайна организаций для сотен компаний по отраслям. Их огромный набор данных может показать нам, как инженерные навыки Chevron, например, сравниваются с навыками Exxon. Из-за этого огромного объема данных ваши прогнозы, соответствия и модели гораздо более надежны и надежны, чем данные, используемые только для вашей компании.

Еще один аспект систем второго поколения – их способность адаптироваться. Поставщики, строящие свои решения на основе ИИ, могут регулярно заменять модели новыми алгоритмами, адаптировать свои LLM и буквально «обновлять» свои системы непрерывно. Для традиционные платформ HCM первого поколения (Workday, Oracle, SAP) это очень сложно, их нельзя обновлять очень быстро.

Системы второго поколения могут накапливать сотни миллионов профилей сотрудников и часто масштабироваться до миллиардов.

Как работают эти модели?

Как на самом деле учится ИИ?

Предположим, вы хотите «классифицировать» информацию — определить, какие изображения являются собаками, кошками или людьми. В случае с HR, предположим, вы хотите знать, кто является высокопроизводительными сотрудниками в вашей компании. Это может быть полезно для управления производительностью, справедливости оплаты труда, продвижения по службе или управления преемственностью. Когда вы узнаете, кто эти высокопроизводительные работники, вы можете захотеть понять, какой у них опыт, какими навыками они обладают и многие другие важные качества.

Как система ИИ может «классифицировать» или определить этих людей? Вы можете просто отметить определенные 10% ваших сотрудников как высокопроизводительные и затем позволить ИИ выяснить, что их отличает. Затем он будет использовать различные алгоритмы для понимания, что у них общего (настройка «параметров», обсуждаемых выше), и результаты могут оказаться удивительными.

Вы можете предположить, что степень образования, стаж и оценки производительности являются очень хорошими предикторами высокопроизводительного сотрудника. Ну, ИИ, у которого нет реального «знания», может определить иначе.

Liberty Mutual несколько лет назад провела проект по определению лучших людей для работы в продажах автостраховок. После рассмотрения степеней образования, среднего балла, опыта работы, внеклассной деятельности и многого другого, ее модель в конечном итоге выяснила, что наиболее предсказуемым фактором в производительности было «опыт работы в автосалоне до прихода в Liberty». Кто бы мог предположить это?

Банк в Канаде обнаружил паттерн краж в своих отделениях. Он не мог понять этот паттерн, поэтому создал новую программу соблюдения правил для обучения людей этике и банковским правилам. Обучение не сработало. Когда банк включил все данные в прогнозную модель, он обнаружил, что фактором, который наиболее влияет на кражу, было «расстояние в милях от отделения до управляющего округом». Другими словами, отделения с кражами не часто посещались руководством. Кто бы мог предположить?

Волнующее в ИИ то, что он не «догадывается», что сработает в результате обработки. Он просто создает модель. Предположим, что мы заметили, что многие сотрудники в Канзасе отстают в достижении своих целей. Система ИИ могла бы пройтись по огромной базе данных, поискать достижение целей и создать «прогнозирующую модель», чтобы выяснить, какие факторы предположительно коррелируют с плохой производительностью. Затем эту модель можно было бы использовать для установки квот, коучинга менеджеров и многих других вещей.

Прорыв ИИ сегодня заключается в том, что мы можем рассмотреть миллиарды «параметров», чтобы выяснить, что происходит. Используя нейронные сети, данные «обучают» модель, чтобы она становилась все более и более умной в понимании, почему некоторые люди работают неэффективно. И нейронные сети могут анализировать сотни тысяч измерений, чтобы точно увидеть, почему происходит недостаточная производительность.

За последние четыре десятилетия инженеры создали множество разных моделей. Некоторые из них предназначены для потоков данных (аудио или видео), некоторые – для изображений (фотографий, рисунков), а некоторые – для текста (языка, статей, книг, сайтов). Большая часть исследований была сосредоточена на алгоритмах и архитектуре этих моделей, что привело к созданию LLM моделей.

Ученые теперь узнали, что все данные (будь то изображения, видео, аудио или блоки текста) могут быть математически моделированы как числа или векторы, что позволяет новому поколению систем (LLM) получить широкое использование. В нашей области, например, LLM могут определять навыки среди кандидатов на работу, группировать и упрощать описания рабочих мест, анализировать видеопотоки, созданные на собраниях, и теперь, используя генеративный ИИ, отвечать на вопросы, создавать слайды PowerPoint и даже рисовать картинки.

Понимание LLM: ИИ – это продвинутая математика

Как только мы понимаем, что все данные можно преобразовать в биты и векторы («встраивание»), мы можем кратко заняться математикой под капотом. Одна из причин объяснить математику в том, что это демистифицирует ИИ, чтобы вы не чувствовали себя запуганными его “интеллектом”.

Давайте вернемся к примеру с HR и предположим, что у нас есть огромная база данных сотрудников (и кандидатов на работу), включая их историю образования, историю работы, профили и, возможно, личные связи. И давайте также предположим, что мы «обогащаем» эти данные их зарплатами, оценками производительности, документами и, возможно, программным обеспечением, которое они написали, или другими данными, которые они произвели на работе.

Если бы мы могли «моделировать» все эти данные в одной огромной системе, мы могли бы концептуально искать бесконечное количество шаблонов. Если бы мы хотели создать «модель высокого производительного исполнителя», мы могли бы искать связи между карьерным ростом, увеличением зарплаты и всеми другими данными. Если бы мы хотели понять навыки человека, мы могли бы искать ключевые слова (например, Java) и оценки их кода или работы для вывода навыков.

В основном это то, что делают нейронные сети. Предположим, мы скажем системе, кто является высокопроизводительными работниками (то есть «маркируем данные»). Эти математические системы создают векторные представления этих данных, а затем распределяют векторы по миллионам или миллиардам узлов (называемых «параметры»), чтобы увидеть, что с чем связано. Затем, используя математический анализ, «настраиваются параметры» до тех пор, пока модель не найдет способ предсказать помеченных высокопроизводительных исполнителей с наилучшим возможным набором параметров.

Нейронная сеть, которая классифицирует «высокопроизводительных работников», потребует обучающей базы данных, которая явно говорит ей, кто эти люди. Затем система будет использовать математический анализ, чтобы «обучить себя», прикрепляя веса к различным параметрам (их может быть миллиарды), пока не найдет «наилучшее соответствие». Это называется «обучение модели».

В то время как мы, люди, можем попытаться сделать это вручную (мы, вероятно, предполагаем, что образование имеет некоторое влияние, что вносит человеческую предвзятость), модель не имеет представления о том, что эти числа представляют. Используя векторный анализ (курс математики, который многие из нас изучали в колледже), она просто «выясняет» (используя вторые производные и другой математический анализ) наилучший набор весов и смещений, чтобы выяснить, какие числа работают лучше всего. В некотором роде, если обучающие данные не предвзяты (например, все высокопроизводительные работники не белые мужчины), система ИИ будет иметь гораздо меньше предвзятости, чем мы!

Оказывается, что эти нейронные сети, которые состоят из взаимосвязанных узлов (нейронов), организованных в слои (обработка их в этапах), на самом деле имитируют работу человеческого мозга. На протяжении многих лет учены осуществляли оптимизацию, улучшение и тестирование этих моделей.

ИИ модель «учится» через данные, как лучше всего создать волшебный набор уравнений, которые «почти идеально» предсказывают производительность людей на основе данных, собранных в компании. Если бы мы изменили данные (например, мы смотрим на новый квартал и проводим реорганизацию), мы бы хотели «переобучить модель», чтобы она пересчитала эти веса и предсказала, что теперь происходит. Существует множество интересных моделей математического анализа, которые ускоряют этот «процесс обучения». Обычно они основаны на расчете того, насколько далеко «градиент» или уклон ее ошибки моделей, а затем корректируются числа, чтобы сделать модель более точной.

Как вы можете видеть, это не «черная магия», как кажется, но есть много интересных вещей для обсуждения.

Возможных переменных может быть от миллионов до миллиардов, и именно здесь реальная “математика” использует “векторный анализ” или “векторную алгебру”. Мы манипулируем сотнями чисел для каждого случая производительности человека (демографические характеристики, местоположение, менеджер, стаж и т.д.), чтобы эта длинная строка переменных могла быть собрана как группа (повторимся, “вектор” – это строка чисел подряд, которые можно концептуально отобразить в пространстве.)

Используя векторы для анализа всех этих данных, мы можем использовать математический анализ и другие техники для визуализации того, насколько “близки” или “далеки” друг от друга различные возможные веса и смещения. Это помогает машине быстрее “учиться” тому, какая модель лучше всего предсказывает реальность.

Из-за всей математики, которая здесь задействована, традиционные компьютеры могут плохо справляться с этими задачами. Если вы знакомы с реляционными базами данных, вы знаете, что хранить большие “векторы” и манипулировать ими очень сложно. Системы искусственного интеллекта второго поколения используют так называемую “векторную базу данных” для хранения этой информации.

Кроме того, необходимый объем для вычислений очень огромен. Если мы посмотрим на всех сотрудников компании, все кандидатуры, находящиеся в процессе отбора, и сотни или тысячи переменных, которые необходимо учитывать, то вычислительная нагрузка будет огромной.

Системы, разработанные для искусственного интеллекта, используют чипы (компьютерные процессоры) с специальным кодированием для ускорения операций с векторами. Вот почему чипы Nvidia стоят так дорого, и почему Google, Microsoft и Apple создают свое собственное оборудование для ИИ.

Очень важно обратить внимание на один момент. Если вы общаетесь с поставщиком ИИ- услуг, одним из ваших первых вопросов должен быть: “Как ваша система обучается?” или “Какие данные она использует для обучения?” Эти фундаментальные вопросы важнее, чем может показаться.

Обычная HR-система не имеет много данных для интерпретации. Во многих случаях, ваша HRMS хранит имя сотрудника, возраст, адрес, историю работы и, возможно, данные о тренингах (хотя эти данные часто находятся в другом месте). Если вы хотите использовать ее для оценки навыков, управления преемственностью, анализа заработной платы или других стратегических целей, вам потребуется гораздо больше данных.

Вот почему платформы ИИ второго поколения предназначены для анализа больших объемов данных. Вендоров этих решений уже собрали сотни миллионов и миллиарды профилей, и вы можете затем “обогатить” данные информацией о вашей компании. Они гораздо “умнее”, чем система, посвященная только вашим данным, поэтому задайте вышеназванные вопросы поставщикам.

Как ИИ понимает навыки?

В последнее время все говорят о навыках, поэтому можно спросить: как ИИ может определить навыки человека? Ответ сложный, и здесь также отличаются системы ИИ первого и второго поколения.

Простейший подход к пониманию, какие навыки может иметь человек, – это сопоставление слов в резюме кандидата с базой данных навыков. Этот метод использовался в ранних ATS, где сопоставляли слова и фразы с описаниями работы.
Сегодня продвинутый ИИ смотрит на слова и другие данные. Современные модели могут анализировать, где вы работали и какую работу выполняли; с кем работали и какие навыки были у этих людей, какие технологии использовались в компаниях, где вы работали.
В продвинутых ИИ системах мы можем указать на базу данных с вашими сертификатами (правовые, регуляторные или внутренние), написанный вами код (например, GitHub, который включает оценки вашего кода), ваши конкретные тесты, ваши оценки производительности и практически любой другой источник данных, который можно найти (например, достижения в продажах и т.д.). Это означает, что ИИ система второго поколения разработана для интеграции со множеством источников данных, а ее модели (алгоритмы) могут интерпретировать эти данные, чтобы сделать модель умнее.
Многие считают, что модели должны самостоятельно оценить свои навыки или их менеджер должен оценить их навыки. Несмотря на то, что это, безусловно, хорошая идея, ИИ может найти еще навыки, посмотрев на “смежные навыки”, которые вы получили. Один ученый по Искусственному интеллекту рассказал нам, что на каждые три навыка, которые вы думаете у вас есть, ИИ может найти еще пять, которые у вас есть, и десять смежных навыков, которые вы можете легко развить.
Важно помнить, что “навык” – не то же самое, что “компетенции”, которые использовали раньше. Компетенции буквально выбирались из книги и вручную прикреплялись к работе или описанию работы. В этом процессе была замешана некоторая промышленная и организационная психология, но в основном мы полагались на человеческое суждение.
Навыки, как мы их определяем сегодня, совершенно другие. Мы любим думать о навыках как о “метаданных о людях”. Допустим, кто-то работал в компании, занимающейся реляционными базами данных, поэтому у него может быть “навык” работы с программным обеспечением Sybase. Sybase – это не “компетенция”, это технология. Java – это не “навык”, это язык программирования. В контексте ИИ мы можем думать о навыке как о слове или фразе, которая помогает нам выбирать, развивать или оценивать человека.
Учитывая, что ИИ понимает «навык» как «текстовое слово» (или «токен», как было описано ранее), он на самом деле не знает, что эти навыки означают. Но, несмотря на отсутствие «интеллекта», ИИ очень хорош в определении навыков человека. Используя обработку естественного языка или нейронную сеть (ИИ второго поколения), можно достаточно точно определить и предсказать навыки, а затем уточнять их разными способами. Когда вы составляете описание работы, ИИ может «определить навыки» людей на этой работе, поможет «найти людей с этими навыками» и «найти работу, похожую на эту» с поразительной точностью.

Это – принципиально новые применения для HR.

Некоторые системы идут дальше, преодолевая барьер «конечной онтологии навыков». В то время, как любой набор навыков обязательно конечен, генеративный ИИ может «изобрести» потенциально бесконечное разнообразие навыков. Представьте, например, человека, который взаимодействовал с системой всего несколько минут, и система предлагает навык, такой как «анализ продаж роскошных автомобилей в юго-западных США» , что никакой конечный набор навыков не сможет сделать. Это «вторичные навыки», которые система может обнаружить. Идея вручную создавать таксономию навыков действительно кажется немного абсурдной, поскольку системы второго поколения постоянно находят новые навыки.
Поставщики второго поколения ИИ систем не просто рассматривают навыки, как слова и фразы, они смотрят на связь этих навыков с другими факторами. Если у кандидата в резюме указан «Java» и он недавно работал в кофейне, вы, возможно, предположите, что это навык, который имеет отношение к приготовлению кофе. Если кандидат живет в Индонезии, то вероятно это относится к стране Java. С другой стороны, если кандидат работает в компании-разработчике программного обеспечения, это, скорее всего, означает связь с языком программирования.

Система также должна понимать и определять «смежные навыки». Она, например, может выяснить, что «управление проектами» и «PMO» – это связанные термины, или что язык программирования Python – это не змея, или даже то, что люди, которые «знают Python», также хороши в SQL. Чтобы сделать все эти знания доступными для ИИ, поставщики второго поколения создают инструменты, которые создают обширную и осведомленную о контексте онтологию.
Один поставщик, например, использовал ИИ, чтобы определить «навыки лидера», обучив систему искать soft skills . Они проанализировали навыки лидеров одной компании (уровня директора и выше), а затем сравнили их с навыками всех своих конкурентов. ИИ по существу диагностировала их культуру, рассказывая генеральному директору и HR-директору, на какие ценности, поведение и опыт лидерства полагается их компания. Данный анализ дал идеи о том, как развивать лидеров, нанимать лидеров и возможно определить слепые пятна в своих командах лидеров.

Один очень продвинутый вендор усовершенствовал свой алгоритм сопоставления с помощью еще более продвинутых моделей. Представьте, что компания с 15 000 сотрудниками открывает ряд вакансий. Первая модель – это модель «подать заявку», которая смотрит, кто подал заявку. Этот набор людей (может быть, 250 000) – это люди, выбранные из 2 миллиардов белых воротничков в мире, которые заинтересованы в этой компании. Вторая модель – это модель «собеседованных», где система смотрит, кто был допущен на собеседование. Это сужает количество «наиболее подходящих» кандидатов до нескольких тысяч. Третья модель – это модель «принятых», которая показывает, кому было сделано предложение. Четвертая – это модель «производительности», где система изучает, кто продвигался, успешен или оставался.
Еще один важный пример использования – это помощь людям в их карьерном продвижении. На основе ваших навыков и опыта ИИ может найти «следующую лучшую работу» для вас. ИИ может показать вам «задачу по расширению компетенций», и даже точно сказать вам, какие навыки необходимы, если вы стремитесь расти. Затем он может проиндексировать весь учебный контент в вашей компании и точно рекомендовать курсы, опыт или наставников, чтобы вам помочь.

Один поставщик, с которым мы говорили, создал глубокие модели обучения для изучения карьерных путей и моделирования их относительно прогресса и роста. В результате система представляет «обоснованные рекомендации» о следующих работах или ролях для внутренних сотрудников.
Однако помните, что во всех этих примерах важно качество сопоставления. ИИ системы первого поколения выглядят так, как будто они хорошо справляются с этим, но вы обнаружите, что они часто оказываются недостаточно хорошими в реальной жизни. Например, один из наших клиентов использовал технологию «сопоставления навыков» своего вендора по планированию ресурсов предприятия (ERP) для набора разнообразных кандидатов. Несмотря на заявления поставщика, его кандидаты совсем не были разнообразными. Они позже перешли на платформу ИИ второго поколения.
Вот почему большинство систем ИИ второго поколения были созданы людьми с ученой степенью или серьезным академическим образованием в области ИИ, математики или информатики. Психологи организации не обучены работе с большими данными или ИИ, поэтому ищите поставщика с сильными компетенциями в ИИ. Часто они делятся своими патентами, докторскими диссертациями или другим опытом, которые они получили при создании систем.

Применение ИИ к вопросам равенства оплаты труда

Применение ИИ к вопросам равенства оплаты труда приводит нас к еще одному важному применению ИИ в HR. Эти системы не только могут предоставить вам гораздо более разнообразный набор кандидатов (если они достаточно обучены, то значительно превзойдут поиск кандидатов людьми), вы сможете использовать их для устранения предубеждений в продвижении, повышении и оплате труда.
Вопрос равенства оплаты труда стал огромной проблемой. Google выплатил свыше 118 миллионов долларов сотрудникам, которые доказали, что компания допускала гендерную дискриминацию при найме и продвижении, а Goldman недавно выплатил около 200 миллионов долларов за подобный иск. Система ИИ второго поколения могла бы рекомендовать смежные рабочие возможности независимо от пола, и в конечном итоге она могла бы быть использована для помощи в продвижении по службе.

Если вы добавите данные о зарплате вашей компании в эту систему, то увидите, что система предоставляет «прогнозы» заработной платы, где можно увидеть группы персонала, которые получают недостаточную или завышенную зарплату и т.д. Равенство оплаты труда и продвижение в рамках диверсификации – это огромные новые области для применения ИИ.

Применение ИИ к языку, словам, изображениям, видео и аудио

Как ИИ удается читать, разрабатывать и анализировать нетекстовые данные? Следует отметить, что за последние 40+ лет были проведены исследования в области аудио, видео, изображений и текстового анализа. За это время компьютерные ученые разработали разные алгоритмы, которые работают для разных потоков данных.

Сегодня ученые в области ИИ начинают верить, что все эти проблемы в основном одинаковы. В каждом случае, когда вы смотрите на изображение для идентификации или на строку символов для понимания, проблема состоит в «определении имеющихся у вас данных» ,а затем в использовании серии моделей (нейронных сетей или других) для сопоставления, категоризации и глубокого понимания шаблонов данных. Во многих отношениях, ИИ является высокоточной системой «сопоставления шаблонов» с множеством параметров для настройки его точности.

Когда мы смотрим на генеративный ИИ, способность системы понимать ваш язык («инженерия запросов») и интерпретировать наилучший ответ, то приходим к выводу, что процесс просто более продвинут. ChatGPT и LLM используют огромные нейронные сети и математическую модель, называемую «трансформер», для этого с удивительной точностью. Получается, что в будущем эти системы станут более изощренными и специфичными по домену знаний по мере их дальнейшего обучения с нашим непрерывным их использованием.

Модель “Трансформер” – это ключевой элемент в мире искусственного интеллекта (ИИ). Долгое время ученые создавали разные алгоритмы для обработки разных типов данных, например, изображений, голоса и текста. Но они искали способ объединить все эти инструменты в одну “универсальную модель”. Именно тут на сцену выходит модель “Трансформер”.

В 2017 году группа инженеров из Google представила эту модель в статье под названием “Внимание – все, что вам нужно”. Основная идея заключается в том, что каждый “объект” (слово, фраза или битовый поток), который мы хотим предсказать, может быть анализирован в контексте всех остальных объектов, а не только ближайших к нему. Это как если бы вы могли видеть карту всей страны, а не только своего района.

Модель “Трансформер” также спроектирована так, чтобы компьютер мог выполнять множество задач одновременно. Это достигается благодаря алгоритмам, которые позволяют нейронной сети вычислять веса независимо, учитывая их взаимосвязь друг с другом. В результате, при использовании большого количества вычислительной мощности, модель “Трансформер” работает быстрее и эффективнее.

В общем, суть этой модели заключается в том, что мы можем “группировать”, “находить” или “располагать” вещи, когда их миллиарды и миллиарды, что делает ее “универсальной” моделью, вокруг которой сейчас сосредоточены исследования в области ИИ.

Трансформер с механизмом внимания – это особый тип глубоких нейронных сетей, которые решают множество различных задач. Раньше для каждого типа задачи создавались специальные архитектуры, но теперь этого не требуется.

Сегодня под LLM обычно понимают языковую модель, основанную на архитектуре трансформера с механизмом внимания. Эта модель имеет огромное количество параметров и обучается на большом корпусе текста. Она способна предсказывать следующее слово в тексте, то есть, если дан текст, она может предсказать следующее слово (или “токен”).

Рынок больших языковых моделей

Сейчас много новых компаний предлагают свои версии глубоких языковых моделей, обученных с помощью подкрепления (LLM). Некоторые из них можно использовать бесплатно, некоторые принадлежат большим компаниям, а некоторые встроены в различные продукты. Есть даже “Открытый рейтинг LLM“, где можно сравнить эти модели по их точности.

Скоро вы, как бизнесмен, сможете использовать эти модели, предлагаемые разными компаниями, или создать свою собственную. Например, компания Bloomberg уже создала свою модель “BloombergGPT”, которая помогает анализировать и обрабатывать финансовую информацию. Ваша компания тоже может создать что-то подобное, используя свои уникальные данные.

Как понять, что системы справедливы и точны?

Основная цель ИИ – понимание и анализ проблем “второго порядка”. Вы можете построить сетку из девяти ячеек, чтобы определить план преемственности, основанный на нескольких встречах и рассмотрении обзора производительности. Вы можете решить, кого нанять на работу, на основе
нескольких собеседований. Вы можете установить заработную плату на основе диапазонов и исторических но вы даже не знаете, что упускаете.

Настоящая система искусственного интеллекта сделает все эти решения гораздо
более точными. Можно глубоко оценить навыки человека, а затем находить “совпадения” с другими сотрудниками, чтобы найти хорошего преемника. Также можно изучить навыки наиболее успешных сотрудников и понять, что они “умеют”, чего не знают другие.
Посмотрев на работу кандидатов и внутренний персонал, можно увидеть их соответствие, а затем гораздо более точно подобрать кандидатов.
Несколько лет назад руководители отдела кадров компании Google, которые неустанно работали над проведением собеседований и тестированием кандидатов, сказали нам
что, несмотря на всю их работу, искусственный интеллект гораздо лучше предсказывает
“отличного сотрудника”, чем все разработанные тесты и собеседования.

Но если мы обучаем систему на смещенных данных, мы получим смещенные результаты. Поэтому важно убедиться, что модели ИИ и данные, на которых они обучаются, не смещены. Некоторые компании уже работают над созданием моделей, которые доказали свою “несмещенность” в отношении найма, отбора, продвижения и других факторов.

В общем, ИИ может сделать наши решения более точными. Но мы должны быть уверены, что эта новая система будет точной, несмещенной и справедливой. Если вы используете ИИ в своем бизнесе, вам нужно убедиться, что ваши поставщики знают о потенциальных проблемах смещения и работают над их устранением.

Специализация по отраслям и доменам действительно имеет значение

Теперь представьте, что вы купили программу для подбора персонала, которая отлично подходит для поиска и выбора программистов. Будет ли она также хорошо работать для подбора персонала в кофейню или на производство? Если эта программа была хорошо обучена на данных из этих сфер, то возможно, да. Но если вы первый, кто попробует использовать ее в новых условиях, то результат может быть не таким, как вы ожидали.

Мы думаем, что такие программы скоро станут специализированными в определенных областях. Поэтому перед покупкой уточните у вендора, в каких отраслях его продукт работает лучше всего. Например, чат-бот, созданный для продаж и поиска клиентов, может не справиться с задачами по подбору персонала. Вот почему некоторые компании, как Paradox.ai, специализируются именно на подборе персонала – их система каждый день становится все умнее в этом вопросе.

Как выбрать лучшую программу?

Теперь, когда вы знаете основы, вот ряд вопросов, которые стоит задать продавцу, чтобы понять, насколько хорош его продукт:

• На каких данных вы обучаете свои модели?
• Какой объем данных у вас есть?
• Как вы проверяете, что ваши модели не смещены?
• В каких отраслях вы уже работали?
• Есть ли определенные группы людей, которые хорошо представлены или не представлены в ваших данных?
• Как вы объясняете, как работает ваш ИИ?
• Можем ли мы посмотреть на ваше исследование смещения и как вы его устранили?
• Как ваша система использует обратную связь от людей для улучшения моделей?
• Можем ли мы поговорить с клиентами, которые уже используют ваш ИИ решение?
• Если вы предлагаете программу для подбора персонала: как вы поддерживаете свою базу навыков?
• Если вы предлагаете программу для подбора персонала: как вы проверяете безопасность рекомендаций ваших систем?
• Расскажите нам о вашей команде и опыте работы в области ИИ.
• Какие модели LLM вы используете и почему?
• Как ваша система соответствует новым правилам регулирования ИИ, например, тем, что приняты в Нью-Йорке?
• Какие технологии ИИ вы используете? (Если это просто статистический инструмент, а не ИИ, то это не то, что вам нужно!)

Компонент ИИ	Развивающийся Добавлен ИИ	Первое поколение ИИ встроен в решение	Второе поколение Платформа построена на ИИ
Архитектура	Традиционные транзакционные системы, возможно, использующие генеративный ИИ для генерации текста, изображений и видео	Транзакционная система, использующая модели ML и ИИ для понимания транзакционных данных.	Платформа искусственного интеллекта, использующая транзакционные и внешние данные для разработки моделей искусственного интеллекта (или использующая LLM), чтобы рекомендовать, сопоставлять и прогнозировать тысячи параметров.
Данные	Данные, генерируемые пользователями при использовании приложения	Данные, созданные пользователями с возможностью добавления внешних данных для отчетности	Платформа открытых данных, которая позволяет пользователям добавлять множество форм данных (данные о производительности, рабочие документы, программный код, сертификаты и т. д.), которые используются LLM или другими моделями.
Состав данных	Заранее опишите себя: имя сотрудника, должность, опыт, история заработной платы, история работы и т. д.	Заранее опишите себя: имя сотрудника, должность, опыт, история заработной платы, история работы и т. д. Может также включать навыки , интересы и _ другой расширенный данные	Самопровозглашенные данные + информация из рабочих артефактов (GitHub, Jira, Salesforce) + фундаментальные знания о мире, встроенные в структурированные данные генеративных моделей ИИ + неструктурированные данные (например, код, должностные инструкции, документы и/или записи Salesforce). Это то, что люди сделали, а не только то, что они говорят
Запрос / сопоставление / рекомендация	Запрос/сопоставление структурированных данных	Запрос/сопоставление структурированных данных	Сопоставление структурированных данных + сопоставление семантического значения (встраивания) неструктурированных данных. Огромный возможности к подведем итог выбран данные и понимать тенденции
Функциональность пользовательского интерфейса	Ввод и вывод структурированных данных	Ввод и вывод структурированных данных	Структурированный запрос + ввод на естественном языке. Структурированные данные + вывод на естественном языке. Интерфейс интерактивного чата автоматизирует рабочие процессы на основе структурированных и неструктурированных данных и знаний о мире.
Основные способы понять талант	Сосредоточены на транзакционных данных, отправленных пользователем	Навыки — это фундаментальный элемент для понимания таланта и сопоставления таланта с возможностями. Навыки и навыки часто претендуют на себя Физические лица	Навыки + мастерство навыков, понятых из рабочих артефактов. Помимо навыков – способности, которые понимаются и демонстрируются через опыт и достижения. Аргументируйте, сопоставьте и дайте рекомендации на основе возможностей людей, организаций, рабочих мест и концертов
Как создается онтология навыков	Навыки, если они используются, вводятся пользователями или менеджерами	Огромные усилия по созданию и поддержке онтологии мастер-навыков, состоящей из структурированных данных. Масштабные усилия по объединению онтологий и таксономий навыков в разных системах	Нет необходимости создавать или поддерживать основную онтологию в динамично меняющемся мире. Навыки могут постоянно выводиться платформой и выражаться как с помощью структурированных данных, так и на естественном языке. Отношения между навыками определяются во время выполнения, когда они используются приложениями.
Модели и обновления	Система может использовать преимущества обновлений моделей от облачных провайдеров.	Обычно обновляется медленно, улучшая машинные алгоритмы с течением времени.	Способен быстро адаптироваться к новым моделям, заменять модели и постоянно использовать преимущества алгоритмических инноваций.

Оригинал исследования:

Understanding AI in HR