В середине апреля пользователи в основном искали на Amazon.com туалетную бумагу, салфетки, маски, дезинфекторы, санитайзеы, бумажные полотенца. Они не просто искали, они скупали эти товары, оптом. 

А новым бестселлером на Амазон стала упаковка масок для лица из 50шт.

С появлением COVID-19 мы стали покупать вещи, о которых ранее не задумывались. Поисковое и покупательское поведение изменилось мгновенно: на смену бестселлерам Амазон (а это чехлы для телефонов, зарядные устройства, конструкторы LEGO) быстро пришли бытовые товары первой необходимости. 

Британская компания Nozzle, которая специализируется на алгоритмической рекламе для Амазон-ритейлеров, показывает это изменение в простом графике. 

график изменения спроса на товары, связанные с COVID-19

Потребовалось меньше недели, чтобы новыми самыми продаваемыми товарами на Амазон в разных странах стали продукты, связанные с COVID-19. По покупкам пользователей можно отслеживать распространение вируса: эти товары сначала скупали в Италии, затем в Испании, Франции, Канаде и США. Великобритания и Германия немного отстают по объемам закупок. 

По словам Рела Клайна, генерального директора Nozzle, это невероятный сдвиг, который произошел всего за 5 дней. Он волной прокатился по розничным сетям стран.

Изменения потребительского поведения также затронули и искусственный интеллект, привели к небольшим сбоям в работе алгоритмов, которые применяются для товарообеспечения, обнаружения мошенничества, в маркетинговых целях и т.д. 

Модели машинного обучения, которые анализируют нормальное потребительское поведение, вдруг обнаружили, что норма изменилась, а паттерны уже не работают как раньше. 

Practera Edge, консалтинговая компания по искусственному интеллекту, указывает, что автоматизацию в сложившейся ситуации практически невозможно применять. Другие же полагают, что автоматизация процессов возможна, но с ручной корректировкой.

Пандемия подчеркнула, насколько наши жизни связаны с искусственным интеллектом. Мы видим, как изменения в нашей повседневной жизни приводят к изменениям в ИИ. Последние в свою очередь сильно влияют на нашу жизнь. Это также доказывает, что человек остается неотъемлемой частью работы любой автоматизированной системы. 

Модели машинного обучения устроены так, чтобы реагировать на изменения. Но некоторые из них очень неустойчивые. Они дают сбои, когда вводные данные сильно изменяются в сравнении с тем, что они привыкли обрабатывать и на чем они обучены. 

Раджив Шарма, вице-президент Practera Edge, указывает, что невозможно раз и навсегда настроить ИИ-систему и уйти. Это живая система.

Небольшие компании, применяющие ИИ для формирования складов, могут пострадать больше всего, продолжает Шарма. Системы не обучены обрабатывать такие кратковременные всплески и могут делать ложные прогнозы. 

К примеру, стриминговые компании столкнулись с резким скачком спроса на контент. Их рекомендационные системы не могли этого предвидеть. 

Одна из компаний (клиент Practera Edge) применяет искусственный интеллект для персоанлизированных рекомендаций, релевантных интересам пользователей. Резкий же скачок активности пользователей привел к сбою системы. И рекомендации стали менее полезными.

Такие проблемы чаще всего возникают у малого бизнеса, который внедряет искусственный интеллект, но не содержит штатных сотрудников, которые бы поддерживали систему.

Переобучение системы невозможно без человека.

Текущая ситуация доказала, что все может быть намного хуже даже самого плохого сценария, заложенного при обучении ИИ-системы. Шарма полагает, что машинное обучение должно проводиться не только на изменениях последних лет, но и на нестандартных экономических событиях как Великая депрессия 30х годов, Черный Понедельник, который обвалил фондовый рынок в 1987 году, мировой финансовый кризис 2007-2008 годов. 

Пандемия — прекрасный триггер и событие для переобучения ИИ-систем. 

Неспособность машинного обучения и искусственного интеллекта самостоятельно перестраиваться при критичном изменении входных данных доказывает и опыт Facebook. Социальная сеть также применяет искусственный интеллект для определения спама и фейка. В период пандемии задача алгоритма Facebook в том, чтобы по максимуму исключить недостоверную информацию о COVID-19 из лент пользователей.

И хотя Фейсбук утверждает, что их алгоритм отфильтровал 88,8% (в сравнении с 80,2% в прошлом квартале), все же система не способна работать полностью автономно.

ИИ может исключать контент самостоятельно, если уровень уверенности в его спамности/недостоверности достаточно высок. Но в большинстве случаев система не может принять самостоятельное решение.

Какие бы модели обучения не применял Фейсбук, ИИ оказался бессильным в определении сомнительного контента о COVID-19 (в частности теории заговора о возникновении вируса и фейковых новостей о возможных препаратах против вируса).

Для определения такой информации Фейсбук работает с 60 фактчекинг-компаниями. Если человек единожды пометит контент как ненадежный/опасный (текст, изображение, заголовок), алгоритм автоматически станет определять и помечать подобный контент. 

Команде пока не удалось обучить ИИ настолько, чтобы тот самостоятельно умел определять дезинформацию и ложь. 

Опыт Фейсбука также доказывает несостоятельность ИИ-систем и машинного обучения. Искусственный интеллект не способен самостоятельно качественно модерировать контент. Системы отлично фильтруют знакомые образцы информации. Но когда вводные данные меняются, качество результата снижается. 

Фейсбук продолжает инвестировать в разработку более адаптивных ИИ-систем, но это не частная проблема конкретной компании, а глобальная проблема, которую пока невозможно решить. 

Что происходит с поиском

Поисковая система также применяет искусственный интеллект для обучения алгоритма ранжирования. И точно также привлекает человека (команду асессоров), чтобы обучать алгоритм.

Зарубежные независимые эксперты сходятся во мнении, что последние изменения в выдаче обусловлены в большей степени изменением поискового и потребительского поведения, нежели изменениями в поисковых алгоритмах.

Для вебмастеров и оптимизаторов это значит, что:

  • надо взять тайм-аут, пока поисковую выдачу перестанет трясти, не предпринимать радикальных действий (изменения ссылочной, контентной, маркетинговой стратегий)
  • проанализировать ситуацию и определить, какой контент и какие сайты оказались выше/ниже в выдаче
  • установить объективные причины, почему позиции сайтов изменились именно так

Рел Клайн указывает, что в период пандемии для пользователей стала важнее быстрая доставка товаров, а алгоритм  Амазон начал продвигать тех ритейлеров, у которых есть собственная доставка, чтобы “разгрузить” свои мощности.

Работа оптимизаторов и вебмастеров в ближайшие месяцы после пандемии будет больше аналитической, направленной на понимание причин произошедших изменений.

Что хотят пользователи? Как изменились их приоритеты в условиях карантинных ограничений? Как сам бизнес в общем и сайт в частности может адаптироваться под новые предпочтения аудитории?

Источник MIT Technology Review

Эта публикация также доступна на Дзен-канале Miralinks!

5+
Поделиться: