Как человеческое курирование вернулось, чтобы навести порядок в ИИ

Мы поняли, что рекомендательные алгоритмы не так безошибочны, как когда-то их создавали технологические компании, и что передача работы по курированию людям по-прежнему имеет ценность.

HBO и Netflix не одиноки в том, чтобы заново открыть человеческие рекомендации. Рассмотрим некоторые другие примеры:

• Apple наняла главного редактора для своего приложения Apple News в 2017 году, и теперь в ней работают около десятка журналистов, которые решают, какие истории продвигать.
• В 2017 году Apple также перепроектировала iOS App Store на основе подборок от человеческих редакторов, разместив тематические статьи и списки рекомендаций на главном экране.
• В 2018 году YouTube отреагировал на давление за более безопасную версию своего приложения YouTube Kids , запустив « Коллекции » с видеороликами, подобранными YouTube и надежными партнерами, такими как PBS.
• Roku также недавно добавила раздел для детей в приложение Roku Channel с рекомендациями внутренней редакционной команды .
• В прошлом месяце Facebook снова начал нанимать журналистов , на этот раз, чтобы выбрать главные новости для предстоящего раздела своего приложения под названием News Tab.

В новостях Google недавно нанял Кришну Бхарата , изобретателя Новостей Google, который помог начать эру алгоритмического курирования, когда она дебютировала в 2002 году. Во время своего отсутствия в Google Бхарат критиковал компанию за то, что она не проверяла источники главных новостей .

Даже с алгоритмическими рекомендациями, технологические компании все еще полагаются на людей при обучении своим моделям машинного обучения и умеренному сомнительному контенту. Неясно, рассматривают ли вовлеченные компании это как постоянные инвестиции или просто как временную задержку, пока алгоритмы сами по себе не станут лучше.

КАК ВЕРНУЛОСЬ ЧЕЛОВЕЧЕСКОЕ КУРИРОВАНИЕ

Идея технологических компаний, способствующих развитию человеческого потенциала, возникала  и раньше, особенно в связи с запуском Apple Music в 2015 году. Джимми Айовин, который в то время возглавлял Apple Music, сказал, что одни алгоритмы не могут справиться с «эмоциональной задачей». «Выбор правильной песни в нужный момент, поэтому компания привлекла диджеев и знаменитых музыкантов для управления радиостанцией Beats 1 и наняла людей для создания плейлистов. Apple также начала нанимать редакторов для своих растущих новостных программ примерно в то же время, а Twitter готовил новостную ленту под человеческим названием Project Lightning , которая в конечном итоге стала Twitter Moments.

Но даже если эта тенденция уже просачивалась четыре года назад, она становится все более нужной сейчас, поскольку технологические компании сталкиваются с негативными последствиями своих продуктов. И Facebook, и Google признали, что их алгоритмические рекомендации сыграли свою роль в распространении дезинформации и поиске нежелательного контента для юных зрителей.

«Пройдет много времени, прежде чем машинное обучение — или как вы хотите назвать эти алгоритмы — сможет понять смысл заявления», — говорит Жан-Луи Гассе, венчурный капиталист и бывший руководитель Apple, который призвал к более человеческому курированию в технологиях.

МАСШТАБИРОВАНИЕ ЧЕЛОВЕЧЕСКОГО ЭЛЕМЕНТА

Причина, по которой технологические компании в первую очередь приняли рекомендательные алгоритмы, заключается в том, что они обеспечивают бесконечную персонализацию и обработку огромных объемов данных при небольших затратах.

Человеческие усилия не масштабируются таким образом: даже Apple не собирается нанимать достаточно опытных авторов, чтобы иметь дело с миллионом или более приложений.

Тем не менее, можно представить модель, в которой человеческие и алгоритмические кураторы сосуществуют и даже помогают друг другу. Хорошим примером является новостное приложение Flipboard, которое использует алгоритмы для персонализации, но вовлекает людей в несколько этапов.

Начнем с того, что собственные пользователи Flipboard выступают в качестве кураторов, добавляя статьи в собственные цифровые журналы для чтения другими пользователями. Эти кураторы, в свою очередь, помогают алгоритмам Flipboard решить, какие истории и источники рекомендовать, когда пользователи ищут определенную тему.

Но вместо того, чтобы останавливаться на достигнутом, Flipboard также нанимает команду редакторов-людей для точной корректировки результатов каждой темы. Например, если кто-то рассматривает катание на лодках или автомобили в качестве темы на Flipboard, алгоритм может попытаться вытолкнуть множество историй об авариях или преступлениях, потому что их сенсационный характер имеет тенденцию получать наибольшее количество кликов. Затем редакторы-люди могут лишить приоритета те виды историй в пользу тех, которые являются более полезными для чтения.

«У нас есть модели, которые пытаются извлекать уроки из опыта нашего сообщества, и это на самом деле вывод для наших групп по редактированию и курированию тем, у которых есть окончательное мнение обо всем», — говорит Арни Бхадури, инженер по машинному обучению в Flipboard. «Создание таких инструментов помогает нам увеличить человеческое курирование».

ОБ АВТОРЕ