Решение проблемы расовой дискриминации в рекламе на Facebook

Как таргетинг рекламы Facebook привел к проблемам

В 2016 году ProPublica выявила, что Facebook позволял рекламодателям исключать пользователей из показа рекламы на основе их расы или этнической принадлежности. Используя функцию под названием «Этнические предпочтения» (Ethnic Affinities), рекламодатели могли нацеливаться на такие группы, как афроамериканцы, американцы азиатского происхождения и латиноамериканцы, или исключать их из рекламы жилья, трудоустройства и кредитов. Эта практика нарушала Закон о справедливом жилье 1968 года и другие законы о борьбе с дискриминацией. Несмотря на первоначальные отрицания Facebook, скандал разрастался, поскольку законодатели и правозащитные группы требовали действий. Основная проблема: мощные инструменты таргетинга рекламы Facebook, будучи революционными для маркетологов, могли быть использованы для дискриминации. В этой статье рассматривается проблема, судебные разбирательства, ответные меры Facebook и инновационные решения для предотвращения расово дискриминационной рекламы на платформе.

Механика дискриминационного таргетинга

Рекламная платформа Facebook позволяет рекламодателям выбирать аудиторию на основе множества атрибутов, включая возраст, пол, местоположение, интересы и поведение. Хотя Facebook не собирает данные о расе пользователей напрямую, он определяет «мультикультурную принадлежность» на основе лайков пользователей, страниц, на которые они подписаны, и другой активности. Эта категория была предназначена для того, чтобы помочь рекламодателям охватить разнообразную аудиторию соответствующим контентом, но она также позволяла исключать. Например, рекламодатель жилья мог исключить пользователей с принадлежностью к афроамериканской культуре, фактически лишая их доступа к возможностям жилья. Даже без явных расовых категорий алгоритм Facebook может научиться нацеливаться на определенные группы или исключать их на основе коррелированных данных. Исследование 2019 года, проведенное Северо-Восточным университетом и Upturn, показало, что алгоритм Facebook показывал рекламу вакансий секретарей в основном женщинам, а рекламу механиков — в основном мужчинам, укрепляя профессиональные стереотипы. Такие результаты могут иметь дискриминационные последствия, даже если они непреднамеренны.

Правовые и гражданские проблемы

Практика дискриминационной рекламы на Facebook столкнулась со значительным юридическим противодействием. В 2016 году Черный кокус Конгресса призвал Facebook прекратить позволять рекламодателям исключать расовые и этнические группы из рекламы жилья, ссылаясь на нарушения Закона о справедливом жилье. Расследования ProPublica показали, что Facebook продолжал одобрять рекламу, исключающую меньшинства, несмотря на обещания исправить проблему. В 2018 году генеральный прокурор штата Вашингтон Боб Фергюсон начал расследование, которое привело к юридически обязывающему соглашению, требующему от Facebook удалить возможность исключать защищенные группы из рекламы жилья, трудоустройства, кредитов, страхования и общественных мест. Соглашение также обязало Facebook выплатить 90 000 долларов судебных издержек. Кроме того, правозащитные группы подали множество исков, кульминацией которых стало знаковое урегулирование в 2019 году, когда Facebook согласился изменить свою рекламную практику, включая удаление определенных опций таргетинга для рекламы жилья, трудоустройства и кредитов. Министерство жилищного строительства и городского развития США (HUD) также подало иск, утверждая, что сама система доставки рекламы Facebook дискриминирует, даже когда рекламодатели явно не исключают группы.

Ответ Facebook: изменения в политике и правоприменение

В ответ на критику Facebook внес несколько изменений в свою рекламную политику. В 2017 году Facebook временно отключил возможность исключать мультикультурные группы из рекламы. В следующем году он навсегда удалил опции исключения для защищенных групп в рекламе жилья, трудоустройства, кредитов, страхования и общественных мест. Facebook также ввел требование самосертификации для рекламодателей, чтобы подтвердить соблюдение антидискриминационных законов. Совсем недавно Facebook полностью упразднил категории мультикультурной принадлежности, признав их потенциальное неправомерное использование. Однако правоприменение было непоследовательным. Расследование ProPublica 2020 года показало, что дискриминационная реклама все еще может просачиваться, например, реклама вакансий медицинского учреждения, нацеленная только на афроамериканцев и исключающая пожилых работников. Facebook удалил рекламу после обращения, но инцидент подчеркнул проблемы автоматизированного правоприменения. Критики утверждают, что reliance Facebook на самосертификацию и собственные предубеждения его алгоритма требуют более надежного надзора.

Скрытая предвзятость алгоритма

Даже когда рекламодатели не указывают дискриминационный таргетинг, алгоритм доставки рекламы Facebook может приводить к дискриминационным результатам. Алгоритм решает, какие пользователи в целевой аудитории увидят рекламу, на основе прогнозов интересов, полученных из данных пользователей. Это может привести к тому, что реклама вакансий или жилья будет показываться непропорционально определенным демографическим группам, усиливая существующее неравенство. Например, исследование Northeastern/Upturn показало, что реклама, ищущая механика, показывалась мужчинам в 13 раз чаще, чем женщинам, несмотря на то, что была нацелена на всех. Дэвид Броуди, адвокат из Комитета юристов по гражданским правам в соответствии с законом, объяснил, что алгоритм может интерпретировать обстоятельства, возникающие в результате системной дискриминации, как предпочтения, perpetuating цикл неравенства. Facebook признал эти проблемы и обязался изучить алгоритмическую предвзятость, но исследователи и активисты разочарованы отсутствием прозрачности и конкретных выводов. Компания не опубликовала никаких результатов своих внутренних исследований расовой предвзятости в доставке рекламы.

Правовая защита и дилемма Раздела 230

Юридическая защита Facebook часто основывается на Разделе 230(c) Закона о благопристойности в коммуникациях, который защищает онлайн-платформы от ответственности за контент, созданный третьими лицами. В судебном процессе о общественных местах в Калифорнии Facebook утверждал, что на него нельзя подать в суд за рекламу на его платформе. Однако истцы утверждают, что алгоритмы доставки рекламы Facebook являются его собственным продуктом, а не контентом третьих лиц, и поэтому не защищены Разделом 230. Этот юридический вопрос остается нерешенным. Между тем, федеральные законы, такие как Закон о справедливом жилье и Раздел VII Закона о гражданских правах, запрещают дискриминацию в жилье и трудоустройстве, но правоприменение в отношении алгоритмов платформы все еще развивается. Закон Калифорнии также запрещает умышленную дискриминацию в общественных местах, и в ожидающем рассмотрения иске утверждается, что алгоритмы Facebook обращаются с людьми по-разному на основе защищенных характеристик, нарушая этот закон. Поскольку судебные разбирательства продолжаются, границы ответственности платформы за алгоритмическую дискриминацию будут проверены.

Инновационные решения для предотвращения дискриминационной рекламы

Решение проблемы расово дискриминационной рекламы требует многостороннего подхода. Во-первых, прозрачность имеет решающее значение. Facebook должен публиковать подробные результаты своих внутренних исследований алгоритмической предвзятости и делиться данными с независимыми исследователями. Во-вторых, рекламодатели должны нести ответственность через строгое правоприменение, а не только самосертификацию. Автоматизированные системы должны регулярно проверяться на предмет дискриминационных результатов, и Facebook должен инвестировать в ИИ, который может обнаруживать и предотвращать дискриминационную рекламу до ее запуска. В-третьих, сам алгоритм доставки рекламы должен быть разработан с учетом справедливости, гарантируя, что он не будет непреднамеренно исключать или нацеливаться на группы на основе защищенных характеристик. Это может включать корректировку алгоритма для приоритета разнообразия в доставке рекламы или разработку методов машинного обучения, учитывающих справедливость. В-четвертых, политики должны обновить антидискриминационные законы, чтобы явно охватывать алгоритмическое принятие решений, предоставляя четкие guidelines для платформ. Наконец, сотрудничество между технологическими компаниями, правозащитными группами и регуляторами имеет важное значение для разработки отраслевых стандартов. Объединяя технологии, политику и надзор, мы можем создать рекламную экосистему, которая будет одновременно эффективной и справедливой.

Путь вперед

Проблема расово дискриминационной рекламы на Facebook — это не просто технический сбой; она отражает более глубокие общественные предубеждения, которые могут усиливаться мощными алгоритмами. Хотя Facebook добился прогресса, удалив явные инструменты исключения, риск сохраняется, пока таргетинг и доставка рекламы полагаются на данные, коррелирующие с расой. Недавнее упразднение компанией категорий мультикультурной принадлежности является шагом вперед, но оно должно сопровождаться постоянным мониторингом и адаптацией. В конечном счете, решение этой проблемы требует приверженности справедливости, выходящей за рамки соблюдения требований. Это означает разработку систем, которые активно противодействуют дискриминации, а не просто избегают ее. По мере того, как рекламодатели, пользователи и регуляторы становятся более осведомленными об этих проблемах, давление на Facebook с целью ответственных инноваций будет только расти. Путь к справедливой рекламе сложен, но при постоянных усилиях и сотрудничестве он достижим.