Этика

Предусмотренные применения

• Аудит смещений систем компьютерного зрения. Структурированные эталонные метки фенотипов по группам позволяют измерять точность систем компьютерного зрения (классификаторов лицевых признаков, детекторов тона кожи, оценщиков возраста) по каждой группе в ходе аудита.
• Обучающие подвыборки, сбалансированные по шкале Fitzpatrick. Поле skin_tone позволяет формировать обучающие и оценочные подвыборки, сбалансированные по распределению Fitzpatrick от I до VI, с большей детализацией, чем четырёхкатегорийные расовые метки, типичные для существующих бенчмарков.
• Генерация изображений ИИ на основе реальных распределений. Распределения фенотипов по группам служат основой для промптов генераторов изображений, обеспечивая разнообразие внутри группы вместо стереотипных результатов из-за коллапса мод.
• Антропологический справочник и образование. Каталог из более чем 4 000 групп с нормализованными полями родины / языка / кодов ISO / религии поддерживает межгрупповые запросы, учебные работы и образовательное использование.
• Привязка промптов для многоэтнической NLP. Структурированные демографические эмбеддинги для привязки выходных данных языковых моделей к разным этническим группам.

Недопустимые применения

Набор данных не подходит ни для одного из следующих применений:

• Индивидуальная классификация. Определение этнической группы человека по его фотографии. Набор данных описывает этнические группы в совокупности; отдельные строки не являются обучающими данными для классификаторов.
• Идентификация или слежка. Сопоставление людей с группами по фенотипическим признакам. Строки по изображениям сохраняют исходные URL для целей аудита; они не предназначены для биометрического сопоставления, и любое применение, идентифицирующее людей по фенотипическим признакам отдельных изображений, явно недопустимо.
• Дискриминация на основе профиля. Отбор людей по фенотипу при найме, кредитовании, иммиграции или в любом другом процессе принятия значимых решений.
• Иерархические утверждения о популяциях. Различия в распределениях между группами в этом наборе данных отражают выборочную основу Wikipedia, а не генетические иерархии или иерархии признаков на уровне популяций. Утверждения о том, что у одной группы «больше» или «меньше» какого-либо фенотипического признака, этими данными не подтверждаются.
• Причинные генетические выводы. Распределения фенотипов наблюдательные, а не экспериментальные. Набор данных не может подтвердить утверждения о том, какие генетические локусы определяют те или иные фенотипические вариации.

Мы выбрали эти границы сознательно. Карточка набора данных на HuggingFace, методологическая статья и эта страница об этике содержат одно и то же явное заявление о недопустимых применениях.

Оговорки о смещении источников

Главное ограничение набора данных: выборочная основа источников Wikipedia. Каждая строка по изображению в корпусе взята из фотографии Wikipedia, находящейся в общественном достоянии, на которой изображён человек, упомянутый в статьях Wikipedia из серии «List of {Ethnicity} people». Эта выборка:

• Смещена в сторону мужчин. Публичная известность в Wikipedia в большинстве категорий (политики, учёные, спортсмены, исторические личности) смещена в сторону мужчин; общее смещение составляет примерно ~70 до 75% мужчин.
• Смещена в сторону публичных лиц. Учёные, политики, артисты, спортсмены и исторические личности представлены непропорционально широко по сравнению с населением в целом.
• Смещена из-за охвата на английском языке. Группы с более широким присутствием в англоязычной Wikipedia имеют больше наблюдений по изображениям; это слабо коррелирует с размером англоязычной диаспоры, а не с численностью коренного населения.
• Смещена из-за эпохи фотографии. У людей, живших до появления фотографии, нет изображения в инфобоксе, поэтому у групп, чьё присутствие в Wikipedia преимущественно историческое, охват наблюдений по изображениям ниже.

Агрегации по группам на сайте явно показывают эти оговорки всякий раз, когда источники на 100% состоят из Wikipedia (сейчас это относится ко всем агрегациям). Будущие версии, включающие изображения от пользователей или второй источник в общественном достоянии, ослабят это смещение.

Граница исторических злоупотреблений

Ряд анатомических параметров каталога использует терминологию, которой злоупотребляла псевдонаучная расовая типология XIX и начала XX века. Наиболее известный пример: черепной указатель в словаре head-shape. Категории долихоцефалии / мезоцефалии / брахицефалии широко использовались для обоснования иерархических утверждений о популяциях.

Исследование Боаса 1912 года (Changes in bodily form of descendants of immigrants, American Anthropologist 14(3): 530-562) показало, что черепной указатель изменяется под влиянием среды в пределах одного поколения, что опровергает любое использование морфологии черепа как постоянного популяционного маркера. Современная краниофациальная антропология использует эти параметры только как описательные характеристики развития, клинические и индивидуальные. Блок оговорок в файле словаря явно отвергает исторические злоупотребления и ограничивает параметр клиническим (скрининг краниосиностоза, детская ортопедия), судебно-медицинским (индивидуальная идентификация) применением и индивидуальным описанием.

Пользователям этого набора данных следует воздерживаться от сопоставления категорий черепного указателя или любого другого параметра каталога с расовыми или популяционно-типологическими утверждениями. Распределения по группам документируются для полноты, а не как определения или различия.

Схемы анатомии гениталий

Три файла словарей охватывают анатомию наружных половых органов (vulva, penis, pubic-region). Они опубликованы в академическом порядке (с источниками, совместимы с онтологиями, обоснованы для рецензентов), но имеют на уровне файла флаг observations_source_policy: "internal_only". Ни одно наблюдение по этим параметрам не заполняется на основе фотографий из общественного достояния, и ни одно не попадает в публичный набор данных.

Обоснование: Wikipedia и подобные источники в общественном достоянии не содержат соответствующих фотографий; источники контента для взрослых имеют проблемы с согласием и происхождением, что делает их непригодными для создания академических наборов данных; выборки клинических фотографий требуют согласия на уровне этического комитета, которое открытый набор данных гарантировать не может. Схема опубликована, чтобы академическая таксономия была прозрачной; наблюдения остаются внутренними до появления источников с подтверждённым согласием.

Лицензия и повторное использование

Код опубликован под лицензией Apache License 2.0; набор данных опубликован под лицензией CC BY 4.0. URL изображений в наборе данных ссылаются на материалы Wikipedia / Wikimedia Commons, на которые распространяются их собственные лицензии для каждого изображения (обычно CC-BY-SA, общественное достояние или различные варианты Creative Commons); перед распространением самих файлов изображений сверьтесь с URL-ссылкой в каждой строке.

Свободное лицензирование выбрано намеренно. Академические исследователи, команды, изучающие справедливость алгоритмов, и разработчики ИИ, желающие создать зеркало набора данных с другой атрибуцией или переименовать его для применения в конкретной области, могут свободно это делать. Артефакты созданы так, чтобы пережить любой отдельный хостинг или брендинг.