Использование данных в разработке AI: уроки из Pokémon GO
В 2016 году игра в дополненной реальности (AR) Pokémon GO стала глобальным сенсацией, совмещая физическое исследование с виртуальной игрой. За кулисами огромная популярность игры также служила уникальной возможностью для ее разработчика, Niantic, собирать огромные объемы данных от миллионов пользователей. Хотя эти данные стимулировали инновации в области AR и машинного обучения, они также вызвали серьезные вопросы о конфиденциальности и соблюдении эволюционирующих законов о защите данных. Эта статья исследует, как Niantic использовал данные игроков для обучения системам искусственного интеллекта (AI), и рассматривает критические последствия для конфиденциальности организаций, разрабатывающих продукты на основе AI.
Использование данных игроков для обучения AI
Основной геймплей Pokémon GO основывается на геолокации и технологии AR, требующей от игроков взаимодействия с реальными местами через свои смартфоны. Пока игроки путешествовали по своим районам и дальше, Niantic собирал обширные данные, включая: геопространственные данные: картографирование, где и как двигаются игроки в физическом пространстве. Данные взаимодействия пользователя: отслеживание взаимодействия с объектами в игре, такими как ловля Pokémon, посещение PokéStops и участие в боях. Данные датчиков устройства: использование данных гироскопа, акселерометра и камеры для улучшения AR-опыта. Этот набор данных оказался бесценным для обучения моделей AI. Например, геопространственные данные помогли улучшить алгоритмы картографирования, позволив Niantic усовершенствовать AR-рендеринг и улучшить инструменты навигации в реальном мире. Кроме того, агрегированные шаблоны поведения игроков, вероятно, информировали предсказательные алгоритмы для дизайна игр и градостроительных приложений.
Законное основание для обработки данных
В соответствии с законами о защите данных, такими как GDPR, организации должны иметь законное основание для сбора и обработки персональных данных. Niantic, вероятно, полагался на согласие пользователей, полученное через условия предоставления услуг и политику конфиденциальности Pokémon GO. Однако возникают вопросы о том, было ли это согласие информированным и достаточно конкретным, чтобы охватить вторичные цели, такие как обучение AI.
Минимизация данных и ограничение цели
GDPR подчеркивает, что сбор данных должен быть ограничен тем, что необходимо для указанных целей. Двойное использование данных Niantic для игрового процесса и обучения AI может растянуть принцип ограничения цели. Могли ли игроки разумно предвидеть, что их игровые данные будут способствовать более широким инициативам машинного обучения?
Анонимизация данных
Вероятно, Niantic собирал и анонимизировал данные игроков перед их использованием для обучения AI, снижая риски для конфиденциальности. Однако с усовершенствованием техник ре-идентификации вопросы о прочности практик анонимизации остаются актуальными.
Важные выводы для организаций, использующих данные пользователей в разработке AI
Прозрачность не подлежит обсуждению: компании должны информировать пользователей не только о сборе данных, но и о последующем их использовании, например, для обучения AI. Конфиденциальность по умолчанию: компании должны внедрять меры защиты конфиденциальности на каждом этапе разработки AI, от сбора данных до развертывания модели. Проактивное управление: регулярные аудиты наборов данных для обучения AI обеспечивают соблюдение законов о конфиденциальности и снижают риски неправильного
