Когда эффективность приводит к обратным результатам: Сбой в нормативном обеспечении

В январе 2025 года Южнокорейская комиссия по защите персональных данных (PIPC) оштрафовала Apple Pay и KakaoPay на общую сумму 8,3 млрд йен (около 5,8 млн долларов США) за нарушение законов о конфиденциальности данных. Штрафы были наложены из-за использования алгоритма оценки для предотвращения мошенничества «NSF score», который передавал конфиденциальные пользовательские данные в китайскую платежную систему Alipay без согласия пользователя или надлежащего раскрытия регулирующими органами. По иронии судьбы, этот инструмент, предназначенный для предотвращения финансовых потерь, привел к гораздо большему ущербу репутации и нормативным актам.

Это событие — не просто история о контроле за конфиденциальностью. Это хрестоматийный пример принципа компромисса между эффективностью и тщательностью (ETTO), предложенного профессором и исследователем в области безопасности Эриком Холлнагелем. ETTO напоминает нам, что системы, особенно находящиеся под давлением, склонны жертвовать тщательностью ради эффективности. Здесь не сработало не только соблюдение конфиденциальности, но и более глубокое суждение организации о том, какие риски имеют большее значение.

Это дело также закладывает основу для более широкого и структурированного реагирования на подобные сбои: руководство по нормативным гарантиям от TM Forum, новая отраслевая структура, которая формализует тип мета-гарантий, необходимых для выявления системных компромиссов и управления ими, подобных тем, которые показаны здесь..

Понимание принципа ETTO

Согласно Холлнагелю, организации и отдельные лица работают в условиях, когда они не могут быть эффективными и скрупулезными одновременно. Когда им не хватает времени, результатов или производительности, они идут на компромиссы. Эффективность часто побеждает.

Эти компромиссы не являются ошибочными по своей сути. На самом деле, они необходимы. Опасность заключается в том, что они принимаются по умолчанию. Пример с KakaoPay и Apple Pay показывает, что происходит, когда эти решения принимаются незаметно, без управления.

Два уровня надежности

1. Показатели NSF: Операционная надежность

KakaoPay и Apple Pay использовали оценку NSF (нехватка средств) для прогнозирования риска платежей. Это одна из форм обеспечения операционной безопасности: использование научных данных для предотвращения мошенничества, возвратных платежей и сбоев транзакций. Это эффективный шаг, направленный на защиту бизнеса и пользователей.

В основе алгоритма лежали пользовательские данные — электронные письма, номера телефонов, остатки на счетах — которые ежедневно передавались на серверы Alipay в Китае. Согласие не запрашивалось. Оценка воздействия на защиту данных (DPIA) не проводилась. Нормативные проверки не проводились.

2. Соблюдение конфиденциальности: Нормативные гарантии

В отличие от этого, нормативные гарантии направлены на обеспечение того, чтобы системы функционировали в рамках правовых и этических норм. Это требует прозрачности, подотчетности и явного согласия на обработку данных, особенно трансграничных.

В данном случае политика конфиденциальности была устаревшей. Пользователи не были проинформированы об использовании данных. Внутреннее управление не отметило передачу данных за рубеж. Сам факт обеспечения одного типа риска (финансового) нарушал другой (нормативный).

Как ETTO привела к нарушению нормативно-правовой базы

Это принцип ETTO в действии. В каждом решении приоритет отдавался скорости, автоматизации или прогнозированию, а не более медленной и обременительной работе по соблюдению требований и управлению. И каждый из этих компромиссов оставался недокументированным, непризнанным и, в конечном счете, неуправляемым.

ETTO — это не недостаток, но им необходимо Управлять.

В телекоммуникациях гарантия является операционным воплощением тщательности. Потому что, жертвуя чрезмерной тщательностью, мы получаем хорошие показатели эффективности, но это также приводит к утечкам информации.Холлнагель никогда не утверждал, что тщательность всегда лучше, чем эффективность. Компромиссы — это часть реальных операций. Но они должны быть осознанными, с механизмами управления, которые учитывают, чем жертвуют.

Основной сбой в деле KakaoPay был не просто ошибкой в защите конфиденциальности. Это был системный сбой: никто не остановился, чтобы спросить: “Что мы теряем, оптимизируя скорость и точность прогнозирования?”

Для обеспечения нормативных гарантий с учетом требований ETTO

Чтобы предотвратить подобные сбои в будущем, организациям необходимы структуры управления, которые делают компромиссы ETTO заметными и обдуманно.

Практика управления с учетом требований ETTO:

• Требует документирования компромиссов во время разработки проекта.
• Назначьте контроль рисков для развертывания AI/ML, где необходимо проверять как эффективность, так и соответствие требованиям.
• Наделите сотрудников по соблюдению требований и защите конфиденциальности полномочиями откладывать развертывание.
• Используйте интегрированные информационные панели, отображающие как операционные, так и нормативные показатели..

Институционализировать двойную гарантию:

Это переосмысливает саму гарантию: не как флажок или отдел, а как систему баланса между конкурирующими приоритетами. Система, которая определяет, когда скорость выигрывает, а когда нет.

Именно такая институциональная перспектива предложена в руководстве по нормативному обеспечению TM Forum. В руководстве нормативные гарантии рассматриваются как уровень мета-гарантий, направленный на выявление и устранение противоречий между соблюдением требований, операционной деятельностью, инновациями и доверием. Оно разработано для того, чтобы помочь операторам связи и поставщикам цифровых услуг обеспечить не изолированный характер гарантий, а их интеграцию в экосистему.

Вывод: Дизайн для осознанных компромиссов

Урок из штрафов Apple Pay и KakaoPay заключается не только в том, что конфиденциальность имеет значение. Речь идет о том, что гарантии должны учитывать невидимые компромиссы, которые системы совершают каждый день.

В мире, все больше ориентированном на искусственный интеллект, автоматизацию и обмен данными, эти компромиссы будут только множиться. Настоящие нормативные гарантии не устраняют динамику ETTO, а делают ее управляемой.

Не ждите, пока штрафы выявят ваши слабые места. Создавайте системы, которые заблаговременно и часто задают вопрос: “Чем мы торгуем? И кто будет решать, стоит ли оно того?”

Глоссарий

• DPIA: Оценка воздействия на защиту данных – систематический процесс оценки рисков для конфиденциальности при обработке данных.
• ETTO: Компромисс между эффективностью и тщательностью — принцип, описывающий, как системы склонны жертвовать тщательностью ради эффективности в условиях стресса.
• NSF: Оценка недостаточных средств — модель машинного обучения, используемая для прогнозирования вероятности сбоя платежа.
• PIPA: Закон о защите личной информации – основной закон Южной Кореи о защите персональных данных.

На чьей вы стороне: эффективности или тщательности? Почему?

Давайте поговорим

Другие новости:

---