Главное здание Министерства социальных дел и занятости и Министерства здравоохранения, социального обеспечения и спорта. Гаага, Нидерланды.

© 2019 Sipa via AP Images

В конце октября состоялись судебные слушания по групповому иску о действующей в Нидерландах драконовской системе надзора за получением социальных пособий. Решение суда ожидается в январе.

Нидерланды неизменно входят в список стран с самым высоким в мире индексом демократии. Однако вы будете удивлены, узнав, что вместе с этим Нидерланды являются родиной одной из наиболее интрузивных систем надзора за получением социальных пособий с автоматизированным отслеживанием и профилированием малоимущих.  

29 октября в Окружном суде Гааги состоялись слушания о законности Systeem Risico Indicatie / SyRI (Системы индикации риска) – правительственной автоматизированной системы для выявления фактов мошенничества в сфере социального обеспечения. В иске, поданном коалицией организаций гражданского общества и активистов, утверждается, что эта система нарушает законы о защите персональных данных и нормы в области прав человека.

SyRI – это модель расчета рисков, разработанная Министерством социальных дел и занятости для прогнозирования вероятности мошенничества с социальными пособиями и налогами или нарушения трудового законодательства со стороны получателей пособия. В своих расчетах SyRI задействуeт огромный банк собираемых различными государственными учреждениями личных и конфиденциальных данных: от справок о работе до информации о социальных пособиях, от сведений о личных долгах до данных об образовании и местах проживания.

Определив человека как потенциального мошенника, система уведомляет об этом соответствующее государственное учреждение, которое в течение двух лет может инициировать расследование.  

Выборочное внедрение SyRI в районах с преимущественно низким уровнем дохода создало режим наблюдения, при котором беднейшие слои населения в непропорциональных масштабах становятся объектами более пристальных проверок. До настоящего времени совместные усилия министерства и муниципальных властей были направлены на реализацию SyRI в Роттердаме (втором по величине городе Нидерландов, являющимся к тому же населенным пунктом с самым высоким уровнем бедности в стране), а также в Эйндховене и Харлеме. На суде правительство признало, что SyRI была нацелена на районы концентрированного проживания граждан, получающих социальные пособия, несмотря на то, что доказательств повышенного уровня мошенничества с социальными пособиями в этих районах нет.

SyRI не просто чревата дискриминационным воздействием на право на неприкосновенность частной жизни получателей социальных пособий, но также создает условия для нарушения их права на социальное обеспечение. Поскольку SyRI окутана завесой секретности, у получателей пособий нет никакой возможности узнать в какой момент или каким образом расчеты системы оказывают влияние на решение о лишении их жизненно важных льгот.

Власти отказались рассекретить сведения о принципах работы SyRI, опасаясь, что разъяснение алгоритмов расчета рисков позволит мошенникам обходить систему. Однако при этом была обнародована информацию о том, что система генерирует «ложные срабатывания» – случаи, когда система ошибочно отмечает людей как потенциальных мошенников.

Без дополнительных четких разъяснений практически невозможно установить последствия этих ошибок, в частности, приводили ли они к незаконным расследованиям в отношении получателей социальных пособий или к неправомерному приостановлению выплат.

По утверждению властей, эти «ложные срабатывания» используются ими для устранения недостатков модели расчета рисков, но проверить это утверждение тоже нет никакой возможности. На самом деле, можно только гадать, обладает ли система уровнем точности, достаточным для оправдания оценок, в результате которых люди находятся под подозрением в течение двух лет.

SyRI является частью широкой глобальной тенденции к внедрению искусственного интеллекта и других технологий, основанных на больших массивах данных, в управление делами социальных пособий и иных базовых услуг. Но зачастую интеграция этих технологий происходит без конструктивных консультаций с получателями социальной помощи и широкой общественностью.

В случае SyRI, эта система была утверждена Парламентом как часть пакета предложений по реформе системы социального обеспечения, принятого в 2014 году. Однако вместо того, чтобы с самого начала подвергнуть основанные на высоких технологиях методы выявления фактов мошенничества тщательному правовому анализу, правительство в течение почти десяти лет экспериментировало с ними. Местные организации также утверждают, что сам законодательный процесс был ненадлежащим. Согласно иску, Парламент не смог должным образом разрешить проблемы, связанные с неприкосновенностью частной жизни и защитой персональных данных, на которые ему было указано его же законодательным консультативным советом и государственной службой по вопросам защиты персональных данных.

Суд вынесет свое решение в январе. Мы будем следить за тем, защитит ли он права самых нуждающихся и уязвимых категорий населения от недостатков и непредсказуемости автоматизированных систем.