Инструмент проверки арендодателей обвиняют в дискриминации

SafeRent, инструмент проверки арендодателей, больше не будет использовать «баллы» на основе искусственного интеллекта для оценки того, будет ли кто-то, использующий жилищные ваучеры, хорошим арендатором. В среду, НАС Окружной судья Энджел Келли окончательно одобрил урегулирование на сумму около 2.3 миллиона долларов, чтобы предотвратить дискриминацию арендаторов компанией SafeRent по признаку дохода и расы.

Урегулирование стало результатом коллективного иска, поданного в 2022 году в Массачусетсе. Иск утверждаемый что система оценки SafeRent непропорционально вредит людям, которые используют жилищные ваучеры, особенно чернокожим и испаноязычным заявителям. Помимо нарушения закона Массачусетса, в иске SafeRent также обвиняется в нарушении Закона о справедливом жилье, который запрещает дискриминацию в сфере жилья.

Как указано в первоначальном иске, алгоритм оценки SafeRent использует такие факторы, как кредитная история и неарендные долги, чтобы присваивать потенциальным арендаторам рейтинг SafeRent. Арендодатели могут использовать этот рейтинг, чтобы решить, принимать или отклонять чью-либо заявку на аренду. В иске утверждалось, что процесс непрозрачен, поскольку SafeRent не сообщает арендодателям, как он оценивает арендаторов. И система якобы несправедливо присваивала более низкие баллы чернокожим и испаноязычным арендаторам, а также людям, использующим жилищные ваучеры, вынуждая арендодателей отказывать им в аренде.

В рамках пятилетнего соглашения SafeRent больше не будет выдавать баллы отбора арендаторам, использующим жилищные ваучеры, по всей стране и не может выдавать баллы, когда арендодатели используют «доступную» модель баллов SafeRent. Сервис SafeRent также не может отображать рекомендации о том, «принять» или