Коллекторская индустрия продвигает GPT-4 как новый антиутопический способ заставить заемщиков платить по счетам.
Индустрия, исторически известная преследованием и запугиванием людей, заменяет человеческих сборщиков долгов на искусственный интеллект, что, по словам одной из компаний, «навсегда изменит систему взыскания долгов».
По словам представителей компании Skit.ai, инструменты ИИ приведут отрасль к «новой эре взыскания долгов». Цифровой голосовой агент — новое воплощение робозвонка, использующий чат-боты с искусственным интеллектом и функции преобразования текста в речь для динамичного и оперативного общения — может совершить миллионы исходящих звонков всего за несколько дней.
Работники могут использовать ИИ на каждом этапе процесса взыскания, утверждается в блоге компании, обеспечивая «мгновенное масштабирование» за счет «сквозной автоматизации», что, конечно, повысит производительность и снизит затраты. С другой стороны, для клиентов-должников возможность поговорить с реальным человеком во время процесса становится все более отдаленной.
В последние годы заемщики в США набирают все больше долгов. В четвертом квартале 2022 года долг домохозяйств вырос до рекордных 16,9 триллиона долларов, согласно данным Федеральной резервной системы Нью-Йорка, что сопровождалось увеличением количества просрочек по более крупным долговым обязательствам, таким как ипотека и автокредиты. Остатки задолженности по кредитным картам также находятся на рекордных уровнях. Пандемия вызвала огромный бум расходов в Интернете, и помимо традиционных кредитных карт, молодые потребители также были привлечены финтех-стартапами, продвигающими новые финансовые продукты, такие как чрезвычайно популярная модель «купи сейчас, заплати потом» от Klarna, Sezzle, Quadpay и им подобных.
Таким образом, долги растут, а с ростом процентных ставок все больше людей пропускают платежи. Это означает, что все больше непогашенных долгов передается на взыскание, что дает отрасли возможность использовать ИИ в извечный процесс подталкивания, уговаривания и давления на людей, чтобы они заплатили.
Между тем, Latitude «устраняет пробелы в функциональности, снижая нагрузку на агентов и повышая процент возврата»; Katabat обеспечивает «полную омни-канальную оркестровку, настоящее машинное обучение» и «мощный механизм стратегии взыскания»; а TrueAccord представляет собой «ведущую в отрасли платформу взыскания и сбора платежей на основе машинного обучения и удобного для потребителя цифрового опыта». TrueAccord также может похвастаться тем, что предлагает более эмпатичный опыт взыскания долгов, который, естественно, достигается благодаря таким признакам сострадания, как: «эксперименты в области A/B-тестирования, исследования потребителей и машинного обучения».
Это то же самое обещание, что и у многих других продуктов с искусственным интеллектом: делать больше, быстрее при задействовании меньшего количества людей; передавать собранные данные обратно в систему; настраивать, совершенствовать и повторять столько, сколько нужно.
В своем письме, отправленному компании Motherboard, Тимнит Гебру, основатель Исследовательского института распределенного искусственного интеллекта (DAIR), назвал использование ИИ для взыскания долгов «наказанием тех, кто и так испытывает трудности».
«В то время, когда неравенство доходов зашкаливает, когда мы должны сокращать такие вещи, как студенческие долги, неужели мы пытаемся создать инструменты, чтобы еще больше давить на тех, кто испытывает трудности? Это было бы верно, даже если бы программное обеспечение работало так, как задумано», — сказал Гебру.
«В дополнение к этому, мы знаем, что существует очень много предубеждений, которыми обладают эти системы на основе LLM, кодирующие гегемонистские и стереотипные взгляды», — добавила Гебру, ссылаясь на результаты работы о больших моделях ИИ, которую она написала в соавторстве с несколькими другими исследователями.
Одетт Уильямсон, старший юрист Национального центра защиты прав потребителей, говорит, что модели ИИ могут улавливать системные предубеждения из обучающих данных, которые отражают долгую историю кредитной дискриминации в отношении групп населения с низким уровнем дохода.
«Являются ли [учебные] данные неточными, не вводят ли они в заблуждение, или они полные?» сказал Уильямсон. «Учитывая нашу расистскую историю в США… будут ли эти данные отражать дискриминационные тенденции, и если да, то как это повлияет на решения, которые система будет принимать в дальнейшем, о том, на кого ориентироваться и насколько агрессивным быть при взыскании долгов?».
Реальный пример вреда автоматизированного взыскания долгов появился в Австралии в 2016 году, когда правительство переплатило по социальным выплатам, а затем использовало автоматизированную систему, чтобы попытаться получить деньги, что привело ко катастрофическими результатами.
По словам Уильямсона, осознание необъективности результатов, которые были задокументированы в таких областях, как вынесение приговоров в тюрьмах, прогнозирование уровня отсева школьников и мониторинг мошенничества в сфере социального обеспечения, требует тщательного аудита.
«В конце концов, мы должны убедиться, что эти модели статистически обоснованы, что они тестируются на всех этапах разработки, а также при их применении… и если модели показывают дискриминационные или необъективные результаты, и вы не можете это исправить, то их просто не следует использовать», — сказала она.
