Омбудсмен: алгоритм оценки ухода за пожилыми в Австралии неразумен и несправедлив
Уполномоченный по делам Содружества Австралии установил, что правительственный алгоритм, определяющий домашнюю помощь пожилым людям, неразумен, несправедлив и не предполагает контроля со стороны человека. В докладе призывают изменить закон и пересмотреть правила алгоритма.
Алгоритм, который федеральное правительство Австралии использует для определения уровня ухода, положенного пожилым людям, неразумен, несправедлив и не имеет достаточного человеческого контроля. К такому выводу пришло расследование уполномоченного по делам Содружества (омбудсмена, проверяющего работу государственных органов) Иэна Андерсона. Доклад объёмом 104 страницы обсуждался в понедельник, 26 октября; он важен, поскольку от инструмента зависит домашняя поддержка пожилых людей по всей стране.
В чём проблема
Алгоритм входит в обязательный Интегрированный инструмент оценки (IAT), которым пользуются оценщики по уходу. По закону они не вправе изменить рекомендованный инструментом пакет финансирования, даже если решение клинически неверно. В докладе сказано, что нет публичной информации, которая бы осмысленно объясняла, как алгоритм превращает входные данные в результат, поэтому IAT назван «технологическим чёрным ящиком».
Расследование началось в апреле после обеспокоенности СМИ и общества, в том числе публикаций Guardian Australia о пожилых людях, оставшихся без должного ухода после оценки алгоритмом. Документы, полученные по закону о свободе информации, показывают, что чиновники осознали запрет на человеческое вмешательство лишь за несколько часов до внедрения в ноябре.
Выводы омбудсмена
В докладе отмечено, что Министерство здравоохранения и по делам старения не обеспечило предусмотренный договорами контроль качества и не проверяло наличие у оценщиков обязательной клинической квалификации. Испытания и консультации, на которые ссылалось ведомство, относились к более ранним версиям инструмента и прежнему законодательству, то есть содержательных консультаций не было. Министерство также не выполнило рекомендации королевской комиссии по делу «роботдебт» о прозрачности автоматизированных решений правительства.
В июле министерство объявило порядок, при котором оценщики могут передавать ошибочные решения на пересмотр в ведомство. Андерсон считает это недостаточным: сами оценщики должны иметь право менять клинически неуместные решения. Омбудсмен призывает провести всесторонний пересмотр законодательства и правил алгоритма и срочно устранить правовые проблемы. Министерство запрос о комментарии получило.
