Logo
Cover

Пока алгоритмы учитывают лишь биологические факторы совместимости, но некоторые исследователи хотят встроить в них моральную оценку. В 60-е такую функцию выполняла «Комиссия бога», а теперь ее хотят поручить ИИ.

251

По данным Объединенной сети по обмену органами (UNOS), более 114 тысяч американцев ожидают очереди на пересадку органов. Из них 83% нуждаются в донорской почке. До 2000-го года пациенты с тяжелой почечной недостаточностью полагались в основном на случай. Как рассказывает Quartz, человеку приходилось срочно искать подходящего донора среди родственников и друзей, либо дожидаться внезапной смерти незнакомца, чья почка подходила бы для пересадки. Третий вариант — записаться в лист ожидания и надеяться на лучшее.

Однако теперь процесс изменился, а шансы пациентов на выживание выросли. Немалую роль в этом сыграл математический расчет. В 2012 году профессор экономики Гарвардского университета Элвин Рот получил Нобелевскую премию за «теорию устойчивого распределения и практики дизайна рынков». На церемонию исследователь пришел вместе с нефрологом Майклом Ризом. Именно Рот и Риз стояли у истоков алгоритмической системы подбора доноров и реципиентов.

К тому времени более 2 тысяч американцев прошли через трансплантацию благодаря системе на базе машинного обучения. К 2018 году их число выросло до 6 тысяч.

Алгоритмическая система появилась в результате введения программы парных пожертвований. Если у пациента находился друг или родственник, готовый стать донором органа, но биологическая совместимость была низкой, ему все равно предлагали поучаствовать в донорской программе. Тем самым близкий человек пациента «оплачивал» ему возможность получить почку от другого донора. 

Изначально подбором совместимых органов занимались медики. Они находили две пары донор-реципиент и проводили между ними кросс-обмен. Теперь подбором занимается система на базе машинного обучения.

Алгоритм анализирует обширную базу данных и подбирает пары по биологическим параметрам совместимости. Учитывается время, которое пациент провел в списке ожидания, его возраст и наличие детей. Также ИИ отдает приоритет тем пациентам, которые сами в прошлом пожертвовали почку. 

Компьютер намечает оптимальные пары, но окончательное решение принимают медики. Именно они рассматривают каждый случай в отдельности.

Quartz рассказывает, что в 60-е пациенты в США вставали в очередь на диализ. Пройти процедуру могло не более 10 человек за раз, хотя нуждающихся было более 2 тысяч. Тогда решено было сформировать «Комиссию бога», в которую входили уважаемые люди разных профессий. Их не интересовали медицинские показатели, они оценивали жизнь человека с моральной точки зрения и отбирали наиболее достойных. 

Некоторые исследователи хотят наделить алгоритм «божественной» функцией, которая позволит ему отбирать не только совместимых, но и самых достойных пациентов для пересадки органов. Но проблема в том, что люди сами не знают, кого считать более достойным.

Команда американских исследователей недавно разработала алгоритм, который подбирал пару донор-реципиент не только на основе совместимости. Система определяла, у какого пациента больше шансов на выживание — и отдавала ему приоритет.

В этом случае зачастую выигрывали молодые здоровые люди, которые не болели раком и не злоупотребляли алкоголем. Со статистической точки зрения алгоритм прав, но с моральной его решения вызывают массу вопросов. Демографические данные доказывают, что мужчины живут меньше женщин, афроамериканцы — меньше американцев других рас. Если ИИ будет полагаться на эти факторы, то он неизбежно станет инструментом расовой и гендерной дискриминации.

Пациенты и сейчас с недоверием относятся к алгоритмам. Медики признают, что стараются не использовать термин «искусственный интеллект», чтобы не вызвать страх. Многим кажется, что ИИ — это суровая машина, которая безжалостно определяет, кому жить, а кому умереть. Впрочем, если наделить ее несовершенным моральным компасом, то так и будет.

Недавно ученые исследовали особенности мозга доноров, которые отдают почки незнакомцам. Оказалось, что на нейронном уровне сверхальтруизм напрямую связан с эмпатией.