Закон HB 1806 делает незаконным участие искусственного интеллекта в любой терапевтической коммуникации, разработке или корректировке планов лечения без одобрения квалифицированного специалиста. Нарушителям грозит штраф до $10 000 за каждое нарушение, включая незаконную рекламу «ИИ-терапии». Все компании и частные лица, предлагающие услуги в области психического здоровья, обязаны иметь соответствующую сертификацию.

По словам автора инициативы, конгрессмена Боба Моргана, закон стал реакцией на череду тревожных случаев. Ранее в этом году Американская психологическая ассоциация сообщила о двух судебных исках: в одном подросток, следуя советам чат-бота, покончил с собой, в другом — ребёнок напал на родителей. Хотя детали дел не раскрываются, специалисты предупреждают: искусственный интеллект, маскирующийся под психотерапевта, способен усугубить кризисное состояние и привести к трагедиям.

При этом новый закон не запрещает ИИ полностью. Чат-боты смогут выполнять административные задачи — записывать пациентов на приём, обрабатывать счета, составлять конспекты сеансов.

Но любое общение, связанное с анализом состояния или рекомендациями, остаётся под контролем человека с лицензией. Это особенно важно на фоне того, что многие пользователи онлайн-платформ даже не догадываются, что общаются не с живым специалистом.

Иллинойс не одинок в ужесточении правил. В Неваде в июне запретили ИИ оказывать терапевтические услуги в школах. В Юте вступили в силу жёсткие правила прозрачности для чат-ботов, работающих в сфере ментального здоровья. Теперь такие программы обязаны ясно сообщать пользователю, что он общается с искусственным интеллектом, а не с живым человеком. Кроме того, им запрещено собирать и использовать персональные данные клиентов для таргетированной рекламы. А Нью-Йорк с ноября обяжет чат-боты перенаправлять людей с признаками суицидальных мыслей к кризисным консультантам. Эксперты считают, что именно штаты, а не федеральное правительство, будут формировать эту сферу регулирования.

Принятие закона стало редким примером двухпартийного согласия: HB 1806 единогласно поддержали и Палата представителей, и Сенат штата. Документ вступил в силу немедленно, а контроль за его исполнением возложен на Департамент финансового и профессионального регулирования Иллинойса. Его глава Марио Трето подчеркнул, что цель закона — защитить жителей от ложного чувства безопасности, которое могут дать алгоритмы.

В США спрос на психиатрическую помощь растёт, но нехватка специалистов и длительные очереди делают ИИ-ботов привлекательным вариантом, особенно для малообеспеченных граждан. Однако, как отмечают законодатели, в отличие от терапевта-человека, ИИ невозможно привлечь к ответственности за ошибку, что ставит под угрозу здоровье и жизнь пациентов. Закон Иллинойса может стать примером для других штатов в регулировании ИИ в здравоохранении, образовании и юриспруденции.