Hitech logo

Кейсы

Биолог считает, что Claude присвоил открытие, которым он поделился с ИИ как пользователь

TODO:
Екатерина ШемякинскаяСегодня, 11:38 AM

На прошлой неделе Anthropic сообщила , что ее ИИ-агенты обнаружили ранее неизвестную систему ферментов, напоминающую по функциональности работу CRISPR. Однако исследователь из Копенгагенского университета утверждает, что его команда изучала те же молекулы несколько лет и использовала в своих исследованиях Claude. Теперь ученые пытаются выяснить, действительно ли модель пришла к тем же выводам сама или просто использовала сведения, полученные от исследователей, и теперь пытается их присвоить.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Речь идет о ферментной системе, которую Anthropic назвала ассоциированными с массивами обратными транскриптазами (ART). Инженеры Anthropic поручили Claude искать новые разновидности обратных транскриптаз — ферментов, которые копируют РНК в ДНК, — в огромных базах генетических последовательностей. ИИ обнаружил ART в ДНК бактериофагов — вирусов, заражающих бактерии. По данным Anthropic, система может выполнять операции с ДНК, напоминающие работу CRISPR, включая ее разрезание, копирование и вставку.

Anthropic заявила, что ее ИИ самостоятельно сделал «первые шаги в биологическом открытии». Однако биоинформатик Марио Родригес Местре заявил, что его команда обнаружила эти системы еще в 2022 году. Позднее исследователи подробно изучали их в Копенгагенском университете, а в 2023 году результаты этой работы частично вошли в патентную заявку компании ReNegade Therapeutics, где Местре указан соавтором.

Местре и его коллеги активно использовали Claude в процессе работы, загружая в модель неопубликованные материалы: черновики диссертации, рукопись и аналитику по эксперименту 2022 года с вирусной РНК. Именно здесь обнаружилось наиболее заметное совпадение.

В Anthropic заявили, что Claude самостоятельно проанализировал сырые данные этого эксперимента и подтвердил гипотезу о функциях найденных ферментов. Местре утверждает, что его команда выполнила этот анализ ещё годом ранее — и именно эти выводы помогли найти связанные с ферментами гены.

Исследователь признает, что полностью исключить независимое повторное открытие невозможно. В Anthropic заявили, что им неизвестны ранее опубликованные исследования ART, а пользовательские расшифровки не использовались для обучения будущих версий моделей. Компания также утверждает, что ее команда молекулярной биологии не имела доступа к этим материалам.

Спор поднимает вопрос о том, кому принадлежит научное открытие, если исследователь использует ИИ для анализа собственных неопубликованных данных.

Особенно это важно для моделей, которые применяются непосредственно для поиска закономерностей и формирования научных гипотез. В таком случае остается неясным, где проходит граница между самостоятельным выводом модели и результатом, который она могла воспроизвести на основе предоставленных ей материалов.

Похожая история произошла в сентябре с OpenAI. Компания объявила о решении одной из семи «задач тысячелетия» — о существовании и гладкости решений уравнений Навье — Стокса. Однако математик из Нью-Йоркского университета Тристан Бакмастер заявил, что OpenAI опиралась на результаты его с коллегой работы.