Генеративные нейросети в медицине: можно ли сформировать будущее, обучаясь на настоящем?

«Хайп» вокруг генеративных нейросетей c текстовыми и визуальными выдачами захватил мир в последние месяцы. Дискуссии о возможностях данных инструментов (в первую очередь ChatGPT и Midjourney) затронули все области социальной жизни, включая медицину.

Простые пользователи и эксперты предлагают свое видение, как можно использовать данные инструменты. Если в случае Midjourney практики оформлены в меньшей степени, мы можем говорить скорее о смежных областях, таких как медицинское просвещение (например, использование рисунков, созданных нейросетью, для иллюстраций на авторских каналах врачей), то в случае нейросетей с текстовой выдачей эксперты видят значимо больший потенциал. Например, ChatGPT, хотя и не может пока быть использован для полноценного медицинского консультирования человека вследствие множественных «галлюцинаций» (безапелляционного представления неверной информации пользователю), все же может, например, подсказать пациентам, в какую сторону сделать первый шаг для профилактики заболеваний, а также существенно разгрузить медиков с точки зрения рутинных soft skills. Например, в случае медицинского образования нейросеть может придумать для преподавателя хорошие кейсы для медицинских задач.

Тем не менее перекладывание рутинных задач на электронного помощника не только дает больше возможностей для занятия творческим трудом, но и несет ряд рисков. В частности, как и множество исследователей, журналистов и даже разработчиков генеративных нейросетей, я вижу определенные риски в области социального восприятия их широкого внедрения в нашу жизнь. Суть такого рода рисков можно отразить в виде «порочного круга»:

• нейросеть обучается на «массовых представлениях» (чем более распространено мнение, тем больше возможностей встретить его в инфополе);
• как продукт своего использования нейросеть выдает в инфополе еще больше представлений, сгенерированных по аналогии с массовыми (которые воспринимаются некритично, так как «очевидны» из-за того, что большинство разделяет их);
• эти сгенерированные нейросетью представления, в свою очередь, выступают в качестве обучающей основы для нее же на новой итерации.

С позиций процесса распространения конвенциональных норм в этом, пожалуй, можно было бы видеть определенные преимущества. Но такой же механизм справедлив и для массовых негативных представлений и стереотипов.

И пусть разработчики тех же ChatGPT и Midjourney прикладывают много усилий для вычистки «недостойного» контента, устранить полностью все стереотипы невозможно. Более того, многие стереотипы, например в области восприятия элементов системы здравоохранения, настолько тонкие и неочевидные, что не только «обыватели», но и, как показывают наши исследования, сами представители системы зачастую оказываются подвержены им.

Наш собственный опыт взаимодействия с генеративными нейросетями показал, что в своих выдачах они действительно поддерживают стереотипные образы, в частности, в сфере восприятия медицинских профессий.

Например, для отечественных и зарубежных нейросетей с визуальными выдачами «специалист в области сестринского дела» — всегда медсестра, а не медбрат, тогда как врачей нейросеть видит, как правило, мужчинами, несмотря на то что женщин-врачей в нашей стране больше. В целом визуальные нейросети больше склонны к разного рода внешней стереотипизации, что, в свою очередь, может порождать барьеры для «нетипично» выглядящих представителей профессий.

Текстовые нейросети тоже не избавлены от искажений, однако они больше склонны к функциональным стереотипам. Опять же, на контрасте с врачебной профессией, в случае сестринского дела ChatGPT склонен транслировать представления об отсутствии автономии медсестер, он склоняется к восприятию медсестер исключительно как «помощников». Это в целом может соответствовать эпизодам истории сестринского дела, но противоречит трендам развития профессии (в том числе в нашей стране) на увеличение зоны их профессиональной ответственности.

Интересно, что, если спросить ChatGPT о будущем сестринской профессии, нейросеть также не видит тренда на увеличение автономии медсестры и выдает скорее экстраполяцию ее текущего положения, с небольшой поправкой на технический прогресс.

Таким образом, существуют риски, что для изменения ситуации в данной области нам придется преодолевать «усиленную» нейросетями инерцию массового и профессионального сознания (например, в вопросах о том, чтобы позволить медсестрам и медбратьям выполнять «нехарактерные» для них функции).

Представляется, что с этих позиций важен учет и контроль такого рода социальных рисков. Этому могла бы помочь стандартизированная, доказательная процедура тестирования выдач нейросети, которую я условно назвал «промпт-эксперимент». Социальное является скорее зоной тенденций, а не законов. Тем не менее мне видится, что в области социального восприятия существует уже достаточно доказательных наработок, позволяющих направлять развитие нейросетей в сторону минимизации рисков социальной перцепции более корректно, чем простое следование мейнстримным нарративам о «социальной справедливости».