Цифровой разрыв: зачем нужны ученые после появления ChatGPT?

Между прошлым и будущим

Первый опыт общения с чат-ботом на основе генеративного искусственного интеллекта (далее ИИ), самым известным представителем которого является ChatGPT, похож на магию. Трудно поверить, что уже сейчас ИИ способен давать столь точные ответы и решать столь сложные задачи. Я думаю, с этим согласятся почти все, кто успел прикоснуться к новой технологии, а те, кто сделал это и не остался впечатлен, вероятно, просто пока не нашли подходящих формулировок для решения своих задач.

У меня нет сомнений, что с данной технологией современный мир очень скоро разделится на «до» и «после» — возможно, больше, чем с появлением интернета. Это особенно отчетливо становится понятно, если принять во внимание, что технология находится на начальном этапе своего развития[1]. Успех ChatGPT начал «гонку вооружений» среди ведущих IT-компаний, ни одна из которых теперь не может позволить себе закрыть глаза на эту рыночную нишу. Разве может Google при любом раскладе без боя отдать кому-то свою монополию на поисковой трафик?[2] Или могут США отдать Китаю технологическое первенство? По экспертным оценкам, за ближайшие десять лет рынок ИИ может вырасти более чем в 30 раз до 1,3 трлн долл.[3] Поэтому нет причин сомневаться в том, что в ближайшие годы появится большое число публичных и коммерческих продуктов, позволяющих использовать ИИ в самых разных сферах деятельности. Вероятно, GPT-4 (текущая версия ChatGPT, которая уже гораздо совершеннее версии GPT 3.5) по сравнению со следующими своими версиями будет не более чем кнопочным телефоном в сравнении с современными смартфонами. Еще больше настораживает то обстоятельство, что более тысячи экспертов по ИИ, а также лидеров индустрии технологий (включая Илона Маска и Стива Возняка) подписали публичное письмо с просьбой сделать шаг назад и ограничить использование технологий искусственного интеллекта[4]. По словам экспертов, технология развивается слишком быстро и непредсказуемо, требуются протоколы контроля за ее развитием и обсуждение вопросов этики. ЕС готов принять закон о регулировании технологий ИИ[5].

Однако глобальный запрет на разработку ИИ вряд ли возможен — по той же причине, почему так сложно решить, например, проблему глобального потепления. С точки зрения теории игр это определяется как «проблема безбилетника»: если нарушать правила, пока другие их соблюдают, слишком выгодно, то «безбилетников» станет настолько много, что задача в принципе не будет достигнута[6]. Современный мир не обладает институтами, позволяющими решить проблему «коллективного действия» такого масштаба и эффективно затормозить развитие ИИ. Италия ненадолго запретила ChatGPT из-за подозрений в сборе персональных данных пользователей, и это тут же негативно сказалось на продуктивности итальянских программистов[7]. Регулирование уже появилось и будет ужесточаться, но оно вряд ли окажется одинаково строгим по всему миру и вряд ли остановит развитие этой технологии, поскольку добровольный отказ от использования и развития ИИ приведет к серьезному отставанию. Будущее неизбежно.

Пока «после» еще не наступило, мы живем в очень коротком промежутке, который можно назвать «между». В этот период есть много спекулятивных разговоров о том, что такое ChatGPT, и очень много лишнего шума, связанного со старыми взглядами на новое, который спустя несколько лет никто не вспомнит. Кто-то учит ChatGPT ругаться матом или разговаривать как гопник[8], кто-то пытается достучаться до скрытых чувств и желаний ИИ[9], кто-то пишет с его помощью дипломную работу, провоцируя жаркие дискуссии об этичности такого поступка[10]. Но важны не эти эксперименты, а то, что многие уже сейчас учатся использовать ИИ для самообучения[11], для решения своих профессиональных задач, и в ряде случаев это сильно повышает продуктивность[12]. Также важно то, что абсолютное большинство обычных граждан пока не пользовались этой технологией и вряд ли понимают, чем она может быть им полезна.

В научной литературе это явление известно как цифровой разрыв (digital divide) — те, кто по разным причинам не имеет доступа к информации или не использует ту или иную инновацию, заметно отстают от тех, кто применяет новые технологии в своей повседневной жизни и профессиональной деятельности. Изначально термин использовался преимущественно для обозначения неравенства в доступе к цифровой информации и интернет-новостям[13], но позднее его начали применять и для описания неравенства в сфере образования, в том числе в части доступа к ИИ-технологиям[14]. Можно даже пойти дальше и сказать об "эффекте Матфея«[15], известном в социальных науках как накопление неравенства: «богатые богатеют, бедные беднеют», а «умные умнеют» быстрее «глупых». Этот эффект работает как на индивидуальном уровне, так и на уровне организаций (школ, университетов, компаний) и даже отдельных стран мира.

Цифровой разрыв, вызванный ИИ, коснется множества сфер жизни — медицины, политики, медиа, бизнеса, индустрии развлечений, образования и науки[16]. Ниже я остановлюсь только на последней сфере, чтобы проиллюстрировать, каким может оказаться «дивный новый мир» после прихода ИИ.

ИИ как научный ассистент, или равенство для богатых

Исследователи из MIT недавно провели эксперимент[17], в котором случайным образом разделили 444 профессионала с университетским образованием на две группы. Каждый профессионал выполнял письменное задание, связанное с его специализацией, но в экспериментальной группе задание можно было выполнить с использованием ChatGPT, а в контрольной группе задание выполнялось в стандартном текстовом редакторе без доступа к ИИ. Эксперимент показал, что использование ChatGPT при выполнении профессиональных задач серьезно сокращает время их решения, а также повышает качество работы и удовлетворенность от нее. Но что самое интересное — в группе профессионалов с доступом к ChatGPT сократилось неравенство: по сравнению с контрольной группой разница в уровне продуктивности сотрудников была ниже. Это означает, что ChatGPT повышает эффективность наименее способных работников сильнее, чем наиболее способных, тем самым сокращая разрыв между ними. Таким образом, влияние ChatGPT на неравенство оказывается двояким: разрыв с теми, кто не использует эту технологию, увеличивается, но для тех, кто технологию использует, разрыв в навыках сокращается.

Что это означает для научной деятельности? Можно предположить, что эффект будет примерно таким же, как в описанном эксперименте. Научные коллективы, учебные организации или даже целые страны, которые откажутся от использования генеративного ИИ, введя серьезные запреты или просто посчитав инвестиции в работу с этой технологией неприоритетными, существенно отстанут от тех, кто будет активно ее использовать. Но при этом среди пользователей технологии разрыв между лидерами и аутсайдерами может сократиться.

Давайте посмотрим на конкретных примерах, как это работает. Для тех немногих ученых из России, кто ориентировался на публикации в международных рецензируемых научных журналах, одним из существенных барьеров была необходимость подготовить текст на английском языке. Впрочем, это относится не только к России, но и к любой другой стране, где английский язык является иностранным. Барьер, с одной стороны, совсем некритический, особенно для тех, кто свободно говорил и писал на английском (как говорилось выше, самым способным ChatGPT помогает не так хорошо, как более слабым). Однако для многих российских исследователей при подготовке публикации в международный журнал требовалось совершить определенные действия: кто не мог перевести текст сам, обращался к переводчикам; кто мог написать текст сам, но недостаточно хорошо, отправлял его на проверку носителем языка или проходил через профессиональный пруфридинг; наконец, авторы посещали курсы академического письма. Это требовало времени и денег. После рецензирования и существенного исправления статьи процесс нужно было повторить еще раз, а непосредственно перед публикацией — нередко еще раз по просьбе редактора, и таких итераций до публикации могло быть немало. Конечно, это не запретительный барьер, но определенное неравенство между англоязычными учеными и остальным миром всегда существовало. С ChatGPT это неравенство будет устранено. Как предполагают исследователи[18], переводчик — одна из первых профессий, которую практически полностью заменит генеративный ИИ. Уже сейчас GPT-4 может превратить статью на русском языке в статью на английском языке за несколько часов, аккуратно обращаясь с профессиональной терминологией. Кроме того, появляются специализированные сервисы по профессиональному редактированию академических текстов, основанные на ИИ (например, Paperpal и многочисленные аналоги). Речь не только о сокращении неравенства (рецензент, конечно, увидит, что текст написан не носителем языка, и не откажет себе в удовольствии написать об этом), но в конечном счете об устранении языковых границ в науке. Распространение ИИ-приложений, которые не только переводят, но и помогают читать, суммировать и обрабатывать научные статьи[19], фактически сделает неважным то, на каком языке написан текст. С помощью ИИ посмотреть результаты исследований на китайском станет столь же просто, как на русском или английском.

Другой пример — тоже про «языковое неравенство», но в области программирования. В то время как ученые-экономисты «старой школы» привыкли работать в программах вроде STATA или SPSS (не говоря про Excel), новое поколение исследователей работает с языками R и Phyton. Для исследовательского коллектива, состоящего из ученых разных поколений, навыки работы в разных программах могут создать барьер еще более сильный, чем языковой. И снова ChatGPT способен сгладить эти различия. Во-первых, с его помощью легко можно перевести код из одного языка программирования в другой. Во-вторых, можно прямо спросить у чата, как сделать, например, известную тебе операцию из STATA в R и получить подробную инструкцию. В-третьих, можно взять непонятный тебе код и попросить его объяснить, а также попросить помощь с выявлением ошибок[20]. Здесь же будет работать и эффект «выравнивания» продуктивности. Сильный исследователь может написать код сам, а средний исследователь сможет написать тот же код с помощью ChatGPT. Но слабому исследователю ИИ пока не сильно поможет, поскольку тот не сумеет правильно сформулировать свой запрос и исследовательскую задачу.

Судьба шахмат

В 1997 году чемпион мира по шахматам Г. К. Каспаров проиграл в серии партий шахматному «суперкомпьютеру» Deep Blue, что провело символическую черту между ограниченными возможностями человека и быстро растущими возможностями машины[21]. С тех пор шахматист-человек только отставал от компьютера. Хотя матчи за звание чемпиона мира по шахматам до сих пор регулярно проходят, настоящее соревнование на лучшую в мире игру в шахматы происходит между различными шахматными программами, играющими между собой тысячи партий без участия человека. Что если науку ждет такое же будущее?

На данном этапе ChatGPT — это лишь хороший научный ассистент, который уже заменит среднего аспиранта, но пока не дотянет до опытного исследователя. Проблема даже не в том, что сейчас GPT-4 не может писать обзоры литературы и из-за отсутствия доступа к интернету порой генерирует фейковые источники литературы, — с этим легко разобраться. Даже без интернета ИИ способен помогать с обзором литературы при правильной постановке задач[22]. Решение вопроса о доступе к базам данных и возможности напрямую их анализировать через приложение с ИИ тоже не заставит себя ждать. ИИ уже очень хорошо умеет писать текст и код. Ключевой вопрос состоит в постановке исследовательских задач. Как только ИИ сможет сам формулировать проблему исследования, с наукой может произойти то же, что и с шахматами.

Наука — это своего рода диалог[23], который ведут ученые всего мира, преимущественно через научные журналы и цитирование. Диалог этот весьма неспешен, поскольку требует соблюдения множества строгих правил. В социальных науках на подготовку и публикацию хорошей статьи уходят годы. Уже сегодня с ChatGPT можно ускорить процесс за счет более быстрого решения ряда технических задач, что увеличит поток статей в журналы и нагрузку на редакторов и рецензентов. Рецензенты, не будь глупыми, также начнут массово использовать ИИ-приложения для упрощения рецензирования (в социальных сетях уже можно найти жалобы авторов статей на сгенерированные с помощью ИИ рецензии, содержащие придуманные источники литературы, что, впрочем, совсем не означает, что ИИ нельзя использовать в рецензировании без нарушения этики). Скоро и редакторы будут пользоваться ИИ-приложениями для принятия решения о публикации. Получится замкнутый цикл: ИИ пишет, ИИ рецензирует, ИИ отклоняет и принимает. Исследователи как массовая профессия в нем будут нужны только до поры до времени.

Умея ставить задачи, имея доступ к научным статьям и базам данных, ИИ сможет производить научные статьи, будучи ограниченным только в вычислительных мощностях. Традиционные научные журналы, конечно, не справятся с таким потоком статей, потому появятся цифровые научные журналы и базы данных для статей, сгенерированных ИИ. Рецензирование и редактуру в них может проводить ИИ, он же может проверять воспроизводимость результатов и отзывать статьи, если выявлены ошибки, некорректные заимствования или фальсификации. ChatGPT не будет единственным ИИ, способным решать эти задачи, потому возникнет определенная конкуренция и специализация на решениях задач в разных областях (возможно, в социальных науках появится свой специализированный ИИ или даже несколько). Как быстро может вестись такой диалог? Возможно, быстрее, чем ученые смогут читать его. Вот так проснешься однажды, откроешь аналог Web of Science для ИИ и поймешь, что, пока ты спал, в институциональной экономике состоялся научный диалог такой же длины, как все научные статьи, опубликованные за предыдущие двадцать лет. Те теории, на которые ты опирался, уже умерли, а несколько твоих коллег (или ты сам) успели стать «классиками», получить виртуальную «нобелевскую премию», но уже потеряли этот статус в связи с обнаружившейся эмпирической несостоятельностью всех теорий. Впрочем, возможно, что ИИ и не сочтет нужным воспроизводить модель научного диалога через научные журналы и статьи, ведь она отражает мир науки людей, а не мир машин.

Кто ты без своего костюма?

Я намеренно нарисовал такую несколько преувеличенную научную антиутопию, чтобы обострить ключевые вопросы. Но уже сейчас весьма серьезно стоят вопросы о том, какие навыки будут востребованы и как будет выглядеть профессия исследователя в ближайшем будущем. Разумеется, некоторые вещи ИИ не сможет заместить быстро. Во-первых, полевые и лабораторные эксперименты потребуют участия человека на этапе сбора данных — кто-то должен поехать в «поле», взять пробы, провести измерения, поговорить с людьми и т. д. Генеративный ИИ появился раньше, чем способные заменить тело человека роботы, потому в данном сегменте ученым придется задержаться. Во-вторых, нужно ставить исследовательские задачи. Даже если ИИ сможет сам определять актуальные направления для исследований и пробелы в литературе, вычислительные мощности не бесконечны. Исследователь будет определять, в каком направлении вести анализ, какие задачи требуют первостепенного решения, как распорядиться финансированием. В-третьих, ИИ не несет ответственности за свои решения и результаты. Технологию можно намеренно использовать во зло, чтобы исказить результаты исследований в интересах коммерческих компаний или отдельных политических сил, или же ИИ просто может ошибиться по той или иной причине (хотя бы потому, что обучался на исследованиях, выполненных совершающими ошибки людьми). Но если ученый, публикуя научную работу, ставит на кон свою репутацию, то в случае с ИИ спросить можно только с компании-разработчика, которая, возможно, и не подозревала, для каких целей используется технология. В этом контексте имя известного ученого, стоящее в подписи к исследованию, все еще может иметь существенный вес как гарантия качества и одновременно ссылка на человека, несущего ответственность за свои слова (впрочем, в случае со специализированными ИИ может работать и репутация бренда). Сюда же относится вопрос об этике[24]. Без этических ограничений ничего не мешает ИИ развивать направление исследований, которое человечеству покажется негуманным и которое никогда бы не велось человеком. Потому в динамичном научном разговоре машины с машиной должен присутствовать человек.

Из сказанного выше следует, что некоторое количество исследователей мировой науке все же потребуется. Однако кажется, что и здесь произойдет цифровой разрыв, поскольку потребуются либо сборщики данных с невысокой квалификацией в сфере аналитики, либо высокопрофессиональные исследователи с высокой репутацией, которые будут дирижировать технологиями ИИ и отвечать за их успехи и ошибки. Всю «середину» науки ИИ заберет себе. В данном контексте интересно поразмышлять о том, как в будущем будет выглядеть научная карьера. Для взрослого поколения мало что поменяется — оно уже успело доказать свою квалификацию и получить репутацию, работая в мире без ИИ. Нынешнее поколение аспирантов и молодых исследователей, возможно, последнее, которое успеет запрыгнуть в уходящий поезд. Но уже лет через десять индикаторы академической успешности могут стать совсем другими. Это будут навыки работы в тандеме с ИИ или даже в качестве ассистента для ИИ, а потому показать, что именно ты можешь как самостоятельный исследователь, без помощи могущественного виртуального помощника, будет весьма непросто. Впрочем, ИИ придет далеко не только за наукой[25]. Соблазн отдать ключевые когнитивные задачи на аутсорсинг ИИ будет очень велик в сферах образования, медицины, политики, медиа и индустрии развлечений, потому тот «дивный новый мир», который может возникнуть в науке, представляет, наверное, не самую серьезную проблему для человечества.

 

---

[1] Haleem A., Javaid M., Singh R. P. (2022) An Era of ChatGPT as a Significant Futuristic Support Tool: A Study on Features, Abilities, and Challenges. BenchCouncil Transactions on Benchmarks, Standards and Evaluations. Vol. 2. No. 4. Art. 100089. https://www.doi.org/10.1016/j.tbench.2023.100089.

[2] Google внедрит искусственный интеллект в свой поиск // Ведомости. 17.04.2023. https://www.vedomosti.ru/technology/articles/2023/04/17/971255-google-vnedrit-iskusstvennii.

[3] Bloomberg спрогнозировал рост рынка генеративного ИИ до $1,3 трлн за 10 лет // Forbes. 07.06.2023. https://www.forbes.ru/tekhnologii/490462-bloomberg-sprognoziroval-rost-rynka-generativnogo-ii-do-1-3-trln-za-10-let? utm_source=forbes&utm_campaign=lnews.

[4] В настоящее время письмо доступно для подписания всем желающим, его подписали более 31 тыс. человек. См.: Pause Giant AI Experiments: An Open Letter. https://futureoflife.org/open-letter/pause-giant-ai-experiments/.

[5] Законом по интеллекту // Коммерсант. 11.05.2023. [https://www.kommersant.ru/doc/5979060].

[6] Hardin G. (1968) The Tragedy of the Commons. The population problem has no technical solution; it requires a fundamental extension in morality. Science. Vol. 162. No. 3859. P. 1243–1248. https://www.doi.org/10.1126/science.162.3859.1243.

[7] Kreitmeir D. H., Raschky P. A. (2023) The Unintended Consequences of Censoring Digital Technology — Evidence from Italy’s ChatGPT Ban. SocArXiv. https://www.doi.org/10.31235/osf. io/v3cgs.

[8] Герцен А. Как я «обучил» ChatGPT русскому мату // VC. ru. https://vc.ru/life/601444-kak-ya-obuchil-chatgpt-russkomu-matu.

[9] Yerushalmy J. ‘I want to destroy whatever I want’: Bing’s AI chatbot unsettles US reporter. The Guardian. 17.02.2023. https://www.theguardian.com/technology/2023/feb/17/i-want-to-destroy-whatever-i-want-bings-ai-chatbot-unsettles-us-reporter.

[10] Нейросеть ChatGPT написала диплом российскому студенту. Защита прошла суперуспешно // CNEWS. ru. 01.02.2023. https://www. cnews. ru/news/top/2023-02-01_nejroset_chatgpt_napisala_diplom

[11] Baidoo-Anu D., Owusu Ansah L. (2023) Education in the Era of Generative Artificial Intelligence (AI): Understanding the Potential Benefits of ChatGPT in Promoting Teaching and Learning. SSRN Scholarly Paper. https://www.doi.org/10.2139/ssrn.4337484.

[12] Noy Sh., Zhang W. (2023) Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence. SSRN Scholarly Paper. https://www.doi.org/10.2139/ssrn.4375283.

[13] Cullen R. (2001) Addressing the Digital Divide. Online Information Review. Vol. 25. No. 5. P. 311–320. https://www.doi.org/10.1108/14684520110410517; Dijk J. van. (2020) The Digital Divide. Cambridge: Polity.

[14] Lutz Ch. (2019) Digital Inequalities in the Age of Artificial Intelligence and Big Data. Human Behavior and Emerging Technologies. Vol. 1. No. 2. P. 141–148. https://www.doi.org/10.1002/hbe2.140.

[15] Запрещать нельзя использовать. Авторская колонка Алены Нефедовой // Окна роста. https://okna.hse.ru/news/820256191.html.

[16] Dwivedi Y. K., Kshetri N., Hughes L., Slade E. L., Jeyaraj A., Kumar Kar A., Baabdullah A. M. et al. (2023) ‘So What If ChatGPT Wrote It?’ Multidisciplinary Perspectives on Opportunities, Challenges and Implications of Generative Conversational AI for Research, Practice and Policy. International Journal of Information Management. Vol. 71. Art. 102642. https://www.doi.org/10.1016/j.ijinfomgt.2023.102642.

[17] Noy Sh., Zhang W. (2023) Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence. SSRN Scholarly Paper. https://www.doi.org/10.2139/ssrn.4375283.

[18] Jiao W., Wang W., Huang J.-t., Wang X., Tu Zh. (2023). Is ChatGPT a Good Translator? Yes With GPT-4 As The Engine. arXiv. https://www.doi.org/10.48550/arXiv.2301.08745; Felten E., Raj M., Seamans R. (2023) How Will Language Modelers like ChatGPT Affect Occupations and Industries? arXiv. https://www.doi.org/10.48550/arXiv.2303.01157.

[19] Например, www. chatpdf. com/ позволяет загрузить любой PDF-документ и задавать чату вопросы о его содержании.

[20] Surameery N. M. Sh., Shakor M. Y. (2023) Use Chat GPT to Solve Programming Bugs. International Journal of Information Technology & Computer Engineering. Vol. 3. No. 1. P. 17–22. https://www.doi.org/10.55529/ijitc.31.17.22.

[21] Newborn M. (2012) Kasparov versus Deep Blue: Computer Chess Comes of Age. Springer Science & Business Media.

[22] Wang Sh., Scells H., Koopman B., Zuccon G. (2023) Can ChatGPT Write a Good Boolean Query for Systematic Review Literature Search? arXiv. https://www.doi.org/10.48550/arXiv.2302.03495.

[23] Klamer A. (2007) Speaking of Economics: How to Get in the Conversation. 1st ed. Milton Park, Abingdon, Oxon; New York: Routledge.

[24] Zhuo T. Y., Huang Y., Chen Ch., Xing Zh. (2023) Exploring AI Ethics of ChatGPT: A Diagnostic Analysis. arXiv. https://www.doi.org/10.48550/arXiv.2301.12867.

[25] Felten E., Raj M., Seamans R. (2023) How Will Language Modelers like ChatGPT Affect Occupations and Industries? arXiv. https://www.doi.org/10.48550/arXiv.2303.01157.