Жизнь с ИИ: от взаимодействия к взаимозависимости

Несколько лет назад мало кто прогнозировал технологический прорыв в области автоматической генерации больших объемов осмысленного текста и поддержки диалога с человеком на естественном языке. Тем не менее в прошлом году сервис диалогового искусственного интеллекта ChatGPT стремительно ворвался в нашу жизнь, а сегодня им пользуются уже миллионы людей. При этом технооптимисты находят ему все больше вариантов применения и предрекают скорое создание общего ИИ (AGI), а техноалармисты предсказывают скорую потерю работы для большинства специалистов, работающих, прежде всего с текстами и данными, — представителей рекламного бизнеса, юристов, учителей, программистов среднего уровня и многих других.

Эксперты этого выпуска СоциоДиггера не сомневаются, что «с технологией ChatGPT современный мир очень скоро разделится на „до“ и „после“ — возможно, больше, чем с появлением интернета»[1]. Всем понятно, что мы имеем дело с прорывной технологией, однако куда именно происходит прорыв, не совсем очевидно[2]. В связи с этим многие специалисты, а также лидеры индустрии разработки искусственного интеллекта предупреждают, что технология прогрессирует слишком быстро и непредсказуемо, поэтому необходимы протоколы контроля за ее развитием и обсуждение вопросов этики. Регулирование разработок ИИ уже появилось и будет ужесточаться, но оно вряд ли окажется одинаково строгим по всему миру и остановит развитие запущенных процессов, поскольку добровольный отказ от использования и совершенствования ИИ приведет к серьезному отставанию. Будущее неизбежно, и тем ценнее уже сегодня фиксировать тенденции, связанные с использованием генеративных нейросетей в социальной жизни. На основе материалов выпуска мы выделили семь трендов, связанных с реакцией общества на внедрение эффективных инструментов ИИ в повседневную жизнь и профессиональную деятельность людей. Учитывая инновационность обсуждаемой технологии, все они являются развивающимися.

Т1. Дальнейшее развитие возможностей генеративных нейросетей: технологический прорыв в области автоматической генерации больших объемов осмысленного текста и поддержки диалога с человеком на естественном языке[3].

Тренд проявляется в фантастически быстром размерном росте характеристик моделей типа GPT. Так, «в начале 2019 года они имели миллиард параметров, обучались по десяткам гигабайт текста и анализировали полторы страницы контекста для каждого слова. Модели 2023 года имеют около триллиона параметров, обучаются по терабайту текстов и смотрят на контекст в 50 страниц»[4].

Драйвером тренда выступает прогресс в математических методах и компьютерных технологиях, идущий с 50-х годов XX века и обеспечивший развитие функционального ИИ, решающего специализированные узкие задачи. Сюда относятся экспертные системы, распознавание образов, машинное обучение, предсказательное моделирование и бизнес-аналитика. Последние десять лет бурно развиваются методы обработки сложноструктурированных данных ― изображений, видео, текстов. Успехи в решении такого рода задач и привели к переживаемому нами «буму ИИ».

Т2. Конструирование нового формата реальности ― искусственной социальности, предполагающей трансформацию человеческой повседневности, изменение культуры социального взаимодействия[5].

Благодаря экспоненциальному влиянию инноваций в XXI веке на узкий участок жизни людей ― сферу коммуникаций «общение» человека и ИИ с неизбежностью включает сложные социальные и культурные контексты. Рассмотрение ChatGPT в качестве субъекта коммуникации означает, что человек приобретает новый культурный опыт, неизбежно требующий трансляции. Обязательным становится повышение цифровой грамотности, понимание ограничений в использовании ИИ, а также его технических характеристик с целью смягчения последствий неприемлемого применения и злоупотреблений. Благодаря взаимодействию с ИИ человек лучше узнает самого себя и разбирается в собственных ограничениях, осознает, насколько сильно чат-бот, имитирующий живое общение, влияет на человеческое восприятие действительности и, в конце концов, на моральный выбор. Выступая в качестве социального актора в коммуникативном взаимодействии с человеком, эта технология оказывается не посредником, медиумом или каналом коммуникации, а участником создания социальной реальности. Таким образом алгоритмы начинают влиять на человеческие предпочтения, мнения и убеждения, формировать культуру, систему ценностей и картину мира.

T3. Смена парадигмы образования, особенно в области социальных и гуманитарных дисциплин[6].

Тренд проявляет себя в необходимости коренной перестройки стратегии и тактики оценки получаемой информации (знаний) в пользу обучения и проверки умения мыслить. Это обусловлено способностью ChatGPT при любых обстоятельствах, на приемлемом уровне, в разы быстрее и эффективнее любого ученика генерировать текст из доступных источников с их минимальным анализом и необходимыми ответами на заданные вопросы. Тренд предполагает поиск качественно нового подхода к пониманию того, что является знанием, а также поиск новых элементов, которые следует оценивать в ходе обучения. От ученика требуется приобретать навыки анализа найденных самостоятельно или с помощью инструментов ИИ данных, учиться анализу процесса поиска информации и его уточнению; пониманию адекватности получаемых в результате запроса в интернете данных и т. п.

Т4. Видоизменение речевых практик и традиций целых предметных областей[7].

Тренд имеет потенциал, если практика использования инструментов, подобных ChatGPT, будет расширяться. Его драйвером выступает, с одной стороны, специфическая машинная логика и характерный для нее стиль и синтаксис, а с другой ― доступность ChatGPT для обычного человека, поскольку созданным OpenAI успешным продуктом могут воспользоваться люди без программистского бэкграунда.

Подстройка и даже перестройка человеческих языковых практик под логику нейросетей неизбежны для тех сфер, где важным порождающим источником информации будут нейросети, поскольку они выстраивают диалог с человеком особым образом. Повсеместное распространение GPT-моделей может привести к релятивизации научных и публицистических текстов, уменьшению в них числа сильных утверждений, снижению качества логической аргументации. Эти риски существуют, поскольку в настоящее время нейросеть, как правило, не делает однозначных оценочных суждений, смягчая любые утверждения, а также не умеет выстраивать убедительную аргументацию в рассуждениях на специализированные темы. Чтобы минимизировать риски конструирования нейросетями нашей языковой реальности, важно акцентировать внимание на изучении не столько сходств, сколько различий генерируемых человеком и ИИ продуктов (текстов).

Т5. Трансформация профессиональной деятельности многих специалистов. Вытеснение искусственным интеллектом некоторой части работников с рынка труда, появление «лишних людей»[8].

Тренд развивается благодаря прогрессу технологий ИИ, меняющих условия труда, обеспечивающих его цифровизацию и компьютеризацию, способствующих его «программированию» и «модернизации». По мере развития машинного обучения и нейронных сетей ожидается дальнейший прогресс и улучшение генеративных моделей, что позволит ChatGPT стать еще более эффективным и надежным профессиональным инструментом.

По этой причине уже через десять лет индикаторы профессиональной успешности могут стать совсем другими: это будут навыки работы в тандеме с ИИ (например, уже сегодня есть потребность в обучении навыку написания запросов) или даже в качестве ассистента для ИИ. Соблазн отдать ключевые когнитивные задачи на аутсорсинг ИИ будет очень велик в сферах образования, медицины, политики, медиа и индустрии развлечений. «При этом ИИ „уничтожит“ не сами рабочие места, а то, как эти места описаны и представлены в номенклатуре специальностей. Изменится описание того, что должен делать тот или другой „специалист“, его роль и функция. Строго говоря, не ИИ заберет у человека работу, а другой человек, который использует инструменты ИИ»[9].

Т6. Амбивалентное влияние ChatGPT на неравенство[10].

Знак влияния ChatGPT на неравенство связан с использованием либо неиспользованием этой технологии в профессиональной деятельности и повседневной жизни. Эксперты прогнозируют увеличение цифрового разрыва (digital divide) в навыках между теми, кто применяет и не применяет ChatGPT. Цифровой разрыв, вызванный ИИ, затронет многие сферы жизни ― медицину, политику, медиа, бизнес, индустрию развлечений, образование и науку. Для тех, кто использует технологию, разрыв в навыках сокращается ― применение ChatGPT при выполнении профессиональных задач серьезно уменьшает время их решения, а также повышает качество работы и удовлетворенность от нее.

Поэтому научные коллективы, учебные организации или даже целые страны, которые откажутся от использования генеративного ИИ, введя серьезные запреты или просто посчитав инвестиции в работу с этой технологией неприоритетными, существенно отстанут от тех, кто будет активно ее использовать. При этом среди пользователей технологии разрыв между лидерами и аутсайдерами может сократиться.

Т7. Способствование распространению массовых негативных представлений и стереотипов[11].

Драйвером этого тренда выступает «порочный круг» обучения нейросети ― она обучается на «массовых представлениях», выдает в инфополе еще больше представлений, сгенерированных по аналогии с массовыми, и сгенерированные ею представления выступают в качестве обучающей основы для нее же на новой итерации. Вследствие этого генеративные нейросети в своих выдачах поддерживают стереотипные образы, в частности в сфере восприятия некоторых профессий. «При этом визуальные нейросети больше склонны к разного рода стереотипизации, что может порождать барьеры для „нетипично“ выглядящих представителей профессии. Текстовые нейросети тоже не избавлены от искажений, однако они больше склонны к функциональным стереотипам»[12].

***

Подводя итог, можно обозначить тренд на развитие возможностей генеративных нейросетей как позитивный; связанный с распространением стереотипов ― негативный; тренды, заключающиеся в трансформации профессиональной деятельности и влиянии на неравенство, ― как амбивалентные, и остальные ― нейтральные. Это деление, безусловно, условно, поскольку у каждого «плохо» могут найтись бенефициары, и наоборот. В настоящее время большинство вопросов о перспективах развития генеративных нейросетей и об их влиянии на нашу социальность не имеют однозначных ответов. Большие языковые модели наряду с другими инструментами ИИ, несмотря на впечатляющие, похожие на магию результаты, все еще находятся на этапе разработки и внедрения в различные сферы человеческой жизни. Нам же, как отметила одна из экспертов выпуска, «остается принимать вызовы времени, расти над собой и покорять новые горизонты технологического (и социального) развития»[13].

 

---

[1] См. А. Казун «Цифровой разрыв: зачем нужны ученые после появления ChatGPT?» URL: https://sociodigger. ru/articles/articles-page/cifrovoi-razryv-zachem-nuzhny-uchenye-posle-pojavlenija-chatgpt.

[2] См. М. Фабрикант «Кому доверяют те, кто доверяет ChatGPT?» URL: https://sociodigger. ru/articles/articles-page/komu-doverjajut-te-kto-doverjaet-chatgpt.

[3] Подробнее об этом см. в материале К. Воронцова «Как избежать ошибок восприятия диалогового искусственного интеллекта». URL: https://sociodigger. ru/articles/articles-page/kak-izbezhat-oshibok-vosprijatija-dialogovogo-iskusstvennogo-intellekta.

[4] Там же.

[5] Подробнее см. в материале А. Резева и Н. Трегубовой «ChatGPT в действии и взаимодействии с людьми: что день грядущий нам готовит, или Почему самые знаменитые компьютерщики просят полугодовую паузу в деле производства и совершенствования инструментов ИИ?». URL: https://sociodigger. ru/articles/articles-page/chatgpt-v-deistvii-i-vzaimodeistvii-s-ljudmi-chto-den-grjadushchii-nam-gotovit-ili-pochemu-samye-znamenitye-kompjutershchiki-prosjat-polugodovuju-pauzu-v-dele-proizvodstva-i-sovershenstvovanija-instrumentov-ii; В. Никольского «Наша новая академическая реальность». URL: https://sociodigger. ru/articles/articles-page/nasha-novaja-akademicheskaja-realnost; М. Фабрикант «Кому доверяют те, кто доверяет ChatGPT?». URL: https://sociodigger. ru/articles/articles-page/komu-doverjajut-te-kto-doverjaet-chatgpt.

[6] Подробнее см. в материале А. Резаева и Н. Трегубовой «ChatGPT в повседневной жизни общества: проблемы и ограничения». URL: https://sociodigger. ru/articles/articles-page/chatgpt-v-povsednevnoi-zhizni-obshchestva-problemy-i-ogranichenija.

[7] Подробнее см. в материале Б. Орехова «Машинный диалект: границы рефлексии». URL: https://sociodigger. ru/articles/articles-page/mashinnyi-dialekt-granicy-refleksii.

[8] Подробнее см. в материалах М. Ни «Меняет ли ChatGPT профессиональные практики? Взгляд маркетолога, университетского преподавателя и программиста». URL: https://sociodigger. ru/articles/articles-page/menjaet-li-chatgpt-professionalnye-praktiki-vzgljad-marketologa-universitetskogo-prepodavatelja-i-programmista; Е. Бучниковой «„Дизайнеры больше не нужны?“ Как нейросети уже успели повлиять на работу художников и дизайнеров». URL: https://sociodigger. ru/articles/articles-page/dizainery-bolshe-ne-nuzhny-kak-neiroseti-uzhe-uspeli-povlijat-na-rabotu-khudozhnikov-i-dizainerov; А. Резаева и Н. Трегубовой «ChatGPT в действии и взаимодействии с людьми: что день грядущий нам готовит, или Почему самые знаменитые компьютерщики просят полугодовую паузу в деле производства и совершенствования инструментов ИИ?». URL: https://sociodigger. ru/articles/articles-page/chatgpt-v-deistvii-i-vzaimodeistvii-s-ljudmi-chto-den-grjadushchii-nam-gotovit-ili-pochemu-samye-znamenitye-kompjutershchiki-prosjat-polugodovuju-pauzu-v-dele-proizvodstva-i-sovershenstvovanija-instrumentov-ii; А. Резаева и Н. Трегубовой «ChatGPT в повседневной жизни общества: проблемы и ограничения». URL: https://sociodigger. ru/articles/articles-page/chatgpt-v-povsednevnoi-zhizni-obshchestva-problemy-i-ogranichenija.

[9] А. Резаев и Н. Трегубова «ChatGPT в повседневной жизни общества: проблемы и ограничения». URL: https://sociodigger. ru/articles/articles-page/chatgpt-v-povsednevnoi-zhizni-obshchestva-problemy-i-ogranichenija.

[10] Подробнее см. в материале А. Казуна «Цифровой разрыв: зачем нужны ученые после появления ChatGPT?» URL: https://sociodigger. ru/articles/articles-page/cifrovoi-razryv-zachem-nuzhny-uchenye-posle-pojavlenija-chatgpt.

[11] Подробнее см. в материале: И. Богдана «Генеративные нейросети в медицине: можно ли сформировать будущее, обучаясь на настоящем?». URL: https://sociodigger. ru/articles/articles-page/generativnye-neiroseti-v-medicine-mozhno-li-sformirovat-budushchee-obuchajas-na-nastojashchem.

[12] Там же.

[13] Е. Бучникова «„Дизайнеры больше не нужны?“ Как нейросети уже успели повлиять на работу художников и дизайнеров». URL: https://sociodigger. ru/articles/articles-page/dizainery-bolshe-ne-nuzhny-kak-neiroseti-uzhe-uspeli-povlijat-na-rabotu-khudozhnikov-i-dizainerov.